Martes 5 de noviembre de 2024
Meta, la empresa matriz de Instagram, ha anunciado nuevas herramientas basadas en inteligencia artificial (IA) para proteger a los menores de la “sextorsión” y el abuso de imágenes íntimas en la plataforma.
Una de las características principales será una función activada por defecto para los menores de 18 años, que detectará automáticamente imágenes con desnudos recibidas a través de los mensajes de Instagram y las difuminará para proteger al receptor de contenido no deseado.
Capucine Tuffier, responsable de protección de la infancia en Meta Francia, explicó que esta medida permitirá que el destinatario decida si desea ver la imagen o no, evitando así la exposición involuntaria a contenido íntimo.
Además, se implementarán mensajes educativos para sensibilizar a los usuarios sobre los riesgos de la “sextorsión”, recordándoles la importancia de ser cautelosos al enviar fotos sensibles.
Estas actualizaciones comenzarán a probarse en mayo en algunos países de América Central y América Latina, antes de expandirse a nivel mundial en los próximos meses.
Meta utilizará tecnología de aprendizaje automático (inteligencia artificial) para analizar si las imágenes enviadas en mensajes contienen desnudos, sin acceder a las imágenes a menos que los usuarios las denuncien.
Además, la IA se utilizará para identificar cuentas potencialmente involucradas en estafas de “sextorsión” y restringirá sus interacciones con cuentas de menores de edad, limitando el envío de mensajes privados y la visibilidad en la plataforma.
La compañía también se compromete a alertar a los jóvenes usuarios que puedan haber sido abordados por chantajistas y a dirigirlos a recursos de expertos o líneas de ayuda para recibir apoyo adecuado.
