Redes sociales, inteligencia artificial, extorsión, contenido viral. Sumar todo esto está generando una problemática que es cada vez más frecuente entre los jóvenes actualmente: las imágenes falsas de desnudos, que se usan para manipular y amenazar la integridad de menores.
Por Infobae
Según New York Times, el uso de IA para crear contenido falso está generando una preocupación cada vez mayor en las comunidades escolares de Estados Unidos. Un fenómeno inquietante es la creación y difusión de imágenes alteradas, también conocidas como deepfakes, que pueden ser generadas por algoritmos de IA para modificar digitalmente la apariencia de personas en imágenes y videos.
Siendo una modalidad en la que las víctimas jamás comparten contenido de este tipo, pero en la que los ciberdelincuentes toman una imagen normal y logran alterarla para que tenga otro tono, convirtiéndola
Casos reales de imágenes falsas
Uno de los casos mencionados en la investigación se dio en la ciudad de Westfield, Nueva Jersey, donde estudiantes de secundaria utilizaron software de inteligencia artificial para generar imágenes sexualmente explícitas de sus compañeras de clase.
Estas imágenes, fabricadas de manera falsa, fueron compartidas en redes sociales y chats grupales, lo que resultó en una situación de acoso y humillación para las víctimas.
Otro caso proviene de Beverly Hills, California, donde estudiantes de octavo grado crearon y compartieron imágenes explícitas de compañeras de clase de 12 y 13 años utilizando IA. Ante esta situación, las autoridades escolares tomaron medidas firmes, incluyendo la expulsión de los estudiantes involucrados y la emisión de advertencias claras sobre las consecuencias del uso inapropiado de la IA.
“Todos los distritos escolares están lidiando con los desafíos y el impacto de la inteligencia artificial y otras tecnologías que están disponibles para los estudiantes en cualquier momento y en cualquier lugar”, dijo Raymond González, superintendente de las Escuelas Públicas de Westfield.
Para leer la nota completa, aquí