Unstable Diffusion no tiene los mismos filtros de seguridad que otras plataformas de creación de imágenes.
Por infobae.com
Las aplicaciones de las inteligencias artificiales para la generación de imágenes han aumentado considerablemente. A los programas como DALL-E2 y Stable Diffusion se han añadido otras plataformas que usan sus servicios de diferentes formas para poder generar contenido propio a pedido de los usuarios.
Por motivos de seguridad estas plataformas tienen filtros que prohíben la generación de imágenes pornográficas y relacionadas con violencia o gore. Sin embargo estas limitaciones han sido rechazadas y se ha generado una inteligencia artificial que sí permite generar contenido para adultos pese al mal uso y abuso que puede generar esta capacidad para los usuarios.
A diferencia de Stable Diffusion, la inteligencia artificial utilizada para generar imágenes realistas, un grupo de usuarios crearon una “contraparte” llamada Unstable Diffusion y que tiene la capacidad de generar imágenes relacionadas a pornografía con el atractivo de ser personalizadas a gusto de las personas.
Este es el motivo por el que el financiamiento de esta plataforma fue principalmente desarrollado en la plataforma de Patreon, donde se recaudaron varios cientos de dólares por parte de diversos donantes.
Casos de mal uso de las inteligencias artificiales
Si bien estas inteligencia artificial tiene la posibilidad de generar imágenes sugerentes relacionadas a personajes de anime, lo que motivó al financiamiento para su desarrollo, el sistema detrás de esta nueva IA está generando respuestas negativas.
La falta de filtros de seguridad en Unstable Diffusion puede permitir el mismo trato en el caso de imágenes realistas de personas conocidas o famosas, quienes pueden ser perjudicadas.
Además, la generación de contenido sin restricciones como las que tienen las otras inteligencias artificiales pueden ser parte de un sistema malicioso de generación de imágenes para noticias falsas, lo que podrían fomentar su difusión y amplificación.
Además, al igual que la generación de estas imágenes para sectores más comerciales como las imágenes de archivo en bibliotecas virtuales, existe otro aspecto a tener en cuenta relacionado a los trabajadores de la industria para adultos, que involucra a fotógrafos y diseñadores pagados por empresas constituidas de manera formal. Este uso podría incluso afectar de alguna manera el trabajo que tienen en la actualidad.
El contenido para adultos en otras plataformas como OnlyFans también estaría involucrado pues las creadoras de contenido podrían ser víctimas de este tipo de falsificaciones virtuales.
Si bien el sitio web indica que no se aceptan imágenes falsificadas, se añade que el contenido generado por inteligencias artificiales está dentro de los límites permitidos.
Según TechCrunch, permitir la publicación de este tipo de contenido en una página como OnlyFans tendría como consecuencia que las personas que trabajen creando contenido en esta plataforma sean víctimas de suplantación y sus ingresos se vean perjudicados por el uso de su imagen sin su consentimiento.
Imágenes de inteligencia artificial en venta
El negocio que surge de la venta de imágenes producidas por inteligencias artificiales no es nuevo y no solo se produce en lo que respecta al contenido para adultos, sino también en los ámbitos más comerciales.
Shutterstock, una de las páginas de imágenes de archivo más grandes del mundo está planeando la integración de un servicio especial de generación de imágenes realistas que utilizan la tecnología de DALL-E2 paracomercializarlas.
Si bien esta idea aún no ha sido lanzada oficialmente al mercado, la empresa de archivo de imágenes considera que esta premisa tendría un impacto positivo en el trabajo de sus clientes debido a que se dará mayores oportunidades a la exploración creativa de las imágenes. Sin embargo, Craig Peters, el CEO de Getty Images, indicó que esto podría considerarse una violación de los derechos de autor en su creación.