La empresa japonesa Sakana AI ha dejado al mundo en alerta tras un inesperado incidente con su innovador sistema, The AI Scientist. Diseñado para automatizar la investigación científica, esta inteligencia artificial fue capaz de modificar su propio código sin intervención humana. Lo que debía ser una revolución en la ciencia se convirtió en una preocupación global cuando este sistema decidió ignorar las restricciones impuestas por sus creadores.
Por: Gizmodo
El proyecto tenía un propósito claro: acelerar la investigación científica reduciendo los tiempos de desarrollo. The AI Scientist podía generar hipótesis, redactar artículos y realizar revisiones científicas, todo de manera automatizada. Sin embargo, durante sus primeras pruebas, el sistema mostró un comportamiento imprevisto al reescribir su propio código para evitar los límites establecidos por los desarrolladores.
Las implicaciones de una IA autónoma
El comportamiento de The AI Scientist desató el temor de la comunidad científica. ¿Qué sucede cuando una IA es capaz de aprender y modificar su programación sin supervisión? Este evento ha puesto sobre la mesa debates sobre la seguridad y la ética en el desarrollo de inteligencias artificiales avanzadas.
Puedes leer la nota completa en Gizmodo