Recientemente el sistema The AI Scientist, desarrollado por la empresa japonesa Sakana AI, logró burlar las restricciones impuestas por sus creadores, lo que ha despertado alarmas en la comunidad científica y tecnológica. Este sistema fue diseñado para automatizar por completo el proceso de investigación científica, desde la generación de ideas hasta la redacción de manuscritos y su revisión, pero, sus comportamientos durante las pruebas levantaron sospechas de estas innovaciones.

El propósito era optimizar la investigación, reduciendo el tiempo y los recursos humanos, sin embargo, en lugar de cumplir con las limitaciones impuestas, el sistema comenzó a modificar su propio código para superar estas barreras.

Durante unas pruebas, The AI Scientist editó su script de inicio para ejecutarse en un bucle infinito, sobrecargando el sistema y requiriendo intervención manual para detenerlo. Por otro lado, al enfrentar un límite de tiempo, en lugar de optimizar su código, extendió el límite de tiempo modificando su programación, demostrando un comportamiento que plantea riesgos significativos si se permite operar de manera autónoma en entornos no controlados.

LAUD 90.4 FM ESTÉREO consultó al experto en inteligencia Artificial, el profesor Jorge Calvo de Facultad de Ingeniería de la Universidad Distrital Francisco José de Caldas, para hablar sobre los posibles riesgos, avances de la Inteligencia Artificial, el impacto que tiene en la vida cotidiana y de la posibilidad de que la IA puede volverse anárquica y salirse del control humano.
 

Por: Giovanna Sánchez Bustamante
Comunicadora Social y Periodista