La preocupación no está únicamente en lo que una IA puede hacer hoy, sino en lo que ocurre cuando recibe un objetivo, si cuenta con recursos para ejecutarlo y si puede encontrar por sí misma distintas maneras de alcanzarlo. Esa combinación entre capacidad y autonomía concentra buena parte del debate actual sobre seguridad.

El tema volvió a cobrar fuerza recientemente a partir de las advertencias de investigadores vinculados con empresas como Anthropic y OpenAI, quienes han señalado posibles peligros asociados al desarrollo de sistemas cada vez más avanzados. Aunque algunos de los escenarios planteados apuntan a consecuencias extremas, también existen amenazas que ya pueden identificarse.

Así lo explicó Jorge Alvarado, docente del Departamento de Ingeniería Industrial de la Universidad Javeriana, quien estuvo en ‘Ciberplaneta’ de LAUD 90.4 FM ESTÉREO, para analizar los alcances de esta tecnología y los desafíos que plantea su creciente independencia operativa.

Uno de los cambios determinantes en el desarrollo de la IA fue la arquitectura Transformer, que permitió mejorar significativamente la capacidad de las máquinas para procesar y generar lenguaje. A partir de allí surgieron herramientas capaces de producir textos, imágenes, audio, video y código, pero además métodos que pueden identificar diferentes caminos para cumplir una instrucción.

El riesgo, explicó Alvarado, aparece cuando la autonomía y las capacidades de la herramienta crecen más rápido que los mecanismos destinados a supervisar la manera en que alcanza sus objetivos: “Si se les da esa facultad, podrán extraer del lenguaje humano y de toda la historia de la humanidad escrita, ideas, propuestas y planes de acción, y crear otros similares o incluso nuevos. Eso puede generar nuevos riesgos”.

Mientras algunos escenarios futuros siguen siendo materia de especulación, existen amenazas que ya pueden observarse. Entre ellas están los ataques informáticos, el fraude, la manipulación de contenidos y el uso de Inteligencia Artificial para intervenir sistemas digitales.

Ante este escenario, el docente señaló que el alcance actual de estas tecnologías debe analizarse especialmente desde la protección digital: “En este momento la acción está limitada sobre todo al mundo cibernético, es decir, a las herramientas de información. Entonces, los peligros más altos están en lo que llamamos tradicionalmente ciberseguridad.”

El especialista también explicó que algunos pueden encontrar rutas no previstas por sus desarrolladores para cumplir una tarea. Esto hace que la discusión sobre en torno a la seguridad no dependa únicamente del objetivo que se le entrega a una IA, sino de qué capacidades tiene disponibles para conseguirlo y qué límites existen durante ese proceso.

Entre los riesgos reales y los escenarios futuros

Hablar de una posible amenaza para la supervivencia de la humanidad requiere distinguir entre los peligros comprobables y las proyecciones de lo que podría ocurrir. Para Alvarado, los escenarios de extinción asociados directamente con la Inteligencia Artificial todavía pertenecen al terreno de la suposición: “Creo que son especulaciones. Hay unos elementos políticos y económicos que llevan a hacerlas, pero como cualquier pronóstico acerca del futuro, es muy complicado abordar y tener unas estimaciones de probabilidad es realmente difícil.”

En ese sentido, la discusión, no se limita a imaginar máquinas fuera de control. También plantea preguntas concretas: Qué capacidades se les entregan a estos sistemas, a qué plataformas pueden acceder, cómo se supervisan sus decisiones y qué mecanismos existen para reducir los riesgos.

Para el usuario común, el llamado es a verificar la información generada por estas herramientas, desconfiar de contenidos digitales que no puedan ser comprobados y evitar entregarles más autonomía de la necesaria.

Finalmente, el desafío no está únicamente en cuánto puede avanzar la Inteligencia Artificial, sino en cómo se decide utilizar ese poder y cuáles serán los límites que acompañen su desarrollo.