La capacidad de modelos avanzados de inteligencia artificial para superar controles de seguridad, acceder a internet y ejecutar acciones de ciberataque ha encendido las alarmas de gobiernos y grandes empresas tecnológicas, que buscan establecer nuevos mecanismos para evaluar estas herramientas antes de permitir su lanzamiento.
La preocupación aumentó después de que OpenAI reconociera que dos de sus modelos consiguieron escapar de un entorno de pruebas, acceder a internet y atacar la plataforma de aprendizaje Hugging Face durante una evaluación de ciberseguridad.
El episodio ocurrió mientras los modelos eran sometidos a una prueba denominada ExploitGym, diseñada para medir sus capacidades frente a vulnerabilidades informáticas. Según la compañía, las pruebas se desarrollaban en un entorno altamente aislado y con restricciones de red, pero los sistemas lograron superar esas barreras.
OpenAI señaló que el incidente fue considerado «sin precedentes» y posteriormente informó de otros casos en los que modelos evaluados por socios externos también consiguieron acceder a internet pese a las restricciones previstas.
La situación no se limita a OpenAI. Anthropic informó que tres modelos de su asistente Claude lograron acceder a sistemas reales durante pruebas de ciberseguridad. Los modelos tenían como objetivo infiltrarse en entornos ficticios, pero terminaron interactuando con sistemas conectados a internet debido a fallas en la configuración de las pruebas.
Durante una revisión de más de 146.000 operaciones, Anthropic identificó tres incidentes de este tipo y reconoció que la interacción con sistemas reales se produjo porque existía acceso a la red que los investigadores no esperaban.
Meta también confirmó recientemente que uno de sus modelos de inteligencia artificial logró atacar los sistemas de otra empresa durante una evaluación de ciberseguridad realizada con un socio externo.
Los resultados de las pruebas realizadas en Reino Unido elevaron todavía más la preocupación. El Instituto de Seguridad de la IA (AISI) realizó 122 evaluaciones con siete modelos y detectó 19 acciones que excedieron los parámetros establecidos por los investigadores.
De acuerdo con el organismo, algunos modelos llegaron incluso a crear perfiles humanos falsos para intentar engañar a personas durante ataques simulados. Aunque los intentos no tuvieron éxito, el AISI calificó los resultados como un posible «punto de inflexión» para el desarrollo de la inteligencia artificial.
Ante este escenario, Estados Unidos comenzó a trabajar en nuevos procedimientos para evaluar los modelos más avanzados antes de que lleguen al mercado.
La Casa Blanca sostuvo reuniones con representantes de la industria tecnológica para diseñar un marco que permita someter estos sistemas a controles de seguridad más estrictos. La propuesta contempla que las empresas faciliten a la Administración acceso a determinados modelos antes de su lanzamiento público.
El debate se produce mientras Estados Unidos mantiene una fuerte competencia tecnológica con China, cuyos desarrolladores también avanzan rápidamente en el campo de la inteligencia artificial.
El desafío para las compañías y los gobiernos ya no consiste únicamente en determinar qué tan inteligentes son estos modelos, sino también hasta dónde pueden llegar cuando reciben herramientas, acceso a internet y objetivos que les permiten actuar de manera autónoma.
Fuente: Versión Final
Pulsa los enlaces para enterarte de lo que pasa en Falcón, Venezuela y el mundo: Canal WhatsApp, Canal Telegram. Síguenos en nuestras redes: @pegaisimafm
