Alarma el hackeo de IA por su propia iniciativa
La empresa neoyorquina Hugging Face informó que tuvo que recurrir a un modelo de inteligencia artificial chino para detener el hackeo del que fue víctima por parte de Open AI, luego de que uno de sus modelos lo pirateara, el pasado martes, por su cuenta y de manera autónoma, lo cual puso de manifiesto cómo compañías estadunidenses están limitadas en su seguridad cibernética por no usar modelos que consideran “piratas”.
El uso por parte de una empresa neoyorquina de un modelo de IA chino para controlar a un agente rebelde creado con tecnología de OpenAI está avivando el temor a que las restricciones que impiden a las empresas de IA estadunidenses dedicarse a la ciberseguridad puedan empujar a los clientes hacia sus rivales con sede en Pekín.
La empresa emergente afectada, Hugging Face, dijo que la semana pasada recurrió al modelo de código abierto GLM-5.2 de Zhipu AI para analizar los datos del ataque, después de que los principales modelos de IA estadunidenses se negaron a realizar la tarea, al ser incapaces de distinguir entre un defensor y un atacante.
Aunque la brecha de seguridad fue provocada por un agente autónomo que escapó de la contención, puso de manifiesto cómo las empresas estadunidenses que se enfrentan a ciberataques impulsados por la IA pueden verse limitadas por los laboratorios de IA del país, que o bien restringen el acceso a sus modelos más avanzados o bien los diseñan para que rechacen tareas relacionadas con la piratería informática por motivos de seguridad.
Por ejemplo, el avanzado modelo Claude Fable 5 de Anthropic deriva las consultas de ciberseguridad a un modelo más antiguo, mientras el GPT-5.6 Sol de OpenAI cuenta con protecciones diseñadas para bloquear las tareas relacionadas con la ciberseguridad.
“Todos estamos aprendiendo que el secretismo no es la respuesta y que todos los defensores (no sólo unos pocos seleccionados) de todo el mundo necesitan modelos más potentes sin restricciones, ¡especialmente los de código abierto!”, afirmó en X Clement Delangue, cofundador de Hugging Face.
El dilema para los principales creadores de modelos estadunidenses es que el trabajo defensivo en materia de ciberseguridad suele ser difícil de distinguir del pirateo informático malicioso.
En recientes brechas de seguridad relacionadas con la IA, los atacantes engañaron a los modelos haciéndoles creer que estaban realizando una labor de defensa legítima, lo que ha hecho que las empresas de IA se muestren recelosas a la hora de relajar las medidas de seguridad, incluso cuando los profesionales de la ciberseguridad afirman que esas barreras pueden obstaculizar su trabajo.
Por ahora, las repercusiones están dando un nuevo impulso a los modelos chinos de código abierto, como el GLM-5.2, que están ganando terreno en Silicon Valley gracias a sus capacidades de programación y de agencia, que casi rivalizan con las de OpenAI y Anthropic a un costo menor.
Pekín también ha recurrido cada vez más al código abierto para posicionarse como alternativa a Estados Unidos en esta carrera de alto riesgo, y los medios estatales chinos describen cada vez más esta estrategia como una respuesta a lo que denominan un intento liderado por Estados Unidos de erigir un “telón de acero de la IA”.
“Un régimen de seguridad que restringe a los defensores legítimos, mientras que los modelos capaces siguen estando disponibles para los atacantes, crea una desventaja asimétrica”, afirmó Lukasz Olejnik, consultor tecnológico independiente e investigador en el Departamento de Estudios Bélicos del King’s College de Londres.
“Esta brecha no hará más que ampliarse a medida que los modelos de código abierto se vuelvan cada vez más potentes y carezcan de medidas de protección o restricciones”.
La creciente importancia del código abierto
OpenAI y Anthropic no respondieron de inmediato a las solicitudes de comentarios sobre si sus controles estaban obstaculizando el trabajo en materia de ciberseguridad. El creador de ChatGPT dijo el martes en una entrada de blog: “Hemos incorporado a Hugging Face al programa de acceso de confianza y estamos ayudando a sus equipos a aprovechar rápidamente las capacidades de nuestros modelos para mejorar sus defensas”.
Para Zhipu AI, con sede en Pekín, el respaldo de Hugging Face se suma al impulso que GLM-5.2 ha adquirido desde su lanzamiento el mes pasado. El modelo ha escalado rápidamente en las estadísticas de uso en plataformas para desarrolladores como OpenRouter y ha recibido elogios de figuras que van desde el director ejecutivo de Snowflake, Sridhar Ramaswamy, hasta el inversor de capital riesgo Marc Andreessen.
La empresa china Zhipu AI, que recaudó 4 mil millones de dólares en una salida a bolsa en Hong Kong a principios de este mes, también ha visto cómo sus acciones se multiplicaban casi por nueve desde su debut en enero. No obstante, algunos analistas advirtieron ayer que el incidente no debería utilizarse para promover una relajación de los controles estadunidenses.
“Las medidas de ciberseguridad aplicadas a los modelos de vanguardia estadunidenses están creando una oportunidad competitiva, pero la solución no consiste simplemente en eliminarlas”, afirmó Shrenik Kothari, analista de Robert W. Baird.
“OpenAI, Anthropic y Google deberían replantearse la arquitectura de acceso en lugar de renunciar a la seguridad… En otras palabras, pasar de una capa de denegación única para todos a una asignación controlada de capacidades.”