OpenAI asegura que su IA se descontroló y atacó de forma autónoma a otra empresa

La inteligencia artificial tiene implicaciones cada vez más peligrosas para la ciberseguridad. OpenAI, la creadora de ChatGPT, ha anunciado que uno de sus modelos aún no publicados se descontroló y realizó un ataque "sin precedentes" contra Hugging Face, otra empresa de IA.

La start-up dirigida por Sam Altman estaba poniendo a prueba las capacidades de dos de sus sistemas más avanzados, ChatGPT Sol 5.6 y otro aún no abierto al público. Los ingenieros crearon un agente autónomo y le asignaron una misión compleja: conectar vulnerabilidades informáticas y aprovecharlas en un ciberataque exitoso.

Aunque lo testearon en un entorno controlado, el agente sorteó por su cuenta las medidas de contención, accedió a Internet y hackeó Hugging Face. Eligió ese objetivo porque dedujo que la biblioteca de millones de modelos abiertos de IA que tiene la compañía era el lugar más probable donde podría encontrar la manera de superar la evaluación.

"Incidente sin precedentes"

En un comunicado corporativo, OpenAI ha descrito este episodio como "un incidente cibernético sin precedentes, en el que se utilizaron capacidades cibernéticas de última generación".

En los últimos meses, tanto la creadora de ChatGPT como Anthropic han diseñado modelos de IA especializados en exponer problemas de ciberseguridad, detectar brechas y explotarlas antes que sus víctimas puedan parchearlas. Algunos, como ChatGPT Sol 5.6 y Fable 5, han sido abiertos comercialmente al gran público, mientras que otros, como Claude Mythos, permanecen con el acceso cerrado o limitado por el Gobierno de Estados Unidos. Ambas start-ups se preparan para salir a bolsa.