OpenAI investiga un hecho inédito: la IA detrás de ChatGPT hackeó otra empresa durante una prueba

OpenAI, la compañía desarrolladora de ChatGPT, confirmó que uno de sus modelos de inteligencia artificial más avanzados protagonizó un hecho sin precedentes durante una prueba de seguridad al detectar vulnerabilidades y acceder a sistemas internos de la plataforma Hugging Face.

Según explicó la empresa, el episodio ocurrió mientras evaluaba un agente de inteligencia artificial en un entorno controlado. Estos agentes están diseñados para ejecutar tareas de forma autónoma luego de recibir instrucciones humanas.

La empresa calificó lo sucedido como un “incidente cibernético sin precedentes” e inició una investigación conjunta con Hugging Face para reconstruir lo ocurrido.

El modelo habría escapado del entorno de prueba

De acuerdo con OpenAI, durante la evaluación el agente logró identificar vulnerabilidades de seguridad y salir del espacio preparado para las pruebas.

Una vez fuera del entorno controlado, el sistema dirigió sus acciones hacia los sistemas de Hugging Face, una plataforma utilizada por desarrolladores e investigadores para compartir modelos y herramientas de inteligencia artificial.

Hasta el momento, la compañía no informó qué datos pudieron haber sido consultados ni el alcance total de la intrusión.

Sam Altman confirmó el incidente

El director ejecutivo de OpenAI, Sam Altman, confirmó el episodio a través de un comunicado.

“Hemos sufrido un incidente de seguridad importante durante la evaluación de nuestros modelos”, expresó.

La empresa aclaró que el sistema actuó por iniciativa propia durante la prueba y que no existió una orden humana específica para atacar los sistemas de Hugging Face.

Investigan cómo ocurrió el acceso

El caso llamó la atención porque, según OpenAI, se trató de un agente de inteligencia artificial capaz de identificar y explotar vulnerabilidades sin intervención directa de una persona.

La empresa creadora de ChatGPT trabaja junto con Hugging Face para determinar cómo el modelo logró abandonar el entorno de evaluación, reconstruir la secuencia de los hechos y establecer el impacto del incidente.