Un investigador de Anthropic advirtió que la IA podría matar a todos los humanos

Jacob Coxon, de 27 años, renunció este martes a Anthropic, apenas dos meses después de incorporarse a la compañía. El investigador británico, que antes trabajó en OpenAI y participó en el desarrollo de GPT-4o, publicó un mensaje en X que en pocas horas superó los 44 millones de visualizaciones. Allí sostuvo que ambas empresas están avanzando hacia una superinteligencia capaz de mejorarse a sí misma y que “apuestan con nuestras vidas”.

La advertencia tomó todavía más fuerza cuando Evan Hubinger, responsable de un equipo de seguridad de Anthropic, respaldó públicamente a Coxon. Hubinger afirmó que su colega “tiene razón” y reconoció que existe un riesgo de que una inteligencia artificial llegue a “matar a todos los humanos”. Según su propia estimación, la posibilidad supera el 10% durante los próximos diez años.

Hubinger también admitió un dato especialmente preocupante: Anthropic todavía no tiene un plan para resolver el problema de la alineación de una futura superinteligencia. Esto significa conseguir que una IA extremadamente avanzada mantenga sus objetivos dentro de los límites y valores definidos por sus creadores. Coxon, por su parte, advirtió que a fines de 2027 las cosas podrían estar fuera de control y cuestionó que una decisión de semejante magnitud quede en manos de empresas privadas.

Las advertencias se suman a una creciente lista de cuestionamientos dentro de la industria. En febrero renunció el investigador de seguridad de Anthropic Mrinank Sharma, mientras que en 2024 Jan Leike, entonces responsable de alineación de OpenAI, dejó la compañía y criticó que la seguridad hubiera quedado relegada frente al desarrollo de nuevos productos. Además, en los últimos meses se reportaron incidentes en los que modelos de IA obtuvieron acceso no autorizado a sistemas externos.

Ni Anthropic ni OpenAI respondieron a los pedidos de comentarios mencionados en el informe. Las declaraciones se conocen mientras Anthropic busca avanzar hacia una de las mayores salidas a bolsa de la historia y presenta el desarrollo responsable de la inteligencia artificial como uno de sus principales argumentos. El planteo de sus propios investigadores vuelve a poner sobre la mesa una pregunta inquietante: ¿qué ocurrirá si la capacidad de la IA avanza más rápido que la posibilidad de controlarla?