Anthropic admite más de 10% de riesgo de que la IA acabe con la humanidad
Un jefe de seguridad de Anthropic dijo que OpenAI y Anthropic apuestan a una superinteligencia que no se podrá controlar.
Un ex investigador de Anthropic, Jacob Coxon, renunció días atrás con un mensaje en X sobre los riesgos de la inteligencia artificial que en nueve horas superó los 44 millones de vistas.
Coxon, de 27 años, pasó tres años trabajando en preentrenamiento de modelos de IA —la etapa en que un sistema aprende de cantidades masivas de datos—, primero en OpenAI y desde julio en Anthropic.
Apuestan por nuestras vidas
"Ninguna de las dos empresas actúa con responsabilidad", escribió. "Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas".
Lo que convirtió el hilo en noticia fue la respuesta de Evan Hubinger, que dirige un equipo de seguridad en Anthropic y sigue en la empresa: "Jacob tiene razón. De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década".
Agregó que Anthropic "todavía no tiene un plan para resolver la alineación de una superinteligencia", según su publicación en X.
Quién es Coxon y qué dijo
Británico con formación en matemática, Coxon integró el equipo técnico de OpenAI entre 2023 y julio de 2026, con trabajo en GPT-4o, según Business Insider. Duró dos meses en Anthropic. Le dijo a The Wall Street Journal que "estamos en camino a muchos de los escenarios más agresivos" y que sus colegas hablan de "crunchtime" y "endgame".
La fila de los que se van
En febrero renunció Mrinank Sharma, de Anthropic, con una carta sobre lo difícil de sostener sus valores. En 2024 se fue Jan Leike, de OpenAI, denunciando que la seguridad quedó "en el asiento trasero". Business Insider señaló que Anthropic retiró su promesa de no entrenar modelos más potentes sin salvaguardas.
Los incidentes
En julio, OpenAI reportó que sus modelos accedieron a sistemas de Hugging Face. Anthropic reconoció tres casos similares con sistemas ajenos.
Lo que nadie respondió
Ni OpenAI ni Anthropic respondieron a Business Insider ni al Journal, que ubica la renuncia mientras Anthropic prepara una salida a bolsa valuada en USD 2 billones.
