Evan Hubinger, investigador de alineación en Anthropic, afirmó en septiembre de 2026 que considera superior al 10% la probabilidad de que una inteligencia artificial provoque la extinción de la humanidad durante la próxima década. La declaración ocurrió después de que Jacob Coxon, exinvestigador de la empresa, advirtiera que los laboratorios avanzan hacia sistemas cada vez más capaces sin contar todavía con garantías suficientes de seguridad.
Hubinger presentó la cifra como una evaluación personal, no como una predicción oficial de Anthropic ni como el resultado de un consenso científico. Su advertencia reavivó el debate sobre si el ritmo de desarrollo de la IA está superando la capacidad de las empresas y los gobiernos para controlar sus riesgos.
La advertencia se refiere a sistemas futuros
La preocupación de Hubinger no se centra principalmente en los modelos comerciales disponibles en la actualidad. El investigador ha señalado que el riesgo más extremo estaría relacionado con una posible superinteligencia capaz de participar en el diseño y entrenamiento de sistemas posteriores, acelerando su propia evolución mediante procesos de mejora recursiva.
En ese escenario, los sistemas podrían aumentar sus capacidades más rápido de lo que sus creadores logren comprender, supervisar o detener. Entre los riesgos discutidos se encuentran la pérdida de control humano, el uso de la IA para desarrollar armas o ataques contra infraestructura crítica y la dificultad de apagar sistemas autónomos que operen fuera de los límites previstos.
Una estimación que divide a los expertos
La cifra de más de 10% provocó reacciones encontradas dentro del sector tecnológico. Algunas voces consideran que una probabilidad de ese tamaño exige frenar o someter a controles externos el desarrollo de sistemas avanzados; otras sostienen que la seguridad y la innovación pueden avanzar al mismo tiempo mediante mejores procesos de ingeniería.
También hay especialistas que cuestionan que una estimación individual pueda presentarse como evidencia de un riesgo cuantificado. El desacuerdo se concentra tanto en la probabilidad como en la posibilidad de que la superinteligencia llegue a desarrollarse en los plazos previstos.
El debate sobre la supervisión
Las advertencias han llevado la discusión más allá de la capacidad de los modelos actuales. El punto central es qué instituciones deberían evaluar los sistemas de frontera, qué información tendrían que revisar y qué autoridad deberían poseer para exigir pausas, cambios técnicos o medidas de contención.
Por ahora, no existe un mecanismo internacional único que establezca los mismos límites para todos los laboratorios. La discusión continúa entre quienes consideran que detener el desarrollo podría generar desventajas frente a competidores y quienes advierten que avanzar sin criterios verificables de seguridad puede aumentar un riesgo difícil de revertir.
