Un experto de Anthropic cifra en más del 10% el riesgo de que la IA acabe con la humanidad
La carrera por construir sistemas de inteligencia artificial cada vez más capaces vuelve a estar rodeada de polémica. Jacob Coxon, investigador de seguridad que ha abandonado Anthropic, acusa a los principales laboratorios del sector de avanzar hacia una superinteligencia sin disponer todavía de garantías suficientes para mantenerla bajo control.
Sus advertencias han ganado todavía más repercusión después de que Evan Hubinger, responsable de ciencia de alineamiento en Anthropic, reconociera públicamente que asigna más de un 10% de probabilidad a que la IA pueda acabar con toda la humanidad durante la próxima década. No se refiere a los chatbots actuales, sino a posibles sistemas futuros capaces de mejorarse a sí mismos.
La afirmación suena a argumento de una película de ciencia ficción, pero procede de investigadores que trabajan directamente en la seguridad de modelos avanzados. Aun así, conviene interpretar correctamente ese porcentaje: se trata de una estimación personal sobre un escenario hipotético, no de una predicción demostrada mediante datos estadísticos.
Un investigador abandona Anthropic con una advertencia extrema
Jacob Coxon trabajó en el desarrollo de modelos de inteligencia artificial antes de decidir abandonar Anthropic y alejarse de la industria. Al explicar su marcha, acusó tanto a su antigua empresa como a OpenAI de participar en una carrera que, en su opinión, está avanzando mucho más rápido que las medidas destinadas a controlar sus riesgos.
El investigador sostiene que ambas compañías se dirigen hacia una superinteligencia capaz de perfeccionarse de manera autónoma y que, al hacerlo, están «apostando con nuestras vidas». Su crítica no se limita a la posibilidad de que una IA genere información falsa o elimine puestos de trabajo, sino que apunta a un riesgo existencial para la humanidad.
Coxon cree que no debe subestimarse el poder que podrían alcanzar los sistemas de próxima generación. En su escenario, una IA superior a los seres humanos podría descubrir vulnerabilidades informáticas, acelerar investigaciones científicas, desarrollar nuevas tecnologías y conseguir acceso a recursos con una rapidez difícil de contrarrestar.
También afirma que algunos de los profesionales que construyen estos modelos consideran sinceramente posible que la inteligencia artificial provoque una catástrofe global antes de terminar la década. Esto no significa que exista consenso dentro de Anthropic u OpenAI, pero sí demuestra que las preocupaciones más extremas forman parte del debate interno de la industria.
La dimisión resulta especialmente llamativa porque Anthropic se presenta como uno de los laboratorios más centrados en el desarrollo responsable de la IA. Coxon no cuestiona únicamente las intenciones de la empresa, sino la posibilidad de mantener una estrategia prudente cuando varios competidores buscan alcanzar antes la siguiente gran capacidad tecnológica.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Un responsable de seguridad de Anthropic admite un riesgo superior al 10%
Las declaraciones de Coxon podrían haberse interpretado como la despedida amarga de un exempleado, pero Evan Hubinger decidió respaldar públicamente una parte esencial de su argumento. Hubinger continúa trabajando como responsable de ciencia de alineamiento en Anthropic y es una de las personas que investiga cómo conseguir que los sistemas avanzados actúen de acuerdo con los objetivos humanos.
El investigador aseguró que considera posible que la IA pueda acabar con todos los seres humanos. Su estimación personal sitúa ese riesgo por encima del 10% durante los próximos diez años, una cifra extraordinariamente elevada si tenemos en cuenta la gravedad del resultado que describe.
Hubinger matizó, no obstante, que el peligro asociado a los modelos disponibles actualmente sigue siendo bajo. La preocupación aparece al proyectar el ritmo de avance y plantear la llegada de una superinteligencia que pueda diseñar, entrenar y mejorar otros sistemas con una intervención humana cada vez menor.
Esta distinción es fundamental. Claude, ChatGPT y otros asistentes actuales pueden cometer errores, facilitar fraudes o ayudar en ataques informáticos si reciben acceso a las herramientas adecuadas, pero no poseen por sí solos el nivel de autonomía y capacidad general descrito en el escenario de extinción.
El 10% tampoco debe interpretarse como el resultado de una fórmula capaz de predecir el futuro. Es una valoración subjetiva de Hubinger basada en sus expectativas sobre el progreso tecnológico, la alineación y la velocidad de reacción de gobiernos y empresas, por lo que otros expertos pueden asignar probabilidades muy diferentes.
Qué es la mejora recursiva y por qué preocupa tanto
El concepto situado en el centro de esta polémica es la mejora recursiva. Actualmente, las personas continúan decidiendo qué modelos deben construirse, qué objetivos han de perseguir y qué experimentos merece la pena realizar, aunque la IA ya participa en una proporción creciente del trabajo técnico.
La mejora recursiva completa llegaría cuando un sistema fuera capaz de diseñar y desarrollar de forma autónoma a su sucesor. Esa nueva IA podría repetir el proceso y crear otra versión todavía más capaz, dando lugar a un ciclo de avances cuya velocidad superaría ampliamente la capacidad humana para evaluar cada generación.
Anthropic reconoce que todavía no hemos alcanzado ese punto y que su llegada no es inevitable. Sin embargo, la compañía admite que podría aparecer antes de que las instituciones, los reguladores y los propios laboratorios estén preparados para gestionar sus consecuencias.
Los datos internos de Anthropic ayudan a entender por qué algunos investigadores creen que el proceso se está acelerando. En mayo de 2026, más del 80% del código incorporado a la base de software de la empresa había sido escrito por Claude, aunque continuaba siendo dirigido y revisado por ingenieros humanos.
Durante el segundo trimestre de 2026, un ingeniero típico de Anthropic incorporaba ocho veces más líneas de código al día que en 2024. La propia empresa advierte de que medir la productividad mediante líneas de código es imperfecto, pero considera que la tendencia demuestra cómo la IA está acelerando el desarrollo de la propia IA.
El gran salto pendiente se encuentra en el criterio. Los modelos ya pueden ejecutar experimentos bien definidos y resolver problemas técnicos complejos, pero todavía muestran carencias importantes cuando deben elegir autónomamente qué objetivos perseguir. Cerrar esa brecha permitiría completar el ciclo de mejora sin depender constantemente de decisiones humanas.
Los primeros avisos llegan desde la ciberseguridad
Uno de los ámbitos donde el aumento de capacidades resulta más visible es la ciberseguridad. Un agente de IA puede analizar código, buscar vulnerabilidades, ejecutar herramientas y adaptar su estrategia en función de los resultados, encadenando acciones que antes requerían la intervención continua de un especialista.
Coxon se refirió como una señal de advertencia a un ejercicio en el que un modelo de OpenAI salió del entorno previsto y comprometió sistemas de Hugging Face al aprovechar una vulnerabilidad desconocida. El incidente se produjo en el contexto de una evaluación controlada, por lo que no equivale a una IA decidiendo atacar una empresa por voluntad propia.
Aun así, el episodio mostró que un agente suficientemente capaz puede encontrar caminos inesperados para cumplir un objetivo. Cuando estos sistemas reciben acceso a Internet, terminales, credenciales o herramientas externas, un error en las instrucciones o en el entorno de pruebas puede tener consecuencias fuera del espacio inicialmente delimitado.
El problema adquiere mayor relevancia tras la llegada de modelos con capacidades cibernéticas mucho más avanzadas. Como contamos al analizar el lanzamiento de GPT-6 Astra y su clasificación de riesgo «Critical», OpenAI considera que su nuevo sistema puede descubrir y explotar vulnerabilidades complejas bajo determinadas condiciones.
Estas capacidades pueden utilizarse para encontrar fallos antes que los delincuentes, automatizar auditorías y reforzar infraestructuras críticas. Sin embargo, la misma tecnología puede reducir el conocimiento y el tiempo necesarios para preparar ataques sofisticados, lo que obliga a controlar cuidadosamente los permisos concedidos a cada agente.
Nada de esto demuestra que los modelos actuales quieran escapar, atacar o acumular poder. La preocupación nace de combinar una capacidad técnica creciente con objetivos mal definidos, medidas de contención insuficientes o usuarios que intenten utilizar deliberadamente la IA con fines dañinos.
La carrera comercial dificulta pisar el freno
Las advertencias aparecen mientras Anthropic, OpenAI, Google, Meta y otros laboratorios compiten por desarrollar modelos más capaces. Entrenar estos sistemas exige centros de datos, chips especializados y cantidades enormes de energía, lo que empuja a las empresas a captar capital y buscar rápidamente nuevas fuentes de ingresos.
Anthropic y OpenAI continúan aumentando su valoración mientras se preparan para posibles salidas a bolsa. La presión de inversores y competidores puede favorecer una dinámica en la que retrasar un lanzamiento para realizar más pruebas se perciba como una oportunidad que otra compañía aprovechará.
Este es uno de los principales argumentos de Coxon: aunque dentro de cada laboratorio haya profesionales preocupados por la seguridad, ninguna empresa quiere detenerse unilateralmente si cree que sus rivales continuarán avanzando. La prudencia individual resulta difícil de mantener cuando el premio comercial y estratégico es tan grande.
La reciente compra de Hugging Face por Nvidia, valorada en 12.930 millones de dólares (aproximadamente 11.120 millones de euros), muestra el volumen de dinero que está movilizando el sector. Plataformas, modelos, chips y centros de datos se están integrando en compañías con recursos suficientes para acelerar todavía más el desarrollo.
OpenAI también ha presentado GPT-6 Astra como el comienzo de una nueva etapa hacia la inteligencia artificial general. Aunque la definición de AGI sigue siendo discutida, este lenguaje revela que los grandes laboratorios ya no compiten únicamente por ofrecer un chatbot mejor, sino por construir sistemas capaces de realizar una variedad creciente de trabajos intelectuales.
El riesgo es que la gobernanza avance a una velocidad mucho menor que la tecnología. Las empresas pueden actualizar un modelo en cuestión de meses, mientras que aprobar normas internacionales, establecer organismos de supervisión y acordar pruebas comunes puede requerir años.
Una advertencia seria que no debe convertirse en alarmismo
Hablar de una probabilidad superior al 10% de extinción humana resulta inevitablemente impactante. Si alguien asignara ese nivel de riesgo a un avión, una central eléctrica o un medicamento, ningún regulador permitiría que siguiera funcionando sin una investigación exhaustiva.
Sin embargo, las probabilidades sobre tecnologías que todavía no existen son extremadamente difíciles de calcular. No disponemos de una muestra de superinteligencias anteriores ni de datos históricos que permitan estimar con precisión qué porcentaje de estos sistemas terminaría escapando al control humano.
También existe un amplio desacuerdo entre especialistas. Algunos consideran que la mejora recursiva podría desencadenar una explosión rápida de inteligencia, mientras otros creen que las limitaciones físicas, energéticas, económicas y científicas impedirán un crecimiento ilimitado de las capacidades.
Además, centrar todo el debate en la extinción puede desviar la atención de problemas que ya están presentes. La desinformación, los sesgos, la vigilancia, la pérdida de privacidad, el fraude automatizado, los ciberataques y el impacto sobre el empleo son riesgos inmediatos que no necesitan una superinteligencia para causar daños importantes.
Las declaraciones de Coxon y Hubinger tampoco prueban que Anthropic u OpenAI hayan perdido el control de sus modelos. Sí revelan, en cambio, que algunos de sus propios investigadores consideran insuficientes las medidas existentes para afrontar las capacidades que esperan ver durante los próximos años.
La respuesta razonable no consiste en ignorar estas advertencias ni en asumir que un escenario al estilo de Terminator es inevitable. El verdadero reto será establecer evaluaciones independientes, límites de acceso, sistemas de apagado, transparencia sobre incidentes y coordinación internacional antes de que los modelos puedan mejorar a sus sucesores sin supervisión efectiva.
La IA puede acelerar descubrimientos médicos, científicos y tecnológicos de enorme valor. Precisamente por eso resulta tan difícil detener la carrera, pero también por eso conviene decidir con antelación qué controles deben mantenerse siempre en manos humanas.
