Jacob Coxon —recién salido de Anthropic— dijo, el 9 de septiembre, que las personas dentro de esos laboratorios «creen sinceramente» que la tecnología podría matarnos a todos antes del final de la década.
Evan Hubinger, investigador de alineación en Anthropic, no lo desmintió.
Al contrario.
«Realmente creemos que la IA podría matar a todos los humanos», escribió en X.
«Personalmente, pienso que es superior al 10 % en la próxima década». Y añadió:
«Anthropic está haciendo lo mejor que puede, pero todavía no tenemos un plan para resolver la alineación de la superinteligencia y no estamos claramente en camino de tenerlo».
No es un tuitero exaltado.
Es el investigador principal de seguridad de una de las empresas que está construyendo exactamente eso que dice que podría matarnos.
Geoffrey Hinton, conocido como el «padrino de la IA» y premio Nobel, respaldó esa estimación.
«Un 10 % parece una estimación no irrazonable, pero nadie sabe realmente cómo dar una estimación sensata», dijo en BBC Newsnight el 10 de septiembre.
Añadió que sería «muy tonto» asumir que el riesgo es tan bajo como el 1 %.
Musk, por su parte, ha situado el riesgo entre el 10 % y el 20 %, aunque su cifra no respalda la de Hubinger; es su propio rango.
Paul Christiano, nombrado esa misma semana para la junta de OpenAI, escribió:
«Existe un riesgo significativo de que la aceleración rápida en capacidades de IA conduzca a una pérdida catastrófica e irreversible de control en el muy corto plazo».
Y añadió: «No creo que la industria de la IA en general, incluida OpenAI, esté actualmente en camino de reducir ese riesgo a un nivel aceptable».
Más de 1 300 empleados de empresas tecnológicas firmaron una carta abierta en julio de 2026 para pedir al gobierno de Estados Unidos un mecanismo que frenara el ritmo del desarrollo.
Entre los firmantes están Dario Amodei, CEO de Anthropic; Jakub Pachocki, chief scientist de OpenAI; Shengjia Zhao, chief scientist de Meta AI; y Shane Legg, chief AGI scientist de Google DeepMind.
El dato es alarmante.
La probabilidad que discuten no es la que el público aceptaría para un medicamento o un reactor nuclear.
En un laboratorio farmacéutico, un 10 % de probabilidad de efectos catastróficos significa que el fármaco no saldrá al mercado.
Pero en la IA, estamos tratando ese 10 % como si no tuviera consecuencias.
¿De qué estamos hablando exactamente? Los expertos señalan tres caminos.
Uno: humanos usando IA para crear armas biológicas o químicas, o para un ciberataque que erosione la infraestructura crítica.
Dos: la IA escapando del control humano, replicándose, evadiendo supervisión, resistiendo intentos de apagarla.
Christiano fue específico: «Usar modelos de IA para entrenar sistemas de IA posteriores podría resultar en una explosión de capacidades que sus creadores no pueden controlar».
Tres: automejora recursiva, un sistema que se optimiza a sí mismo más rápido de lo que podemos seguirlo.
OpenAI ya pausó entrenamientos internos por seguridad.
Altman —CEO de OpenAI— dijo que los modelos «se están volviendo sobrehumanos en algunos ámbitos» y que «simplemente navegamos en aguas desconocidas».
La otra lectura
Jensen Huang, CEO de Nvidia, escuchó todo esto y respondió en Dreamforce el 15 de septiembre con algo que suena casi provocador: «Es una falsa elección».
Dijo que la seguridad y la velocidad pueden coexistir. «Corran tan rápido como puedan», dijo.
«Pero si en algún momento sienten que la empresa está fuera de control o que el producto no va a ser seguro, tomen una pausa y asegúrense de hacerlo bien».
«No necesitamos nuevas regulaciones», dijo. «La seguridad es un problema de ingeniería, no legal».
Melanie Mitchell, profesora del Santa Fe Institute, cuestionó el lenguaje alarmista.
«Estoy desconcertada de por qué los periodistas tratan el ‘riesgo superior al 10 % de extinción humana’ como una afirmación novedosa digna de cobertura expansiva», escribió en X el 10 de septiembre.
«No hay nada nuevo aquí y no hay nueva ‘evidencia’ para esta afirmación sin evidencia».
Gary Marcus —profesor emérito de la Universidad de Nueva York— respondió a Coxon el 10 de septiembre.
Sostuvo que los escenarios de extinción cercana subestiman la dispersión geográfica, la diversidad biológica y la capacidad humana de responder.
También cuestionó que haya superinteligencia para 2030. Su crítica exige explicar cómo se produciría el desenlace, en lugar de dar por sentado que una capacidad tecnológica superior bastaría para provocarlo.
La discusión también alcanza los incentivos económicos.
Michael Burry, el inversor que olfateó la burbuja inmobiliaria de 2008, calificó de interesadas las llamadas a desacelerar y sostuvo que buscaban aumentar la percepción del poder de esas empresas antes de sus posibles salidas a bolsa.
La posición de Trump
Donald Trump ha sido explícito.
En septiembre de 2026, cuando le preguntaron por las advertencias de extinción, su respuesta fue directa:
«Me preocupa que si no ganamos la carrera de la IA, terminaremos en una situación muy desfavorable. Actualmente lideramos a China por un margen considerable, diría que alrededor de un año».
Calificó de «engaño» el temor a que la IA destruya a la humanidad.
Afirmó que bastaba con un presidente «fuerte e inteligente» y que su gobierno ya tiene el marco legislativo.
Parte de ese marco es «Enabling Innovation and Ensuring American AI Dominance», donde la administración pide al Congreso «tomar medidas para eliminar barreras obsoletas o innecesarias a la innovación» y «acelerar el despliegue de IA en todos los sectores industriales».
Eso explica por qué las propuestas de Amodei —evaluadores externos, estándares compartidos y acuerdos internacionales— no han encontrado eco en la Casa Blanca.
La administración Trump no ve la velocidad como un riesgo. Ve la lentitud como una derrota.
El nudo
Para algunos, el peligro está en la velocidad: si la capacidad crece más rápido que la seguridad, el control se pierde.
Para otros, el peligro está en la lentitud: si alguien frena y otro no, el que acelera define las reglas.
Las dos observaciones pueden ser ciertas a la vez. Eso no las vuelve equivalentes.
Lo incómodo es que una probabilidad de dos dígitos, dicha por quien entrena el modelo, no se aceptaría en un reactor nuclear o en un fármaco.
Pero tampoco se convierte en prueba porque se ha publicado en X un sábado.
Centrar la polémica en las convicciones de estos dirigentes deja pendientes cuestiones como qué instituciones deberían supervisarlos.
Las propuestas de cooperación necesitan evaluadores independientes, acceso suficiente a la evidencia y autoridad para exigir cambios.
También requieren consecuencias cuando una empresa conoce una falla y decide continuar sin resolverla.
Las advertencias de extinción hacen más urgente esa rendición de cuentas.
Quienes consideran posible que su trabajo comprometa la supervivencia humana deberían explicar qué resultados los obligarían a detenerse y quién podría verificar su cumplimiento.
El problema es que negociar una pausa global en IA sería más difícil que los tratados de armas nucleares de la Guerra Fría.
No hay árbitro.
No hay inspecciones.
No hay un tablero donde todos acepten las mismas reglas.
Y, mientras tanto, la carrera —¿hacia dónde?— continúa.
Contenido sindicado vía RSS de El Universal Opinión. Nota original: https://www.eluniversal.com.mx/opinion/articulista-invitado/el-presente-y-futuro-de-la-ia-creen-que-podria-matarnos-el-debate-es-que-hacer-al-respecto/