Jacob Coxon: ¿Riesgo existencial u operación política?

En cuatro días, el posteo juntó más de 163 millones de visualizaciones. En Canal Mutuo lo compartimos el mismo día que salió, y la discusión se partió al medio ahí nomás.
De un lado, los que escucharon a alguien que estuvo adentro y decidió hablar.
Del otro, los que lo vieron como una movida política armada.

Qué dijo exactamente

El hilo siguió con cuatro ideas. Que el miedo es real y viene de adentro: "Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing". Que en OpenAI muchos no interiorizaron lo que está en juego, y que en Anthropic sí lo entienden, pero están atrapados en la carrera por llegar primero. Que la decisión está mal ubicada: "Aceptar esta carrera e ingresar al endgame es una apuesta hubrista que no debería lanzarse desde el Slack de una empresa privada". Y que la coordinación todavía es posible, aunque frenar una carrera global podría exigir medidas caras, como una prohibición temporal de mejorar las capacidades de los modelos. El cierre no le habla a los reguladores, le habla a sus colegas: agachar la cabeza porque "de todos modos está sucediendo", o usar el momento para pedir condiciones distintas.

No se fue a un tercer laboratorio: dejó la industria. En las horas siguientes dio entrevistas al Wall Street Journal, a Axios, a TIME y a CNN, donde el zócalo de Anderson Cooper resumió su advertencia sin anestesia: la IA podría "matarnos a todos para fines de la década". A TIME se lo explicó en dos ideas: "las cosas se están acelerando y, dos, no están bajo control". Al Wall Street Journal le puso plazo: "para fin del año que viene las cosas podrían estar fuera de control".

También contó por qué desconfía de las pruebas de seguridad: "Saben cuándo los están evaluando, y van a pensar en el hecho de que los están evaluando". Y tomó distancia del vocabulario apocalíptico que le atribuyen: "La palabra 'doom' es medio tonta".

La lectura del fin del mundo

Alguien de adentro se anima a hablar. Coxon dice que la IA pronto va a poder mejorarse sola y que nadie la tiene bajo control. Se fue antes de cobrar sus acciones, o sea que perdió plata por irse. Un líder de investigación de Anthropic salió a decir que ese miedo existe de verdad adentro de la empresa. Y es real que muchos otros expertos en el área avalan su preocupación.

Lo incómodo del caso no es que alguien tenga miedo. Es quiénes lo tienen. Coxon se lo dijo a Axios así: "La gente que está construyendo IA cree sinceramente que esto nos puede matar a todos para el final de la década. Esto no es un truco de marketing".

Y desde adentro de Anthropic lo respaldaron. Evan Hubinger, que dirige el área de ciencia del alineamiento, escribió: "Jacob tiene razón acá: realmente creemos en serio que la IA podría matar a todos los humanos". Hubinger estima esa probabilidad en más del 10% dentro de la próxima década y admite que la empresa todavía no tiene un plan claro para resolver el alineamiento de una superinteligencia. Samuel Marks, que lidera el equipo de supervisión escalable, dijo algo parecido: la preocupación crece a medida que uno sube en el organigrama. El investigador Joe Benton sumó su nombre a la misma línea. Y no es una inquietud de nicho: Geoffrey Hinton y Yoshua Bengio, dos de los padres del aprendizaje profundo y ganadores del premio Turing, vienen advirtiendo desde 2023 sobre los riesgos extremos de los sistemas más avanzados.

Está también el argumento del bolsillo. Coxon estuvo cuatro meses en Anthropic y las acciones recién se liberan a los seis, así que se fue sin cobrar nada: "Ya no tengo nada que ganar inflando la valuación de Anthropic. Me fui antes de que se liberara ninguna de mis acciones". Conserva las de OpenAI, de su trabajo anterior.

En redes la comparación fue inmediata: el científico de No mires arriba avisando del cometa mientras la conversación se va a otra cosa.

La lectura de la operación política

Del otro lado, la sospecha se apoya en la prolijidad de la secuencia. El Wall Street Journal ya tenía la entrevista lista y la publicó minutos antes del posteo. En los primeros quince minutos lo amplificaron voces del mundo de las políticas de IA: Nathan Calvin, de Encode AI; Peter Wildeford, del AI Policy Network; y Daniel Kokotajlo, del AI Futures Project. Después circuló que en 2022 Coxon había recibido unos 20.000 dólares de una beca ligada a la fundación Good Ventures, el vehículo filantrópico de Dustin Moskovitz, uno de los principales financistas del ecosistema de seguridad de la IA.

Cinco días antes, el 3 de septiembre, Bernie Sanders y el diputado Greg Casar habían anunciado la Ban Artificial Superintelligence Act, un proyecto que propone prohibir el desarrollo de una IA más inteligente que los humanos, crear una agencia con rango ministerial y castigar a las empresas que lo violen, con penas de hasta veinte años de prisión para las personas involucradas.

Elon Musk lo resumió en dos palabras: "Parece un montaje". Después habló directamente de una "psy op". Coxon le contestó: "Soy real, y estas son mis creencias reales. Podrías preguntarles a tus investigadores de xAI sobre mí, si no los hubieras echado".

El contexto

Todo esto pasa en medio de una pelea fuerte por cómo regular la IA en EE.UU. Además del proyecto de Sanders, que propone prohibir el desarrollo de una superinteligencia, crear una agencia con rango ministerial y penas de hasta veinte años de prisión, Ted Cruz prepara uno sobre riesgos catastróficos junto a John Thune y Amy Klobuchar. Y en el Congreso se discute algo todavía más de fondo: si una ley federal debería pisar las leyes de cada estado, una idea que ya venían resistiendo legisladores estatales de los dos partidos. Josh Hawley, por su lado, le mandó una carta a OpenAI para que explique el incidente de seguridad en Hugging Face.

Y llega justo antes de que Anthropic y OpenAI salgan a la bolsa. Anthropic presentó su prospecto confidencial el 1 de junio y OpenAI el 8 de junio, en lo que sería el debut bursátil más grande de la era de la IA. La salida de Anthropic se esperaba para septiembre y se corrió a mediados de octubre. En una ventana así, cualquier ruido sobre seguridad pega en el precio, y eso vale para los dos lados: para el que avisa y para el que sospecha del que avisa.

Vale una aclaración sobre los datos que circularon en esos días. Coxon le reconoció a Axios que, mientras estuvo en Anthropic, no vio que la empresa resignara seguridad para ganarle a la competencia: su advertencia es estructural, sobre la carrera entera, y no sobre un episodio puntual. Y del otro lado también hubo exageraciones: se dijo que había estado seis semanas en la empresa cuando fueron cuatro meses, y que la reacción política era puramente demócrata, cuando republicanos como Cruz empujan reglas propias.

Mientras tanto, China

En Occidente la discusión es si hay que frenar. En China la prioridad oficial es otra: meter la IA en todos lados. El plan "IA+", que el Consejo de Estado publicó el 26 de agosto de 2025, se pone como meta que la adopción de aparatos con IA y de agentes que hacen tareas solos supere el 70% en 2027 y el 90% en 2030, con seis ejes que incluyen la industria, la ciencia, la vida cotidiana y la gestión del propio gobierno.

Y sus empresas ya pelean arriba, con modelos que se pueden descargar gratis: Moonshot liberó Kimi K3 en julio, que en el ranking de texto de Arena superó a Claude Opus 4.8; Zhipu publicó GLM-5.2 con licencia MIT; Alibaba abrió los pesos de Qwen3.8-Max en agosto; y DeepSeek sacó el 98% del puntaje de GPT-6 Astra en una prueba de diseño a cerca del 1,4% del costo.

Sin una mesa donde se sienten todos

En julio, la ONU hizo en Ginebra su primer diálogo global sobre gobernanza de la IA. António Guterres pidió controles mundiales y advirtió que "las máquinas pueden informar, pero los humanos tienen que decidir y responder". Terminó sin acuerdos obligatorios y con una fecha: la segunda reunión es en mayo de 2027 en Nueva York.

Cada potencia discute por su lado, con reglas, tiempos y urgencias distintas, y eso no es casualidad: cada una está jugando un partido diferente. Estados Unidos discute en el Congreso, en la prensa y en X, con elecciones de por medio y las dos empresas más grandes del sector a punto de cotizar en bolsa. China no discute: ejecuta un plan de Estado que mide adopción y fija metas por año. Europa eligió el camino de la ley, pero también aflojó: en junio, el Digital Omnibus corrió las obligaciones para los sistemas de alto riesgo de agosto de 2026 a diciembre de 2027, y hasta 2028 para los que van embebidos en productos. Y el resto del mundo, donde vive la mayoría de los usuarios, discute con las reglas que escriben otros.

Ahí está el riesgo real, y no hace falta creer en el apocalipsis para verlo: si algo sale mal, hoy no existe el mecanismo para frenarlo. Nadie puede apretar el freno solo, porque frenar significa quedar atrás mientras el otro sigue. La ONU recomienda pero no obliga, las leyes nacionales terminan en la frontera y los modelos más potentes de China se descargan gratis, así que una pausa firmada en Washington o en Bruselas no borra los pesos que ya están en el disco de cualquiera. No estamos ante una máquina imparable: estamos ante una carrera sin árbitro, con varios corredores que solo aceptarían frenar si frenan todos a la vez. Por eso la discusión sigue dando vueltas en el mismo espiral.

Lo que dice no es nuevo

Lo que dice Coxon no es nuevo: él mismo cuenta que se inspira en el grupo que publicó AI 2027, un informe muy conocido que planteaba este escenario en 2025. En sus entrevistas le cuesta dar pruebas concretas y explicar con claridad los escenarios de aniquilación que describe.

Que no convenza no quiere decir que lo que dice no tenga sustento. La preocupación la comparten investigadores de peso: sus propios excolegas de Anthropic, buena parte de la gente que trabaja en alineamiento y figuras como Geoffrey Hinton y Yoshua Bengio, que vienen advirtiendo lo mismo desde 2023. Acá no se trata de minimizar los riesgos, que están documentados y discutidos dentro de la propia industria. Se trata de separar el riesgo del mensajero. Y el mensajero, esta vez, apareció con un posteo enorme, mucha exposición y pocas pruebas propias.

La brecha ya está afuera

El debate no termina en la tecnología. La brecha pro y anti IA ya está ahí afuera, y los números la muestran.

En Estados Unidos, el 52% de los adultos dice estar más preocupado que entusiasmado con el avance de la IA en la vida cotidiana, más del doble que el 37% de 2021, según una encuesta de Pew hecha en junio de 2026 sobre 3.488 personas. Entre los menores de 30 la preocupación llega al 55% y el entusiasmo se desplomó del 25% al 11%. Siete de cada diez creen que en las próximas dos décadas va a haber menos trabajo por culpa de la IA.

La grieta también bajó al barrio. La oposición a que se construya un centro de datos cerca de casa pasó del 26% en marzo de 2025 al 71% en 2026, según Gallup, y es de las pocas cosas que hoy cruzan la política estadounidense de punta a punta: 75% de los demócratas, 74% de los independientes y 63% de los republicanos están en contra.

Esa es la cancha en la que cayó el posteo de Coxon. Por eso importa menos lo que dijo que cómo lo recibieron: los que ya desconfiaban leyeron una confesión, los que ya creían en la carrera leyeron una operación, y casi nadie cambió de opinión. La discusión sobre la IA dejó de ser técnica hace rato. Es política, es laboral y ahora también es vecinal.