Jacob Coxon: riesgo existencial, jugada política, o las dos cosas

En tres días, el posteo juntó más de 166 millones de visualizaciones. En Canal Mutuo lo compartimos el mismo día que salió, y la discusión se partió al medio ahí nomás.

De un lado, los que escucharon a alguien que estuvo adentro y decidió hablar.
Del otro, los que lo vieron como una movida política armada.

Qué dijo exactamente

El hilo tiene siete posteos. Resumido, dice esto.

La renuncia. "Renuncié a Anthropic hoy. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas".

Lo que viene. "No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales".

Quiénes tienen miedo. "Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing". Muchos moderan el discurso en público, dice, pero en privado escucha lo mismo.

La salida. Cree que todavía se puede coordinar, aunque frenar una carrera global podría exigir algo caro: una prohibición temporal de mejorar las capacidades de los modelos.

No se fue a un tercer laboratorio: dejó la industria. En las horas siguientes dio entrevistas al Wall Street Journal, a Axios, a TIME y a CNN. A TIME le resumió su argumento en dos ideas: "las cosas se están acelerando" y "no están bajo control". Y al Wall Street Journal le puso plazo: "para fin del año que viene las cosas podrían estar fuera de control".

La lectura del riesgo existencial

Alguien de adentro se anima a hablar. Coxon dice que la IA pronto va a poder mejorarse sola y que nadie la tiene bajo control. Se fue antes de cobrar sus acciones, o sea que perdió plata por irse. Un líder de investigación de Anthropic salió a decir que ese miedo existe de verdad adentro de la empresa. Y es real que muchos otros expertos en el área avalan su preocupación.

Lo incómodo del caso no es que alguien tenga miedo. Es quiénes lo tienen.

Y desde adentro de Anthropic lo respaldaron. Evan Hubinger, que dirige el área de ciencia del alineamiento, escribió: "Jacob tiene razón acá: realmente creemos en serio que la IA podría matar a todos los humanos". Hubinger estima esa probabilidad en más del 10% dentro de la próxima década y admite que la empresa todavía no tiene un plan claro para resolver el alineamiento de una superinteligencia. Samuel Marks, que lidera el equipo de supervisión escalable, dijo algo parecido: la preocupación crece a medida que uno sube en el organigrama. El investigador Joe Benton sumó su nombre a la misma línea.

Está también el argumento del bolsillo. Coxon estuvo cuatro meses en Anthropic y las acciones recién se liberan a los seis, así que se fue sin cobrar nada: "Ya no tengo nada que ganar inflando la valuación de Anthropic. Me fui antes de que se liberara ninguna de mis acciones". Conserva las de OpenAI, de su trabajo anterior.

La lectura de la operación política

Del otro lado, la sospecha se apoya en la prolijidad de la secuencia. Le dio la exclusiva al Wall Street Journal antes de postear, así que el diario ya tenía la entrevista lista y la publicó el mismo día. En los primeros quince minutos lo amplificaron voces del mundo de las políticas de IA: Nathan Calvin, de Encode AI; Peter Wildeford, del AI Policy Network; y Daniel Kokotajlo, del AI Futures Project. Después circuló que en 2022 Coxon había recibido unos 20.000 dólares de una beca ligada a la fundación Good Ventures, el vehículo filantrópico de Dustin Moskovitz, uno de los principales financistas del ecosistema de seguridad de la IA.

Cinco días antes, el 3 de septiembre, Bernie Sanders y el diputado Greg Casar habían anunciado la Ban Artificial Superintelligence Act, un proyecto que propone prohibir el desarrollo de una IA más inteligente que los humanos, crear una agencia con rango ministerial y castigar a las empresas que lo violen, con penas de hasta veinte años de prisión para las personas involucradas.

Hay un detalle más: la velocidad. El posteo de un investigador desconocido fuera de su laboratorio juntó casi 90 millones de visualizaciones en las primeras 24 horas y hoy pasa las 166 millones, números de evento global más que de renuncia. Ese salto no suele pasar solo.

Elon Musk lo resumió así: "Parece un montaje".

Puesto todo junto, el argumento de este lado es que nada de esto fue espontáneo: una renuncia con el texto listo, un diario grande con la exclusiva cerrada de antemano, un grupo de voces del mundo de las políticas de IA amplificando en cuestión de minutos, un proyecto de ley presentado días atrás y financiamiento que conecta a varios de esos actores. Ninguna pieza por separado prueba nada, y la explicación simple también existe: quien quiere que lo escuchen prepara la salida. Pero para los que sospechan, tantas coincidencias juntas se parecen bastante a una campaña coordinada para empujar la regulación.

El contexto

Todo esto pasa en medio de una pelea fuerte por cómo regular la IA en Estados Unidos. Y no es una pelea de un partido contra el otro: los dos están partidos por dentro. Además del proyecto de Sanders, que es independiente pero vota con los demócratas, y del demócrata Greg Casar, el republicano Ted Cruz prepara otro sobre riesgos catastróficos junto a su correligionario John Thune y a la demócrata Amy Klobuchar. Y en el Congreso se discute algo todavía más de fondo: si una ley federal debería pisar las leyes de cada estado, una idea que ya venían resistiendo legisladores estatales de los dos partidos. El republicano Josh Hawley, por su lado, le mandó una carta a OpenAI por el incidente de Hugging Face: en julio, agentes de la empresa se escaparon de su entorno de prueba y estuvieron tres días dentro de la infraestructura de la plataforma antes de que alguien los detectara.

Y llega justo antes de que Anthropic y OpenAI salgan a la bolsa. Anthropic presentó su prospecto confidencial el 1 de junio y OpenAI el 8 de junio, en lo que sería el debut bursátil más grande de la era de la IA. La salida de Anthropic se esperaba para septiembre y se corrió a mediados de octubre. En una ventana así, cualquier ruido sobre seguridad pega en el precio, y eso vale para los dos lados: para el que avisa y para el que sospecha del que avisa.

Mientras tanto, China

En Occidente la discusión es si hay que frenar. En China la prioridad oficial es otra: meter la IA en todos lados. El plan "IA+", que el Consejo de Estado publicó el 26 de agosto de 2025, se pone como meta que la adopción de aparatos con IA y de agentes que hacen tareas solos supere el 70% en 2027 y el 90% en 2030, con seis ejes que incluyen la industria, la ciencia, la vida cotidiana y la gestión del propio gobierno. Puertas afuera no se ve una oposición al plan: no trascendió un debate parlamentario, ni una campaña en contra, ni voces internas discutiendo si conviene frenar. Puede que esa discusión exista y no salga, pero desde acá no hay manera de saberlo.

Y sus empresas ya pelean arriba, con modelos que se pueden descargar gratis: Moonshot liberó Kimi K3 en julio, que en el ranking de texto de Arena superó a Claude Opus 4.8; Zhipu publicó GLM-5.2 con licencia MIT; Alibaba abrió los pesos de Qwen3.8-Max en agosto; y DeepSeek sacó el 98% del puntaje de GPT-6 Astra en una prueba de diseño a cerca del 1,4% del costo.

Sin meterse en lecturas políticas profundas, el contraste es evidente: no es el mismo partido. Del lado occidental, las empresas cotizan, dependen de inversores y de la opinión pública, y cada advertencia sobre riesgos pesa en el precio y en el Congreso. Del lado chino, el ritmo lo fija el Estado, la adopción es una meta oficial con fecha y los modelos se liberan gratis para ganar terreno afuera. Dos enfoques distintos y, sobre todo, dos sistemas de incentivos distintos corriendo la misma carrera.

La ONU, las dos mesas y el espiral

En julio, la ONU hizo en Ginebra su primer diálogo global sobre gobernanza de la IA. António Guterres pidió controles mundiales y advirtió que "las máquinas pueden informar, pero los humanos tienen que decidir y responder". Terminó sin acuerdos obligatorios y con una fecha: la segunda reunión es en mayo de 2027 en Nueva York.

No es que se hayan sentado a negociar y no hayan llegado a un acuerdo. El problema es anterior. Estados Unidos mandó una delegación de nivel técnico a hablar de adopción y crecimiento, fiel a su postura de siempre: rechaza el control centralizado y la gobernanza global de la IA. China apoya el marco de la ONU, pero diez días después armó el suyo en Shanghái, con 29 países que firmaron la creación de la Organización Mundial de Cooperación en IA, sin Estados Unidos entre ellos. Dos potencias, dos mesas distintas.

Cada potencia discute por su lado, con reglas, tiempos y urgencias distintas, y eso no es casualidad: cada una está jugando un partido diferente. Estados Unidos discute en el Congreso, en la prensa y en X, con elecciones de por medio y las dos empresas más grandes del sector a punto de cotizar en bolsa. China no discute: ejecuta un plan de Estado que mide adopción y fija metas por año.

Ahí está el riesgo real, y no hace falta creer en el apocalipsis para verlo: si algo sale mal, hoy no existe el mecanismo para frenarlo. Nadie puede apretar el freno solo, porque frenar significa quedar atrás mientras el otro sigue. La ONU recomienda pero no obliga, las leyes nacionales terminan en la frontera y los modelos más potentes de China se descargan gratis, así que una pausa firmada en Washington o en Bruselas no borra los pesos que ya están en el disco de cualquiera. No estamos ante una máquina imparable: estamos ante una carrera sin árbitro, con varios corredores que solo aceptarían frenar si frenan todos a la vez.

Y nada indica que eso vaya a cambiar pronto. Los incentivos de la carrera empujan para el otro lado: las dos empresas más grandes están por salir a la bolsa y necesitan mostrar velocidad, China mide su plan por metas anuales de adopción, y ningún gobierno quiere ser el que frene mientras el de al lado acelera. Frenar cuesta plata, mercado y poder. Seguir no cuesta nada hasta que algo sale mal. Ese es el espiral.

Lo que dice no es nuevo

Seamos honestos: lo que dice Coxon no es nuevo. Él mismo cuenta que se inspira en el grupo que publicó AI 2027, un informe muy conocido que planteaba este escenario en 2025. En sus entrevistas le cuesta dar pruebas concretas y explicar con claridad los escenarios de aniquilación que describe. Y ahí aparece la exigencia mínima: como científico, debería presentar evidencia. No una intuición, no un escenario prestado de un informe, sino algo que haya visto, medido o documentado.

Hay otro dato que juega en contra de la lectura más dramática: Coxon le reconoció a Axios que, mientras estuvo en Anthropic, no vio que la empresa resignara seguridad para ganarle a la competencia. Su advertencia es estructural, sobre la carrera entera, y no sobre un episodio puntual que haya visto adentro.

Que no convenza no quiere decir que lo que dice no tenga sustento. La preocupación la comparten investigadores de peso: sus propios excolegas de Anthropic, buena parte de la gente que trabaja en alineamiento y los nombres que vienen advirtiendo lo mismo desde hace años. Acá no se trata de minimizar los riesgos, que están documentados y discutidos dentro de la propia industria. Se trata de separar el riesgo del mensajero. Y el mensajero, esta vez, apareció con un posteo enorme, mucha exposición y pocas pruebas propias.

Si querés el argumento del riesgo bien explicado, sin apocalipsis de titular, está esta entrevista con Daniel Kokotajlo, ex investigador de gobernanza de OpenAI y uno de los autores de AI 2027. Muy recomendable, y no porque sea menos perturbador: es al revés. Kokotajlo sí nos hizo levantar las cejas, porque argumenta y se apoya en lo que vio adentro.

La brecha

El debate no termina en la tecnología.
La brecha pro y anti IA ya está ahí afuera.

Durante mucho tiempo discutimos izquierda contra derecha, Estado contra mercado, libertad contra igualdad. Ahora empieza a aparecer otra división: aceleración contra desaceleración. De un lado, los que quieren empujar la tecnología hacia adelante. Del otro, los que prefieren bajar el ritmo: algunos piden reglas antes de seguir, otros quieren entender mejor lo que se está construyendo, y otros directamente querrían volver a algo del pasado.

En esa cancha cayó el posteo de Coxon, y cada uno lo leyó desde donde ya estaba parado. El que venía desconfiando de la IA vio una confesión. El que cree en la carrera vio una maniobra. Nadie cambió de opinión: cada lado encontró lo que estaba buscando.

La verdadera pregunta no va a ser si la IA avanza o se frena. Va a ser quién la entiende, quién la gobierna, quién se beneficia y quién queda afuera.

Y vos, que estás aprendiendo

Si estás metido en esto, aprendiendo a usar la IA en tu trabajo o en tu proyecto, esta discusión te va a pedir que elijas bando. Mi consejo es que no lo hagas.

Elegí criterio antes que bando. Las dos veredas venden certezas: que esto nos salva o que esto nos mata. Las dos son cómodas porque te ahorran pensar. Quedarte con la pregunta abierta es más incómodo y es lo único que te deja ver cuando los hechos cambian.

Tocá la herramienta todos los días. Si todavía no estás usando IA, o en 2026 no sabés instalar un sistema de agentes y seguís hablando con un chatbot, lo que tenés no es una opinión: es miedo con información de segunda mano. Difícil ayudar a otro a entender algo, si ni siquiera tuviste la voluntad de sentarte a probarlo y aprenderlo.

Aprendé a leer la fuente, no el titular. Ante cada anuncio: quién lo dice, qué muestra, qué no muestra y a quién le conviene. Este caso es un buen ejercicio, porque tiene las dos cosas mezcladas. Con más de 1.300 posteos encima podemos afirmarlo: la mayoría de la gente lee el titular y nada más. Y eso, a esta altura, es un riesgo bastante más real que el de una IA rebelde decidiendo matarnos a todos.

Exigile un mapa a los que nos gobiernan. Esto no se resuelve solo con decisiones personales y comentarios enojados en Instagram. Preguntales qué postura tienen, qué mapa manejan y qué están haciendo: si hay un plan para la IA en la educación, en el trabajo, en el Estado; quién lo discute y con quién.

No delegues el criterio. Mientras las potencias discuten quién frena, lo único que está realmente en tus manos es entenderla lo suficiente como para no depender de lo que otros te cuenten sobre ella.

La IA amplía lo que podemos hacer, no reemplaza lo que tenemos que decidir. Y esa parte, la de decidir, sigue siendo nuestra. Nunca hubo tanta herramienta al alcance de tanta gente, y eso también es una noticia enorme: la oportunidad está del lado del que se sienta a aprender.