Una IA alineada para una humanidad desalineada

Para alinear una máquina con los valores de la humanidad haría falta algo que no existe: una humanidad alineada.

El espejo

Miremos el espejo un segundo. Somos ocho mil millones de personas repartidas en doscientos países que no se ponen de acuerdo en casi nada. No compartimos religión, ni sistema político, ni idea de justicia, ni definición de familia, ni qué comer, ni cómo educar a los hijos. Llevamos décadas sabiendo lo que le hacemos a la naturaleza y no logramos coordinar la respuesta. Firmamos declaraciones universales de derechos que se violan todos los días, muchas veces por los mismos que las firmaron. No es un accidente de esta época: es nuestro estado natural. La humanidad nunca estuvo alineada. Ni un solo día de su historia, ni en su prehistoria.

Y la desalineación no termina en las fronteras. Entrá a cualquier casa: los padres no se ponen de acuerdo en cómo criar al hijo que ya criaron. Entrá a cualquier empresa: la mitad de las reuniones existen porque los que están adentro quieren cosas distintas. Y ahora entrá a una sola persona, entrá a vos: querés estar en forma y pedís delivery, querés leer más y mirás el teléfono tres horas, querés calma y decís que sí a todo. Ni siquiera un individuo está alineado consigo mismo. Le estamos pidiendo a la máquina una coherencia que no tiene ninguna persona, ninguna familia, ninguna empresa, ningún país, ninguna civilización. Se lo pedimos, con toda seriedad, en papers.

Entonces la pregunta técnica esconde una pregunta política, y conviene hacerla en voz alta: alineada ¿con quién? ¿Con los valores de la empresa que la entrena? ¿Con las leyes del país donde opera? ¿Con lo que quiere el usuario que paga? ¿Con el promedio estadístico de todo lo que la humanidad escribió en internet, que incluye lo mejor y lo peor que somos? Cada respuesta posible reparte poder de una manera distinta. Lo vengo diciendo hace tiempo: la pregunta de fondo con la IA nunca fue si avanza o no, sino quién la entiende, quién la gobierna y quién queda afuera. El alineamiento es esa pregunta con nombre de ingeniería.

Cuatro postales del alineamiento

La primera es de 1960. Norbert Wiener, el padre de la cibernética, escribió la advertencia fundadora del campo. Si usamos para nuestros propósitos una máquina en cuya operación no podemos interferir con eficacia, más nos vale estar bien seguros de que el propósito que pusimos adentro de la máquina es el que de verdad deseamos. Pasaron 65 años y sigue siendo la mejor formulación del problema. Y fijate dónde puso Wiener la dificultad: no en la máquina, sino en el "que de verdad deseamos". Ya en 1960 el problema éramos nosotros.

La segunda es de 2022. Anthropic presentó la IA constitucional. En lugar de corregir al modelo respuesta por respuesta con ejércitos de evaluadores humanos, se le entrega una lista escrita de principios para que critique y corrija sus propias respuestas. La constitución existe, es un documento que se puede leer, y es exactamente lo que dije antes: valores puestos por escrito, ordenados, con reglas para cuando chocan entre sí. La primera vez que una declaración de principios tuvo consecuencias operativas inmediatas.

La tercera es de 2023. OpenAI anunció con bombos y platillos su equipo de Superalignment, dedicado a resolver el alineamiento de una futura superinteligencia, con la promesa del 20% del cómputo de la empresa. Duró menos de un año. En 2024 sus dos líderes renunciaron y el equipo se disolvió, entre acusaciones públicas de que la seguridad había quedado en el asiento de atrás mientras los productos manejaban. Y desde entonces, los miembros de los equipos de seguridad van y vienen: renuncias, regresos y éxodos que se volvieron un género en sí mismo. Leelo de nuevo, despacio: el equipo encargado de alinear a las máquinas no logró mantenerse alineado con su propia empresa. No existe mejor resumen de todo este texto.

Y la cuarta viene de China, porque mientras Occidente debate quiénes somos "nosotros", China ya contestó la pregunta. En 2023, la Administración del Ciberespacio y otros seis reguladores publicaron sus Medidas para la gestión de la IA generativa, vigentes desde agosto de ese año. El artículo 4 no tiene una gota de ambigüedad: los servicios de IA generativa deben adherir a los valores socialistas fundamentales, y no pueden generar contenido que subvierta el poder del Estado ni dañe la estabilidad social. Ahí no hay debate filosófico sobre el archivo maestro de los valores humanos: el archivo existe, lo escribió el Partido, y la máquina se alinea con eso o no opera. Es la respuesta más honesta y más incómoda a la vez: no esquivaron la pregunta política del alineamiento, la contestaron con todo el poder del Estado. Alineada ¿con quién? Con nosotros, dijeron ellos, y definieron el nosotros por decreto. Que nadie se sorprenda: dije antes que cada respuesta posible reparte poder, y que la pregunta de fondo es quién la entiende, quién la gobierna y quién queda afuera. China contestó las tres de un plumazo: la entiende el Estado, la gobierna el Estado, y afuera queda el que no adhiera. Todo el poder repartido para el mismo lado.

No le des la razón al cínico todavía

Ahora, sería facilísimo quedarse en el cinismo de "entonces el alineamiento es imposible" y pasar a otra cosa. Al contrario: entender esto lo vuelve más urgente y, sobre todo, más humilde. Si no existe el archivo maestro de los valores humanos, el objetivo no puede ser que la máquina ame lo que amamos. Tiene que ser algo más parecido a lo que les pedimos a las personas en una sociedad que funciona: no te pido que compartas mis valores, te pido que no me mientas, que no me dañes y que aceptes ser corregido. La convivencia nunca necesitó comunión. Necesitó contratos, frenos y la posibilidad de arreglar lo que se rompe. Una IA alineada, en el único sentido honesto de la palabra, es una que se deja corregir por una humanidad que se corrige a sí misma todo el tiempo.

Y acá aparece el giro que me interesa de verdad, el que casi nadie está mirando. Para entrenar estas máquinas, los laboratorios tuvieron que hacer algo inédito: escribir los valores. Ponerlos en un documento, ordenarlos, decidir cuál gana cuando dos chocan. Algunas IAs tienen literalmente una constitución. Pensalo: llevamos cinco mil años pateando la conversación sobre qué queremos como especie, y la primera vez que alguien tuvo que redactarla en serio, con consecuencias operativas, fue para explicárselo a una máquina.

Le estamos escribiendo constituciones a las máquinas mientras incumplimos las nuestras.

La ironía es enorme, pero el ejercicio es valioso: cada intento de alinear una IA obliga a alguien, en algún lugar, a responder por escrito la pregunta que veníamos esquivando. Qué es dañar. Qué es ayudar. Qué es verdad. La IA no necesita que la humanidad esté de acuerdo para funcionar. Pero es la primera tecnología que nos pregunta, en serio y con fecha de entrega, en qué estamos de acuerdo.

Tu parte

Por eso no creo que el problema del alineamiento se resuelva en un laboratorio, aunque los laboratorios hagan su parte. Se juega donde se juega siempre todo lo importante: en cada persona. No podés alinear una máquina con alguien que no sabe qué quiere. La IA amplifica lo que traés: si traés confusión, amplifica confusión; si traés una dirección, la potencia. Por eso hace rato que pienso que no necesitamos modelos más potentes: necesitamos usuarios que sepan usarlos. Los modelos ya hacen mucho más de lo que la mayoría les pide; el cuello de botella no está en la tecnología, está en quien la maneja. El trabajo de alineamiento más urgente no es el de los modelos. Es el tuyo. Saber qué querés, para qué lo querés y qué no estás dispuesto a hacer para conseguirlo. Una brújula propia. Dicho en una palabra: criterio.

Que quede claro: tu criterio no sustituye la gobernanza. La pregunta de quién controla estos sistemas se va a pelear en parlamentos, en reguladores y en los directorios de un puñado de empresas, y ahí también hay que darla. Pero una sociedad sin criterio individual no puede dar esa pelea colectiva: nadie exige lo que no entiende. Tu parte no es la única. Es la que nadie puede hacer por vos.

Quizás nunca logremos una IA perfectamente alineada con la humanidad, porque la humanidad no es una cosa con la que alinearse: es una discusión en curso. Pero puede que en el intento consigamos algo más raro y más valioso: volver a mirar el espejo del principio, ahora con una claridad inédita, y que cada uno tenga que elegir qué parte del desorden quiere ser. Antes de exigir una IA alineada, alineate vos. Es el único pedazo de la humanidad que tenés a cargo.