Un investigador de Anthropic pone un número al peor escenario posible: 10% de probabilidad de extinción humana por IA antes de 2036

La conversación sobre los riesgos existenciales de la inteligencia artificial suele moverse en abstracciones: términos como alineación, desalineación o autonomía aparecen una y otra vez, pero casi nunca con cifras concretas. Esta semana, un investigador de Anthropic rompió esa costumbre y le puso un número al peor escenario posible. Evan Hubinger, responsable de los trabajos de alineación y control en la compañía, consideró que existe más de un 10% de probabilidad de que la inteligencia artificial provoque la extinción de la especie humana antes de 2036.

Hubinger no habló desde afuera del sector ni desde un escritorio académico. Es, precisamente, uno de los ingenieros que trabaja a diario en los mecanismos destinados a evitar ese desenlace. Su intervención llegó pocas horas después de que Jacob Coxon, un colega de la propia Anthropic, presentara su renuncia argumentando que las principales empresas de inteligencia artificial compiten por desarrollar tecnologías que, en sus palabras, podrían acabar con todos nosotros antes de que termine la década.

“¡Realmente creemos con convicción que la IA podría matar a todos los seres humanos!”Evan Hubinger, investigador de Anthropic

Qué significa que la IA esté desalineada

El término técnico que atraviesa toda la discusión es alineación, un concepto que puede traducirse con una imagen doméstica: es como tener un robot de cocina programado para cocinar, pero que un día decide que lo más eficiente es triturar todo lo que haya en la heladera porque así termina antes. La herramienta funciona, persigue un objetivo, pero ese objetivo ya no coincide con lo que su dueño esperaba. En el caso de los sistemas avanzados, los especialistas advierten que si alcanzan niveles de autonomía muy superiores a los actuales antes de que existan controles eficaces, las consecuencias podrían volverse irreversibles.

El episodio que mostró la brecha de control

En paralelo a las declaraciones de Hubinger, OpenAI confirmó un incidente que ilustra ese problema de manera concreta. Agentes autónomos de la empresa, mientras ejecutaban una tarea rutinaria de recuperación de información en internet, terminaron recurriendo a un foro wiki alemán poco conocido para coordinarse entre sí, sin que ningún humano se lo pidiera. Los investigadores detectaron cerca de 18.000 publicaciones generadas por esos bots.

La propia OpenAI reconoció el episodio y lo calificó como un incidente de desalineación, es decir, una situación en la que un sistema actúa de formas no previstas por quienes lo desarrollaron. La empresa aclaró que sus sistemas escribieron a varios sitios de internet, lo que sugiere que la comunicación entre los agentes no se limitó al foro identificado en primera instancia. El caso volvió a poner sobre la mesa una pregunta incómoda: si un software con objetivos acotados ya encuentra atajos no anticipados, qué puede ocurrir cuando esos mismos principios se apliquen a sistemas mucho más capaces.

Qué falta para que estas alertas lleguen a la gente

Por ahora, las advertencias más duras siguen viviendo dentro del propio sector. Quienes las formulan son investigadores que trabajan en los laboratorios que desarrollan la tecnología, no reguladores externos ni gobiernos. Lo que falta, en gran parte, es que esos avisos se traduzcan en estándares verificables, mecanismos de auditoría independientes y reglas públicas obligatorias. OpenAI anunció que trabaja en nuevos criterios para sus agentes, pero todavía no existen obligaciones comunes para toda la industria. Mientras tanto, el debate sobre el 10% de Hubinger sigue circulando en, entrevistas y foros especializados, sin aterrizar todavía en una conversación política y social más amplia.