Hinton, el padre del aprendizaje profundo, advierte que la humanidad tiene entre un 10 y un 20 % de chances de desaparecer por la inteligencia artificial

Geoffrey Hinton no es un alarmista de ocasión. Es el investigador que en 2018 recibió el Premio Turing —considerado el Nobel de la informática— junto a Yoshua Bengio y Yann LeCun por sentar las bases del aprendizaje profundo, la técnica que hoy hace posible que un chatbot redacte un mail, un auto se maneje solo o un celular reconozca la cara de su dueño. Por eso, cuando este científico británico canadiense de 78 años habla, la industria escucha. Y lo que viene diciendo desde que dejó Google en 2023, precisamente para poder expresarse sin ataduras corporativas, suena más fuerte que nunca.

En una serie de entrevistas recientes, Hinton le puso un número concreto al peor escenario posible: entre el 10 % y el 20 % de probabilidades de que sistemas de inteligencia artificial superinteligente provoquen la extinción de la especie humana dentro de los próximos treinta años. Es decir, antes de 2055. El propio Hinton admite que ese rango es una estimación aproximada, y lo atribuye a que el avance de la tecnología superó todas las proyecciones que él mismo manejaba hace apenas una década.

Por qué la velocidad de la innovación se volvió el problema central

El planteo de Hinton no es que la inteligencia artificial sea intrínsecamente mala. Es que avanza más rápido de lo que cualquier gobierno puede legislar. Para explicar este desfasaje, el científico utiliza una comparación tan sencilla como elocuente: imagine un auto sin volante. Cuanto más se pisa el acelerador, mayor es el riesgo de salirse del camino. La regulación estatal, en esa metáfora, es el volante. Sin él, la velocidad no lleva a ningún destino bueno.

“La humanidad nunca antes se enfrentó a entidades más inteligentes que ella misma. Y ese punto ciego, en el que somos los animales menos inteligentes de la habitación, es el mayor peligro del momento.”Geoffrey Hinton

Cómo funciona el cambio que preocupa a Hinton

El otro eje del mensaje apunta al corazón técnico de los modelos de lenguaje como ChatGPT, Gemini o Claude. Durante años se difundió la idea de que estos sistemas eran, en esencia, loros muy sofisticados: máquinas que predicen la siguiente palabra más probable a partir de enormes volúmenes de texto, sin entender realmente lo que dicen. Hinton rechaza esa caracterización. Según su análisis, los modelos más avanzados ya no se limitan a detectar correlaciones estadísticas: comprenden efectivamente los conceptos semánticos y abstractos que procesan. Es la diferencia entre un loro que repite frases y un estudiante que entiende una lección y puede aplicarla en contextos nuevos.

Para dimensionarlo en términos domésticos, alcanza con pensar en la diferencia entre una calculadora y un matemático. La calculadora opera sobre símbolos sin comprenderlos; el matemático entiende qué está haciendo. Si los modelos actuales se parecen más a un matemático que a una calculadora, el salto cualitativo —y el riesgo— cambia de categoría.

Por qué la autorregulación del mercado no alcanza

Frente a la objeción clásica de que regular la inteligencia artificial pone en desventaja a un país frente a sus competidores —China o Estados Unidos, por ejemplo—, Hinton responde con una frase tajante: confiar en que el mercado contenga solo los riesgos de una tecnología capaz de volverse incontrolable es un error estratégico. Para el Nobel, la competencia geopolítica no puede ser la excusa para postergar la discusión de marcos legales globales, del mismo modo que ningún país deja de tener normas de tránsito para no perder una carrera de autos.

Qué falta para que la regulación llegue a la gente

Aunque Hinton reclama acción inmediata, la realidad muestra que todavía no existe ni siquiera un acuerdo internacional de mínimos sobre cómo auditar, certificar o limitar el despliegue de modelos avanzados. Las propuestas circulan por organismos como la Unión Europea, que avanza con la Ley de Inteligencia Artificial, y por declaraciones de principios en el G7 y en Naciones Unidas, pero sin fuerza vinculante. Falta, en definitiva, que los parlamentos nacionales traduzcan la advertencia en leyes con dientes, que las empresas acepten auditorías externas obligatorias y que los ciudadanos tengan herramientas concretas para entender —y eventualmente exigir— que los sistemas que ya usan no comprometan su futuro.

La ventana de acción, según Hinton, sigue abierta, pero se achica. La humanidad todavía puede decidir la orientación ética de las máquinas que está construyendo. Lo que no puede, advierte, es seguir pisando el acelerador mientras debate si el volante es necesario.