Gates propone una agencia global para auditar la inteligencia artificial, al estilo de la energía nuclear y la aviación civil

Bill Gates volvió a poner sobre la mesa un tema que crece en todos los foros internacionales: quién controla a la inteligencia artificial y cómo se controla. Esta semana presentó un documento en el que propone crear un organismo supranacional, similar a los que ya existen para otras industrias, con poder real para auditar los sistemas de IA más sensibles. La idea todavía no tiene sede, nombre ni presupuesto, pero el plan ya marca la hoja de ruta que el filántropo y cofundador de Microsoft considera indispensable.

Tres modelos ya existentes como inspiración

La propuesta no nació de la nada. Gates se apoyó en tres marcos regulatorios que, según su mirada, funcionan en el mundo real y podrían adaptarse al software. El primero es el régimen de inspecciones nucleares, que durante décadas verificó que centrales y armas no se desviaran de sus fines pacíficos. El segundo son los estándares de seguridad de la aviación civil, que coordinan normas técnicas entre países para que un avión pueda despegar de un aeropuerto y aterrizar en otro sin sobresaltos. El tercero son los acuerdos internacionales que frenaron el deterioro de la capa de ozono, firmados cuando el mundo entendió que ciertos gases de los aires acondicionados y las heladeras destruían la atmósfera.

Para Gates, esos tres ejemplos muestran que la cooperación internacional es posible cuando el riesgo es grande y compartido. En la misma línea, aclaró que la supervisión sobre la inteligencia artificial no tiene por qué frenar industrias enteras: podría limitarse a los usos de mayor riesgo, como los modelos que diseñan moléculas o que podrían facilitar ataques biológicos, sin bloquear aplicaciones médicas o científicas que ya salvan vidas.

Cómo funcionaría, según el documento

La idea es que ese organismo global tenga personal técnico capacitado y autoridad para entrar a las empresas a revisar cómo entrenan sus modelos, qué datos usan y qué límites de seguridad incorporan antes de lanzar un producto al público. En la práctica, sería algo parecido a lo que hace la Organización de Aviación Civil Internacional con las aerolíneas, pero aplicado a servidores, chips y algoritmos. También podría fijar estándares mínimos de transparencia, exigir informes periódicos y, en casos extremos, suspender el despliegue de un sistema si representa un peligro para la salud o la seguridad mundial.

Gates reconoció que todavía no especificó si conviene ampliar una agencia existente, crear una nueva desde cero o repartir funciones entre varios organismos. Lo que sí dejó claro es que la participación de China no es opcional: sin Beijing, cualquier esquema regulador quedaría incompleto, porque la mayoría de los modelos más avanzados se desarrollan en laboratorios estadounidenses o chinos.

“Es positivo que algunas empresas de IA estén proponiendo soluciones a los desafíos provocados por su propia tecnología, pero no deberíamos esperar que sean ellas quienes lideren el proceso.”Bill Gates

La apuesta por una cumbre con China

El paso siguiente es diplomático. El equipo de Gates trabaja para concretar un encuentro con el presidente Xi Jinping, previsto de manera provisional para noviembre, aunque aún no fue confirmado oficialmente. La estrategia es directa: si Estados Unidos toma primero la iniciativa de restringir ciertos modelos, China podría sumarse y, a partir de ahí, arrastrar al resto del mundo. El propio Gates lo resumió con una frase: si los dos gigantes se ponen de acuerdo, el resto se suma.

• Auditorías obligatorias a sistemas de IA con capacidad de diseñar moléculas o facilitar ataques biológicos.
• Impuesto sobre los ingresos de las empresas que reemplacen trabajadores con resultados generados por inteligencia artificial, con destino a redes de protección social.
• Reserva de hasta un 40 por ciento de los puestos de trabajo actuales para personas en sectores donde el contacto humano sea esencial, como el cuidado de enfermos.
• Cooperación técnica entre Estados Unidos y China como condición previa para sumar al resto de los países.

Qué falta para que la propuesta llegue a la gente

Por ahora, el plan de Gates es un documento de ideas, no un proyecto de ley ni un tratado firmado. Para que esa agencia global exista falta, como mínimo, que los gobiernos lo discutan en un foro multilateral, que identific qué institución existente podría absorber el rol y, sobre todo, que Washington y Beijing acepten sentarse en la misma mesa. También resta definir quién paga los controles, cómo se protegen los secretos industriales de las empresas y qué sanciones se aplican si un país o un laboratorio no cumple. Mientras tanto, el propio Gates advierte que confiar solo en la buena voluntad de las compañías no alcanza: la historia muestra que, cuando el riesgo es sistémico, hacen falta reglas escritas y verificables.