Sam Altman traza dos líneas rojas para el futuro de la inteligencia artificial

El director ejecutivo de OpenAI, Sam Altman, planteó públicamente los dos escenarios que, a su entender, concentran los mayores riesgos del avance de la inteligencia artificial. El primero es que la humanidad pierda el control sobre sistemas cada vez más capaces. "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas", sostuvo.

El segundo escenario es la concentración excesiva de poder en manos de unos pocos. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió. Según Altman, evitar ambos riesgos al mismo tiempo obliga a transitar un camino intermedio que describió como estrecho y difícil de sostener.

Cómo funciona la estrategia de mitigación

Para que la inteligencia artificial no se vuelva ingobernable, Altman propuso que las técnicas de alineación y seguridad avancen al mismo ritmo que las capacidades de los modelos, o incluso un paso adelante. En términos domésticos, es como tener un sistema de frenos en un automóvil que va cada vez más rápido: si las ruedas siguen acelerando pero los discos de freno no se renuevan, tarde o temprano el vehículo se vuelve imposible de detener.

Regulación, auditores y coordinación internacional

• Un marco regulatorio federal que establezca requisitos de seguridad comunes para los llamados modelos de frontera, es decir, los sistemas ubicados en el límite de las capacidades tecnológicas actuales.
• La incorporación de auditores independientes en los mecanismos de supervisión, como una suerte de revisores contables externos que verifican los balances de una empresa.
• La coordinación entre gobiernos para que las reglas no queden atadas a los límites de un solo país.

Altman aclaró que las compañías no deberían esperar la sanción de nuevas leyes para empezar a aplicar medidas de seguridad por cuenta propia. También sostuvo que la competencia tecnológica entre naciones no justifica bajar la guardia. "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia", afirmó.

“Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia.”Sam Altman, director ejecutivo de OpenAI

Qué falta para que estas ideas lleguen a la gente

Aunque el diagnóstico de Altman coincide con preocupaciones que circulan en distintos ámbitos académicos y gubernamentales, todavía no existe un marco federal con dientes en la mayoría de los países. Faltan definiciones técnicas compartidas sobre qué es un modelo de frontera, faltan reglas claras para los auditores independientes y, sobre todo, falta un acuerdo internacional que obligue a las potencias a actuar en conjunto. Mientras esos tres engranajes no se terminen de construir, las advertencias del CEO de OpenAI seguirán siendo, por ahora, más una hoja de ruta que una política concreta.