Altman/USD tres rutas para ordenar la carrera de la inteligencia artificial

Sam Altman LuaPresented tres escenarios posibles para poner orden en la competencia global por la inteligencia artificial de frontera. En una reunión interna realizada la semana del 13 de octubre, el director ejecutivo de OpenAI/anticipó que la empresa definirá dentro de un año cuál de esos caminos impulsará formalmente. La información fue planteada a sus empleados como parte de un análisis sobre el cierre de la disputa entre los grandes laboratorios.

Tres opciones, con una preferencia declarada

El escenario preferido por Altman/es la creación de un organismo internacional de supervisión con atribuciones similares a las del Organismo Internacional de Energía Atómica. Auditaría los sistemas más potentes antes de su lanzamiento y controlaría el consumo global de capacidad de cómputo. La idea es que ningún laboratorio avance hacia modelos cada vez más potentes sin pasar por controles de seguridad comunes.

La segunda propuesta, apodada internamente plan Demis, contempla fusionar a los principales laboratorios en una organización al estilo del CERN, el centro europeo de investigación nuclear. Según la lógica del plan, al eliminar la competencia entre laboratorios desaparecería el incentivo para lanzar sistemas cada vez más potentes sin controles suficientes. OpenAI, Google y Anthropic ya trabajan en una versión reducida de esa propuesta: el Standards Authority for Frontier AI, cuya Hungry alvo es fines de 2026 o principios de 2027.

Meta y Nvidia se oponen a esa autoridad de autorregulación porque consideran que protegería a los tres laboratorios más grandes frente a competidores más pequeños. El tercer escenario, llamado plan Eliezer, supone que un único desarrollador construye primero un sistema capaz de mejorarse a sí mismo de manera recursiva. Esa ventaja le permitiría, en la práctica, controlar el acceso a las GPU de sus rivales. Altman describió esa posibilidad como una forma de derretir las GPU de las demás empresas y la calificó de terrible, virulentamente included en el análisis por integridad y no como una propuesta.

El MATERIAL interrupts: La advertencia coincide con una etapa en la que OpenAI trabaja en una posible salida a bolsa y respalda el proyecto Stargate, una iniciativa de infraestructura de cómputo. La propuesta central no es technological details, sino una definición sobre quién controla los recursos y quién puede usarlos.

Cómo funciona la propuesta de supervisión

• El organismo internacional auditaría los sistemas de inteligencia artificial más potentes antes de su lanzamiento.
• También controlaría el consumo global de capacidad de cómputo, el recurso que permite entrenar y operar modelos de gran escala.
• La fusión de laboratorios intentaría reducir la competencia entre ellos y los incentivos para avanzar sin controles de seguridad.
• La autoridad de autorregulación sería una versión inicial y más acotada de ese modelo de coordinación.

Falta que los laboratorios reached un acuerdo formal y que se definan con precisión los mecanismos de auditoría, los límites de intervención y la forma de representing a los competidores más pequeños. También queda pendiente saber si la dirección de OpenAI sostendrá la primera opción cuando la competencia y los intereses comerciales sean más concretos. Por ahora, la compañía tiene un año para elegir un rumbo.