Sam Altman traza dos líneas rojas para la inteligencia artificial: pérdida de control y concentración de poder

El director ejecutivo de OpenAI, Sam Altman, identificó dos escenarios que, a su entender, concentran los mayores peligros en el avance de la inteligencia artificial. El primero es que la sociedad pierda el control sobre sistemas cada vez más capaces. El segundo es que una persona, una empresa o un país concentre un poder desproporcionado a partir de esa misma tecnología. La advertencia fue formulada en una serie de declaraciones públicas en las que el responsable de la empresa detrás de ChatGPT buscó instalar en el debate una preocupación que, hasta ahora, suele quedar relegada frente al entusiasmo por las nuevas herramientas.

Para Altman, la primera línea roja es nítida: si la humanidad deja de tener dominio sobre los sistemas que ella misma crea, el resultado será inaceptable. "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas", sostuvo. A su criterio, la única manera de evitar ese desenlace es que las técnicas de alineación y seguridad avancen al mismo ritmo que las capacidades de los modelos, o incluso por delante de ellas.

¿Qué pasa cuando el poder se acumula en una sola mano?

El segundo riesgo apunta a un fenómeno distinto pero conectado: la concentración de poder. Altman lo describió con una imagen contundente. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió. Y reconoció que transitar entre ambos peligros a la vez exige caminar por lo que llamó un "angosto camino intermedio", una expresión que reconoce lo difícil que resulta evitar las dos trampas en simultáneo.

¿Qué herramientas propone para reducir esos riesgos?

• Un marco regulatorio federal que establezca requisitos de seguridad comunes para los modelos de frontera, es decir, aquellos que operan en el límite de las capacidades tecnológicas actuales.
• La incorporación de auditores independientes en los mecanismos de supervisión, como forma de evitar que la fiscalización quede exclusivamente en manos de las propias empresas desarrolladoras.
• La aplicación inmediata de medidas de seguridad por parte de las compañías, sin esperar a que entren en vigor nuevas leyes.
• Coordinación internacional entre gobiernos, un ámbito en el que, según Altman, las empresas necesitarán respaldo estatal para funcionar.

El CEO de OpenAI también buscó despegarse de la lógica de la carrera tecnológica entre potencias. "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia", afirmó. La frase funciona como un llamado a no relativizar los riesgos en nombre de la competencia geopolítica, un argumento que suele esgrimirse para flexibilizar controles.

¿Qué falta para que estas advertencias se traduzcan en política concreta?

Altman dejó en claro que las empresas no deberían esperar a que existan nuevas leyes para empezar a aplicarse controles a sí mismas. Pero al mismo tiempo reconoció que, sin coordinación entre gobiernos, el esfuerzo de cualquier compañía quedará limitado a su propia jurisdicción. El cuadro que surge es el de una industria que ya admite la magnitud de los riesgos, pero que todavía no cuenta con un andamiaje institucional capaz de responder a la velocidad con la que avanzan los modelos. Entre la autorregulación empresaria y un tratado internacional con fuerza vinculante hay, por ahora, más declaraciones que acuerdos concretos.