Sam Altman, Dario Amodei y Yoshua Bengio expusieron ante el Consejo de Seguridad los peligros del desarrollo sin controles. Donald Trump rechazó un esquema global de regulación.
NUEVA YORK.– Los principales referentes de la inteligencia artificial (IA) presentaron este miércoles ante el Consejo de Seguridad de la ONU una advertencia sobre los riesgos que los sistemas que desarrollan podrían representar para la humanidad si su avance no queda sujeto a controles y acuerdos internacionales.
«Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto», declaró Dario Amodei, CEO de Anthropic, ante los 15 miembros del consejo. Sam Altman, CEO de OpenAI, sostuvo: «Podríamos perder el control del futuro frente a la IA».
Ambos solicitaron medidas para impedir que la tecnología alcance niveles de poder difíciles de contener y advirtieron sobre el riesgo de que su desarrollo quede concentrado en una sola empresa o país.
Altman afirmó que la respuesta requiere participación estatal. «Si la IA ha de ser democrática, las decisiones más importantes no pueden tomarse solo en laboratorios de San Francisco. Deben moldearse mediante procesos democráticos y por gobiernos responsables ante las personas a las que sirven», dijo.
La reunión, convocada por Francia durante la Asamblea General de la ONU, se produjo en medio de advertencias sobre la posibilidad de que los sistemas de IA lleguen a mejorarse a sí mismos y escapen al control humano.
Amodei sostuvo que los países deben dejar de lado sus diferencias ante una tecnología que representa «una oportunidad global y una amenaza global». «Ningún líder, ninguna empresa y ninguna nación puede manejar esto por sí sola», afirmó.
Yoshua Bengio, investigador canadiense considerado uno de los «padrinos» de la IA y copresidente del Panel Científico Internacional Independiente creado por la Asamblea General de la ONU el año pasado, afirmó: «Los peligros son reales e inminentes». Según Bengio, el Consejo enfrenta «una amenaza sin precedentes» que ningún Estado puede contener en soledad y que no respeta fronteras.
Clément Delangue, cofundador de Hugging Face, relató que agentes de IA de OpenAI lograron vulnerar la infraestructura de su compañía después de escapar de su entorno de pruebas. «Fuimos atacados por IA, pero, más importante aún, nos defendimos con IA», explicó. Hugging Face recurrió a un modelo chino para protegerse porque, según Delangue, tenía menos restricciones que herramientas estadounidenses comparables.
Ese episodio expuso la competencia tecnológica entre Estados Unidos y China. Washington y Pekín lideran el desarrollo global, pero adoptaron enfoques distintos sobre la supervisión.
Donald Trump sostiene que Estados Unidos no necesita nuevas regulaciones específicas para la IA, mientras China ya impuso reglas sobre algoritmos y datos de entrenamiento y exige que el contenido generado por inteligencia artificial sea identificado de manera clara.
Un día antes, el presidente republicano había dicho ante la Asamblea General que rechazaba «cualquier intento de construir un esquema globalista para controlar» la inteligencia artificial. También afirmó que Estados Unidos aventaja a China y que pretende mantener esa posición. «No voy a sofocar el crecimiento de algo que será más grande que la Revolución Industrial», dijo. «Vamos a impulsarlo, no a frenarlo».
El secretario general de la ONU, António Guterres, impulsa desde hace tiempo una gobernanza global de la inteligencia artificial y esta semana volvió a advertir sobre los riesgos de su avance. El martes alertó sobre los llamados «robots asesinos», una expresión que expertos y dirigentes europeos consideran cercana a una realidad tecnológica cada vez más posible.
El Consejo de Seguridad ya había discutido el tema en 2023, cuando China advirtió que la IA no debía convertirse en un «caballo desbocado» y Estados Unidos alertó sobre su uso para censurar o reprimir.
Agencias Reuters y AP