Directivos de IA advierten sobre riesgos de seguridad ante la ONU

Los sistemas de inteligencia artificial presentan la capacidad de mejorar por sí mismos y escapar al control humano en el corto plazo, plantearon directivos del sector tecnológico ante el Consejo de Seguridad de la ONU.

La asamblea anual contó con la comparecencia de los directores ejecutivos Sam Altman, de OpenAI; Dario Amodei, de Anthropic; y el cofundador de Hugging Face, Clément Delangue.

Si se gestiona mal, incluso creo que la IA podría suponer un riesgo para la humanidad en su conjunto

Dario Amodei
Anthropic

Las administraciones gubernamentales enfrentan dificultades para supervisar el avance de las plataformas, las cuales evolucionan a mayor velocidad que las capacidades de los entes reguladores.

Regulación y cooperación internacional

"Para que la IA sea democrática, las decisiones más importantes no pueden tomarlas únicamente los laboratorios de San Francisco. Deben configurarse mediante procesos democráticos y por gobiernos que rindan cuentas ante las personas a las que sirven", expuso Altman.

El director ejecutivo de OpenAI precisó durante la sesión que "a nivel internacional, esto requerirá cooperación".

"A lo largo de nuestra historia, ha habido momentos en los que países que compiten entre sí y que no siempre se caen muy bien se han unido por intereses comunes y por el bien colectivo ante una nueva tecnología poderosa. Creemos que este debe ser uno de esos momentos", detalló.

Yoshua Bengio, copresidente del Panel Científico Internacional Independiente, indicó ante el pleno que "los peligros son reales e inminentes".

"Este Consejo se enfrenta a una amenaza sin precedentes, una que ninguno de sus miembros elegiría, que ninguno puede contener por sí solo y que no respeta las fronteras que defendemos", señaló Bengio.

Posturas gubernamentales sobre el desarrollo

Los gobiernos de Estados Unidos y China debaten la creación de un sistema conjunto para notificar objetivos y amenazas originadas por esta tecnología que alcancen niveles de seguridad nacional.

Este diálogo ocurre de forma previa a la reunión programada para este jueves en Washington entre el presidente estadounidense, Donald Trump, y el líder chino, Xi Jinping.

En su intervención en la Asamblea General de la ONU, el mandatario estadounidense expresó que "rechaza cualquier intento de construir un plan globalista para controlar" estas herramientas.

"Ahora mismo llevamos una gran ventaja sobre China y sobre todos los demás, y vamos a mantener esa situación", afirmó Trump.

"No voy a frenar el crecimiento de algo que será más grande que la Revolución Industrial", reiteró.

"Vamos a fomentarla, no a frenarla. La supervisaremos de cerca a través del Departamento de Justicia", añadió el mandatario.

Por su parte, el secretario general de la ONU, António Guterres, mantiene una postura enfocada en establecer una gobernanza internacional frente a los riesgos tecnológicos, estrategia que difiere de la implementada por la administración estadounidense.