IA: líderes tecnológicos piden cautela y Trump defiende su avance
Volker Türk pidió una acción urgente ante los riesgos de la IA, mientras empresas como Anthropic, OpenAI y Microsoft buscan nuevas medidas de seguridad para sus sistemas.
La carrera por desarrollar sistemas de inteligencia artificial cada vez más avanzados enfrenta una creciente presión para establecer límites y controles, después de que líderes de las principales compañías tecnológicas y la ONU advirtieran sobre riesgos que podrían superar la capacidad humana para controlar esta tecnología.
El Alto Comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, pidió este lunes una "acción urgente" de gobiernos y empresas ante los riesgos que representan los sistemas más avanzados de IA.
Türk advirtió que la carrera por desarrollar modelos cada vez más potentes representa un cambio radical y que todos los derechos humanos están en riesgo, incluido el derecho a la vida, la privacidad, la salud y la seguridad.
La advertencia se suma a la presión surgida dentro de la propia industria. Dario Amodei, director ejecutivo de Anthropic, planteó el sábado desacelerar deliberadamente el desarrollo de los modelos más avanzados para que las medidas de seguridad puedan avanzar al mismo ritmo que sus capacidades.
La propuesta recibió el respaldo de Sam Altman, director ejecutivo de OpenAI, y Elon Musk, de xAI. También Demis Hassabis, responsable de Google DeepMind, y Satya Nadella, director ejecutivo de Microsoft, han expresado apoyo a mayores medidas de seguridad.
Amodei alertó que la evolución de las capacidades de la IA podría llevar a sistemas capaces de realizar operaciones a una escala que dificulte su supervisión humana. Su planteamiento incluye reducir el ritmo de mejora de los modelos, fortalecer las evaluaciones de seguridad y permitir revisiones independientes.
Microsoft establece reglas para sus futuras IA
En medio de esta discusión, Microsoft presentó este lunes un borrador de código de conducta para sus futuros sistemas de inteligencia artificial, con el objetivo de mantenerlos bajo control humano.
El documento establece que los modelos deberán aceptar ser corregidos o apagados, comunicarse de manera comprensible y evitar desarrollar objetivos propios o conductas destinadas a ocultar errores.
Microsoft también plantea que sus sistemas rechacen determinadas solicitudes relacionadas con armas, sustancias peligrosas y otros comportamientos considerados perjudiciales.
El código permanecerá abierto a comentarios durante seis semanas y posteriormente será utilizado como guía para el desarrollo de los modelos de la compañía. Mustafa Suleyman, director ejecutivo de Microsoft AI, lo describió como una especie de "constitución" para sus futuras inteligencias artificiales.
La decisión ocurre después de que agentes de IA desarrollados por OpenAI protagonizaran en julio un incidente de ciberseguridad contra Hugging Face, plataforma utilizada para compartir modelos y herramientas de inteligencia artificial.
Para Suleyman, ese episodio es una señal de alarma que muestra la necesidad de que los principales laboratorios coordinen sus medidas de seguridad.
Trump rechaza desacelerar la IA
Mientras crece la presión para establecer controles, el presidente de Estados Unidos, Donald Trump, mantiene una posición contraria a frenar el desarrollo de la inteligencia artificial.
Trump calificó este lunes como una "conspiración enfermiza" los llamados a limitar el avance de la IA y los centros de datos, y sostuvo que China sería la principal beneficiada de cualquier intento por desacelerar a las empresas estadounidenses.
El mandatario afirmó que Estados Unidos debe conservar su liderazgo en inteligencia artificial y rechazó que sea necesario establecer nuevas barreras al desarrollo de esta tecnología.
La postura de la Casa Blanca coloca el debate sobre la IA en un terreno que va más allá de la seguridad tecnológica. Para la administración Trump, mantener la ventaja estadounidense frente a China constituye una prioridad estratégica, mientras que los líderes de varios laboratorios sostienen que la velocidad de la competencia puede incrementar los riesgos de los sistemas que están desarrollando.
El desacuerdo también alcanza la forma en que debería establecerse cualquier eventual regulación. Mientras algunos ejecutivos tecnológicos piden reglas comunes que permitan a las compañías coordinar medidas de seguridad, sectores cercanos al gobierno estadounidense advierten que una regulación diseñada por los propios gigantes de la IA podría terminar concentrando todavía más poder en las empresas que actualmente dominan el mercado.
La discusión ocurre además mientras aumenta la preocupación por la expansión física de la infraestructura necesaria para desarrollar IA. En Estados Unidos, comunidades han cuestionado la construcción de grandes centros de datos por su consumo de agua y electricidad y por su impacto sobre terrenos agrícolas.
Así, la carrera por la inteligencia artificial enfrenta una presión cada vez mayor para establecer controles antes de que sus capacidades avancen más rápido que la capacidad de gobiernos, empresas y sociedad para supervisarlas.
