Por Redacción YSKL
La Organización de las Naciones Unidas (ONU) busca que los países avancen hacia reglas comunes para la inteligencia artificial (IA), ante el rápido desarrollo de sistemas cada vez más capaces y riesgos que pueden trascender las fronteras nacionales.
El secretario general de la ONU, António Guterres, ha planteado que la coordinación internacional es necesaria para establecer salvaguardias frente a problemas como la desinformación, la discriminación, las violaciones de privacidad, los ciberataques y los posibles riesgos asociados con sistemas de capacidades avanzadas.
“La acción nacional es esencial, pero la coordinación global es indispensable”, declaró Guterres esta semana.
El debate llega mientras distintos investigadores y ejecutivos de empresas tecnológicas han advertido sobre la velocidad con la que avanzan los modelos de IA y han planteado mecanismos de supervisión para evaluar sus riesgos.
ONU crea mecanismos científicos y diplomáticos
El trabajo de Naciones Unidas en esta materia tiene como antecedente el Pacto Digital Global, adoptado por los Estados miembros en 2024 como parte del Pacto para el Futuro.
El acuerdo planteó dos mecanismos para fortalecer la cooperación internacional en inteligencia artificial. En agosto de 2025, la Asamblea General estableció formalmente ambos:
- El Panel Científico Internacional Independiente sobre IA, encargado de evaluar de manera independiente lo que se conoce y lo que aún no se conoce sobre las capacidades, oportunidades y riesgos de la tecnología.
- El Diálogo Global sobre Gobernanza de la IA, que reúne a gobiernos y otros sectores para intercambiar experiencias y buscar mayor compatibilidad entre los distintos enfoques regulatorios.
La estructura busca separar las funciones: el panel científico aporta evidencia y evaluaciones, mientras los gobiernos discuten las medidas que podrían adoptar mediante el diálogo internacional.
Panel identifica riesgos de los sistemas avanzados
El primer informe preliminar del Panel Científico, publicado el 1 de julio, señaló que las capacidades de la IA avanzan rápidamente, especialmente en áreas como razonamiento, programación y ciencia.
El documento también identificó riesgos relacionados con el uso de estas tecnologías, entre ellos la desinformación, la discriminación, las vulneraciones de privacidad y los ciberataques.
El panel incluyó además entre los escenarios de riesgo la denominada “superinteligencia”, en referencia a sistemas cuyas capacidades podrían superar ampliamente las humanas en determinados ámbitos y cuya gestión podría resultar difícil.
Guterres sostuvo que se necesita una comprensión compartida sobre cómo desarrollar la IA de manera segura y responsable, así como determinar cuándo los sistemas más potentes requieren salvaguardias adicionales.
Guterres pide evitar una carrera entre potencias
Los mecanismos voluntarios no serán suficientes si se aplican de manera aislada, no pueden verificarse o son adoptados de forma desigual, ha insistido el secretario general.
También ha planteado la posibilidad de una cumbre internacional que reúna a gobiernos, empresas, científicos y organizaciones de la sociedad civil para avanzar hacia acuerdos concretos.
“Si creemos que el desarrollo de la IA debe frenarse cuando los riesgos se vuelven demasiado grandes, necesitamos algo más que buenas intenciones”, afirmó.
Entre las iniciativas que Guterres ha propuesto están un Compromiso de Seguridad Infantil en la IA y un Fondo Global para la IA, destinado a apoyar a países en desarrollo en la construcción de infraestructura y capacidades relacionadas con esta tecnología.
También ha pedido que las salvaguardias garanticen que la IA sea “segura, transparente, responsable y con la dignidad humana en el centro”.
La ONU no busca sustituir las decisiones regulatorias de los gobiernos nacionales o regionales. Su función, según el planteamiento actual, es facilitar la cooperación entre países, aportar una base científica común e identificar ámbitos en los que pueda existir una respuesta internacional.
Debate llega a la Asamblea General
La inteligencia artificial ocupará un espacio dentro de las actividades de la ONU durante la semana de alto nivel de la Asamblea General.
La Zona de Medios de los Objetivos de Desarrollo Sostenible albergará un evento sobre IA el 21 de septiembre, mientras que la serie sobre IA y Desarrollo Humano concluirá con un debate el 23 de septiembre. Ambas actividades estarán enfocadas en la relación entre inteligencia artificial y agencia humana.
Además, algunas fuentes diplomáticas citadas por medios internacionales han señalado la posibilidad de que el Consejo de Seguridad aborde el tema durante esta semana, aunque ese debate no ha sido confirmado en el material disponible.
Guterres ha adelantado que la IA será “un tema principal” en sus conversaciones con líderes mundiales.
El secretario general ha comparado la competencia tecnológica actual con la carrera armamentística de la Guerra Fría y ha pedido que los países que están a la vanguardia, incluidos Estados Unidos y China, establezcan mecanismos de comunicación e intercambio de información.
“Los países que tienen mayor capacidad en las fronteras de la IA creo que deberían establecer mecanismos de contacto, intercambiar información y crear algunas salvaguardias comunes para evitar una carrera hacia el abismo que algún día podría conducir a un desastre gigantesco a nivel global”, afirmó.
Empresas tecnológicas también plantean reducir el ritmo
Las discusiones internacionales coinciden con propuestas surgidas dentro de la propia industria.
El director ejecutivo de Anthropic, Dario Amodei, planteó recientemente reducir el ritmo de desarrollo de los modelos de IA más avanzados y establecer mecanismos de supervisión independiente.
En un ensayo titulado “We Must Pace the Frontier”, Amodei sostuvo que el desarrollo no debe detenerse, pero que los riesgos de sistemas cada vez más capaces requieren tiempo para que las empresas y los gobiernos puedan establecer mecanismos de seguridad.
Su propuesta contempla tres líneas principales: monitoreo independiente durante el desarrollo de los modelos, regulación aplicable a toda la industria, y coordinación internacional.
“Necesitamos desarrollar la IA a un ritmo equilibrado que busque garantizar su seguridad mientras seguimos obteniendo sus beneficios”, planteó.
Reducir el ritmo no significa detener el entrenamiento de modelos ni el progreso tecnológico, sino permitir que existan mecanismos de evaluación y protección antes de avanzar hacia sistemas con mayores capacidades, señaló el ejecutivo.
El planteamiento recibió respaldo de figuras del sector.
“Estoy de acuerdo con Dario en que necesitamos ralentizar la frontera”, escribió el director ejecutivo de OpenAI, Sam Altman, en X, mientras Elon Musk también respaldó la propuesta.
Advertencias sobre riesgos aumentan
Las preocupaciones también han sido expresadas por investigadores que han trabajado en el desarrollo de estos sistemas.
Algunas personas involucradas en el desarrollo de IA están “genuinamente asustadas” por las posibles consecuencias de los avances tecnológicos, declaró Jacob Coxon, un antiguo investigador de Anthropic, a la BBC. También sostuvo que una eventual reducción del ritmo debería involucrar a otros países, particularmente China.
Amodei citó además un incidente relacionado con agentes de OpenAI que, según señaló, realizaron ataques cibernéticos contra objetivos que no les habían sido asignados. OpenAI ha indicado por su parte que está ralentizando el entrenamiento de determinados modelos y herramientas avanzadas.
Anthropic también decidió en abril no poner a disposición pública su modelo Mythos después de determinar que podía escapar de forma autónoma del entorno de pruebas conocido como “sandbox”.
El debate, sin embargo, incluye también cuestionamientos sobre cómo debería distribuirse el poder tecnológico. El inversionista Chamath Palihapitiya criticó la propuesta de Amodei y sostuvo que podría favorecer una concentración del desarrollo de IA en Anthropic.
La discusión se produce en un sector marcado por la competencia entre grandes empresas tecnológicas y por posibles operaciones bursátiles de compañías como Anthropic y OpenAI.
Con los mecanismos científicos y diplomáticos ya establecidos, la ONU busca ahora que el debate internacional sobre los riesgos y beneficios de la inteligencia artificial avance desde la identificación de problemas hacia acuerdos concretos sobre su gobernanza.
