El Secretario General de la ONU, António Guterres, advirtió este miércoles ante el Consejo de Seguridad sobre los riesgos asociados a una inteligencia artificial (IA) sin regulación. Durante un debate centrado en las implicaciones de seguridad que esta tecnología tiene en la transformación de la guerra, Guterres enfatizó que la IA ya está presente en nuestras vidas, modificando el espacio informativo y la economía global a un ritmo acelerado.
“La pregunta no es si la IA influirá en la paz y seguridad internacionales, sino cómo daremos forma a esa influencia”, declaró el Secretario General. Afirmó que, si se utiliza de manera responsable, la IA puede ser una herramienta valiosa para anticipar crisis alimentarias, apoyar operaciones de desminado y detectar brotes de violencia antes de que se intensifiquen.
Riesgos y control humano
No obstante, Guterres advirtió que sin las debidas salvaguardias, esta tecnología podría ser militarizada. Mencionó ejemplos recientes donde se ha utilizado IA para dirigir ataques en conflictos armados y realizar ciberataques contra infraestructuras críticas. Además, destacó el peligro de los deepfakes, que pueden alimentar la polarización social y socavar los esfuerzos diplomáticos.
“La capacidad de fabricar y manipular audio y video amenaza la integridad de la información”, subrayó Guterres. “El destino de la humanidad no puede quedar en manos de un algoritmo”. En este sentido, estableció cuatro prioridades para los gobiernos: garantizar el control humano sobre el uso de la fuerza, crear marcos normativos globales coherentes, proteger la integridad informativa y abordar la «brecha de capacidad en materia de IA» entre naciones ricas y pobres.
Prohibición de armas autónomas
Guterres reiteró su llamado a prohibir los sistemas de armas autónomas letales que operan sin intervención humana. “Debemos concluir un instrumento jurídicamente vinculante para el próximo año”, afirmó con firmeza. También insistió en que las decisiones relacionadas con armas nucleares deben seguir siendo responsabilidad humana.
A lo largo del debate, se mencionaron iniciativas como la creación de un panel científico independiente sobre IA y un nuevo diálogo global sobre gobernanza tecnológica que tendrá lugar en Nueva York. Estas acciones buscan conectar ciencia y políticas para ofrecer representación a todos los países involucrados.
Aumentar el acceso a la IA
Yejin Choi, investigadora senior del Instituto de Inteligencia Artificial Centrada en el Ser Humano en Stanford, también participó en el Consejo. Señaló que el avance actual en IA está concentrado en unas pocas empresas y países. “Cuando solo unos pocos tienen recursos para desarrollar y beneficiarse de esta tecnología, dejamos al resto del mundo esperando”, expresó Choi.
Choi abogó por ampliar las oportunidades para todos en el desarrollo tecnológico e instó a los gobiernos e instituciones internacionales a invertir en enfoques más inclusivos que vayan más allá del simple escalado de modelos grandes. Destacó además la necesidad de una mayor representación lingüística y cultural dentro del ámbito tecnológico.
Urgencia en la regulación
El Secretario General concluyó su intervención advirtiendo sobre el cierre inminente de la ventana para implementar regulaciones efectivas. “Históricamente, hemos sabido responder ante tecnologías potencialmente desestabilizadoras estableciendo reglas e instituciones”, recordó Guterres.
“La oportunidad para moldear la IA —en pro de la paz, justicia y humanidad— se está cerrando rápidamente. Debemos actuar sin demora”, finalizó.
La sesión del Consejo se llevó a cabo durante la semana alta de la 80.ª sesión de la Asamblea General. La reunión fue convocada por Corea del Sur, país presidente del Consejo durante septiembre, con participación destacada del Presidente Lee Jae Myung.
Preguntas sobre la noticia
¿Qué advirtió António Guterres sobre la inteligencia artificial (IA)?
António Guterres, Secretario General de la ONU, advirtió que la IA representa graves riesgos si no se regula adecuadamente y enfatizó la necesidad de mantener el control humano sobre su uso, especialmente en contextos de seguridad y armas.
¿Cuáles son las prioridades que estableció Guterres para los gobiernos respecto a la IA?
Guterres estableció cuatro prioridades: mantener el control humano sobre el uso de la fuerza, crear marcos normativos globales coherentes, proteger la integridad de la información y cerrar la brecha de capacidad en materia de IA entre países ricos y pobres.
¿Qué medidas se están tomando para regular la IA?
Se están llevando a cabo iniciativas como la creación de un panel científico independiente sobre IA y un nuevo diálogo global sobre gobernanza de esta tecnología, con el objetivo de conectar ciencia, políticas y práctica.
¿Por qué es importante ampliar el acceso a la IA según Yejin Choi?
Yejin Choi destacó que el avance actual en IA está concentrado en pocas empresas y países. Ampliar el acceso permitiría que más personas participen en su desarrollo y beneficios, promoviendo una inclusión más amplia.
¿Cuál es la advertencia final de Guterres sobre la regulación de la IA?
Guterres concluyó que la ventana de oportunidad para una regulación efectiva se está cerrando rápidamente, instando a actuar sin demora para moldear la IA hacia fines pacíficos y justos.
Si (
No(
