El secretario general de la ONU, António Guterres, llamó a los gobiernos y empresas que desarrollan inteligencia artificial (IA) a trabajar de manera coordinada para enfrentar los riesgos asociados con esta tecnología y evitar una “carrera hacia el abismo” en materia de seguridad.
Durante un encuentro con periodistas de Naciones Unidas, Guterres advirtió que el desarrollo de la IA avanza rápidamente, incluso por delante de la comprensión de sus posibles riesgos.
El secretario general sostuvo que los gobiernos tienen la responsabilidad de proteger a la población frente a las amenazas que pueda generar esta tecnología, pero subrayó que la cooperación internacional también resulta indispensable.
“Necesitamos barreras de seguridad para generar confianza” y garantizar que la IA sea segura, transparente y responsable, con la dignidad humana como prioridad, señaló.
Debate entre líderes tecnológicos
Guterres se refirió a la propuesta de Dario Amodei, director ejecutivo de Anthropic, para coordinar una desaceleración en el desarrollo de la IA entre las principales empresas tecnológicas y los gobiernos.
En los últimos días, Sam Altman, de OpenAI, y Elon Musk, de SpaceXAI, también han planteado la necesidad de reforzar las medidas de seguridad. En contraste, Mark Zuckerberg, director ejecutivo de Meta, rechazó una pausa coordinada y sostuvo que cada empresa debe encargarse de garantizar la seguridad de sus propios sistemas.
El escenario también enfrenta obstáculos por la competencia entre empresas y países, particularmente entre Estados Unidos y China, además de los intereses económicos relacionados con el desarrollo de esta tecnología.
El presidente estadounidense Donald Trump también ha cuestionado las advertencias sobre una posible amenaza existencial de la IA y se ha pronunciado contra los esfuerzos para limitar su desarrollo.
ONU advierte sobre posibles impactos
Guterres ha destacado el potencial de la inteligencia artificial para impulsar áreas como la educación, el desarrollo económico y los sistemas de salud, pero también ha advertido sobre los riesgos de una IA fuera de control.
El primer organismo científico mundial sobre IA, creado por iniciativa de Guterres y puesto en marcha por la Asamblea General en 2025, publicó en julio un informe preliminar en el que alertó sobre posibles efectos en la salud mental, los sistemas sociales, económicos y ambientales, además de posibles usos destructivos y dificultades para mantener el control sobre tecnologías cada vez más avanzadas.
El secretario general señaló que Naciones Unidas continuará analizando medidas para promover un desarrollo seguro, protegido y responsable de la IA, así como posibles mecanismos de seguridad para sistemas más potentes.
Aunque consideró que una cumbre internacional sobre inteligencia artificial sería necesaria, explicó que la reunión de líderes mundiales de la próxima semana no contará con tiempo suficiente para organizarla adecuadamente.
Guterres sostuvo que, cuando se lleve a cabo, una eventual cumbre debería incluir a gobiernos, empresas, científicos y sociedad civil para alcanzar acuerdos sobre el desarrollo y la seguridad de la inteligencia artificial.
