Inteligencia artificial en el Consejo de Seguridad de la ONU
La inteligencia artificial llegó este miércoles al Consejo de Seguridad de las Naciones Unidas, donde ejecutivos de algunas de las principales empresas del sector y expertos internacionales advirtieron sobre los riesgos asociados al rápido desarrollo de esta tecnología y pidieron una mayor cooperación entre los gobiernos.
La reunión, convocada por Francia durante la Asamblea General de la ONU, estuvo centrada en las implicaciones de los sistemas avanzados de inteligencia artificial para la seguridad internacional. Es la segunda vez que el Consejo de Seguridad aborda específicamente los riesgos de la IA, después de una primera reunión sobre el tema en 2023.
Sam Altman pide cooperación internacional
El director ejecutivo de OpenAI, Sam Altman, sostuvo ante el Consejo de Seguridad que las decisiones más importantes sobre el desarrollo de la inteligencia artificial no deberían quedar únicamente en manos de empresas tecnológicas.
Altman afirmó que, si la IA debe desarrollarse de manera democrática, las decisiones fundamentales tienen que estar sujetas a procesos democráticos y a gobiernos responsables ante sus ciudadanos. También pidió establecer estándares internacionales para la inteligencia artificial y mecanismos rápidos para informar incidentes relacionados con la seguridad de estos sistemas. Así mismo, planteó además que la gestión de los riesgos de la IA supera la capacidad de una sola compañía y requiere coordinación a escala internacional.
Anthropic advierte sobre posibles riesgos para la humanidad
Dario Amodei, director ejecutivo de Anthropic, empresa estadounidense de inteligencia artificial fundada en 2021 por antiguos investigadores de OpenAI, también intervino ante el Consejo de Seguridad. El empresario señaló que, si la inteligencia artificial se administra de manera inadecuada, podría representar un riesgo para la humanidad. Amodei pidió dejar de lado las diferencias entre países y empresas para abordar conjuntamente los riesgos y oportunidades asociados al desarrollo de sistemas cada vez más avanzados.
El científico Yoshua Bengio, considerado uno de los referentes internacionales en inteligencia artificial y copresidente del Panel Científico Internacional Independiente sobre IA de la ONU, calificó los riesgos asociados a una eventual pérdida de control de estos sistemas como una amenaza sin precedentes. Según Bengio, entre los principales riesgos están el uso malicioso de la IA, la concentración de poder y la posibilidad de perder el control sobre sistemas avanzados.
Estados Unidos y China plantean posiciones diferentes
En la reunión también evidenció las diferencias entre las principales potencias tecnológicas sobre cómo debe regularse la inteligencia artificial, ya que el representante estadounidense Michael Kratsios rechazó la creación de un sistema global centralizado para regular la IA y sostuvo que los países deberían concentrarse en compartir buenas prácticas y desarrollar capacidades nacionales.
China, por su parte, defendió una mayor cooperación internacional, así como la actualización de los marcos regulatorios y de los mecanismos de respuesta ante emergencias relacionadas con la inteligencia artificial. Estas diferencias reflejan uno de los principales debates actuales: cómo establecer mecanismos internacionales de seguridad sin frenar el desarrollo de una tecnología que también está siendo utilizada en áreas como investigación, ciberseguridad y productividad.
La IA también puede utilizarse para defenderse de ataques
Clément Delangue, cofundador de Hugging Face, empresa y plataforma tecnológica especializada en inteligencia artificial y aprendizaje automático, presentó otra perspectiva durante la reunión, y explicó que su empresa había utilizado herramientas de inteligencia artificial para defenderse de un ataque realizado por agentes de IA.
¿Qué busca la ONU frente al avance de la IA?
El secretario general de Naciones Unidas, António Guterres, ha defendido durante los últimos años la necesidad de establecer mecanismos internacionales para gestionar los riesgos de la inteligencia artificial. En su último discurso ante la Asamblea General, pronunciado ayer 22 de septiembre, Guterres volvió a pedir una mayor gobernanza internacional de la IA y un marco multilateral para gestionar sus riesgos.
La discusión en el Consejo de Seguridad demuestra que la inteligencia artificial no es únicamente un asunto tecnológico y ahora forma parte de las conversaciones internacionales sobre seguridad, cooperación entre países y gobernanza.
Siendo así, en la actualidad no existe un acuerdo global sobre un único modelo para regular la IA. Aún se tiene el debate entre mecanismos internacionales más estrictos, como Estados Unidos que ha rechazado una estructura global centralizada, y China que, por otro lado, ha defendido una mayor cooperación entre países.
Acerca del autor
