El secretario general de la ONU, Antonio Guterres, respaldó el lunes una propuesta de algunos ejecutivos de inteligencia artificial para la creación de un organismo internacional de vigilancia de la IA como la Agencia Internacional de Energía Atómica (OIEA).
La tecnología de IA generativa que puede generar prosa autorizada a partir de indicaciones de texto ha cautivado al público desde que se lanzó ChatGPT hace seis meses y se convirtió en la aplicación de más rápido crecimiento de todos los tiempos. La IA también se ha convertido en un foco de preocupación por su capacidad para crear imágenes falsas y otra información errónea.
“Las campanas de alarma sobre la última forma de inteligencia artificial, la IA generativa, son ensordecedoras. Y son más fuertes por parte de los desarrolladores que la diseñaron”, dijo Guterres a los periodistas. “Debemos tomar esas advertencias en serio”.
Ha anunciado planes para comenzar a trabajar a finales de año en un organismo asesor de IA de alto nivel para revisar periódicamente los acuerdos de gobernanza de IA y ofrecer recomendaciones sobre cómo pueden alinearse con los derechos humanos, el estado de derecho y el bien común.
Pero el lunes agregó: “Yo sería favorable a la idea de que pudiéramos tener una agencia de inteligencia artificial… inspirada en lo que es hoy la agencia internacional de energía atómica”.
Guterres dijo que tal modelo podría ser “muy interesante”, pero señaló que “solo los estados miembros pueden crearlo, no la Secretaría de las Naciones Unidas”. El OIEA, con sede en Viena, fue creado en 1957 y promueve el uso seguro, protegido y pacífico de las tecnologías nucleares mientras vigila posibles violaciones del Tratado de No Proliferación (TNP). Tiene 176 estados miembros.
El creador de ChatGPT, OpenAI, dijo el mes pasado que un organismo como el OIEA podría imponer restricciones en el despliegue, verificar el cumplimiento de los estándares de seguridad y rastrear el uso de la potencia informática.
El primer ministro británico, Rishi Sunak, también apoyó la idea y dijo que quiere que Gran Bretaña sea el hogar de la regulación global de seguridad de la IA. Gran Bretaña organizará una cumbre a finales de este año sobre cómo la acción internacional coordinada puede abordar los riesgos de la IA.
Guterres dijo que apoyaba el plan para una cumbre en Gran Bretaña, pero dijo que debería estar precedida por un “trabajo serio”. Dijo que planea nombrar en los próximos días una junta asesora científica de expertos en inteligencia artificial y científicos principales de las agencias de la ONU.
ifm – noticias