Jefe de la ONU propone un pacto mundial que gestione el desarrollo de la inteligencia artificial

Naciones Unidas.- El secretario general de la ONU, António Guterres, propuso un pacto mundial para gestionar las tecnologías digitales, incluido el rápido avance de la inteligencia artificial (IA), que según advierte la organización puede traer amenazas difíciles de controlar.

Guterres, que en 2021 puso sobre la mesa la idea de un Pacto Digital Mundial que ya abogaba por promover la regulación de la IA, detalló este lunes en un documento de unas 30 páginas sus ideas sobre cómo hacerlo.

La intención de Naciones Unidas es que gobiernos, sector privado y la sociedad civil puedan adoptar ese gran acuerdo en septiembre de 2024, durante la llamada Cumbre del Futuro convocada por la organización.

Aunque el Pacto Digital Mundial que propone Guterres es muy amplio, uno de sus ejes más destacados es el de la inteligencia artificial, sobre todo después de los rápidos avances que se han visto en los últimos meses.

"Estamos empezando a darnos cuenta de la escala de su potencial disruptivo, tanto positivo como negativo, pero aún tenemos que unirnos para considerar los problemas y colaborar en la identificación de riesgos y formas ágiles de mitigarlos", explica el diplomático portugués.

Lee también Inteligencia artificial plantea riesgo de extinción como las pandemias y la guerra nuclear, advierten

En un discurso este lunes, Guterres destacó que recientemente se ha superado un "umbral digital, con el uso generalizado de IA generativa en la forma de ChatGPT y muchas otras aplicaciones", una tecnología que tendrá un gran impacto, pero que no está claro que vaya a ser bueno.

"La perspectiva de un mayor progreso tecnológico ahora plantea a menudo más miedo que esperanza. Incluso aquellos que han desarrollado IA y que se beneficiarían más de ella han expresado una profunda preocupación y pedido, incluso suplicado, acciones para su gobernanza", recalcó.

Una IA controlada por humanos a los que pedir cuentas

Guterres considera necesario asegurar que el diseño y uso de la IA sea transparente, seguro y que esté bajo un control de humanos a los que se puedan pedir cuentas, así que apuesta por combinar guías y normas internacionales, marcos regulatorios nacionales y estándares técnicos en un marco que facilite una gestión "ágil" de estas nuevas tecnologías.

Las recetas que propone, en general, buscan la cooperación entre autoridades y la industria y evitan leyes y regulaciones.

Lee también Casi 4 mil personas perdieron sus empleos en EU por la inteligencia artificial, revela informe

Así, entre las acciones que plantea aparecen la puesta en marcha urgente de un trabajo de investigación junto a las empresas para asegurar que los sistemas de IA sean seguros y que se alineen con valores humanos o el establecimiento de un grupo asesor de alto nivel con expertos que se reúnan regularmente para abordar estas cuestiones.

Además, pide a los gobiernos que pacten con la industria unas directrices que guíen el desarrollo de la inteligencia artificial o que lleguen a compromisos para reforzar la transparencia e incluir equipos de derechos humanos y ética en este trabajo.

Guterres, por último, llama a considerar "prohibiciones al uso de aplicaciones de tecnología cuyo potencial o impacto no pueda justificarse bajo la ley internacional de derechos humanos", aunque no especifica cuáles.

Ya desde hace años, el secretario general viene advirtiendo por ejemplo del riesgo que plantean las llamadas armas autónomas, sistemas militares guiados por inteligencia artificial que pueden tomar sus propias decisiones a la hora de lanzar un ataque.

Lee también "IA, fácil de engañar", dice coronel que negó prueba simulada con dron que "mató" a operador "humano"

mcc