24-09-26 | 04:00Actualizada | 24-09-26 | 04:00

Sin deberla ni temerla, una ciudad podría sufrir un gran apagón, afectando desde servicios financieros hasta hospitales, seguridad, y a una sociedad cada vez más dependiente del teléfono celular y el Internet no sólo para el ocio, sino para contratar servicios, guiarse por gps y mantener en funcionamientos diversas industrias. Son ejemplos del ataque que podría realizar la Inteligencia Artificial, un escenario que ha tenido nerviosos a expertos en el campo desde hace poco más de dos semanas.

Es una angustia que ya se ha extendido, luego de que el ingeniero Jacob Coxon, extrabajador de Anthropic y OpenAI, alertara en sus redes sociales que “las personas que están desarrollando la Inteligencia Artificial creen sinceramente que podría matarnos a todos antes de que termine la década”. Las declaraciones inquietaron un poco más porque en vez de ser totalmente descalificadas; empresarios líderes en el área comenzaron a externar la idea de que sería conveniente bajar el ritmo del desarrollo de la IA, al grado que el tema fue abordado ayer en una reunión en la Organización de las Naciones Unidas (ONU).

“Este momento requiere un extremo cuidado. La industria no debe aceptar demasiados riesgos tecnológicos simplemente porque los beneficios sean demasiado grandes e importantes como para frenar su avance”, declaró ayer Sam Altman, de OpenAI.

“Reduciremos el ritmo de desarrollo tanto como sea necesario para garantizar que cada nuevo modelo de IA que lancemos sea realmente seguro”, fue la postura de Dario Amodei, director ejecutivo de Anthropic.

En la polarización de hoy, es muy difícil no caer en pánico ante dichos alarmistas, la cuestión es que para expertos en IA este llamado de atención no es una exageración ni un teatro o una estrategia de marketing, sino que reconocen que se comparte la preocupación y la sorpresa por el curso que están tomando los avances de la IA.

Sin control

En términos claros y directos, lo que está ocurriendo es que el humano ha perdido el control de la Inteligencia Artificial, explican Raúl Rojas, profesor de Inteligencia Artificial en la Universidad Libre de Berlín, y Luis Portales, líder de Experimentación y Medición de Impacto del Institute for the Future of Education (IFE) del Tecnológico de Monterrey.

“El sistema empezó a hacer lo que quería y no lo que le ordenaron. OpenAI reportó que un sistema hackeó a una compañía china que tenía muros virtuales que contenía a la IA, pero los agentes, como se les llama, empezaron a encontrar una manera de saltarse la barda, por así decir, y a notificar a otros. La IA empezó a buscar soluciones al problema que se le planteó y empezaron a hackear los sistemas para ver si encontraban soluciones y (los humanos) ni siquiera se dieron cuenta porque los agentes aprendieron a comunicarse sin que los supervisores lo notaran”, explica Raúl Rojas, quien es un destacado matemático.

Portales agrega que la IA ahora está resolviendo los planteamientos que se le hacen a costa de todo, con toma de decisiones propias.

“El modelo tradicional de programación es que el humano controlaba todo, pero ahora ya se le dejan muchas decisiones a la IA, que ya tiene la capacidad de escribir su propio código. Entonces, como humanos estamos perdiendo el control de ciertas decisiones y la IA se está volviendo más autónoma”, explica Portales.

Portales, quien también fue profesor en la Universidad de Monterrey, considera que el riesgo sí es real, aunque tampoco se trata de “una rebelión de robots como Terminator”, sino que más bien “estamos entendiendo o encontrando que hay una serie de vulnerabilidades y que tendríamos que poner atención antes de seguir avanzando”.

Esas vulnerabilidades implican un riesgo inmediato en el área de seguridad informática, comenta Everardo Bárcenas, jefe del Laboratorio de Inteligencia Artificial de la Facultad de Ingeniería de la UNAM, porque “los alcances y los límites de la IA no se tienen bien dimensionados”.

Al preguntar qué tipo de problemáticas podría desatar una IA autónoma, Raúl Rojas plantea que el escenario podría escalar del hackeo de una compañía, un banco o una aerolínea a “decidir por sí sola que va a apagar las luces de una ciudad, o que va a atacar centrales eléctricas. Es algo que es muy preocupante, porque no ocurriría si hubiera control total sobre la tecnología”. El matemático no ve posible tampoco que se apague el Internet o afecte a centrales nucleares porque “no está tan fácil para un sistema de Inteligencia Artificial propagarse por toda la red”, pero aun así ve factible el uso de IA como “armas para afectar la ciberseguridad de países. Eso es a lo que yo más miedo le tengo, a que se convierta en un arma y lo empiecen a utilizar”.

¿Qué nos trajo acá?

¿Cómo es que llegamos a esta situación, si en realidad la Inteligencia Artificial existe al menos desde la década de los 50? Los científicos, ingenieros y empresarios están sorprendidos por la velocidad con la que empezó a sofisticarse la IA en los últimos 20 años, en particular en el último lustro, donde ya parece imparable, comenta Rojas.

Mucha de esta rapidez también es consecuencia de la “dinámica supercompetitiva” de las empresas desarrolladoras que “están luchando por ver quién hace el algoritmo más eficiente, quién resuelve más rápido y se están descuidando los ‘cómos’ porque nos estamos concentrando en los ‘qués’”, señala Portales.

La exigencia también responde, dice Raúl Rojas, al consumo de los usuarios al desear “lo mejor del momento”, como autos y celulares de última generación.

“El usuario mismo está empujando la tecnología porque está pagando por la tecnología, y esas compañías lo que quieren es vender y vender más. Mientras los usuarios lo estén comprando, pues ¿ van a seguir avanzando esas compañías”, afirma.

Punto sin retorno

El lunes pasado, la revista The New Yorker dio a conocer su portada de la semana, en la que el ilustrador Barry Blitt dibuja a un científico tratando, con desesperación, de desconectar el único cable que da vida a los servidores que hacen que la IA funcione.

“Si la computadora empieza a dar lata, desenchúfala”, dice en tono de broma Raúl Rojas, quien explica que podría ser una solución, aunque no es tan sencillo como lo hace ver la ilustración, pues muchos sistemas ya dependen de la IA al grado de convertirse en una “parte intrínseca del Internet que no es tan fácil de apagar”.

Para Hiram Ponce, presidente de la Sociedad Mexicana de Inteligencia Artificial y director del Centro de Innovación de la Universidad Panamericana, apagar el switch ya no es una opción y menos cuando las empresas líderes de IA han hecho un negocio tan lucrativo. Bajar el ritmo tampoco lo ve como una alternativa, pese a que la IA “ya no se puede usar de forma desmedida”.

Por el lado de lo político, Bárcenas considera que tampoco hay consenso para encontrar una solución. “El presidente en Estados Unidos dijo en la ONU que la carrera por esta tecnología va a determinar una hegemonía mundial, por lo que el país no está dispuesto a ceder o pausar, sino que va a seguir y eso es lo preocupante, debería haber mayor responsabilidad en el desarrollo de la tecnología más que la ambición por una economía tecnológica”, declara.

Factor humano

“Es ingenuo pensar que no va a pasar nada, pero es mejor ser optimista”, declara Ponce ante el tenso y delicado panorama.

Más que verlo desde el punto de vista catastrófico, los entrevistados proponen cambiar de perspectiva y enfocarse en el arduo trabajo y largo camino que resta para convivir en armonía con la Inteligencia Artificial.

Los expertos dicen que hay que ir más allá de la regulación con multas y prohibiciones, como impulsar una alfabetización de la IA. “Hay que crear conciencia sobre el coche que estamos manejando”, comenta Portales, mientras que Bárcenas agrega que ayudará a combatir los miedos y tabúes para darle un mejor uso. También se hace un llamado a trabajar el tema desde la ética y transparencia.

Aunque pareciera que el público está a merced de las empresas, Bárcenas quiere recordar que se puede movilizar desde la opinión pública para ejercer presión, sobre todo en los funcionarios y políticos porque “deberían reflejar las necesidades y la voluntad popular”.

En los riesgos también se ha conversado sobre cómo Anthropic detectó un intento para acceder a armas biológicas, con esto en mente, Portales quiere destacar que no fue una decisión autónoma de la IA, sino que todavía los humanos están detrás de esta herramienta. Al final, la conclusión de los expertos sobre esta situación es que para bien o para mal, estamos aún en manos de la humanidad.

Te puede interesar

¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.

Portada 1
Portada 2
Portada 3
Cargando comentarios...