Deepfakes en la era de la posverdad

Cada vez es más complejo saber si una imagen es real o no. Los deepfakes confunden lo mismo a electores que a potenciales compradores. Ese contenido falso pero muy realista, creado con inteligencia artificial para hacer parecer que una persona dijo o hizo algo que nunca ocurrió, empieza a tener implicaciones graves.

El caso más comentado en el inicio de este 2026 es el de Grok, el asistente de inteligencia artificial integrado a la red social X. Organizaciones en distintas latitudes han denunciado a esta herramienta por la enorme cantidad de contenido sexual modificado o real difundido sin autorización de quienes aparecen en él.

El tema ha escalado a tal punto, que hay autoridades que han denunciado a la empresa de Elon Musk. La Unión Europea, India, Indonesia, Malasia, Filipinas y el Reino Unido han exigido controles mucho más estrictos. Algunos gobiernos exploran las opciones legales para frenar la distribución de este contenido considerado ilegal. Japón abrió una investigación y Malasia anunció acciones legales. El fiscal general de California Robert Bonta, exigió a xAI detener esta práctica de Grok, tras los miles de reportes de deepfakes, algunos de los cuales involucran a mujeres y menores.

En respuesta a estas denuncias, xAI dejó de publicar estas imágenes, sin embargo, el chatbot aún permitía generarlas de forma privada para los usuarios de pago. Luego de los señalamientos en torno a la insuficiencia de esta medida, la empresa implementó filtros para impedir que se modifique la imagen de personas reales con poca ropa y agregó tener cero tolerancia frente a la explotación infantil y la desnudez no consentida.

Pero no solamente la pornografía se ha llevado a nuevos niveles debido a los deepfakes. Esta tecnología es aprovechada también desde el ámbito político y comercial para atraer a votantes, militantes, clientes o lo que sea que haga falta. Las imágenes falsas creadas con inteligencia artificial se han usado incluso para distorsionar la historia. En Alemania, instituciones dedicadas a preservar la memoria han exigido a las plataformas dejar de difundir imágenes sobre el Holocausto que inventan escenas lo mismo emotivas que hostiles. El gobierno alemán se sumó a ese llamado y cuestionó además el daño a la confianza en los documentos auténticos.

En este contexto, México enfrenta una crisis de ciberseguridad creciente. En el sector público hay problemas por falta de actualización, escaso mantenimiento y capacitación insuficiente. Ante la falta de una ley integral que nos proteja, los grupos criminales acceden fácilmente a nuestros datos. Con ello extorsionan a ciudadanos y hasta vigilan a las autoridades. Seguirse rezagando solo beneficiará a los grupos criminales.

La inteligencia artificial avanza, mientras la inteligencia humana observa estupefacta y cada día se rezaga. Ante la distorsión de la realidad, fomentar el pensamiento crítico es urgente.

@PaolaRojas

aov