El mito de los deepfakes se desvanece: la IA los hace accesibles
Lo que antes parecía reservado para el cine o el espionaje, ahora es una realidad al alcance de cualquiera. La inteligencia artificial ha transformado estas creaciones en una herramienta común y extendida.
Los nuevos engaños de la IA: lo que descubrí
Solía pensar que los deepfakes eran poco comunes. Los veía como curiosidades de alta tecnología, complejas y costosas. Parecían reservados para Hollywood o el espionaje estatal. Mi impresión inicial era que estos peligros eran casi míticos.
Luego investigué el contenido generado por IA, más allá del video. Mis suposiciones eran completamente erróneas. Estas herramientas son accesibles y están muy extendidas. Esa realidad cambió por completo mi perspectiva. Ya no se trata solo de videos manipulados.
Los deepfakes son un tipo específico de contenido multimedia de IA. Utilizan el aprendizaje profundo para crear imágenes, audio o video sintéticos realistas. Estas falsificaciones a menudo muestran a personas diciendo o haciendo cosas que nunca hicieron. El contenido generado por IA es una categoría más amplia. Incluye texto, imágenes y música. Los grandes modelos de lenguaje (LLMs) y los modelos de difusión crean este contenido.
Las herramientas de IA generativa ahora están disponibles de forma generalizada. Muchas son gratuitas o de bajo coste. Se puede acceder a ellas a través de interfaces web sencillas. Cualquier persona con conexión a internet puede crear falsificaciones convincentes en minutos. Este acceso generalizado ha transformado la información digital. Estas herramientas permiten a cualquiera crear fabricaciones creíbles.
El inquietante aumento de los medios sintéticos
El número de videos deepfake detectados en todo el mundo aumentó drásticamente en 2023. Sensity AI, una empresa de detección de deepfakes, registró un aumento del 900% entre 2019 y 2023. Esto no fue un crecimiento lento; fue una explosión.
Tras revisar las cifras, descubrí que más del 90% de los videos deepfake identificados eran imágenes íntimas no consentidas (NCII). Este uso específico suele tener como objetivo a las mujeres. Es una realidad cruda y perturbadora que supera con creces la manipulación política. Mi investigación reveló que esta tendencia no muestra signos de desaceleración.
Al principio pensé que la mayoría de los deepfakes eran propaganda política. Lo que más me sorprendió fue la abrumadora prevalencia del daño personal. Esto me hizo cambiar de opinión sobre quiénes son las principales víctimas. Los riesgos políticos son reales, pero el daño inmediato y generalizado suele afectar a los individuos.
Los perfiles de los creadores de este contenido también han cambiado. Ya no se trata solo de actores estatales o crimen organizado. Usuarios comunes, frecuentemente jóvenes, ahora crean falsificaciones convincentes. Esto hace que el problema sea más difícil de rastrear y regular, ya que las herramientas son demasiado accesibles.
Riesgos reales: de la política a la vida personal
Sensity AI, una empresa líder en detección de deepfakes, registró un asombroso aumento del 900% en los videos deepfake detectados en todo el mundo entre 2019 y 2023, lo que subraya la rápida escalada de las amenazas de los medios sintéticos. (Fuente: sensity.ai)
El 21 de enero de 2024, miles de votantes de New Hampshire recibieron un ‘robocall’ de IA. Imitaba la voz del presidente Joe Biden y les instaba a no votar en las primarias del estado. Esto demostró cómo el contenido de IA puede interferir con la democracia. Fue un ataque directo y evidente.
Mi investigación me reveló que estos riesgos no son teóricos. Tienen consecuencias en el mundo real, que a menudo son devastadoras para las personas. El fraude financiero es una amenaza importante, más allá de la política. Los delincuentes utilizan voces de IA para hacerse pasar por ejecutivos o familiares, engañando a las víctimas para que transfieran dinero.
El director ejecutivo de una empresa energética del Reino Unido fue engañado por un clon de voz de IA que imitaba a su jefe. La voz falsa exigió una transferencia urgente de 243.000 dólares a un proveedor húngaro. Esto demuestra lo sofisticados que son estos ataques, ya que las víctimas, con frecuencia, no dudan de la autenticidad.
El daño a la reputación y la extorsión también están muy extendidos. Los deepfakes de NCII arruinan vidas. Las víctimas, frecuentemente mujeres, se enfrentan a una grave angustia psicológica y al ostracismo social. Las fuerzas del orden tienen dificultades para mantenerse al día.
Las agencias de seguridad nacional están preocupadas por esta situación. Los deepfakes podrían hacerse pasar por funcionarios o difundir narrativas falsas e incendiarias. Esto podría desestabilizar regiones o incitar disturbios sociales. Distinguir la verdad de la ficción se convierte en algo fundamental.
Detección y atribución de falsificaciones
En 2022, un estudio de la UC Berkeley reveló una cruda realidad: incluso los humanos entrenados tienen dificultades para distinguir videos reales de deepfakes avanzados. Esto me hizo reflexionar, ya que asumía que la intuición humana sería de ayuda.
Descubrí que la detección no es una solución técnica sencilla, sino un desafío continuo. Los modelos de IA mejoran constantemente en la creación de falsificaciones, mientras que los investigadores desarrollan nuevos métodos de detección. Es como una competición.
Los métodos de detección actuales incluyen la marca de agua digital y el análisis forense. C2PA (Coalition for Content Provenance and Authenticity) desarrolla estándares técnicos abiertos. Estos estándares buscan “firmar” digitalmente el contenido en su origen, lo que podría ayudar a verificar las fuentes del contenido.
Sin embargo, estos métodos tienen sus límites. Las marcas de agua pueden eliminarse, y el análisis forense se basa en la detección de artefactos sutiles que se vuelven menos perceptibles a medida que la IA generativa mejora. Con frecuencia, es difícil determinar con certeza si el contenido es auténtico.
El enorme volumen de contenido nuevo complica aún más la detección. Los modelos de IA pueden generar millones de imágenes u horas de audio en minutos, lo que desborda a los moderadores humanos y a los sistemas automatizados. Esto hace que una vigilancia temprana a nivel mundial sea casi imposible.
El presidente Joe Biden, cuya voz fue imitada en un 'robocall' de IA a los votantes de New Hampshire en enero de 2024, sirve como un claro ejemplo de cómo el contenido generado por IA puede interferir directamente con los procesos democráticos y plantear riesgos inmediatos. (Fuente: amazon.com)
El laberinto regulatorio: lagunas en la gobernanza
El 8 de diciembre de 2023, la UE acordó provisionalmente su Ley de Inteligencia Artificial. Esta ley histórica clasifica los sistemas de IA según su nivel de riesgo e impone reglas estrictas a las aplicaciones de alto riesgo, entre ellas los deepfakes. Esto representó un gran avance.
Al principio pensé que una ley clara lo resolvería todo. Sin embargo, mi investigación me hizo cambiar rápidamente de opinión. La gobernanza está fragmentada y es lenta. Las naciones y regiones adoptan enfoques muy dispares, y no existe un consenso global.
La Ley de IA de la UE se centra en la transparencia y exige que los usuarios sepan cuándo el contenido ha sido generado por IA. Estados Unidos, por su parte, adopta un enfoque más específico por sector. La Orden Ejecutiva sobre IA del presidente Biden de octubre de 2023 exige que los desarrolladores compartan los resultados de las pruebas de seguridad con el gobierno.
Estos enfoques variados crean desafíos jurisdiccionales. Lo que es ilegal en un país podría estar permitido en otro, lo que dificulta la aplicación de la ley a nivel transfronterizo. Las empresas tecnológicas, que a menudo operan a nivel mundial, complican el cumplimiento.
Equilibrar la innovación con la seguridad es otro desafío. Las regulaciones estrictas podrían sofocar el progreso, mientras que una regulación insuficiente deja a las personas y sociedades vulnerables. Definir el “daño” en el contexto del contenido de IA sigue siendo un complejo debate legal y ético.
Construyendo un entorno de información sólido
En septiembre de 2023, Google anunció nuevas políticas. Estas exigen descargos de responsabilidad en los anuncios políticos generados por IA. Esto fue un paso práctico por parte de una plataforma importante y demostró que la transparencia es fundamental. Ninguna solución única resolverá este complejo desafío por sí sola.
Mi investigación me llevó a una conclusión clave: necesitamos un enfoque multifacético. Debemos fomentar una mejor alfabetización mediática entre las personas. Es necesario que la gente evalúe críticamente el contenido digital, cuestione las fuentes y esté atenta a señales inusuales.
La tecnología debe seguir evolucionando. Necesitamos herramientas de detección mejoradas. Una adopción más amplia de los estándares de procedencia, como el marco C2PA, puede ser de gran ayuda. Estas herramientas proporcionan una cadena de custodia verificable para los medios digitales y ofrecen una huella digital de autenticidad.
Los marcos legales también necesitan ser fortalecidos y coordinados. Es vital contar con leyes más claras que definan la responsabilidad por el uso indebido. Las sanciones por crear y distribuir deepfakes dañinos deben ser severas. La cooperación internacional también resulta clave, ya que las naciones deben compartir las mejores prácticas y coordinar las acciones de aplicación.
La Ley de Inteligencia Artificial de la UE, acordada provisionalmente en diciembre de 2023, es una ley histórica que clasifica los sistemas de IA según su nivel de riesgo e impone reglas estrictas a las aplicaciones de alto riesgo como los deepfakes, con el objetivo de establecer un estándar global para la gobernanza de la IA. (Ilustración generada por IA)
Este es un proceso continuo. Debemos mantenernos conscientes y flexibles, ya que la tecnología seguirá avanzando rápidamente. Nuestra respuesta efectiva depende de la colaboración continua entre gobiernos, empresas tecnológicas, educadores e individuos.
Preguntas frecuentes
¿Cuál es el principal riesgo de los deepfakes? El principal riesgo es la pérdida de confianza en la información digital. Los deepfakes difunden desinformación, permiten el fraude financiero y causan graves daños personales a través de imágenes no consentidas. Dificultan la distinción entre la verdad y la ficción en línea.
¿Siempre podemos detectar el contenido generado por IA? No, no siempre se puede detectar el contenido generado por IA. Aunque las herramientas de detección están mejorando, la tecnología de IA generativa avanza rápidamente. Esto crea una competencia continua en la que las falsificaciones suelen mejorar más rápido que los métodos de detección.
¿Quién regula el contenido de IA? La responsabilidad de regular el contenido de IA está fragmentada. Los gobiernos nacionales establecen leyes, las empresas tecnológicas implementan políticas de contenido y los organismos internacionales trabajan para coordinar estándares. No existe una única autoridad global.
¿Qué pueden hacer las personas para protegerse? Las personas pueden protegerse desarrollando una buena alfabetización mediática. Esto implica cuestionar las fuentes, buscar información verificable y ser escéptico ante el contenido emocionalmente cargado o sensacionalista. El uso de fuentes de noticias confiables y herramientas de verificación de hechos también resulta de ayuda.
Snopes, uno de los sitios web de verificación de hechos más antiguos y prominentes en internet, fue fundado en 1994 para desacreditar leyendas urbanas y desde entonces se ha convertido en un recurso crítico para verificar información y combatir la desinformación, incluido el contenido generado por IA. (Fuente: academichelp.net)
También te puede interesar:
👉 El giro de 2016: el móvil se convirtió en asistente inteligente
👉 Bots en línea: El reto de detectar su suplantación en X y Facebook
