Un informe reciente de la OTAN advierte sobre el impacto negativo de la inteligencia artificial (IA) en la confianza pública, señalando que esta tecnología puede intensificar la polarización política y afectar la capacidad de las sociedades para compartir una realidad común. La preocupación no se limita a la propagación de información errónea, sino que se extiende a la velocidad y sofisticación de las campañas diseñadas para desacreditar a gobiernos y otras instituciones de autoridad.
El Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) también ha expresado su inquietud respecto a la creciente capacidad de la IA generativa para producir contenidos que imitan la realidad en diversos formatos. Entre estos, se encuentran los deepfakes, que son imágenes, audios o vídeos manipulados que pueden hacer que una persona parezca realizar acciones o pronunciar palabras que no ha dicho realmente. Este tipo de contenido representa un riesgo significativo para la transparencia de la información digital.
La creación de un deepfake implica el uso de redes neuronales que identifican rasgos faciales y un modelo generador que los reconstruye sobre los gestos de otra persona en un vídeo. Inicialmente, se utilizaban autoencoders y redes generativas adversarias (GAN) para este propósito. Sin embargo, los sistemas más modernos han evolucionado, incorporando modelos de difusión, clonación de voz y sincronización labial, lo que permite generar vídeos cada vez más realistas con mayor rapidez.
La firma de ciberseguridad DeepStrike estima que el número de deepfakes en línea ha crecido de aproximadamente 500.000 en 2023 a cerca de 8 millones en 2025. Esta expansión se debe a que la IA facilita la producción y difusión masiva de tales contenidos, permitiendo la creación de múltiples versiones de un mismo mensaje, así como la adaptación de su tono a diferentes audiencias. Además, se pueden generar perfiles falsos que aparentan ser coherentes durante periodos prolongados.
Además, la IA puede generar artículos y comentarios ficticios que parecen tener respaldo, los cuales son luego difundidos de manera coordinada por bots y cuentas falsas, lo que hace que narrativas inventadas adquieran apariencia de legitimidad. Este fenómeno representa un desafío creciente para la información veraz y la confianza pública.
Contexto: En los últimos años, la preocupación por el uso de la inteligencia artificial en la creación de desinformación ha aumentado a nivel mundial. Instituciones y gobiernos han comenzado a implementar regulaciones y estrategias para abordar estos desafíos. La OTAN y el NIST forman parte de un conjunto más amplio de entidades que están analizando el impacto de la IA en la sociedad, especialmente en lo que respecta a la seguridad y la integridad de la información. En España, el debate sobre la regulación de estas tecnologías es cada vez más relevante, dado el aumento de la polarización política y la desconfianza en las fuentes de información. La gestión de la desinformación se ha convertido en una prioridad para garantizar la estabilidad democrática y la cohesión social.