Deepfakes y democracia: cuando la mentira aprende a parecer verdad
Durante mucho tiempo, la mentira necesitaba cierto trabajo artesanal. Había que manipular una fotografía, fabricar un documento, construir un rumor y esperar que circulara. Hoy basta con una voz clonada, un vídeo aparentemente real y unos segundos de atención distraída en una pantalla.
Ese es el salto inquietante de la inteligencia artificial generativa. No estamos solo ante una tecnología capaz de crear textos, imágenes, audios o vídeos. Estamos ante una herramienta capaz de alterar la percepción pública de la realidad. Y cuando una sociedad empieza a dudar de todo, no siempre se vuelve más crítica. A menudo se vuelve más vulnerable.
España ha dado un paso relevante con la aprobación del proyecto de ley orgánica para el buen uso y la gobernanza de la inteligencia artificial. La norma adapta nuestro ordenamiento al Reglamento europeo de Inteligencia Artificial y pretende reforzar la supervisión humana, la transparencia y la protección de los derechos fundamentales.
La noticia tiene una dimensión técnica y jurídica evidente. Pero, sobre todo, tiene una dimensión democrática. Porque el problema de los deepfakes no es únicamente que puedan engañar a una persona concreta. El verdadero riesgo es que erosionen el suelo común sobre el que discutimos los hechos.
La verdad pública también necesita protección
Una democracia necesita discrepancia, crítica al poder, pluralidad informativa y confrontación de ideas. Lo que no puede permitirse es que desaparezca la frontera mínima entre lo real y lo fabricado.
La propaganda y la manipulación no nacieron con la inteligencia artificial. Conviene recordarlo para no caer en alarmismos fáciles. La diferencia está en la escala, la velocidad y la apariencia de autenticidad. Un deepfake bien construido no se presenta como una opinión, sino como una prueba. No dice “esto pudo ocurrir”, sino “míralo con tus propios ojos”.
Ahí está su potencia destructiva. Durante años repetimos que una imagen vale más que mil palabras. Tal vez ha llegado el momento de corregir esa frase: una imagen manipulada puede destruir mil argumentos antes de que alguien tenga tiempo de verificarla.
Regular no es frenar la innovación
Cada vez que se plantea una regulación sobre inteligencia artificial aparece la misma objeción: cuidado con limitar la innovación. El argumento tiene una parte razonable, pero también una trampa bastante conocida. No toda regulación es miedo al progreso. A veces, regular es precisamente lo que permite que una tecnología avance sin convertirse en una amenaza social.
Las carreteras no desaparecieron porque se impusieran límites de velocidad. La medicina no se detuvo porque se exigieran ensayos clínicos. La electricidad no dejó de transformar el mundo porque se establecieran normas de seguridad.
Con la inteligencia artificial ocurre algo parecido. Su potencial es inmenso. Puede ayudar en la medicina, la educación, la investigación, la industria, la administración pública o la creación cultural. Precisamente por eso necesita reglas claras.
El enfoque europeo no prohíbe la inteligencia artificial ni pretende apagar su desarrollo. Intenta ordenar los riesgos. No es lo mismo un sistema que recomienda una canción que otro capaz de influir en el empleo, la educación, la vigilancia, la gestión de servicios públicos o la manipulación informativa.
Saber si algo es real o fabricado
Uno de los elementos más importantes de la nueva regulación es la transparencia. El proyecto español contempla obligaciones para identificar contenidos generados o manipulados mediante inteligencia artificial cuando puedan inducir a confusión. También prevé sanciones relevantes para los usos más graves.
La idea de fondo es sencilla: no se prohíbe crear contenido sintético, pero sí se exige que la ciudadanía no sea engañada sobre su naturaleza. Si una imagen, un audio o un vídeo han sido generados artificialmente de forma sustancial, debe quedar claro.
Eso no resolverá todos los problemas. Un aviso no detiene por sí solo una campaña organizada de desinformación. Tampoco evita que un contenido falso circule antes de ser detectado. Pero introduce un principio democrático básico: el derecho a saber si lo que estamos viendo pertenece al mundo real o al mundo fabricado.
Ese derecho no es menor. En una sociedad saturada de estímulos, donde muchas personas comparten vídeos sin comprobar su origen, la transparencia ya no es un lujo. Es una infraestructura de confianza.
El daño personal y el daño político
Conviene no hablar de los deepfakes como si fueran solo un problema electoral o institucional. También tienen una dimensión profundamente personal. Los deepfakes sexuales, especialmente cuando afectan a mujeres, menores o personas vulnerables, son una forma brutal de violencia digital.
Detrás de cada imagen falsa puede haber una persona real. Detrás de cada vídeo manipulado puede existir una reputación dañada, un chantaje, una humillación pública o una agresión difícil de reparar.
El otro gran riesgo es político. Una campaña electoral, una crisis institucional o una protesta social pueden verse alteradas por contenidos falsos diseñados para circular con rapidez antes de que la verdad tenga tiempo de reaccionar.
Un vídeo manipulado de un candidato, una voz clonada de una autoridad pública o una falsa escena de violencia atribuida a un colectivo pueden bastar para encender emociones, reforzar prejuicios y condicionar conversaciones enteras.
El problema no termina cuando se demuestra que el contenido era falso. Muchas veces el daño ya está hecho. Además, cuando los deepfakes se normalizan, aparece otro efecto perverso: cualquier prueba real puede ser desacreditada como falsa.
Ese es el escenario más peligroso. No solo creer mentiras, sino dejar de creer en la posibilidad misma de comprobar los hechos.
Libertad de expresión no significa derecho al engaño
Habrá quien diga que estas normas pueden afectar a la libertad de expresión. La preocupación merece atención, porque una democracia no debe entregar al poder público una herramienta vaga para perseguir opiniones incómodas.
Pero una cosa es proteger la sátira, la parodia, la creación artística o la crítica política, y otra muy distinta es amparar la suplantación engañosa de la realidad. El humor puede exagerar, caricaturizar y molestar. Lo que no puede hacer es presentarse fraudulentamente como una prueba documental de algo que nunca ocurrió.
La frontera puede ser compleja en algunos casos, y por eso la regulación debe aplicarse con garantías. Pero el principio es razonable: la libertad de expresión protege opiniones, interpretaciones y creaciones. No debería proteger el fraude deliberado destinado a confundir a la ciudadanía.
La democracia necesita libertad para disentir. No necesita libertad para falsificar impunemente la realidad.
Plataformas, viralidad y responsabilidad
No podemos ignorar otro elemento central: los deepfakes circularán sobre plataformas que viven, en gran medida, de captar atención. La indignación, el miedo y el escándalo son combustibles muy rentables.
La mentira digital no triunfa únicamente porque sea técnicamente sofisticada. Triunfa porque encuentra autopistas diseñadas para premiar lo emocional, lo rápido y lo polarizante. Una falsedad mediocre puede llegar más lejos que una verdad matizada si provoca más reacción.
Por eso, cualquier regulación que ignore el modelo económico de la viralidad se quedará corta. No basta con etiquetar contenido generado por IA si después las plataformas permiten su difusión masiva sin mecanismos eficaces de verificación, trazabilidad y respuesta.
La democracia no puede subcontratar su defensa a quienes ganan dinero con nuestra atención.
Cuidar la realidad común
La aprobación del proyecto de ley español no cierra el debate. Lo abre. Habrá tramitación parlamentaria, enmiendas, presiones, ajustes técnicos y discusión pública. Será importante vigilar que la norma no se diluya, que no genere zonas de impunidad y que no se convierta en una simple declaración de buenas intenciones.
Pero el paso es relevante porque reconoce algo esencial: la inteligencia artificial ya no es un asunto reservado a especialistas. Es una cuestión de ciudadanía.
Cuando una tecnología puede fabricar rostros, voces, discursos, pruebas aparentes y emociones colectivas, el debate deja de ser exclusivamente tecnológico. Pasa a ser político en el sentido más profundo de la palabra: afecta a la forma en que convivimos, discutimos y decidimos juntos.
Los deepfakes nos obligan a defender algo que parecía obvio: la realidad importa. Los hechos importan. Saber si una imagen ocurrió o fue fabricada importa. Distinguir entre una voz real y una voz clonada importa.
La inteligencia artificial no tiene por qué ser enemiga de la democracia. Pero una democracia ingenua ante la inteligencia artificial sí puede terminar siendo víctima de ella.
Regular los deepfakes no resolverá por sí solo la crisis de confianza ni la degradación del debate público. Pero es una pieza necesaria. Porque cuando la mentira aprende a parecer verdad, la democracia debe aprender a protegerse sin dejar de ser democracia.
