Deepfakes: manipulación de pruebas y su impacto en los procesos judiciales

El equipo de Legalitas LAB planteó ayer una cuestión interesante en Twitter (actualmente X): ¿Cómo afectarían los deepfakes a la abogacía? Este interrogante, que trasciende las fronteras de la mera curiosidad, nos ha animado a explorar en este artículo los límites entre la realidad y la ficción y su poder de manipulación.

Los deepfakes, término que significa "falsificaciones profundas" en inglés, son creaciones digitales que utilizan algoritmos de IA para generar contenido audiovisual convincente. Ya no estamos hablando de ediciones rudimentarias en Photoshop o doblajes mal sincronizados; los deepfakes tienen la capacidad de intercambiar rostros, crear discursos ficticios y poner palabras en la boca de figuras públicas de una manera que resulta difícil de discernir a simple vista.

En nuestra realidad actual donde la información fluye a gran velocidad a través de redes sociales y medios digitales, muchas veces sin pasar por procesos de verificación del contenido, los deepfakes pueden propagar desinformación a una escala alarmante. Esto tiene consecuencias devastadoras, ya que la confianza en lo que vemos y oímos es fundamental para el funcionamiento de una sociedad sana. Los efectos sociales y económicos de los deepfakes en campos como la política y los negocios podrían desencadenar repercusiones significativas, como desestabilizar mercados financieros o, en una escala más reducida, fomentar situaciones de acoso y difamación.

DEEPFAKE Y EL PERITAJE INFORMÁTICO EN LOS PROCESOS JUDICIALES

En el sistema legal que nos ocupa, los deepfakes abren la puerta a la presentación de pruebas manipuladas en un procedimiento judicial, lo que podría resultar en sentencias basadas en pruebas falsas. Dejando al margen ahora las consecuencias legales de la eventual presentación de pruebas falsificadas (delito de estafa ex artículo 250 CP, falsedad documental ex art. 390 CP o delitos contra la Administración de Justicia ex art. 446 y siguientes CP), así como la nulidad de actuaciones por resoluciones fundamentadas en pruebas declaradas falsas (STS 677/2010) esta nueva dimensión de suplantación de pruebas, abarca dos tipos de deepfake:

1. Deepvoice, mediante el cual clonan una voz o unen la voz original de un individuo para crear una secuencia artificial.

2. Deepface, en la cual superponen el rostro del individuo y falsifican sus gestos, consiguiendo resultados extremadamente realistas. En un estudio reciente llevado a cabo por la revista científica PNAS (Proceedings of the National Academy of Sciences of the United States of America), los investigadores concluyeron que los rostros generados sintéticamente son prácticamente indistinguibles de los reales, incluso para personas que han sido capacitadas para identificar imágenes falsas tienen dificultades para distinguir entre contenido real y Deepfakes.

En un escenario donde la tecnología puede generar contenido que es virtualmente indistinguible de la realidad, la cuestión de la autenticidad de las pruebas judiciales se convierte en un núcleo problemático. La habilidad para manipular imágenes y sonidos a niveles asombrosos plantea la necesidad de reevaluar cómo se verifican y presentan las pruebas ante los tribunales. Los deepfakes, con su capacidad para distorsionar lo que es genuino y lo que es falso, desafían los fundamentos mismos de la carga probatoria y la acreditación de los hechos acaecidos; haciendo necesaria una respuesta contundente y precisa. Y es aquí donde el peritaje informático emerge como un componente crítico para salvaguardar la justicia.

El peritaje informático implica la intervención de expertos con un profundo conocimiento en la materia para analizar y autenticar pruebas de carácter digital. Según lo establecido en el artículo 335.1 de la Ley de Enjuiciamiento Civil, la contribución de peritos con conocimientos científicos y técnicos se vuelve fundamental para valorar pruebas complejas y para determinar su veracidad. En el caso de deepfakes y la manipulación de pruebas digitales, la experiencia de los peritos informáticos es crucial para determinar si las pruebas presentadas son genuinas o han sido alteradas.

Ante la posibilidad de pruebas manipuladas, el peritaje informático ya no se limita sólo a actuaciones en procesos penales para la investigación de hechos presuntamente delictivos o delitos informáticos, sino que los procedimientos civiles, administrativos y sociales ahora también demandarán su intervención para salvaguardar la integridad del proceso judicial. Además, sus funciones se extenderán más allá de la certificación de la cadena de custodia de pruebas digitales, pues se les exigirá un profundo conocimiento en ciberseguridad y herramientas de verificación. Así por ejemplo, el perito informático deberá conocer técnicas de revisión de la armonía de la secuencia, coherencia del contenido, búsqueda de la fuente del video y duración o sincronización, entre otros.

CONCLUSIÓN

En conclusión, los #Deepfakes representan una amenaza significativa para la abogacía y los procesos judiciales. La capacidad de crear contenido falso convincente plantea desafíos serios para la acreditación de hechos en los tribunales. Es imperativo que la sociedad, los profesionales legales y los responsables de la tecnología colaboren para mitigar los riesgos y garantizar que la justicia prevalezca en un mundo cada vez más digital y complejo.