top of page

Persecución de la pornografía falsa generada por Inteligencia Artificial



En el vasto panorama de riesgos que plantea la inteligencia artificial (IA), suele centrarse la atención en cuestiones como la desinformación, la manipulación de la opinión pública y las amenazas a la seguridad nacional. No obstante, existe un aspecto menos explorado pero igualmente inquietante de la IA, y es su utilización para la creación de contenido pornográfico falso.


El Fenómeno de los Deepfakes


El término "deepfake" deriva de la conjunción de "deep learning" (aprendizaje profundo, una técnica de IA) y "fake" (falso). Los deepfakes se refieren a imágenes, audio o videos artificialmente manipulados o producidos íntegramente mediante herramientas de inteligencia artificial. Lo preocupante radica en que en la actualidad proliferan numerosas aplicaciones de acceso gratuito que permiten a cualquier individuo crear deepfakes con rapidez y facilidad, lo que acentúa aún más su difusión online.


Un estudio relevante sobre los deepfakes llevado a cabo en 2019 por Deeptrace en colaboración con Sensity AI, reveló que el 96% de los videos deepfakes eran de contenido pornográfico y no consentido. Asimismo, este informe subrayó un notable aumento en la tasa de creación de deepfakes en un año.


Factores que Contribuyen a la Percepción de Impunidad


La sensación de impunidad que rodea a los deepfakes encuentra sus raíces en diversos factores:


1. Falta de conciencia pública: la carencia de conocimiento generalizado sobre los deepfakes y su capacidad para engañar constituye uno de los principales factores. Muchas personas aún no comprenden completamente el funcionamiento de estos algoritmos de IA ni cómo pueden ser empleados para generar contenidos falsos que aparentan autenticidad.


2. Escasa legislación específica: en numerosos países, la legislación relativa a los deepfakes aún no ha evolucionado de manera adecuada para abordar este problema de manera efectiva. No obstante, la carencia de normativas específicas no implica que los deepfakes sean legales; en realidad las leyes existentes prevén conductas delictivas que también pueden comentarse con IA.


3. Desafíos técnicos: la capacidad de la inteligencia artificial para crear videos hiperrealistas dificulta la detección de deepfakes sin la utilización de herramientas especializadas. Esto puede llevar a la creencia de que es imposible rastrear a los creadores de deepfakes y, por consiguiente, poco probable que enfrenten consecuencias legales.


4. Falsa creencia de "es sólo diversión": en determinadas ocasiones, los deepfakes son creados y difundidos en línea bajo el pretexto de entretenimiento o humor. No obstante, es imperativo subrayar que esta justificación resulta insuficiente, dado que los deepfakes tienen el potencial de causar un perjuicio significativo en la reputación y la privacidad de los individuos involucrados.


5. El efecto del "anonimato": la sensación de anonimato que brinda internet con frecuencia fomenta la creación y difusión de deepfakes maliciosos. Las personas que operan desde el anonimato de una pantalla pueden sentirse protegidas y creer que no enfrentarán consecuencias por sus acciones.




El Marco Legal en el Código Penal Español


Sin embargo esta falsa percepción de impunidad está muy lejos de la realidad. Analizamos los artículos pertinentes del Código Penal español que podrían aplicarse para demostrar un delito relacionado con los deepfakes:


Artículo 197.1 CP. Revelación de secretos y vulneración de la intimidad: Este artículo establece que "el que, para descubrir los secretos o vulnerar la intimidad de otro, sin su consentimiento, se apodere de sus papeles, cartas, mensajes de correo electrónico o cualesquiera otros documentos o efectos personales, intercepte sus telecomunicaciones o utilice artificios técnicos de escucha, transmisión, grabación o reproducción del sonido o de la imagen, o de cualquier otra señal de comunicación, será castigado con las penas de prisión de uno a cuatro años y multa de doce a veinticuatro meses". En el caso de los deepfakes pornográficos, este artículo puede ser aplicable, ya que la creación y difusión de estos contenidos sin el consentimiento de las personas cuyos rostros se utilizan constituye una vulneración clara de su intimidad. La técnica de reproducción de la imagen mediante IA se considera un "artificio técnico" según la ley.


Artículo 173.1 CP. Daño a la integridad moral: Este artículo establece que "el que infligiera a otra persona un trato degradante, menoscabando gravemente su integridad moral, será castigado con la pena de prisión de seis meses a dos años". Cuando se utiliza la IA para crear deepfakes pornográficos que difaman y degradan a las personas cuyos rostros se superponen en el material, se podría argumentar que se está causando un daño degradante a la integridad moral de esas personas. Esto podría abrir la puerta a la aplicación de este artículo en casos de deepfakes.


Artículo 189 CP. Pseudopornografía infantil: se refiere específicamente a la pornografía infantil. Establece que "el que produjere, vendiere, distribuyere, exhibiere, ofreciere o facilitare la producción, venta, difusión o exhibición por cualquier medio de pornografía infantil o en cuya elaboración hayan sido utilizadas personas con discapacidad necesitadas de especial protección, o lo poseyere para estos fines, aunque el material tuviere su origen en el extranjero o fuere desconocido será castigado con la pena de prisión de uno a cinco años". Si un deepfake pornográfico utiliza la imagen de una persona menor de edad o de alguien que parezca serlo (aunque no exista en realidad y sea una mera creación audiovisual), el artículo 189 podría aplicarse para castigar a quienes estén involucrados en su creación o distribución.


Artículo 197.3 CP. Revelación y cesión de imágenes captadas ilegalmente: El artículo 197.3 del Código Penal establece que "se impondrá la pena de prisión de dos a cinco años si se difunden, revelan o ceden a terceros los datos o hechos descubiertos o las imágenes captadas a que se refieren los números anteriores". Este artículo se relaciona con el previamente mencionado artículo 197.1, pero agrega penas más severas si además de captar ilegalmente las imágenes se difunden, revelan o ceden a terceros. En el contexto de los deepfakes pornográficos, si se demuestra que alguien ha utilizado artificios técnicos para captar imágenes de manera ilegal y luego las ha compartido, este artículo podría ser aplicable.


Artículo 208 CP. Injuria por medios o con publicidad: El artículo 208 del Código Penal establece que "es injuria la acción o expresión que lesionan la dignidad de otra persona, menoscabando su fama o atentando contra su propia estimación". En casos en los que se difunde un deepfake pornográfico con la intención de difamar o injuriar a una persona al atribuirle actos sexuales falsos, este artículo podría ser aplicable si se demuestra que se actuó con conocimiento de la falsedad o temerario desprecio hacia la verdad. Además el artículo 209 CP matiza que "las injurias graves hechas con publicidad se castigarán con la pena de multa de seis a catorce meses y, en otro caso, con la de tres a siete meses".


Conclusión

En resumen, el Código Penal español dispone de una serie de artículos susceptibles de aplicarse en casos de deepfakes pornográficos, especialmente cuando se demuestra la vulneración de la intimidad, la integridad moral o la comisión de injurias. No obstante, es crucial recordar que cada caso debe evaluarse de forma individual en función de las circunstancias específicas. La tecnología avanza con rapidez, y la legislación debe adaptarse con agilidad para hacer frente de manera eficaz a los desafíos que emergen en un entorno digital en constante evolución.





104 visualizaciones0 comentarios

Opmerkingen


bottom of page