back to top

Violencia digital y deepfakes: Santa Fe busca sancionar la creación y difusión de contenidos falsos con IA

Fecha:

Getting your Trinity Audio player ready...

Tras conocerse casos de manipulación de imágenes íntimas en escuelas, ingresó un proyecto a la Legislatura para reformar el Código de Faltas provincial y penalizar la violencia digital realizada con tecnología de generación sintética.

La proliferación de imágenes y contenidos sexuales hiperrealistas creados o manipulados mediante Inteligencia Artificial (IA) encendió las alarmas en el ámbito escolar y judicial. Tras recientes episodios en localidades como San Justo y Lomas de Zamora —donde estudiantes utilizaron software de IA para trucar fotos de sus compañeras y viralizarlas—, la Legislatura santafesina busca dar una respuesta punitiva y preventiva ante esta problemática.

En ese marco, la diputada Celia Arena presentó una iniciativa para actualizar el régimen contravencional de la provincia frente a las nuevas formas de violencia digital, con especial foco en los deepfakes e imágenes sintéticas.

Un proyecto para reformar el Código de Faltas provincial

La propuesta busca modificar el artículo 84 bis e incorporar los artículos 84 septies, 84 octies y 84 novies a la Ley 10.703 (Código de Faltas de Santa Fe). El objetivo es tipificar y sancionar de manera clara aquellas conductas que atenten contra la dignidad, intimidad y reputación de las personas a través de herramientas tecnológicas.

Esta iniciativa se suma al marco normativo vigente en la provincia, reforzando la Ley N.º 14.471 (Ley EMA), sancionada en julio con el fin de prevenir y abordar el acoso y la violencia digital en los establecimientos educativos.

«No estamos ante un simple juego tecnológico, sino ante una nueva forma de violencia digital que puede afectar profundamente la dignidad, la intimidad y la integridad de las personas», destacan los fundamentos del proyecto, remarcando que la identidad digital es una extensión directa de la persona.

Qué tipo de sanciones contempla la iniciativa

El proyecto aborda vacíos legales donde la normativa tradicional exigía que el material hubiera sido obtenido en un ámbito privado, contemplando ahora la creación sintética de contenidos falsos:

  • Difusión de imágenes íntimas manipuladas: amplía las penalizaciones por difusión no consentida e incluye contenidos sexuales o de desnudez creados o alterados mediante IA.
  • Afectación a la dignidad y reputación: sanciona el uso no consentido de herramientas tecnológicas para fabricar o modificar imágenes, audios o videos de personas reales en contextos denigratorios, aun cuando no posean contenido explícitamente sexual.
  • Representaciones sintéticas con apariencia infantil: penaliza la creación, difusión, comercialización o financiamiento de material explícito sintético con apariencia de menores, aunque no correspondan a un individuo real.
  • Tenencia de material ilícito: sanciona la posesión consciente de este tipo de contenidos generados sin consentimiento, inclusive para uso personal.

Asimismo, la normativa establece que quienes cometan estas contravenciones deberán realizar de forma obligatoria talleres sobre violencia digital y uso ético de las tecnologías, promoviendo un abordaje que combine la sanción con la concientización.

Noticias relacionadas
Relacionado

Crecida del Paraná: ya hay 275 evacuados en Santa Fe

Las familias permanecen alojadas en dispositivos de Alto Verde...

Crecida del Paraná: suman módulos en el centro de evacuados de Colastiné Sur

El municipio suma nuevos módulos habitacionales en el predio...

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí