Con el objetivo de proteger la privacidad, la dignidad y los derechos digitales de la ciudadanía, el Diputado Provincial Juan Carlos Ledesma presentó en la Legislatura Provincial el proyecto de ley “Régimen Jurídico para la Prevención y Sanción del Uso Indebido de Inteligencia Artificial y Deepfakes Sexuales”.
Esta iniciativa busca establecer un marco legal para prevenir, regular y sancionar la creación, difusión y almacenamiento de contenido manipulado con inteligencia artificial que vulnere a las personas sin su consentimiento.
Ante el avance tecnológico y el aumento de delitos digitales, el proyecto establece penas de hasta 8 años de prisión para quienes generen o difundan deepfakes con contenido sexual no autorizado. Además, impone responsabilidades a plataformas digitales y redes sociales, obligándolas a detectar y eliminar este tipo de material de manera inmediata.
"El avance de la inteligencia artificial es innegable y ha traído enormes beneficios a nuestra sociedad, pero también nuevos desafíos que no podemos ignorar. El uso indebido de los deepfakes sexuales es una forma de violencia digital que afecta gravemente la intimidad, la dignidad y los derechos fundamentales de las personas, especialmente de mujeres y adolescentes", afirmó el Diputado Ledesma.
Asimismo, se prevé la creación del Observatorio Provincial de Violencia Digital, un organismo dedicado a recopilar datos, asesorar a víctimas y lanzar campañas de concientización sobre los riesgos de la manipulación digital y la violencia en entornos virtuales.
El proyecto incorpora al Código Penal Provincial nuevas figuras delictivas relacionadas con el uso indebido de IA, estableciendo sanciones severas:
Además, las penas se agravan si la víctima es menor de edad, funcionario público o persona en situación de vulnerabilidad.
"No podemos permitir que una herramienta diseñada para el entretenimiento o la innovación se convierta en un arma para humillar, extorsionar o dañar a las personas. La violencia digital es real y sus efectos pueden ser devastadores, desde daños psicológicos severos hasta el aislamiento social e incluso el suicidio en casos extremos. Catamarca debe ser pionera en la protección de sus ciudadanos frente a esta amenaza", agregó el legislador.
La iniciativa también incorpora contenidos sobre privacidad, consentimiento y violencia digital en el sistema educativo y promueve acuerdos con empresas tecnológicas para desarrollar herramientas que detecten y bloqueen la difusión de deepfakes ilegales.
"La solución no es solo castigar, sino también prevenir y educar. Si desde las escuelas enseñamos a niños y jóvenes sobre la importancia del consentimiento, la privacidad digital y los riesgos de la IA mal utilizada, estaremos construyendo una sociedad más consciente y preparada para enfrentar este problema", explicó Ledesma.
Con este proyecto, el Diputado Juan Carlos Ledesma reafirma su compromiso de convertir a Catamarca en una provincia pionera en la lucha contra los delitos digitales, promoviendo una legislación moderna que garantice un uso seguro y responsable de la inteligencia artificial.
