La medida también prevé la creación de un Observatorio Provincial de Violencia Digital para realizar un mapeo de los casos, acompañar a las víctimas y prevención.
La iniciativa establece un régimen de prevención, asistencia y sanción para la creación y difusión de contenido íntimo generado o manipulado mediante inteligencia artificial. Fue aprobada durante la 11ª sesión ordinaria y ahora deberá ser tratada por el Senado.
La Cámara de Diputados de Catamarca dio media sanción, durante la 11ª sesión ordinaria, a un proyecto de ley impulsado por el jefe de la bancada oficialista, Juan Carlos Ledesma, que establece un régimen de prevención, asistencia y sanción frente a la creación y difusión de deepfakes sexuales y contenido íntimo sin consentimiento mediante inteligencia artificial.
El tratamiento de la iniciativa se desarrolló en el marco de la sesión ordinaria, en un debate amplio y con participación de distintos bloques, donde si bien se registraron algunos intercambios de posturas entre legisladores, también primó el diálogo y la búsqueda de consensos, con aportes que permitieron enriquecer el texto final. En ese marco, el proyecto logró el acompañamiento necesario y fue aprobado, obteniendo media sanción y pasando a la Cámara de Senadores para continuar su tratamiento legislativo.
Durante su intervención, Ledesma advirtió sobre el crecimiento de una problemática que, según señaló, comienza a naturalizarse con la expansión de las nuevas herramientas de inteligencia artificial y que puede generar graves consecuencias para las personas afectadas.
El proyecto aborda específicamente los contenidos generados, alterados o manipulados mediante inteligencia artificial capaces de simular la voz, imagen, identidad e incluso el comportamiento de una persona cuando su utilización implique una vulneración de la privacidad, la intimidad y la dignidad.
Uno de los aspectos destacados por el legislador fue la protección de niños, niñas y adolescentes, al remarcar que las situaciones denunciadas no involucran únicamente a personas mayores de edad.
La iniciativa establece sanciones contravencionales que se agravan cuando existe hostigamiento, humillación, intimidación, amenaza, extorsión, lucro o venganza. También contempla una protección especial cuando las víctimas sean personas especialmente vulnerables.
El proyecto prevé además mecanismos para facilitar la denuncia, detección, remoción y bloqueo del contenido, junto con el derecho de las víctimas a recibir asesoramiento legal, acompañamiento psicológico y protección de su identidad y confidencialidad.
Entre los principales puntos de la iniciativa se encuentra la creación del Observatorio Provincial de Violencia Digital, que tendrá como funciones recopilar información, elaborar informes, acompañar a las víctimas y desarrollar campañas de prevención y capacitación.
También se promueve la educación sobre violencia digital, privacidad, consentimiento, identidad digital, protección de datos y uso responsable de la inteligencia artificial, con una incorporación progresiva de estos contenidos en el nivel secundario y la posibilidad de establecer convenios con universidades.
Durante su intervención, Ledesma remarcó que la propuesta no busca criminalizar la tecnología, sino establecer límites frente a su utilización para vulnerar derechos. “Lo que no se busca es criminalizar la inteligencia artificial, lo que se busca es sancionar el uso indebido cuando afecta la intimidad y la dignidad de las personas”, sostuvo.
El legislador también destacó que se trata de una problemática que ya comenzó a ser regulada en otros países y planteó la necesidad de que el Estado provincial cuente con herramientas concretas para actuar frente a situaciones que involucran a plataformas digitales y empresas tecnológicas. La iniciativa contempla, además, la coordinación entre organismos públicos, plataformas digitales, empresas tecnológicas, universidades y establecimientos educativos para fortalecer la prevención y la respuesta ante este tipo de situaciones.
Finalmente, tras el debate y las distintas intervenciones en el recinto, Diputados aprobó el proyecto en un marco de consenso general y le otorgó media sanción, por lo que ahora deberá continuar su tratamiento en la Cámara de Senadores de Catamarca.