El uso de la Inteligencia Artificial (IA) ha traído una serie de beneficios para el quehacer cotidiano de las personas, tanto en el área laboral como el de la salud, entre otros, pero su uso indebido puede generar complicaciones que es necesario evitar.

Por ello, el senador Karim Bianchi presentó una iniciativa para sancionar con la pena de reclusión menor y multas de hasta 500 UTM (Unidades Tributarias Mensuales) a quienes generen o difundan imágenes o hechos de carácter privado o íntimo, creados con herramientas de inteligencia digital.

Esta herramienta ha sido utilizada de manera indebida para alterar imágenes de personas, con la finalidad de insertarlas en contextos inapropiados o explícitos, sin su consentimiento. Un caso destacado en el país, que ejemplifica la gravedad de esta situación, es el de una joven cuya imagen fue manipulada digitalmente para insertarla en contenidos pornográficos, sin su autorización, siendo posteriormente distribuida y compartida por redes sociales y mensajería digital.

Según los fundamentos del proyecto, la manipulación de imágenes y videos con fines humillantes o difamatorios puede tener consecuencias devastadoras, tanto para las víctimas directas como para la sociedad en general, al crear un entorno en el que las personas temen que su imagen pueda ser manipulada y distorsionada. Esto constituye una agresión a la intimidad personal y al control que cada individuo debe tener sobre su propia imagen.

De acuerdo al estudio Radiografía Digital de una empresa de telefonía e internet, el 86% de niños, niñas y adolescentes ha tenido alguna interacción con IAs, el 50% lo usa como entretenimiento y el 82% de padres consideran que sus hijos pasan demasiado tiempo conectados a internet.