Visibilizan en las redes sociales la manipulación de fotos de una empleada para desnudarla con inteligencia artificial
La mujer trabaja dentro de la UPrO, donde habría sufrido el jueves 16 de noviembre la manipulación de sus fotos, “Mis compañeros de trabajo comparten fotos mías para subirlas a Clothoff y desnudarme artificialmente”.
A quien identifico como el artífice, fue al jefe del Subprograma de Sistemas de la UPrO, Marcos Sosa y también, por lo menos, a un empleado de su área, Ignacio Morinigo.
Sosa seria quien reenvió “por error” a la propia víctima la foto de su perfil en WhatsApp con la referencia de la aplicación, como la joven no entendía de qué se trataba ese término encontró la respuesta en Internet. La App usa la inteligencia artificial para desnudar los cuerpos que se ven en cualquier imagen. Si bien esta situación le generó preocupación y tristeza, no se quedó con los brazos cruzados ni con las excusas que le dio Sosa. No dudó y realizó la denuncia policial. Cuando expuso el hecho por las redes sociales tuvo la solidaridad de muchas jóvenes que cuestionaron el ambiente laboral.
La denuncia policial es por violencia de género, y en la semana la víctima hará lo mismo en la Justicia.
El mismo jueves, pero por la mañana, el rector Joaquín Surroca y Sosa encabezaron un acto donde presentaron UPrOFY, la App de oficios, y “la primera en Sudamérica”.
Recién este sábado por la mañana la institución emitió un comunicado donde no aclara qué decisión tomó en contra de los denunciados.
Comunicado textual
La Universidad Provincial de Oficios, “Eva Perón” se dirige a la comunidad para expresar con firmeza su rechazo absoluto, hacia cualquier forma de violencia, intimidación o falta de respeto dirigida hacia las mujer. Reafirmamos nuestro compromiso inquebrantable con la erradicación de conductas que menoscaban la dignidad y los derechos fundamentales de las mujeres.
Es imperativo para nuestra institución promover un entorno seguro, inclusivo y libre de cualquier forma de violencia de genero. es nuestro compromiso permanente implementar medidas concretas para garantizar un entorno laboral donde el respeto y la igualdad sean pilares fundamentales para que cada mujer se sienta protegida y valorada, sin temor a sufrir ningun tipo de violencia o discriminación por razón de genero.
Sin firmas pero con membrete de la institución.
Por una comunicación que logramos con las autoridades, nos confirmaron que este lunes a las 10Hs habrá una reunión para tratar este tema en exclusiva, y las medidas a seguir.
Clothoff se lava las manos, con el uso de estas imágenes
Si nos metemos en los términos y condiciones de esta herramienta de inteligencia artificial, se destaca sobre todo que ‘se lavan las manos’. Esto quiere decir que no se responsabilizan del uso que se le vaya a dar a las imágenes que se generan (como por ejemplo extorsionar a alguien). El internauta “es el responsable de no usar la aplicación para fines ilegales o no autorizados” dice concretamente la web que no quiere responsabilidades judiciales de lo que se pueda hacer con su tecnología.
Aunque otro punto importante puede ser el tratamiento de los datos que se realiza con todas las imágenes que se suben o se generan. Y es que en muchas partes de la página antes de generar el contenido se encuentran mensajes en el que recuerdan que no almacenan ningún tipo de dato. Esto da a entender que una vez se ha usado la imagen de entrada en la IA se elimina de su base de datos.
Pero como siempre decimos: es mejor desconfiar siempre de todo. Esto se traduce en que no recomendamos subir imágenes personales ni reales, ya que nunca se puede llegar a saber el tratamiento real que hay detrás de ellos
Como hemos comentado anteriormente, estas herramientas pueden ser usadas precisamente para extorsionar a una persona al crear un desnudo falso (que puede parecer muy real). El ejemplo lo tenemos con los menores de un pueblo de Extremadura que habrán usado herramientas similares para llegar a este fin. Y esto es algo que constituye delito.
En concreto nuestra legislación recoge hasta dos años de prisión por este tipo de hechos. El profesor y abogado especialista en Derecho Digital explica que “en España los delitos nunca se regulan por la tecnología, sino lo que se hace con ella, en base a la intención con que se hacen y el resultado”. Esto se traduce en que lo verdaderamente importante a ojos de un juez es lo que se hacen con esas fotografía, no el cómo se hacen.
Si bien, como ocurre en España las penas de cárcel que pueden llegar a los nueve años en el caso de que se trate de pornografía infantil pueden no suponer esta pena de cárcel. Todo depende de la edad de los que cometen la infracción, y en el caso de los menores la pena que se impone es mucho más suave.
