Alerta en Consell por fotos falsas generadas con IA: la Policía Local advierte de las consecuencias legales

“El uso de imágenes creadas con IA para simular hechos inexistentes con el objetivo de provocar malestar, confrontación o descrédito no es una broma ni una crítica inocente. Puede tener consecuencias legales y, sobre todo, rompe la confianza y la convivencia dentro de nuestro pueblo”. Esta es la clara advertencia que hace la Policía Local de Consell ante la reciente publicación de unas imágenes generadas o manipuladas con Inteligencia Artifical. Las publicaciones se hicieron hace dos días en el grupo de Facebook Info Consell Lliure. En concreto, un participante anónimo compartió dos imágenes. Una correspondía a una nevera supuestamente abandonada en plena calle, presentada como un vertido en la vía pública, en concreto, en la zona de la Plaça del Pou. La publicación estaba acompañada del siguiente mensaje: Enhorabuena a quien se cree que el pueblo es un basurero. Esto es una vergüenza, se debería tomar medidas contra esta gente”.Tras una investigación de la Policía Local, se verificó que la imagen no era real.

La segunda imagen correspondía a un menor orinando en un olivo en la zona centro acompañada de comentarios ofensivos. Esta publicación también levantó sospechas en la Policía Local que tras las comprobaciones pertinentes, se confirmó que había sido creada o manipulada con IA.

Consecuencias legales

Debido al impacto que este tipo de contenidos puede generar en la convivencia y en la reputación institucional, la Policía Local decidió actuar de inmediato y emitió un comunicado advirtiendo de las posibles consecuencias legales tanto civiles como penales (en función de la gravedad de los hechos) que puede tener la creación o difusión de imágenes falsas o manipuladas mediante IA. Los agentes recuerdan que la difusión de imágenes manipuladas puede vulnerar distintos ámbitos legales, por ejemplo, la normativa de protección de datos y derechos de imagen o la posible afectación a menores, aunque se trate de contenido falso o recreado. Además advierten que la creación y difusión de contenidos engañosos pueden constituir un perjuicio grave a personas, colectivos o a la administración pública. Por todo ello, se pidió que se cesara esta práctica e instaron a los responsables de los grupos públicos a tomar medidas para impedir la publicación de contenido falso o manipulado que genere conflicto social. El jefe de la Policía Local de Consell, Joan Guasp, ha asegurado que el comunicado tuvo efecto inmediato porque a las dos horas se había borrado el contenido. Por el momento, no se prevén nuevas acciones, salvo que se repitan este tipo de hechos. En cualquier caso, ya se ha advertido públicamente de las consecuencias de estas prácticas.

“No hace falta inventar nada con inteligencia artificial para criticar o cuestionar la gestión municipal. El Ayuntamiento es plenamente consciente de que hay cosas mejorables, y trabajamos cada día en ello con responsabilidad y transparencia. La crítica es legítima; la manipulación y el engaño, no”, desgrana el comunicado. “Nuestro único objetivo es preservar una buena convivencia entre vecinos, evitar conflictos innecesarios y garantizar que Consell siga siendo un pueblo respetuoso, tranquilo y cohesionado”, concluye.

Episodios como el vivido en Consell, advierte la Policía, también pone de manifiesto un problema importante: muchas personas dan por verdaderas este tipo de imágenes sin cuestionarlas, lo que puede alimentar conflictos y falsas percepciones. Aunque los adultos suelen entender el contexto y las implicaciones, Joan Guasp reconoce que preocupa especialmente la banalización del tema y la falta de conciencia sobre el daño personal y legal que puede causar, sobre todo cuando se involucra a menores. Por ello, se insiste en la necesidad de reforzar el control parental y la supervisión familiar sobre el uso que los menores hacen de las redes sociales, así como trabajar este asunto también en el ámbito escolar. Es un reto social y educativo que se debe afrontar de manera conjunta.

Suscríbete para seguir leyendo