El Instituto Tecnológico de Massachusetts (MIT) ha desarrollado PhotoGuard, una herramienta diseñada para proteger las imágenes contra ediciones no consentidas realizadas por inteligencia artificial (IA). Con el crecimiento de tecnologías de IA, como DALL-E 2 y Stable Diffusion, se han presentado casos de mal uso, como la creación no autorizada de contenido erótico. Para contrarrestar este problema, el equipo de investigadores del MIT creó PhotoGuard, que distorsiona las imágenes de tal manera que la IA no puede generar modificaciones realistas.
En lugar de presentar la edición final solicitada por el atacante, PhotoGuard muestra versiones defectuosas, alteradas y poco realistas. De esta manera, el objetivo no es evitar completamente la edición de imágenes con IA, sino aumentar el costo de las ediciones y desalentar el realismo en las modificaciones no autorizadas.
Este enfoque de protección de imágenes se logra al modificar estratégicamente los píxeles de la fotografía para que la IA no los interprete correctamente, generando así versiones defectuosas cada vez que se intenta editar la imagen.
Una innovadora solución para evitar ediciones fotográficas no deseadas con inteligencia artificial.
Aunque PhotoGuard ha demostrado ser útil para prevenir la edición no deseada, los investigadores reconocen que su sistema aún puede mejorar. Se enfrentan al desafío de evitar que actores maliciosos puedan eliminar los efectos de la protección a través de técnicas adicionales, como cortar la imagen, aplicar filtros o rotarla.
Aunque no se garantiza la efectividad de este método en futuras versiones de IA, se sugiere una colaboración entre las empresas desarrolladoras de IA, plataformas de publicación y el equipo de PhotoGuard para ofrecer el servicio de inmunización a cualquier imagen y garantizar la compatibilidad entre plataformas.
El proyecto PhotoGuard es una medida adicional para que las personas puedan compartir sus imágenes personales con mayor seguridad, evitando manipulaciones no deseadas mediante el uso de inteligencia artificial. Aunque se reconoce que el sistema podría enfrentar desafíos futuros, esta innovadora solución representa un paso importante en la lucha contra el uso malicioso de IA en ediciones fotográficas.
