Las IA han demostrado ser capaces de realizar diversas tareas impresionantes, y la generación de imágenes no es una excepción. Por esta razón, Google está utilizando la Inteligencia Artificial a su favor para brindar soluciones y garantizar una mayor confiabilidad en el uso de imágenes.
Así puede detectar imágenes creadas por IA
Google ha presentado SynthID, una nueva herramienta diseñada para detectar imágenes generadas por inteligencia artificial (IA). Con esta tecnología, se pretende combatir los problemas asociados a la manipulación de imágenes y garantizar una mayor seguridad en su uso.
SynthID funciona mediante la inserción de una marca de agua digital en los píxeles de una imagen generada por IA. A diferencia de las marcas de agua convencionales, esta se mantiene intacta incluso después de modificaciones, cambios de color, filtros y efectos realizados con programas de edición. Además, la herramienta es capaz de escanear cualquier fotografía y detectar estas marcas particulares.
De esta manera, utiliza dos modelos de aprendizaje profundo para su funcionamiento: uno para crear las marcas de agua y otro para identificarlas. Estos modelos han sido entrenados en un conjunto diverso de imágenes.
Aunque SynthID no es 100 % eficaz, ayuda en gran medida
Sin embargo, Google reconoce que SynthID no es una solución perfecta y que no se puede controlar el 100% de los casos. La evolución constante de las IA supone un desafío en esta lucha activa contra la manipulación de imágenes.
Este avance tecnológico cobra especial relevancia debido a los riesgos asociados a la creación de imágenes malintencionadas por parte de personas que buscan engañar o perjudicar a otros. También es una solución para quienes se han llevado sorpresas desagradables al descargar imágenes de internet que resultaron ser falsas o manipuladas.
SynthID se encuentra actualmente en desarrollo y se ha lanzado una versión beta para un número limitado de clientes de Vertex AI que utilizan el modelo de conversión de texto a imagen de Google, denominado Imagen.
Esto ayuda a prevenir la propagación de información errónea y a fomentar la responsabilidad en el uso de estos contenidos.
¡SuperLike ya está en WhatsApp Channels! Unirte a esta comunidad digital es muy fácil, sólo da clic aquí.
