El auge del contenido creado por inteligencia artificial está llegando a unos extremos que empiezan a ser peligrosos, aunque no sean nuevos. A las muchas publicaciones en Facebook que buscan engañar a gente de avanzada edad hay que sumar las creaciones que aparecen ahora en las búsquedas de Google Imágenes y que se mezclan con fotografías e ilustraciones reales.

Esto puede llegar a ser un problema cuando se usan estas imágenes para intentar desinformar y crear relatos falsos, como ha pasado ya en varias elecciones por todo el mundo. De ahí que Google, OpenAI, Microsoft y otras empresas hagan mucho hincapié en cómo están desarrollando herramientas que intentan evitar un uso malicioso.

Google presentó ayer las novedades de una herramienta llamada SynthID, diseñada para poner una marca de agua invisible en imágenes creadas por inteligencia artificial. Ahora esa herramienta es compatible con la creación de texto, audio y vídeo. Esto último es especialmente relevante ya que proliferarán más en los próximos años y suelen ser mucho más creíbles.

Marcas de agua invisibles

Demis Hassabis, CEO de DeepMind, explicó en el Google I/O cómo habían desarrollado una herramienta que permitía introducir marcas de agua en las creaciones de la IA que son invisibles para las personas pero que podían ser rastreados por ciertas herramientas para comprobar si eran o no creaciones humanas. Esta aplicación ya se usa en Google para las imágenes, pero en un futuro próximo aplicará también a texto y vídeo, y también se está haciendo con el sonido con el modelo Lyria creado por DeepMind.

El problema actual es que muchas veces los propios seres humanos no van a contrastar esa pieza, comprobando si es o no una creación de IA, por lo que quedará en manos de empresas como Meta o Google el saber lidiar con esas creaciones para eliminarlas de sus aplicaciones, u ocultarlas con algoritmos, de manera que la desinformación no sea un problema mayor de lo que ya es.

Es ahí donde entran en juego herramientas como SynthID, que permiten a las compañías rastrear las creaciones de manera invisible al ojo humano, no entorpeciendo el disfrute de las mismas. A lo largo de los próximos años veremos avances en este campo, a medida que el contenido creado por IA sea cada vez más común, tanto para actividades de ocio como para tareas laborales o gubernamentales, donde la transparencia es incluso más importante.