Internet está inundado de fotos, vídeos y memes, muchos de ellos difícilmente distinguibles de la realidad, y para tratar de contrarrestar esa avalancha han irrumpido también en el tsunami digital numerosas herramientas y aplicaciones que permiten detectar -aparentemente con un alto grado de fiabilidad-, las imágenes que han sido creadas con inteligencia artificial.
Los gobiernos, numerosas empresas tecnológicas y centros de investigación han intensificado los esfuerzos para desarrollar sistemas capaces de distinguir una imagen real de una sintética; y varios expertos analizan con EFE si son fiables y eficaces y si tienen futuro en sociedades (como la española) donde la cultura de la seguridad está muy poco arraigada y los usuarios podrían no ser muy propensos a ‘perder’ (o ganar) tiempo comprobando la veracidad de las imágenes que reciben.
Los fraudes provocados por contenidos generados o modificados con IA provocaron el pasado año, según revelan diferentes informes, pérdidas que superaron los 1.500 millones de dólares; se usan imágenes falsas de facturas o documentos para reclamar gastos corporativos o validar operaciones; se presentan fotos de daños que en realidad nunca existieron (coches, electrodomésticos, ropa o comida en mal estado); se difunden en medios y redes imágenes de sucesos o situaciones que nunca ocurrieron; y hasta se clona la voz de un superior para ordenar transferencias millonarias.
Numerosas herramientas (IMGDetector.ai; RealReveal; Tenorshare Deepfake Detection; AI or Not; o Vericta) están ya disponibles -algunas de forma gratuita- y son capaces de detectar imágenes generadas por inteligencia artificial y fotos manipuladas, de analizar inconsistencias o deformaciones, o de comprobar los desajustes que puede haber en los píxeles o las huellas digitales que dejan los sistemas que se utilizan para generar esas imágenes falsas.
Una imagen vale -o no- más que 1.000 palabras
¿Sigue valiendo una imagen más que mil palabras? Georgina Viaplana, cofundadora y directora de la empresa Vericta, mantiene que sí, que no ha cambiado su valor, pero sí la capacidad de las personas de darlas por ciertas sin cuestionarlas; «y precisamente porque una imagen tiene tanto poder merece la pena manipularla».
Vericta, que ha sido germinada por una empresa española especializada en automatizar el cumplimiento de normativas digitales para empresas con el respaldo de varias administraciones y organismos públicos -entre ellos el Centro para el Desarrollo Tecnológico e Industrial o el Ayuntamiento de Barcelona (España)-, ha desarrollado su propia tecnología para saber en segundos si una imagen o un vídeo es real o ha sido generado por IA.
En declaraciones a EFE, Viaplana se ha mostrado convencida del futuro de este tipo de herramientas y de que se van a convertir en «imprescindibles», ya que la confianza en la autenticidad de los contenidos digitales se ha convertido para las empresas «en una necesidad estructural, no en algo accesorio» y ha precisado que cuando una imagen puede suponer un coste directo para una compañía, la verificación no se percibe como una pérdida de tiempo.
Y cita en ese sentido ejemplos como los seguros, donde algunas reclamaciones rápidas se resuelven a partir de una imagen (sin peritaje presencial) que puede estar manipulada; en el comercio electrónico y reparto a domicilio -donde se pueden alterar fotos para reclamar devoluciones-; o en las inmobiliarias, para verificar si una imagen es verdadera o sintética.
¡Síguenos en nuestras redes sociales y descargar la app!
