Please enter CoinGecko Free Api Key to get this plugin works.

Bl0ckch41nnewsVerificar la autenticidad y el origen de fotografías y vídeos

21


Durante los últimos 18 meses, más o menos, parece que hemos perdido la
capacidad de confiar en nuestros ojos. Las falsificaciones de Photoshop no son
nada nuevo, por supuesto, pero la llegada de la inteligencia artificial (IA)
generativa ha llevado la falsificación a un nivel completamente nuevo.

Quizás la primera falsificación de IA viral fue la imagen del Papa en 2023 con
una chaqueta acolchada blanca de diseño, pero, desde entonces, el número de
engaños visuales de alta calidad se ha disparado a muchos miles. Y, a medida
que la IA se desarrolle aún más, podemos esperar más y más vídeos falsos
convincentes en un futuro muy cercano.

Esto solo exacerbará el ya complicado problema de las noticias falsas (fake news) y las imágenes que las acompañan. Pueden publicar una foto de un evento y afirmar que es de otro, poner a
personas que nunca se han conocido en la misma fotografía, entre otras cosas.
La falsificación de imágenes y vídeos tiene una relación directa con la
ciberseguridad.

Los estafadores han estado utilizando imágenes y vídeos falsos para engañar a
las víctimas y lograr que desembolsen su dinero durante años. Es posible que
te envíen una fotografía de un cachorro triste que, según dicen, necesita
ayuda, una imagen de una celebridad que promueve
algunos planes sospechosos
o, incluso, una fotografía de una tarjeta de crédito que dicen que pertenece a
alguien que tú conoces. Los estafadores también utilizan
imágenes generadas por IA para los perfiles falsos
en sitios de citas y redes sociales.

Las estafas más sofisticadas
hacen uso de
vídeos y audios falsos del jefe de la víctima
o de un familiar para que cumplan con las peticiones de los estafadores.
Recientemente, un empleado de una institución financiera fue engañado para que
transfiriera 25 millones de dólares
a ciberdelincuentes.

Detección de imágenes falsas

Entonces, ¿qué se puede hacer para lidiar con los deepfakes o con las
falsificaciones clásicas? ¿Cómo se pueden detectar? Este es un problema
extremadamente complejo, pero que se puede mitigar paso a paso, rastreando la
procedencia de la imagen.

Si tienes alguna duda sobre una imagen, simplemente cárgala en una de estas
herramientas y mira los resultados. Es posible que descubras que la misma
fotografía de una familia que se quedó sin hogar por el fuego, o un grupo de
perros en un refugio, o las víctimas de alguna otra tragedia, ha estado
circulando en línea durante años.

Algunos métodos populares incluyen el análisis de metadatos de imágenes y el
análisis de nivel de error (ELA), que comprueba si hay artefactos de compresión JPEG para identificar las
partes modificadas de una imagen. Muchas herramientas de análisis de imágenes
populares, como
Fake Image Detector, aplican
estas técnicas.

Con la aparición de la IA generativa, también hemos visto nuevos métodos
basados en la IA para detectar el contenido generado, pero ninguno de ellos es
perfecto. Estos son algunos de los desarrollos relevantes: detección de
cambio de rostro, detección de imágenes generadas por IA y determinación del modelo de IA utilizado para generarlas, y un modelo de IA abierto para los mismos fines.

Con todos estos enfoques, el problema clave es que ninguno te da el 100 %
de certeza sobre la procedencia de la imagen, garantiza que la imagen esté
libre de modificaciones o permite verificar dichas modificaciones.

WWW al rescate: verificar la procedencia del contenido

¿No sería fantástico si los usuarios comunes pudieran comprobar si una imagen
es real? Bueno, eso es exactamente lo que busca la Coalición para la Procedencia y Autenticidad del Contenido (C2PA). La C2PA incluye algunos de los principales actores de las industrias de la
informática, la fotografía y los medios de comunicación: Canon, Nikon, Sony,
Adobe, AWS, Microsoft, Google, Intel, BBC, Associated Press y alrededor de un
centenar de otros miembros; básicamente todas las empresas que podrían haber
estado involucradas individualmente en casi cualquier paso de la vida de una
imagen, desde su creación hasta su publicación en línea.

El estándar de la C2PA desarrollado por esta coalición ya está disponible e incluso ha
alcanzado la versión 1.3, y ahora estamos empezando a ver que las piezas del
rompecabezas industrial necesarias para usarlo encajan en su lugar.
Nikon planea fabricar cámaras compatibles con la C2PA, y la BBC ya ha publicado sus primeros artículos con imágenes verificadas.

La idea es que, cuando los medios de comunicación responsables y las grandes
empresas pasen a publicar imágenes en forma verificada, puedas comprobar la
procedencia de cualquier imagen directamente en el navegador. Verás una
pequeña etiqueta de «imagen verificada» y, cuando hagas clic en ella,
aparecerá una ventana más grande que te mostrará qué imágenes sirvieron como
origen y qué ediciones se realizaron en cada etapa antes de que la imagen
apareciera en el navegador, quién las hizo y cuándo. Incluso podrás ver todas
las versiones intermedias de la imagen.

Verificación con certificado digital

El proceso de verificación se basa en una criptografía de clave pública
similar a la protección utilizada en los certificados de servidor web para
establecer una conexión HTTPS segura. La idea es que cada creador de imágenes
necesitará obtener un certificado X.509 de una autoridad de certificación de
confianza. Este certificado se puede conectar directamente a la cámara en la
fábrica, mientras que, para los productos de software, se puede emitir al
momento de la activación.

Al procesar imágenes con seguimiento de procedencia, cada nueva versión del
archivo contendrá una gran cantidad de información adicional: la fecha, hora y
ubicación de las ediciones, las miniaturas de las versiones original y
editada, etc. Todo esto irá firmado digitalmente por el autor o editor de la
imagen. De esta forma, un archivo de imagen verificado tendrá una cadena de
todas sus versiones anteriores, cada una firmada por la persona que lo editó.

Para mostrar las capacidades de la C2PA, se creó una colección de
imágenes y vídeos de prueba. Puedes consultar el
sitio web de Content Credentials
para ver las credenciales, el historial de creación y el historial de edición
de estas imágenes.

Limitaciones naturales

Desafortunadamente, las firmas digitales para imágenes no resolverán el
problema de las falsificaciones de la noche a la mañana. Después de todo, ya
hay miles de millones de imágenes en línea que no han sido firmadas por nadie
y que no van a ninguna parte. Sin embargo, a medida que más y más fuentes de
información de renombre pasen a publicar solo imágenes firmadas, cualquier
fotografía sin una firma digital comenzará a ser vista con sospecha. Las
fotografías y los vídeos reales con marcas de tiempo y datos de ubicación
serán casi imposibles de hacer pasar por otra cosa, y el contenido generado
por IA será más fácil de detectar.

Fuente:
Kaspersky



Source link

Los comentarios están cerrados.