Cómo detectar ediciones con IA en una foto

Para detectar ediciones con IA en una foto, investigue la zona que puede haber cambiado: use un análisis diseñado para manipulaciones locales, compruebe qué representa cada mapa o puntuación y contraste el hallazgo con el historial de la fuente o con pruebas de referencia. Clasificar la imagen completa y analizar ediciones locales son preguntas distintas: una foto puede conservar casi toda la escena captada por la cámara y tener, aun así, un detalle importante generado o borrado.

Las herramientas que hoy usa cualquiera hacen exactamente eso. El Relleno generativo de Photoshop, anunciado por Adobe en mayo de 2023, permite añadir, ampliar o eliminar contenido de una imagen a partir de una instrucción de texto (anuncio de Adobe del 23 de mayo de 2023, en inglés). Las funciones de «borrar objetos» y «añadir elementos» de los editores del móvil, y los asistentes conversacionales con edición de imágenes como ChatGPT o Gemini, permiten pedir en lenguaje natural que se regenere una parte de la foto. Estas ediciones pueden cambiar un detalle decisivo y dejar intacto el resto de la escena.

La secuencia práctica es: elegir la tarea → leer el hallazgo local → comparar las pruebas pertinentes → actuar sobre lo que quede sin resolver. Un buen resultado de localización le indica dónde investigar. Lo que respalda un hallazgo más concreto de edición con IA son las pruebas de cómo se hizo esa zona.

Defina la pregunta antes de elegir un detector

Parta del hecho que la fotografía debe acreditar, por ejemplo: «El electrodoméstico devuelto tiene una grieta en el panel inferior». Marque la zona relevante y precise qué necesita saber de ella: si la grieta es visible, si esa parte de la imagen cambió o si el cambio se hizo con IA generativa.

Defina qué cambios importan para la decisión. Borrar a un transeúnte del fondo puede ser aceptable en un anuncio de producto; sustituir una etiqueta identificativa puede invalidar el propósito del registro. Investigue el cambio que afecta a la afirmación.

Hay tres tareas técnicas que se confunden con facilidad:

Un detector puede combinar estas tareas, pero su evaluación debe respaldar cada capacidad que se le atribuye. Una herramienta entrenada para distinguir escenas generadas por completo de fotografías de cámara no queda validada automáticamente para el relleno generativo (inpainting) local. Un detector general de manipulaciones puede encontrar ediciones convencionales sin distinguirlas de las generativas. El NIST señala como complicación el contenido solo parcialmente sintético, con el ejemplo de un objeto eliminado y su hueco rellenado por IA, y trata la atribución como una tarea más rica que la detección básica (NIST AI 100-4, apartado 3.2, en inglés).

En Fileverity, esta distinción se refleja en los resultados. «Generada por IA» y «Foto con alteraciones locales» son evaluaciones diferentes: el análisis de imágenes distingue una foto real con zonas regeneradas mediante relleno generativo o inpainting de una imagen generada en su totalidad, y marca las zonas regeneradas. La atribución a una familia de modelos solo se ofrece para imágenes generadas y cuando las pruebas lo permiten; ningún mapa de píxeles identifica la herramienta concreta con la que se editó una foto.

Qué significa realmente un mapa de localización

Antes de interpretar una superposición de colores, consiga la definición del resultado. ¿Es una puntuación de manipulación, una puntuación de anomalía, una estimación de confianza o una visualización de atención? ¿Un valor más alto significa más sospecha? ¿Se aplicó un umbral? ¿Son comparables los valores entre imágenes o la visualización reescala cada mapa por separado?

Lea la leyenda antes que los colores. Una mancha intensa puede representar el valor más alto de esa visualización, no un nivel fijo de preocupación. Una puntuación de 0,8 para la imagen completa no significa que se haya editado el 80 % de los píxeles. Antes de tratarla como una probabilidad fiable del 80 % de la condición que busca la herramienta, compruebe su definición y su calibración para entradas comparables.

Un mapa de localización o mapa de calor puede informar de tres cosas distintas: dónde responde una zona como anómala, qué fiabilidad tiene esa respuesta y una decisión sobre la imagen en su conjunto. Una respuesta fuerte en una zona intacta es una falsa alarma, y la propia estimación de fiabilidad también puede fallar, sobre todo tras una compresión o un redimensionado. Si va a contratar una herramienta, pregunte cómo separa una zona sospechosa de la confianza en ese hallazgo.

Use esta lista antes de llevar un mapa a una reunión de decisión:

Una máscara con umbral es una zona estimada, no la selección de edición recuperada. Su contorno puede ir más allá del elemento, omitir parte de él o reflejar la resolución espacial del modelo. No calcule un «porcentaje de imagen editada» a partir de esa máscara, salvo que la definición y la validación de la herramienta lo justifiquen. Cuando la localización precisa no esté respaldada, describa la superposición con palabras.

Convierta el hallazgo en una acción

El valor de un mapa está en lo que le ayuda a investigar. Empiece por el elemento que importa, compruebe si el hallazgo se superpone con él y elija después la prueba que puede resolver esa duda concreta.

La verificación de imágenes de Fileverity combina comprobaciones de generación por IA, de manipulación y de procedencia. Para esta tarea, céntrese en el hallazgo local: a qué zona se refiere, qué tipo de cambio respalda y qué prueba conviene pedir después.

Por qué una edición pequeña puede desaparecer en un resumen global

Fileverity analiza la generación de la imagen completa y la manipulación localizada como preguntas distintas. Uno de los motivos técnicos es la dispersión espacial: las pruebas de una edición local pueden ocupar una fracción mínima de la imagen. Reducir un mapa espacial a un solo número puede descartar información sobre la intensidad y la ubicación de esas pruebas.

Considere un mapa hipotético y deliberadamente sencillo con 10.000 celdas del mismo tamaño. Suponga que 100 celdas tienen una puntuación de manipulación de 0,90 y las otras 9900, de 0,10. Si se resume con una media aritmética, el resultado es:

Media = (100 × 0,90 + 9900 × 0,10) / 10.000 = 0,108.

En general, si una fracción f tiene la puntuación a y el resto la puntuación b, la media es b + f(a − b). La contribución local se reduce con su fracción de superficie. Aquí, la zona con puntuación alta solo cambia la media en 0,008, aunque contiene valores muy superiores al fondo. Ejemplo didáctico simplificado.

Tomar el máximo da 0,90, lo que conserva el valor extremo pero crea otro problema: una única respuesta falsa aislada puede determinar todo el resumen. La ubicación y la organización espacial aportan información que ninguno de los dos números contiene. Un grupo compacto junto a una grieta discutida y cien celdas dispersas pueden tener la misma media y el mismo máximo. Plantean tareas de inspección distintas, aunque ningún patrón demuestra por sí solo una alteración.

La lección de ingeniería es conservar suficiente información espacial para interpretar un hallazgo sobre la imagen completa y ponderar la fiabilidad de una respuesta regional junto con su intensidad.

Un clasificador de generación para la imagen completa no tiene por qué promediar un mapa de manipulación: puede estimar otro objetivo a partir de otras pruebas aprendidas. Por eso, una señal baja de generación no sustituye a la pregunta local. En una foto de un aparato dañado, mantenga la ubicación del hallazgo vinculada a la grieta revisada y pida pruebas de ese elemento en el mismo artículo. En un piloto, varíe tanto el tamaño de la edición como la calidad del envío: una prueba con escenas generadas por completo no responde a si las ediciones pequeñas y decisivas siguen siendo revisables.

Mantenga conectados el archivo y su historial

La comparación siguiente parte de una fotografía real de una cocina, tomada en 2019 por Eli Christman. Fileverity usó la IA para añadir una grieta ficticia a la jarra de la batidora en una versión derivada. Los recortes equivalentes facilitan comparar el defecto añadido con la pared original de la jarra.

La escena circundante sigue siendo verosímil. Sin embargo, en la revisión de una devolución, la grieta añadida podría decidir el resultado, por lo que la pared de la jarra pasa a ser la prioridad del análisis local y de la petición de pruebas.

Conserve el archivo recibido y asígnele una referencia estable. Anote sus dimensiones, el canal de recepción y el procesado conocido. Defina la zona de interés (ZDI) con coordenadas y una breve descripción, e indique si las coordenadas se refieren al archivo almacenado o a una vista con la orientación corregida. Mantenga los recortes y los resultados vinculados a su archivo de origen. Un recuadro de revisión indica dónde mira usted; no es una máscara de edición.

Si recibió una captura de pantalla, pida la fotografía como adjunto. Examine la escena completa además de la zona: los reflejos, las sombras y los objetos cercanos pueden explicar un borde o vincular el artículo con su entorno.

Las Credenciales de contenido (C2PA) pueden añadir información firmada sobre la creación o la edición. Photoshop, por ejemplo, admite Credenciales de contenido en el Relleno generativo, según el mismo anuncio de Adobe. Registre el resultado de la validación, los datos del firmante, las acciones relevantes y su relación con el archivo recibido. Determine si una acción afecta a la zona discutida o a una parte no especificada de la imagen. La explicación de C2PA describe estas afirmaciones a prueba de manipulación y sus límites: el historial puede estar incompleto y no acredita la veracidad del hecho representado (explicación de C2PA 2.2, apartados 2 y 7.2, en inglés).

Los metadatos simples ofrecen pistas sobre el programa y las fechas. Úselas para preguntar por el historial de procesado, pero apoye cualquier conclusión sobre la zona discutida en las pruebas disponibles. La guía sobre cómo saber si una foto está editada explica cómo leer esos campos.

Tenga en cuenta el redimensionado, la compresión y las copias de análisis

Una imagen puede haberse redimensionado, comprimido, recortado o capturado de una pantalla antes de llegar a revisión. Anote estas condiciones conocidas y compruebe si la herramienta se evaluó con entradas comparables. No traslade un resultado obtenido con archivos limpios a un envío muy transformado sin pruebas de que la comparación es adecuada; la guía sobre capturas de pantalla y fotos comprimidas desarrolla este punto.

Recortar puede facilitar que una persona examine el elemento discutido, pero también cambia la entrada del detector y elimina contexto. Si la herramienta admite el análisis de recortes, conserve por separado el resultado del encuadre completo y el del recorte, con las coordenadas del recorte. Un cambio de puntuación entre ambos no prueba por sí mismo que el recorte contenga una edición.

Del mismo modo, una copia ampliada o enfocada puede servir para comentar el caso, pero es una derivada: etiquétela y conserve la fuente. No use mejoras generativas para reconstruir un detalle que se pretende usar como prueba: un borde o un carácter inferidos no acreditan lo que registraban los píxeles recibidos. Cuando un elemento no se lee, «ilegible en el archivo aportado» suele ser la observación más útil.

Esta fase debe terminar con una de dos posiciones claras: el archivo disponible es adecuado para el análisis indicado o persiste una limitación relevante. No convierta en silencio la segunda en «no se ha encontrado ninguna edición».

Caso práctico: una grieta en el panel de un electrodoméstico

Caso hipotético. En la revisión de una devolución, la foto enviada mide 4000 × 3000 píxeles. Un recuadro de 400 × 300 píxeles encierra la grieta alegada y la superficie cercana del panel. Su área es de 120.000 píxeles sobre 12.000.000, es decir, 120.000 / 12.000.000 = 1 % de la imagen.

El recuadro cubre el 1 % de la imagen y, sin embargo, la grieta puede decidir la devolución. Por eso importa el análisis local: la pregunta de negocio se refiere a este elemento, con independencia de cuánto del resto de la fotografía siga intacto. El área del recuadro es geometría, no una medida de los píxeles editados ni de la sensibilidad de un detector.

Suponga que una herramienta general de manipulación resalta parte del panel cerca de la grieta, mientras que el clasificador de la imagen completa no marca la foto. Estos resultados hipotéticos responden a tareas distintas. Consérvelos ambos, con sus definiciones: la señal local da al revisor una parte concreta del envío que investigar.

La zona resaltada se superpone con parte del recuadro relevante, pero no recorre toda la grieta. Registre una posible alteración local y pida pruebas sobre ese panel. El resultado general de manipulación deja sin resolver la intervención de la IA; un artefacto de procesado o una explicación propia de la escena siguen siendo posibles.

Pida otra fotografía del mismo panel por el procedimiento habitual de devoluciones, con suficiente parte del artículo visible para vincularlo con la operación:

Para continuar con la revisión, le rogamos que nos envíe una foto en la que se vean a la vez el panel inferior y la etiqueta identificativa del aparato, y otra foto más cercana de la grieta. Envíelas como documento adjunto, sin recortes ni filtros. Si no le es posible, indíquenoslo y le propondremos otra forma de comprobar el estado del artículo.

Si hay una inspección disponible, pida que se ocupe directamente de ese elemento. Así se aborda la cuestión pendiente en lugar de pedir copias repetidas de la misma foto. En una devolución de un consumidor, esta petición no sustituye a los derechos que le reconoce la ley ni a los plazos aplicables; solo determina qué se pide o se inspecciona. La guía sobre fotos editadas con IA en devoluciones trata ese marco, y la de fraude al seguro con IA, el de los siniestros.

Si la inspección confirma el daño, eso puede respaldar la reclamación aunque el historial de edición del primer archivo siga sin resolverse. Si la nueva fotografía parece incoherente, compruebe primero que muestra el mismo artículo, la misma zona y el momento pertinente: el estado puede haber cambiado. Un desacuerdo exige conciliar las pruebas; no acredita por sí solo una intención de engañar.

Un registro de revisión que otra persona pueda usar

Complete cada fila con la información del caso y escriba «desconocido» cuando corresponda. Mantener columnas separadas para observaciones e inferencias reduce el riesgo de que una señal provisional se convierta en una acusación al pasar el caso a otra persona.

En el ejemplo hipotético, una redacción defendible sería: «Un resultado de análisis de manipulación se superpone con parte de la zona del panel. No acredita el uso de IA generativa. El archivo aportado y el resultado no resuelven si la grieta alegada estaba presente en el artículo. Se solicita una fotografía captada por separado o una inspección vinculada al mismo artículo».

Fije la siguiente acción según lo que falte: un archivo mejor ante un problema de calidad de entrada, una explicación ante una incoherencia de procedencia o una corroboración física ante una afirmación sobre la escena que sigue abierta. Escale la interpretación técnica a un especialista en análisis forense de imágenes cuando ese análisis pueda cambiar la decisión. El cierre debe indicar qué pregunta quedó resuelta y qué cuestiones del historial del archivo siguen abiertas.

Evalúe la tarea de edición local que necesita

La primera comprobación del análisis de imágenes es gratuita y muestra el nivel de riesgo y la acción recomendada. Un crédito de imagen desbloquea las evidencias y el informe completo, incluidas las zonas con indicios de edición que el análisis haya podido localizar. Identifique el elemento discutido antes de interpretar el resultado. Las condiciones de las comprobaciones gratuitas y del análisis de imágenes figuran en precios, y las fases del análisis se explican en cómo funciona.

Para evaluar Fileverity en un equipo, hable con ventas con ejemplos de las ediciones locales y de los canales de envío que recibe de verdad, y separe tres requisitos: detectar un cambio, localizarlo e identificar la intervención de la IA. Los archivos se analizan en servidores operados por Entogo en Toronto (Canadá) y se eliminan al terminar el análisis; los detalles están en la página de seguridad.

Para comparar cambios convencionales y generativos con versiones anteriores, consulte cómo saber si una foto está editada. Si la duda es si toda la imagen se generó con IA, siga con cómo saber si una imagen está hecha con IA.

Preguntas frecuentes

¿Se puede detectar el relleno generativo de Photoshop?

A menudo, sí, pero depende de la herramienta y del archivo. Photoshop suele registrar el relleno generativo en las Credenciales de contenido del archivo, que Fileverity lee y valida. Cuando faltan esas credenciales, un análisis de imágenes examina los píxeles en busca de zonas regeneradas y las marca en la imagen. Las ediciones muy pequeñas o muy recomprimidas pueden pasar desapercibidas, y el informe indica la solidez de las pruebas. Con cualquier otra herramienta, pida pruebas de que su evaluación cubre las ediciones locales y las condiciones de entrada que usted recibe.

¿Una zona sin marcar es original?

No. Significa que ese análisis concreto no resaltó la zona en las condiciones utilizadas. Que sea una prueba negativa útil depende de la sensibilidad validada de la herramienta en casos comparables.

¿Puede un mapa identificar al editor o la instrucción (prompt)?

Un mapa de localización genérico, no. La atribución necesita pruebas específicas. No deduzca la cuenta, la instrucción o la intención a partir de la forma de una zona resaltada.

Por Yang Zheng