Junto con Adobe, otras empresas ya están adoptando el ícono, incluida Microsoft, que lo utilizará para imágenes generadas por IA creadas con Bing Image Creator. Publicis Groupe utilizará el icono en todo el contenido generado por IA para sus clientes. Empresas de hardware como Nikon y Leica comenzarán a agregarlo a futuras cámaras para mostrar qué cámara es capaz de producir imágenes verificables. Las actualizaciones son parte de la Iniciativa de Autenticidad de Contenido en curso, una organización creada por Adobe y varios socios.

El ícono “Credenciales de contenido” ha estado en desarrollo durante el año pasado, dijo Andy Parsons, director senior de Content Authenticity Initiative. Según Parsons, el resultado final pretende “equilibrar la visión de mostrar estos datos nutricionales en el momento en que los necesita, pero también la importancia de comprenderlos”.

“Sabemos que una etiqueta nutricional de cinco millas de largo no es útil para nadie”, dijo Parsons. “Sí, es transparente. Pero no es (para ampliar la metáfora) digerible. Él [has to be] realmente inteligible. Y al final del día, si esto no funciona para los consumidores de manera visceral a la velocidad de las redes sociales, entonces no habremos tenido éxito en nuestra misión”.

Desde cajas de cereales hasta grandes modelos lingüísticos

Adobe no es la primera empresa en agregar “etiquetas nutricionales” u otros equivalentes a los servicios de inteligencia artificial. En agosto, Google presentó una nueva marca de agua para imágenes GenAI que no se puede eliminar. El mismo mes, Twilio anunció su propia etiqueta que muestra a las empresas cómo utilizarán sus datos. Mientras tanto, empresas como Bria AI han comenzado a ofrecer una forma de mostrar qué imágenes se utilizaron para crear una imagen generada por IA. Sin embargo, algunos expertos sostienen que todavía es imposible demostrarlo con certeza.

Más allá de Silicon Valley, en el Congreso también se han debatido los posibles beneficios de las “etiquetas nutricionales” de la IA. (Las etiquetas nutricionales de los alimentos se volvieron obligatorias por primera vez en 1990 con la aprobación de la Ley de Educación y Etiquetado Nutricional, que exigía que las empresas proporcionaran declaraciones consistentes y precisas en un formato estandarizado). Durante la primera audiencia de IA del Comité Judicial del Senado de EE. UU. en mayo, el director ejecutivo de OpenAI, Sam Altman dijo que las etiquetas eran “una gran idea” y agregó que las empresas deberían publicar los resultados de sus modelos y también someterse a auditorías independientes. Sin embargo, en ese momento, existían preocupaciones sobre los desafíos técnicos de crear etiquetas nutricionales, especialmente para modelos de lenguaje grande. También testificó en la misma audiencia que Altman Gary Marcus, un experto en inteligencia artificial y profesor de la Universidad de Nueva York, quien dijo que los científicos primero deben comprender qué contienen los modelos de inteligencia artificial antes de que sea posible proporcionar una etiqueta precisa.

“Creo que es absolutamente necesario que hagamos eso”, dijo Marcus. “Creo que existen algunos desafíos técnicos en el sentido de que la creación de etiquetas nutricionales adecuadas va de la mano de la transparencia”.

Los especialistas en marketing que utilizan herramientas de Adobe con y sin IA también ven los beneficios de etiquetar contenido generativo. Para David Sandstrom, CMO de Klarna, el nuevo ícono suena como otra “característica sorprendente” después de varias otras que Adobe lanzó el año pasado. Sin embargo, dijo que todavía está tratando de determinar si a los consumidores les importará si el contenido es generado por IA o no.

“Esto suena fantástico a nivel B2B”, dijo Sandstrom. “No estoy seguro de que a los consumidores les importe. Cuando hablamos con nuestros consumidores, al menos cuanto más jóvenes se vuelven, no les importa si es generado por IA… Entonces, aunque aprecio algún tipo de etiqueta nutricional en todas estas imágenes, creo que son más para uso profesional o para que lo utilicen las empresas en lugar de que el consumidor se preocupe por ello”.

Más allá de verificar imágenes y videos, Parsons mencionó otros ejemplos de por qué el ícono podría ser útil. Los creadores pueden utilizar el icono para la firma digital. Los diseñadores independientes podrían utilizarlo para conseguir nuevos negocios. Y en zonas de guerra o países sin prensa libre, el “CR” podría ayudar a verificar fotos y videos sin comprometer la identidad de la persona que tomó la foto del video.

Existe un incentivo económico para autenticar el contenido de IA, afirmó Adam Rose, director de operaciones de The Starling Lab. (La organización trabaja con la Universidad de Stanford y otras organizaciones para ayudar a autenticar contenido utilizando herramientas descentralizadas y también ha trabajado con la Iniciativa de Autenticidad de Contenido). Aunque el contenido autenticado todavía es raro, Rose dio la analogía del ícono de candado que muestra la seguridad de un sitio web. Aunque no era tan común hace una década, con el tiempo se ha convertido en la opción predeterminada.

“Ahora existe efectivamente, o pronto habrá, un suministro infinito de contenido fotorrealista”, dijo Rose. “Y entonces, la oferta y la demanda básicas indican que el valor de ese contenido disminuirá, pero todavía hay escasez (y hay una necesidad y yo diría una demanda) de contenido autenticado. Y eso es realmente lo que es diferente aquí”.