Un nuevo informe muestra cuán rápido los sitios web cuestionables publican contenido generado por IA y lo monetizan. A principios de esta semana, los investigadores del servicio de calificación de confiabilidad de noticias NewsGuard publicaron una mirada en profundidad sobre cómo se publicaron cientos de anuncios programáticos pagados por marcas de primer nivel en un número creciente de sitios web generados por IA que están produciendo cientos de artículos al año. día.

En los últimos dos meses, el equipo encontró casi 400 anuncios de 141 marcas importantes en más de 50 sitios web mientras navegaba por Internet en Alemania, Francia, Italia y EE. UU. Pero a diferencia de otros informes recientes de NewsGuard sobre nuevos tipos de contenido de IA, los sitios web en los últimos hallazgos no estaban necesariamente publicando información errónea. En cambio, encontraron contenido de baja calidad que iba desde versiones plagiadas de artículos de noticias reales publicados en otros lugares hasta titulares de cebo de clics que promocionaban remedios no probados o potencialmente dañinos para las alergias, el TDAH e incluso el cáncer. La lista de NewsGuard de sitios web generados por IA “poco confiables” también parece estar creciendo rápidamente, saltando a más de 200 en junio desde solo unas pocas docenas en mayo.

“La creación de sitios de noticias confiables generados por IA está siendo incentivada por la monetización de las grandes empresas de tecnología publicitaria que están monetizando estos sitios en masa”, dijo a Digiday el editor de NewsGuard Enterprise, Jack Brewster. “Y [they] no parecen estar verificando si tienen supervisión humana o verifican la precisión”.

Debido a que las marcas probablemente no sabían que sus anuncios se publicaban en los sitios web generados por IA, NewsGuard decidió no revelar el nombre de los anunciantes. Sin embargo, los ejemplos iban desde los principales bancos y servicios de transmisión hasta gigantes tecnológicos y automotrices, pasando por proveedores de ropa deportiva y mascotas. De los anuncios identificados por NewsGuard, más del 90% se publicaron a través de Google Ads.

“No es como si estas empresas estuvieran diciendo directamente: ‘Oye, ¿puedo criticar este sitio de noticias generado por IA?’”, dijo Brewster. “Simplemente le dicen a Google o a otro tercero que anuncie a personas como usted y como yo y eso crea otros problemas”.

A medida que las empresas buscan nuevas formas de crear salvaguardas, las preocupaciones de seguridad de la marca relacionadas con la IA de los anunciantes ya están creando nuevos negocios para empresas como DoubleVerify. El mes pasado, la compañía dijo que las granjas de contenido de IA impulsaron un aumento del 56 % en la tecnología de seguridad de la marca de la compañía en el primer trimestre de 2023 en comparación con 2022.

Aunque el contenido generado por IA no es del todo diferente de otras preocupaciones de seguridad de la marca, el director ejecutivo de DoubleVerify, Mark Zagorski, dijo que está creando nuevos desafíos debido a la escala que crea junto con nuevos problemas, como las preocupaciones relacionadas con la infracción de derechos de autor. Como resultado, más anunciantes están agregando sitios web generados por IA a sus listas de bloqueo. Otros anunciantes están menos preocupados por el contenido generado por IA y, en cambio, más preocupados por el contenido que genera la IA. DoubleVerify también está invirtiendo más en sus propias herramientas de inteligencia artificial: los resultados del primer trimestre de 2023 de la compañía mostraron que los costos de desarrollo de productos aumentaron a $ 28,5 millones desde $ 21,5 millones el año anterior. (Zagorski dijo que las actualizaciones ayudarán a desarrollar nuevas formas de detectar contenido en más idiomas y más formatos de contenido, incluido el video).

“Lo interesante es que si esto es creado o no por IA generativa es un factor menor que el contenido en sí mismo”, dijo Zagorski a Digiday. “Es por eso que queremos usar un bisturí en lugar de una cuchilla”.

La IA generativa también está agregando nuevos desafíos al ecosistema de publicidad programática al tiempo que agrava las debilidades existentes, señala Evelyn Mitchell-Wolf, analista senior de publicidad digital y analista de medios en eMarketer. Los desafíos también están creando una “crisis existencial” para los editores tradicionales que se debaten entre usar herramientas generativas de IA, invertir en contenido creado por humanos y decidir si permiten que los modelos de IA tengan acceso API a contenido de calidad para usar como datos de entrenamiento. También agregó que las listas de exclusión no garantizan que los anunciantes puedan evitar todo el contenido de riesgo.

“La IA generativa está aumentando exponencialmente el área de superficie donde puede vivir ese contenido de baja calidad”, dijo Mitchell-Wolf. “Es una bola de nieve de un problema”.

Cuando se le pidió un comentario sobre el informe de NewsGuard, el portavoz de Google, Michael Aciman, dijo que la compañía revisó los sitios web generados por IA mencionados en el informe de NewsGuard y eliminó los anuncios de muchos de ellos “debido a violaciones generalizadas de la política”. En varios otros sitios web, Google desmonetizó páginas individuales en sitios citados por NewsGuard que violaban las políticas de Google. Aciman también señaló que los sitios web no necesariamente violan las políticas de Google simplemente por tener contenido generado por IA, pero agregó que se da cuenta de que “los malos actores siempre están cambiando su enfoque”.

“Tenemos políticas estrictas que rigen el tipo de contenido que se puede monetizar en nuestra plataforma”, dijo Aciman. “Por ejemplo, no permitimos que los anuncios se publiquen junto con contenido dañino, spam o contenido de bajo valor, o contenido que se haya copiado únicamente de otros sitios. Al hacer cumplir estas políticas, nos enfocamos en la calidad del contenido en lugar de cómo se creó, y bloqueamos o eliminamos la publicación de anuncios si detectamos violaciones”.

Los desafíos surgen cuando otras partes del ecosistema de la publicidad programática también están bajo el foco de atención. En un nuevo estudio de la cadena de suministro de medios programáticos, los sitios web “hechos para publicidad” (MFA) representaron el 21 % de las impresiones y el 15 % del gasto publicitario total. El informe, publicado este mes por la Asociación de Anunciantes Nacionales, también encontró que los sitios web de MFA representaron el 19 % de las compras de medios en el mercado abierto e incluso el 14 % de las transacciones en el mercado privado.

Los sitios web de MFA incluyen más tipos de sitios web que solo aquellos con contenido generado por IA, pero los hallazgos muestran que los anunciantes no siempre tienen el control de su propia publicidad. El informe también ilustra cuánto margen de mejora queda cuando se trata de ayudar a los anunciantes a financiar contenido de calidad en lugar de cebo de clics de humanos y bots.

Debido a que la IA facilita que los sitios web sean mucho más rápidos, la idoneidad de la marca se vuelve más desafiante y permite que los “malos actores” ganen más dinero, dijo Keri Bruce, abogada de Reed Smith, el bufete de abogados que desarrolló el informe de ANA. Todo eso conduce a un juego más grande de “golpear un topo legal”, dijo, y agregó que los anunciantes deben realizar un seguimiento de cuántos sitios web están ejecutando y al mismo tiempo centrarse más en las listas de inclusión en lugar de solo las listas de exclusión.

“No puedo nombrar 44 000 sitios web a los que voy y no creo que un solo consumidor pueda hacerlo”, dijo. estar en miles y miles de sitios web?