“Usar herramientas de inteligencia artificial para engañar, engañar o defraudar a las personas es ilegal”, dijo la presidenta de la FTC, Lina Khan, en un comunicado. “Las acciones de aplicación de la ley de la FTC dejan en claro que no existe ninguna exención de la IA de las leyes en los libros. Al tomar medidas enérgicas contra las prácticas injustas o engañosas en estos mercados, la FTC garantiza que las empresas honestas y los innovadores puedan tener una oportunidad justa y que los consumidores estén protegidos”.

En cuanto a las nuevas regulaciones de la agencia para reseñas falsas, las actualizaciones se aprobaron el mes pasado y entrarán en vigor el 24 de octubre. Las reglas actualizan una prohibición existente sobre reseñas falsas de manera que apuntan a aclarar, fortalecer y hacer cumplir las leyes para proteger a los consumidores y agregar nuevas sanciones. Además de abordar reseñas falsas de celebridades, empleados, personas comunes y corrientes e identidades falsas, los cambios también abordan reseñas falsas creadas utilizando herramientas de inteligencia artificial generativa, un riesgo para los consumidores, las empresas y la información en línea en general.

Las reglas regulan los sitios web de empresas, los sitios de reseñas independientes, las plataformas de redes sociales, el contenido publicitario y otros tipos de material de marketing. A continuación se ofrece un vistazo a lo que abordan los cambios, lo que no abordan y otra información que debe conocer antes de que comience la aplicación en unas pocas semanas.

¿Qué tipo de reseñas están prohibidas?

Las nuevas reglas describen varios tipos de revisiones prohibidas por la FTC. Las empresas no pueden crear, comprar ni vender reseñas de consumidores o celebridades que tergiversen la experiencia de un crítico. Las reglas también prohíben ofrecer incentivos por reseñas positivas o negativas, impiden que las empresas realicen reseñas por parte de ejecutivos o empleados sin la divulgación adecuada y restringen las reseñas solicitadas por parte de familiares. Las empresas tampoco pueden tergiversar la sección de reseñas de su sitio web como independiente, no pueden amenazar a los revisores y no pueden comprar o vender influencias falsas en forma de seguidores o recuentos de vistas con fines comerciales.

“Las herramientas de inteligencia artificial facilitan que los malos actores contaminen el ecosistema de reseñas al generar, de manera rápida y económica, grandes cantidades de reseñas realistas pero falsas que luego pueden distribuirse ampliamente en múltiples plataformas”, se lee en una nota a pie de página en el texto finalizado de las reglas. “Las revisiones generadas por IA están cubiertas por la norma final, que la Comisión espera que disuada el uso de IA para ese propósito ilícito”.

Las actualizaciones de la FTC también ayudan a aclarar y consolidar las reglas existentes en un conjunto más coherente, dijo Mary Engle, vicepresidenta de políticas de Programas Nacionales de BBB. Engle, ex miembro de la división de prácticas publicitarias de la FTC, dijo que parece que la agencia está tratando de distinguir “qué prácticas particulares que siempre serían ilegales versus algunas que no siempre serían ilegales o serían más difíciles de trazar la línea”. En cambio, las reglas persiguen comportamientos claramente ilegales o engañosos.

Cuando se trata de contenido generado por IA, los grandes modelos de lenguaje hacen que sea más difícil identificar si algo es parte de una red de reseñas falsas orquestadas en todo el mundo. Sin embargo, la divulgación adecuada también es clave en el caso de reseñas, publicidad y otros tipos de reseñas y respaldos.

Si bien algunos podrían pensar que las empresas de buena reputación intentan evitar reseñas falsas para proteger su marca, no siempre es así. Sin embargo, Engle cree que el riesgo de multas más elevadas y daños a la reputación podría motivar a las empresas y a los revisores a cumplir y preservar su buena voluntad con los clientes. “Una de las cosas buenas de Internet es que se descubre la verdad sobre la falsificación, y entonces puede generarse una reacción violenta”, dijo.

“La razón por la que estas reglas son importantes es porque todos dependen de las revisiones”, dijo Engle. “Es necesario que sean valiosos y legítimos. Pero como todo el mundo confía en las reseñas, existe un gran incentivo para falsificarlas o inflarlas de alguna manera. Creo que la FTC está tratando de contrarrestar los incentivos para que esto suceda con menos frecuencia”.

Respaldo, aplicación y riesgos de la IA

Empresas como Google y Yelp también han respaldado los cambios, pero algunos expertos no creen que las actualizaciones vayan lo suficientemente lejos, incluso si son un paso en la dirección correcta. En lugar de regular las redes sociales y los gigantes del comercio electrónico, las reglas simplemente impiden que las empresas creen o hagan reseñas falsas. La existencia de la industria de reseñas falsas fuera de las leyes estadounidenses también crea desafíos regulatorios.

El mercado ya está saturado con tantas reseñas falsas en línea”, dijo la ex investigadora criminal Kay Dean, quien ahora es la fundadora del sitio web de vigilancia Fake Review Watch. “Con la llegada de la IA, anticipo que el problema no hará más que empeorar. Experimenté con reseñas generadas por IA y no me sorprendió ver lo fácil que era escupir contenido rápidamente. Sin embargo, no es fácil señalar si las reseñas falsas están escritas por una persona real o si son generadas por IA”.

Algunos dicen que la FTC podría haber optado por no regular las plataformas de terceros para evitar problemas de la Sección 230 sobre cómo se permite al gobierno regular las redes sociales. Sin embargo, Dean dijo que la FTC aún podría haber tomado otras medidas. Por ejemplo, dijo que podría haber requerido que las plataformas mostraran a los usuarios cuántas reseñas falsas o engañosas esa plataforma ha eliminado de la página de una empresa determinada, identificaran a todos los revisores más a fondo y brindaran a los usuarios acceso a todas las reseñas, incluidas las eliminadas.

“Estas y otras recomendaciones específicas que le proporcioné a la FTC brindarían mucha más transparencia para que los consumidores vean lo que realmente está sucediendo”, dijo. “¿No le gustaría saber que Google o Yelp han eliminado docenas de reseñas falsas de un contratista que estaba considerando contratar para completar una remodelación de la cocina por valor de 50.000 dólares?”

Matt Schwartz, analista de políticas de Consumer Reports, dijo que su grupo de vigilancia apoya en general las nuevas reglas. Aunque las reglas finalizadas eliminaron parte del texto propuesto originalmente sobre temas como reseñas secuestradas en Amazon, cree que la mayor transparencia podría mejorar, mientras que sanciones más altas podrían ayudar a disuadir a las empresas de ser malos actores.

“Toda la cuestión de la aplicación de la ley es la clave”, dijo Schwartz.

Avisos y productos: noticias y anuncios de IA

• Google anunció nuevas actualizaciones para Gemini y cómo una variedad de empresas están utilizando el modelo de lenguaje grande para diversos productos y servicios.
• Varios miembros clave de OpenAI abandonaron la empresa, incluida la CTO Mira Murati y los principales miembros del equipo de investigación. Según se informa, la startup se está alejando de su modelo sin fines de lucro para convertirse en una empresa con fines de lucro. (También lanzó la nueva función de voz avanzada, que enfrentó controversia esta primavera).
• Meta presentó una gama de nuevas actualizaciones de IA en su evento anual Meta Connect, incluidas actualizaciones de Meta AI, un nuevo modelo Llama 3.2 y nuevas funciones para las gafas inteligentes Meta Ray Ban.
• La startup de detección de deep fakes Reality Defender e Intel están rastreando información errónea generada por IA relacionada con las elecciones.
• El director ejecutivo de Apple, Tim Cook, y el presentador nocturno Jimmy Fallon dieron un paseo por Central Park como parte de los esfuerzos de Apple para comercializar el nuevo iPhone 16 y sus funciones Apple Intelligence.
• Más de 100 actores y productores de Hollywood firmaron una carta instando al gobernador de California a firmar una legislación de seguridad de la IA en el estado.
• Durante la Semana del Clima en la ONU, una organización sin fines de lucro tiene una nueva instalación de arte en el Bryant Park de la ciudad de Nueva York para crear conciencia sobre las grandes cantidades de energía y agua que se necesitan para impulsar los modelos de IA.
• Notion, la aplicación de productividad, anunció nuevas funciones de IA generativa para búsqueda, análisis, generación de contenido y otras herramientas.
• La plataforma de inteligencia artificial de código abierto HuggingFace anunció una nueva aplicación para MacOS.
• Más de 100 empresas han firmado un nuevo Pacto de IA de la UE para impulsar una IA fiable y segura.

Otras historias de IA esta semana:

• Business Insider utilizó una estrategia de muro de pago basada en IA para aumentar las conversiones en un 75%. (día digital)
• Un nuevo informe de 404 Media dice que las imágenes de hongos generadas por IA de Google podrían difundir información engañosa y peligrosa.
• “Un extraño criticó las gafas inteligentes de Meta. Ahora ella está a cargo de ellos” (Bloomberg)
• La jefa antimonopolio de la UE, Margarethe Vestager, habló con Axios sobre el caso antimonopolio de Google adtech, la inteligencia artificial y otros problemas que enfrentan las grandes tecnologías.
• Según se informa, Perplexity está en conversaciones con las principales marcas para introducir anuncios en el cuarto trimestre. (PIE)
• El San Francisco Chronicle presentó un nuevo chatbot de inteligencia artificial “Kamala Harris News Assistant” para informar a los lectores sobre el candidato y las elecciones presidenciales.
• “Un hacker coloca recuerdos falsos en ChatGPT para robar datos de usuario a perpetuidad”. (ArsTécnica)