LinkedIn ha desarrollado un nuevo detector de imágenes de IA que, según se afirma, puede detectar el 99,6 % de las imágenes de perfil falsas, con una tasa de falsos positivos del 1 %. Según la evidencia anecdótica, su nuevo detector realmente funciona.

Perfiles falsos de LinkedIn

Hay muchas razones por las que las personas crean perfiles de LinkedIn falsos.

Para algunos miembros de la comunidad de marketing de búsqueda de afiliados, una de las razones de los perfiles falsos es la percepción de que Google confiará en un sitio si los autores del artículo tienen enlaces a un perfil de LinkedIn en sus biografías de autor.

Esta idea surge del estímulo de Google de que el contenido debe tener lo que se conoce como EEAT, experiencia, pericia, autoridad y confiabilidad.

Para otros, la motivación es crear un sitio web que se vea más confiable para los visitantes de sus sitios web.

Esto no pretende condonar esas prácticas, las desaliento.

Esto es solo para explicar que la práctica está ocurriendo y por qué está ocurriendo.

El advenimiento de la capacidad de crear imágenes de perfil con IA ha facilitado la creación de perfiles falsos, lo que exacerbó exponencialmente un problema que ya era enorme.

Los informes sobre perfiles de LinkedIn falsos publicados en 2022 señalaron que LinkedIn detectó y eliminó 21 millones de cuentas falsas en la primera mitad de 2022.

La evidencia anecdótica compartida por un vendedor afiliado que implementó perfiles falsos de LinkedIn confirma que el detector de imágenes de IA de LinkedIn ha mejorado en gran medida su capacidad para detectar cuentas falsas.

Según LinkedIn:

“Trabajamos constantemente para mejorar y aumentar la eficacia de nuestras defensas contra el abuso para proteger las experiencias de nuestros miembros y clientes. Y como parte de nuestro trabajo continuo, nos hemos asociado con la academia para estar un paso adelante de los nuevos tipos de abuso vinculados a cuentas falsas que aprovechan tecnologías en rápida evolución como la IA generativa”.

Cuentas falsas difíciles de detectar

LinkedIn actualiza constantemente sus sistemas para detectar múltiples tipos de actividad no deseada, como perfiles falsos, apropiaciones de cuentas e infracciones de políticas de contenido.

La introducción de imágenes generadas por IA ha hecho que sea casi imposible detectar imágenes falsas si no sabes qué buscar.

LinkedIn identifica “artefactos” que son el sello distintivo de las imágenes de perfil de IA falsas.

La mayoría de las personas no saben cómo detectar imágenes de IA, por lo que es fácil que las personas confundan una cuenta falsa con una real.

LinkedIn compartió:

“Con el auge de los medios sintéticos generados por IA y los medios generados de texto a imagen, los perfiles falsos se han vuelto más sofisticados.

Y hemos encontrado que la mayoría de los miembros son generalmente incapaces de distinguir visualmente los rostros reales de los generados sintéticamente…”

Cómo captura LinkedIn el contenido generado por IA

Una característica de las imágenes creadas artificialmente es que todas comparten patrones similares, lo que LinkedIn llama diferencias estructurales.

Las imágenes reales no comparten componentes estructurales.

LinkedIn compartió un ejemplo de un compuesto de 400 imágenes artificiales y 400 imágenes reales.

La composición de las imágenes falsas muestra que las áreas alrededor de los ojos y la nariz tienden a ser muy similares.

La composición de las imágenes reales no tiene nada en común con ninguna de las otras imágenes, por lo que la composición es borrosa.

Los resultados de su investigación son impresionantes.

acciones de LinkedIn:

“La tasa de verdaderos positivos (TPR) es el porcentaje de fotos sintéticas que se clasifican correctamente como sintéticas.

La tasa de falsos positivos (FPR) es el porcentaje de fotos reales que se clasifican incorrectamente como sintéticas.

Nuestro enfoque es capaz de detectar el 99,6 % (TPR) de las caras sintéticas StyleGAN, StyleGAN2 y StyleGAN3, mientras que solo clasifica incorrectamente el 1 % (FPR) de las fotos de perfil reales de LinkedIn como sintéticas.

Para los resultados de referencia en nuestro trabajo de investigación, elegimos un objetivo de FPR del 1% porque, para aplicaciones del mundo real en una gran red profesional, es importante que los modelos de detección de imágenes generados por IA capturen la mayoría de las imágenes sintéticas, mientras que solo en raras ocasiones. clasificar una imagen real como sintética”.

¿Qué tan efectivo es el detector de IA de LinkedIn en el mundo real?

El comercializador afiliado con los perfiles falsos de LinkedIn compartió que LinkedIn pudo detectar el 100 % de sus perfiles falsos de LinkedIn.

Ellos compartieron su experiencia conmigo:

“Como vendedor afiliado, tener perfiles de LinkedIn para mi persona falsa fue una excelente manera de obtener credibilidad para mis autores.

Fue especialmente útil para la construcción de enlaces de HARO, ya que los reporteros tienden a vincular más a menudo a sitios con personas con un perfil de LinkedIn.

En los últimos meses, LinkedIn ha suspendido el 90 % de mis perfiles.

Desafortunadamente, ahora tengo que encontrar otro método para agregar credibilidad a mis autores y hacer que parezcan legítimos”.

LinkedIn continúa mejorando su capacidad para detectar perfiles falsos. La capacidad de crear un perfil falso ahora es aún más difícil.

Lea el anuncio original:

Nuevos enfoques para detectar fotos de perfil generadas por IA

Imagen destacada de Shutterstock/Meilun