Un informe de la Asociación para el Avance de la Inteligencia Artificial (AAAI) revela una desconexión entre las percepciones públicas de las capacidades de AI y la realidad de la tecnología actual.

La fáctica sigue siendo un gran desafío sin resolver para los modelos más avanzados.

El informe del “Panel Presidencial sobre el futuro de la investigación de IA de la AAAI se basa en los aportes de 24 investigadores de IA experimentados y respuestas de encuestas de 475 participantes.

Estos son los hallazgos que afectan directamente las estrategias de búsqueda y marketing digital.

Los principales modelos de IA fallan en las pruebas de facturidad básicas

A pesar de miles de millones en inversión de investigación, la fáctica de IA sigue sin resolverse en gran medida.

Según el informe, incluso los modelos más avanzados de OpenAI y Anthrope “respondieron correctamente menos de la mitad de las preguntas” en nuevos puntos de referencia como Simpleqa, una colección de preguntas fácticas sencillas.

El informe identifica tres técnicas principales que se están implementando para mejorar la facturidad:

• Generación de recuperación de generación (trapo): Recopilar documentos relevantes utilizando la recuperación de información tradicional antes de generar respuestas.
• Verificaciones de razonamiento automatizadas: Verificación de salidas contra reglas predefinidas para eliminar respuestas inconsistentes.
• Cadena de pensamiento (cot): Rompiendo preguntas en unidades más pequeñas y provocando que AI se refleje en conclusiones tentativas

Sin embargo, estas técnicas muestran un éxito limitado, con 60% de los investigadores de IA que expresan pesimismo de que los problemas de hecho se “resolverán” en el futuro cercano.

Esto sugiere que debe prepararse para la supervisión humana continua para garantizar el contenido y la precisión de los datos. Las herramientas de IA pueden acelerar las tareas de rutina, pero la autonomía completa sigue siendo arriesgada.

La brecha de realidad: capacidades de IA vs. percepción pública

El informe destaca una brecha de percepción preocupante, con 79% de los investigadores de IA encuestados en desacuerdo o en desacuerdo totalmente en desacuerdo que “la percepción actual de las capacidades de IA coincide con la realidad”.

El informe establece:

“El ciclo de exageración generativo de IA actual es la primera introducción a la IA para quizás la mayoría de las personas en el mundo y no tienen las herramientas para medir la validez de muchas afirmaciones”.

A partir de noviembre, Gartner colocó una IA generativa justo más allá de su pico de expectativas infladas y ahora se dirige hacia el “canal de desilusión” en su marco de ciclo de bombo.

Para aquellos en SEO y marketing digital, este ciclo puede provocar patrones de inversión de auge o caída. Los tomadores de decisiones pueden comprometer en exceso los recursos basados ​​en la promesa a corto plazo de la IA, solo para experimentar contratiempos cuando el rendimiento no cumple con los objetivos.

Quizás la mayoría preocupante 74% De los investigadores creen que las direcciones de investigación están impulsadas por las prioridades exageradas en lugar de las científicas, lo que potencialmente desvía los recursos de cuestiones fundamentales como la facturidad.

El Dr. Henry Kautz, presidente de la Sección de Factualidad y confiabilidad del informe, señala que “muchas de las declaraciones públicas de las personas bastante nuevas en el campo están fuera de línea con la realidad”, lo que sugiere que incluso los comentarios expertos deben ser evaluados con cautela.

Por qué esto importa para SEOS y marketing digital

Adoptando nuevas herramientas

La presión para adoptar herramientas de IA puede eclipsar sus limitaciones. Dado que los problemas de precisión fáctica permanecen sin resolver, los especialistas en marketing deben usar IA de manera responsable.

Realizar auditorías regulares y buscar revisiones de expertos puede ayudar a reducir los riesgos de desinformación, particularmente en las industrias reguladas por los estándares de YMYL (su dinero, su vida), como las finanzas y la atención médica.

El impacto en la calidad del contenido

La generación de contenido basada en IA puede conducir a inexactitudes que pueden dañar directamente la confianza del usuario y la reputación de la marca. Los motores de búsqueda pueden degradar sitios web que publican material poco confiable o engañoso producido por AI.

Se recomienda adoptar un enfoque humano-plus-AI, donde se recomienda editores meticulosamente verificados de datos.

Navegando por la exageración

Más allá de los desafíos de la creación de contenido, los líderes deben adoptar una visión de ojos claros para navegar por el ciclo de exageración. El informe advierte que la exageración puede dirigir recursos mal y eclipsar las ganancias más sostenibles.

Los profesionales de búsqueda que entiendan las capacidades y limitaciones de la IA estarán mejor posicionados para tomar decisiones estratégicas que brinden valor real.

Para obtener más detalles, lea el informe completo (enlace PDF).

Imagen destacada: patpitchaya/Shutterstock