“No sólo vi problemas de parcialidad, sino que también había imprecisiones en la historia”, dijo Pasmore. “Tengo un hijo de 16 años y lo último que quiero es que la historia se incluya incorrectamente en lo que considero la próxima ronda de [technology] tan grande como la búsqueda”.

Utilizando el LLM de OpenAI como modelo básico, Latimer está entrenando su plataforma de IA utilizando datos de una variedad de fuentes, como libros y periódicos de escritores negros. Al utilizar un enfoque “RAG”, abreviatura de generación de recuperación aumentada, Latimer puede aprovechar el poder de un LLM como GPT-4 pero entrenarlo para obtener respuestas de un conjunto diferente de información.

Latimer se está asociando con colegios y universidades históricamente negros para brindarles a los estudiantes acceso a la tecnología y también potencialmente incluirlos como parte del proceso de capacitación en inteligencia artificial. También está trabajando con expertos como el profesor de la Universidad de Temple Molefi Kete Asante, autor conocido como el fundador de la teoría del afrocentrismo.

“Es increíble”, dijo Pasmore. “Ha escrito 100 libros. Tiene un pequeño ejército de estudiantes trabajando en su biblioteca digital para esto que usaremos, y de hecho estamos contactando a algunos de sus antiguos editores de algunos de los libros de texto que ha creado… Tiene tantos discursos, y él mismo es simplemente un increíble depósito de datos para nosotros”.

Al explicar cómo funciona esto, Pasmore puso el ejemplo de alguien que preguntó quién construyó las pirámides. En lugar de obtener respuestas de fuentes potencialmente problemáticas como redes sociales o comentarios o tweets de YouTube, Latimer responderá con respuestas más objetivas basadas en sus diferentes datos de entrenamiento. La empresa también busca abordar otros tipos de sesgos, como qué tipo de sesgo personal podría haber influido en un autor que escribe una tesis doctoral.

Mientras tanto los gigantes tecnológicos como las nuevas empresas trabajan para mitigar el sesgo de la IA, el tema también forma parte de la agenda de la Casa Blanca, incluida en la nueva orden ejecutiva de IA del presidente Joe Biden firmada la semana pasada. Cuando Digiday le preguntó qué pensaba del plan de la Casa Blanca para la IA, Pasmore se describió a sí mismo como “más bien una especie de persona de libre mercado”. En lugar de que el gobierno intervenga, cree que en este momento existe “un riesgo mayor de que la regulación sofoque la innovación que la fomente”.

“Creo que somos un ejemplo de corrección y estoy seguro de que habrá muchas otras si aún no las hay”, dijo Pasmore. “Creo que el mercado en sí, especialmente si se trata de clientes comerciales, definitivamente no quiere tener la responsabilidad adicional de una IA irresponsable. Así que creo que cualquiera en la categoría querrá cumplir con los estándares para ofrecer un producto de primer nivel”.

Noticias de IA:

• A pesar de liderar los esfuerzos de autenticidad del contenido relacionados con la IA generativa, se descubrió que Adobe estaba vendiendo docenas de imágenes de archivo de IA falsas que parecen ser de la guerra entre Israel y Hamas. Las imágenes de IA, que retratan escenas que incluyen un ataque con misiles, una madre y un niño parados entre los escombros y una calle bombardeada, aparecen pocas semanas después de que Adobe presentara una nueva etiqueta de “Credenciales de contenido” que planea incluir en cada contenido generado. por los productos de Adobe. Las imágenes fueron descubiertas por primera vez por Crikey, un sitio web de noticias australiano independiente.

• Agentio, una startup de inteligencia artificial con sede en Brooklyn, recaudó una ronda inicial de 4,25 millones de dólares para ayudar a los YouTubers a vender anuncios y ayudar a los anunciantes a encontrar los creadores de contenido adecuados. Además de automatizar el proceso de oferta para anuncios de video de YouTube de 30 y 60 segundos, la startup con sede en Brooklyn utiliza LLM para analizar los datos y el contenido de los creadores, así como datos de los anunciantes, como resúmenes de campaña, voz de marca, pautas y datos históricos de rendimiento de anuncios anteriores. socios creadores.

• En California, un juez federal desestimó gran parte de una demanda por derechos de autor de IA interpuesta contra Midjourney, Stability AI y DeviantArt.

Productos solicitados: debuts de IA, actualizaciones, investigaciones y otros anuncios

• Microsoft lanzó su muy esperado AI Copilot, que promete brindar a los usuarios de Microsoft 365 un asistente de inteligencia artificial para software como Word, Outlook y Excel. Copilot se presentó por primera vez en septiembre en el evento anual Surface de Microsoft en Nueva York.

• Destacadas organizaciones filantrópicas se están uniendo para invertir 200 millones de dólares para mitigar los riesgos potenciales de la IA. El grupo, que incluye la Fundación Mozilla y la Fundación Ford, quiere mitigar los riesgos potenciales de la IA y al mismo tiempo explorar los beneficios potenciales.

• Habu, el proveedor de software de sala limpia de datos, anunció nuevas herramientas de inteligencia artificial generativa que brindan a los usuarios ideas sugeridas, predicen resultados, implementan nuevos casos de uso y generan descripciones.

• Mientras tanto, Mozilla emitió una declaración conjunta sobre la seguridad de la IA y pidió a otros que firmen una petición por “apertura, transparencia y amplio acceso”.

• Según el nuevo informe de Forrester sobre las predicciones para 2024, el 50% de los adultos estadounidenses y el 43% de los adultos franceses encuestados dijeron que pensaban que la IA generativa podría ser una amenaza para la sociedad. Sin embargo, el 80% de las empresas encuestadas dijeron que planean agregar talento generativo de IA internamente.

Otras historias de IA de Digiday y más allá:

• “Informe de marketing: cómo los profesionales del marketing utilizan la IA para ayudar en el proceso de investigación de posibles asociaciones con influencers” (Digiday)
• “Reunión de prensa: los editores están haciendo la cuenta regresiva hasta el final del cuarto trimestre” (Digiday)
• “En qué habilidades de IA puede centrarse la Generación Z para destacar entre sus pares” (Digiday)
• “Desmentir mitos: cómo la Generación Z utiliza la IA para el trabajo” (Digiday)
• “Cómo la IA generativa está impulsando nuevas herramientas publicitarias de plataformas como Google” (ModernRetail)
• “Para los especialistas en marketing, la IA generativa lo cambió todo en 2023” (VentureBeat)
• “El gigante tecnológico chino Alibaba lanza un modelo de IA actualizado para desafiar a Microsoft y Amazon” (CNBC)
• “LinkedIn está añadiendo nuevas herramientas de IA generativa para ayudar a quienes buscan empleo” (FastCo)
• “Primera versión de la Orden ejecutiva de la Casa Blanca sobre IA” (Substack de Gary Marcus)
• “Es hora de que las juntas directivas se tomen en serio la IA” (HBR)
• “Instagram fue descubierto desarrollando un ‘amigo AI’ personalizable” (TechCrunch)