OpenAI anunció que está ampliando el acceso a su nuevo generador de texto a imagen, DALL-E 3, al permitir a los clientes de ChatGPT Plus y Enterprise utilizar el sistema de inteligencia artificial dentro de la aplicación ChatGPT.

Generador de imágenes AI DALL-E 3

DALL-E 3, revelado por primera vez el mes pasado, aprovecha las capacidades de procesamiento del lenguaje natural de ChatGPT para crear imágenes a partir de indicaciones textuales detalladas proporcionadas por los usuarios.

El nuevo sistema tiene como objetivo mejorar el modelo DALL-E 2 anterior de OpenAI a través de detalles visuales mejorados, imágenes más nítidas y capacidad de respuesta a descripciones extensas y rápidas.

Microsoft se convirtió en la primera plataforma importante en implementar DALL-E 3 públicamente a través de integraciones con Bing Search y Bing Chat el mes pasado.

Sin embargo, algunos contenidos problemáticos inicialmente se escaparon de los filtros de contenido del sistema, incluidas imágenes de escenarios controvertidos del 11 de septiembre.

OpenAI afirma que desde entonces ha reforzado las mitigaciones de seguridad y la supervisión de DALL-E 3.

OpenAI afirma en un anuncio:

“Utilizamos un sistema de seguridad de varios niveles para limitar la capacidad de DALL·E 3 de generar imágenes potencialmente dañinas, incluido contenido violento, para adultos u odioso. Los controles de seguridad se realizan sobre las indicaciones de los usuarios y las imágenes resultantes antes de que se muestren a los usuarios”.

Además, la compañía dijo que se han implementado nuevas medidas para limitar las producciones que imitan estilos de artistas o figuras públicas específicas.

Detector de imágenes de IA

OpenAI está desarrollando un “clasificador de procedencia” interno que puede identificar si una imagen fue generada por DALL-E 3 con más del 99% de precisión.

Los sistemas de generación de texto e imágenes como DALL-E se han enfrentado a desafíos continuos al reproducir contenido protegido por derechos de autor, generar imágenes íntimas no consensuadas y perpetuar prejuicios.

OpenAI continuará perfeccionando la seguridad de DALL-E 3 a través de comentarios de los usuarios y orientación de expertos.

Mirando hacia el futuro

El lanzamiento de DALL-E 3 para los suscriptores de ChatGPT representa una importante expansión de las capacidades de generación de imágenes de IA disponibles públicamente.

Si bien OpenAI afirma haber logrado avances en las prácticas de seguridad para este último modelo, persisten riesgos relacionados con contenido dañino y violaciones de propiedad intelectual.

En el futuro, la necesidad de una colaboración en toda la industria sobre la ética de la IA y el establecimiento de regulaciones razonables solo se intensificará.

Imagen de portada: Bartek Winnicki/Shutterstock