OpenAI ha anunciado que sus modelos ChatGPT y Whisper ahora están disponibles en su API, lo que ofrece a los desarrolladores acceso a capacidades de voz a texto y lenguaje impulsado por IA.

A través de optimizaciones en todo el sistema, OpenAI logró reducir el costo de ChatGPT en un 90 % desde diciembre y ahora está transfiriendo estos ahorros a los usuarios de la API.

OpenAI cree que la mejor manera de aprovechar todo el potencial de la IA es permitir que todos construyan con ella.

Los cambios anunciados hoy pueden conducir a numerosas aplicaciones de las que todos pueden beneficiarse.

Más empresas pueden aprovechar las capacidades de lenguaje y voz a texto de OpenAI para desarrollar aplicaciones de próxima generación con tecnología de ChatGPT y Whisper.

Además, OpenAI ha tenido en cuenta los comentarios de los desarrolladores y ha realizado cambios en los términos de servicio de su API para adaptarse mejor a sus necesidades.

API de ChatGPT

OpenAI está lanzando una nueva familia de modelos ChatGPT llamada gpt-3.5-turbo, con un precio de $0.002 por 1k tokens, lo que lo hace diez veces más económico que los modelos GPT-3.5 existentes.

Este modelo es ideal para muchos casos de uso que no son de chat y es el mismo en el producto ChatGPT.

Mientras que los modelos GPT tradicionalmente consumen texto no estructurado representado como una secuencia de tokens, los modelos ChatGPT consumen una secuencia de mensajes con metadatos.

Sin embargo, la entrada se representa en el modelo como una secuencia de tokens para que el modelo los consuma.

El modelo gpt-3.5-turbo utiliza un nuevo formato llamado Chat Markup Language (ChatML).

Actualizaciones de ChatGPT

OpenAI mejora continuamente sus modelos ChatGPT y tiene como objetivo ofrecer estas actualizaciones a los desarrolladores.

Aquellos que usen el modelo gpt-3.5-turbo siempre recibirán el modelo estable recomendado, sin dejar de poder elegir una versión específica.

OpenAI está lanzando una nueva versión llamada gpt-3.5-turbo-0301, que recibirá soporte hasta al menos el 1 de junio, y se espera una nueva versión estable en abril.

Los desarrolladores pueden encontrar actualizaciones en la página de modelos para cambiar a la última versión.

Instancias dedicadas

OpenAI ahora ofrece instancias dedicadas para los usuarios que desean tener más control sobre las versiones de sus modelos y el rendimiento del sistema.

De forma predeterminada, las solicitudes se procesan en una infraestructura informática compartida y los usuarios pagan por solicitud.

Sin embargo, con las instancias dedicadas, los desarrolladores pagan por un período de tiempo para asignar la infraestructura informática reservada exclusivamente para sus solicitudes.

Los desarrolladores tienen control total sobre la carga de la instancia, la opción de habilitar límites de contexto más largos y la capacidad de anclar la instantánea del modelo.

Las instancias dedicadas pueden ser rentables para los desarrolladores que procesan más de aproximadamente 450 millones de tokens por día.

API de susurro

OpenAI presentó Whisper, un modelo de voz a texto, como una API de código abierto en septiembre de 2022.

La API Whisper ha obtenido considerables elogios de la comunidad de desarrolladores. Sin embargo, puede ser un desafío operar.

OpenAI está poniendo a disposición el modelo v2 grande a través de su API, brindando a los desarrolladores un acceso conveniente a pedido, a un precio de $ 0.006 por minuto.

Además, la pila de servicios de OpenAI garantiza un rendimiento más rápido en comparación con otros servicios. Se puede acceder a la API Whisper a través de puntos finales de transcripción o traducción, que pueden transcribir o traducir el idioma de origen al inglés.

Enfoque del desarrollador

OpenAI ha realizado cambios específicos después de recibir comentarios de los desarrolladores. Ejemplos de esos cambios incluyen los siguientes:

• No usar los datos enviados a través de la API para mejorar el servicio, incluida la capacitación de modelos, a menos que la organización lo autorice.
• Establecimiento de una política de retención de datos predeterminada de 30 días, con la opción de una retención más estricta según las necesidades del usuario.
• Mejorando su documentación para desarrolladores.
• Simplificando sus Términos de Servicio y políticas de uso.

OpenAI reconoce que brindar un servicio confiable es necesario para garantizar que la IA beneficie a todos. Con ese fin, OpenAI se compromete a mejorar su tiempo de actividad en los próximos meses.

Imagen destacada: Shaheerrr/Shutterstock

Fuente: OpenAI