ChatGPT : Microsoft ouvre doucement les vannes de l'API

Comme l'API OpenAI, mais avec des fonctionnalités et des garanties supplémentaires comme le chiffrement des données au repos et les identités managées. C'est le principe de l'offre Azure OpenAI Service, que Microsoft a lancée en janvier.

Un modèle vient de s'ajouter au catalogue : GPT-3.5 Turbo. C'est-à-dire celui qui porte ChatGPT. Il est disponible en version préliminaire, pour le moment dans deux régions Azure (East US et South Central US). Le prix est le même que via l'API OpenAI (soit 0,002 $ par lot de 1000 tokens). La facturation démarrera le 13 mars.

GPT-3.5 Turbo dispose de son propre format de requêtes

À l'heure actuelle, il n'est pas possible de personnaliser le modèle. On peut toutefois paramétrer, entre autres, le degré de déterminisme, la longueur maximale des réponses et la quantité de contexte à inclure dans les requêtes.

GPT-3.5 Turbo a son propre format de requête, adapté à un usage de type chatbot. Il faut donc effectuer quelques modifications sur les prompts par rapport aux modèles de base de la série GPT-3.

Un bac à sable est disponible dans le service Azure OpenAI Studio, avec quelques exemples préchargés.

À consulter pour davantage de contexte :

OpenAI arrive au catalogue Azure : les choses à savoir
OpenAI ouvre l'accès API à ChatGPT : petit aide-mémoire

Photo d'illustration générée par IA