Chat IA en streaming avec Model Serving

À l'issue de ce guide, vous disposerez :

• D'une interface de chat en streaming temps réel dans votre Databricks App
• D'une intégration avec les endpoints de modèles de fondation Databricks Model Serving
• D'un transport de chat côté serveur relié à une interface de chat côté client
• D'une application déployée permettant aux utilisateurs de dialoguer avec un LLM hébergé par Databricks

Prerequisites

Suivez d'abord ces modèles prérequis :

• Configurer votre environnement de développement local — installez la CLI Databricks et authentifiez un profil.
• Interroger les endpoints de foundation models — vérifiez que votre workspace expose un endpoint de chat de foundation model hébergé par Databricks.

Vérifiez ensuite que les fonctionnalités suivantes sont activées dans votre workspace Databricks. Si l'une des vérifications échoue, demandez à l'administrateur de votre workspace d'activer la fonctionnalité concernée.

• Un endpoint de chat compatible OpenAI dans Model Serving. Exécutez databricks serving-endpoints list --profile <PROFILE> et vérifiez qu'au moins un endpoint de chat compatible OpenAI apparaît dans la liste (par exemple databricks-gpt-5-4-mini, databricks-meta-llama-3-3-70b-instruct ou databricks-claude-sonnet-4-6). La disponibilité des endpoints varie selon le workspace et la région ; notez celui que vous comptez définir comme DATABRICKS_ENDPOINT.
• Databricks Apps activé. Exécutez databricks apps list --profile <PROFILE> et vérifiez que la commande aboutit (une liste vide convient également). Une erreur de permission ou not enabled signifie qu'Apps n'est pas disponible pour cette identité dans ce workspace.