Ajoutez un fournisseur de grand modèle de langage au framework Foundation Models

À propos de cette session

Étendez le framework Foundation Models en mettant en œuvre un LanguageModelExecutor pour de nouveaux modèles. Explorez l’interaction avec la transcription de LanguageModelSession, la gestion efficace de l’état de session et l’optimisation de l’utilisation du cache KV. Découvrez comment prendre en charge des types de segments personnalisés et libérer des capacités avancées pour vos fonctionnalités d’IA générative.