Quel modèle d’IA utiliser ?
Celui qui fait le mieux votre tâche, à un coût que vous pouvez assumer. Nous notons les modèles candidats sur votre jeu d’évaluation et choisissons selon la qualité, le coût et le temps de réponse.
- Publication
Sur cette page
Celui qui fait le mieux votre tâche, à un coût que vous pouvez assumer. Nous notons les modèles candidats sur votre propre jeu d’évaluation et choisissons selon la qualité, le coût et le temps de réponse. Il existe quatre façons de mettre un modèle en œuvre, et chacune vous demande quelque chose de différent.
1. Quelles sont les quatre façons de mettre un modèle en œuvre ?
Utiliser le modèle hébergé d’un fournisseur, exécuter un modèle ouvert, affiner un modèle, ou entraîner le vôtre.
Option | Ce que c’est | Ce qu’il vous faut | Ce que vous possédez | Quand c’est adapté |
|---|---|---|---|---|
Modèle hébergé | Le modèle d’un fournisseur, utilisé via son API. | Un compte chez le fournisseur, et des conditions adaptées à vos données. | Vos prompts, votre jeu d’évaluation et le code autour du modèle. | Quand un modèle généraliste fait déjà assez bien la tâche. |
Modèle ouvert | Des poids ouverts sur une infrastructure que vous contrôlez. | Des serveurs ou un compte cloud avec le matériel adapté. | Le déploiement, et la destination de vos données. | Quand vos données doivent rester dans votre propre environnement. |
Modèle affiné | Un modèle de base entraîné davantage sur vos exemples. | De bons exemples de la tâche, et un moyen de les noter. | Les poids affinés, lorsque la licence du modèle de base le permet. | Quand le prompting seul n’atteint pas votre niveau de qualité. |
Modèle sur mesure | Un modèle entraîné sur vos données pour une tâche, comme une prévision ou un classifieur. | Suffisamment de données étiquetées pour la tâche. | Le modèle et son code d’entraînement. | Quand la tâche est restreinte et que les données sont les vôtres. |
2. Comment choisir entre des modèles hébergés ?
En les notant sur votre propre jeu d’évaluation. Un modèle hébergé est le modèle d’un fournisseur que vous utilisez via son API, sans serveurs à exploiter vous-même. Nous vérifions les conditions de chaque fournisseur au regard de vos données, et nous mesurons le coût et le temps de réponse de chaque appel.
- Construire le jeu d’évaluation : de vrais exemples de la tâche, notés de la même façon.
- Comparer les fournisseurs : chaque modèle noté sur votre jeu.
- Vérifier les conditions : où vont vos données, et si elles peuvent être conservées.
- Mesurer : le coût et le temps de réponse à votre volume.
Vous recevez une comparaison des fournisseurs sur votre jeu d’évaluation, et le code d’intégration dans votre dépôt.
3. Quand le modèle doit-il s’exécuter dans votre propre environnement ?
Quand vos données doivent y rester. Un modèle ouvert est un modèle dont vous exécutez vous-même les poids, sur des serveurs ou un compte cloud que vous contrôlez. Nous choisissons le modèle selon votre jeu d’évaluation, le déployons sur votre infrastructure et mesurons sa qualité, son coût et sa vitesse.
- Présélectionner : les modèles ouverts dont la licence convient à votre usage.
- Noter : chacun sur votre jeu d’évaluation.
- Déployer : sur vos serveurs ou votre compte cloud.
- Mesurer : la qualité, le coût et le temps de réponse sous charge.
Vous recevez le déploiement sous forme de code dans votre dépôt, et une évaluation des modèles que vous avez envisagés.
4. Quand le fine-tuning d’un LLM vaut-il la peine ?
Quand le prompting seul n’atteint pas votre niveau de qualité. Le fine-tuning entraîne davantage un modèle de base sur des exemples de votre tâche, pour qu’il réponde dans votre format et votre domaine.
- Réunir des exemples : de bons exemples de la tâche, vérifiés par votre équipe.
- Entraîner : le modèle de base entraîné davantage sur ces exemples.
- Noter : le modèle affiné et le modèle de base comparés sur votre jeu d’évaluation.
- Déployer : seulement si le modèle affiné fait mieux.
Vous recevez les poids affinés, à votre nom lorsque la licence du modèle de base le permet.
5. Quand un modèle sur mesure a-t-il du sens ?
Quand la tâche est restreinte et que les données sont les vôtres : une prévision, un classement ou un classifieur. Nous préparons les données, entraînons et évaluons le modèle, puis le déployons avec les pipelines qui le maintiennent à jour à mesure que vos données changent.
- Définir la tâche : ce que le modèle prédit, et comment il sera jugé.
- Préparer les données : étiquetées, nettoyées et réparties entre entraînement et test.
- Entraîner et évaluer : des candidats comparés sur des données qu’ils n’ont jamais vues.
- Déployer : avec le pipeline qui le réentraîne à mesure que vos données changent.
Vous recevez le modèle et son code d’entraînement, un rapport d’évaluation et un pipeline de réentraînement.
6. Qu’ont en commun les quatre options ?
Le jeu d’évaluation, et les points de contrôle avant mise en production. Quelle que soit l’option, chaque modèle passe les mêmes points de contrôle avant d’atteindre vos utilisateurs : qualité de la tâche, ancrage, sûreté, confidentialité, latence, coût et dérive. Nous convenons de chaque seuil avec vous avant le début du travail, et une version candidate qui n’en atteint pas un attend de l’atteindre. Notre note de recherche Comment nous testons un modèle avant sa mise en production présente chaque point de contrôle.
7. Entraînez-vous des modèles sur nos données ?
Nous n’entraînons jamais de modèles sur vos données sans votre accord explicite. Vos données restent isolées de celles des autres clients.
8. À qui appartiennent le code et les modèles ?
À vous. Le code, les modèles et les comptes sont à votre nom, et le dépôt vous appartient dès le premier commit.
Les quatre options sont présentées sur notre page IA, sous Modèles, avec les points de contrôle avant mise en production à côté. Décrivez-nous votre cas d’usage et votre calendrier. Nous répondons sous un jour ouvré.
Recherches associées. D’autres travaux de notre Lab sur IA.
Comment nous construisons un agent IA, en cinq étapes
Un agent est un logiciel qui agit dans vos systèmes. Nous le construisons en cinq étapes, dans des limites placées en dehors du modèle, avec une personne là où cela compte.
Ce sur quoi travaille le Lab Etheon
Le Lab Etheon étudie ce qui rend un logiciel d’IA sûr à livrer : évaluation, garde-fous, observabilité, mises en production sûres et gouvernance.
Comment nous testons un modèle avant sa mise en production
Chaque modèle que nous construisons passe les mêmes points de contrôle avant d’atteindre les utilisateurs : qualité de la tâche, ancrage, sûreté, confidentialité, latence, coût et dérive.