Comment entraîner un modèle d'intelligence artificielle

L'entraînement des modèles d'intelligence artificielle représente l'un des défis les plus complexes du développement technologique contemporain. Bien plus qu'une simple question algorithmique, l'entraînement efficace d'un modèle exige une approche méthodique et multidisciplinaire qui intègre données, science des données, connaissance du domaine et ingénierie logicielle. Comme le souligne James Luke dans son ouvrage fondamental "Beyond Algorithms: Delivering AI for Business", le succès d'une mise en œuvre de l'IA dépend bien plus de la gestion des données et de la conception systémique que des algorithmes eux-mêmes. Le paysage évolue rapidement, avec des innovations comme le modèle DeepSeek-R1 qui redéfinissent les coûts et l'accessibilité.

La base : la collecte et la gestion des données

La qualité plutôt que la quantité

Contrairement à ce que l'on croit souvent, la quantité de données n'est pas toujours le facteur déterminant du succès. La qualité et la représentativité des données sont nettement plus importantes. Dans ce contexte, il est crucial d'intégrer différentes sources :

• Données propriétaires : Collectées et anonymisées de manière éthique à partir des implémentations existantes
• Données sous licence : Provenant de fournisseurs fiables répondant à des normes de qualité rigoureuses
• Jeux de données open source : Soigneusement vérifiés pour garantir diversité et précision
• Données synthétiques : Générées artificiellement pour combler les lacunes et résoudre les problèmes de confidentialité

Cette intégration permet de créer une base de formation complète qui tient compte des scénarios du monde réel tout en respectant les normes éthiques et de protection de la vie privée.

Le défi de la préparation des données

Le processus de "traitement des données" représente jusqu'à 80 % des efforts requis dans les projets d'intelligence artificielle. Cette phase implique

• Nettoyage des données : Élimination des incohérences, doublons et valeurs aberrantes
• Transformation des données : Conversion dans des formats adaptés au traitement
• Intégration des données : Fusion de sources diverses utilisant souvent des schémas et formats incompatibles
• Gestion des données manquantes : Stratégies telles que l'imputation statistique ou l'utilisation de données proxy

Comme le souligne Hilary Packer, CTO d'American Express : "Le déclic pour nous, honnêtement, ce sont les données. Vous pouvez faire la meilleure sélection de modèle au monde... mais les données sont la clé. La validation et la précision sont le Saint Graal en ce moment de l'IA générative."

Architecture du modèle : le bon dimensionnement

Le choix de l'architecture du modèle doit être guidé par la nature spécifique du problème à résoudre, plutôt que par des tendances ou des préférences personnelles. Différents types de problèmes requièrent différentes approches :

• Modèles linguistiques basés sur les transformeurs pour les tâches nécessitant une compréhension linguistique approfondie
• Réseaux de neurones convolutifs pour la reconnaissance d'images et de motifs
• Réseaux de neurones graphiques pour l'analyse de relations complexes entre entités
• Apprentissage par renforcement pour les problèmes d'optimisation et de décision
• Architectures hybrides combinant plusieurs approches pour des cas d'usage complexes

L'optimisation architecturale nécessite une évaluation systématique des différentes configurations, en mettant l'accent sur l'équilibre entre les performances et les exigences informatiques, un aspect qui est devenu encore plus pertinent avec l'avènement de modèles tels que DeepSeek-R1, qui offrent des capacités de raisonnement avancées à des coûts nettement inférieurs.

Méthodologies de formation avancées

Distillation modèle

La distillation est apparue comme un outil particulièrement puissant dans l'écosystème actuel de l'IA. Ce processus permet de créer des modèles plus petits et plus spécifiques qui héritent des capacités de raisonnement de modèles plus grands et plus complexes, tels que DeepSeek-R1.

Comme le montre le cas de DeepSeek, l'entreprise a distillé ses propres capacités de raisonnement sur plusieurs modèles plus petits, notamment des modèles open source de la famille Llama de Meta et de la famille Qwen d'Alibaba. Ces modèles plus petits peuvent ensuite être optimisés pour des tâches spécifiques, accélérant la tendance vers des modèles rapides et spécialisés.

Sam Witteveen, développeur en apprentissage automatique, observe : "Nous commençons à entrer dans un monde où les gens utilisent plusieurs modèles. Ils ne se contentent pas d'utiliser un seul modèle en permanence". Cela inclut les modèles fermés à bas prix tels que Gemini Flash et GPT-4o Mini, qui "fonctionnent très bien pour 80 % des cas d'utilisation".

Apprentissage multitâche

Au lieu de former des modèles distincts pour des compétences connexes, l'apprentissage multitâche permet aux modèles de partager des connaissances entre différentes fonctions :

• Les modèles optimisent simultanément plusieurs objectifs liés
• Les fonctionnalités de base bénéficient d'une exposition plus large à différentes tâches
• Les performances s'améliorent dans toutes les tâches, en particulier celles disposant de données limitées
• L'efficacité computationnelle augmente grâce au partage des composants

Réglage fin supervisé (SFT)

Pour les entreprises opérant dans des domaines très spécifiques, où les informations ne sont pas largement disponibles sur le web ou dans les ouvrages généralement utilisés pour la formation des modèles linguistiques, le réglage fin supervisé (SFT) est une option efficace.

DeepSeek a démontré qu'il est possible d'obtenir de bons résultats avec des "milliers" d'ensembles de questions et de réponses. Par exemple, Chris Hay, ingénieur chez IBM, a montré comment il a mis en place un petit modèle en utilisant ses propres ensembles de données spécifiques aux mathématiques et a obtenu des réponses extrêmement rapides qui ont dépassé les performances du modèle o1 d'OpenAI sur les mêmes tâches.

Apprentissage par renforcement (RL)

Les entreprises qui souhaitent former un modèle en l'alignant davantage sur des préférences spécifiques - par exemple, rendre un chatbot de support client empathique mais concis - voudront mettre en œuvre des techniques d'apprentissage par renforcement (RL). Cette approche est particulièrement utile si une entreprise souhaite que son chatbot adapte son ton et ses recommandations en fonction du retour d'information de l'utilisateur.

Génération améliorée par récupération (RAG)

Pour la plupart des entreprises, la génération améliorée par récupération (RAG) est la voie la plus simple et la plus sûre. Il s'agit d'un processus relativement simple qui permet aux organisations d'ancrer leurs modèles avec des données propriétaires contenues dans leurs bases de données, ce qui garantit que les résultats sont exacts et spécifiques au domaine.

Cette approche aide également à contrer certains des problèmes d'hallucination associés à des modèles comme DeepSeek, qui hallucine actuellement dans 14 % des cas contre 8 % pour le modèle o3 d'OpenAI, selon une étude menée par Vectara.

La combinaison de la distillation de modèles et du RAG est l'élément magique pour la plupart des entreprises, car elle est devenue incroyablement facile à mettre en œuvre, même pour les personnes ayant des compétences limitées en science des données ou en programmation.

Évaluation et perfectionnement : au-delà des mesures de précision

L'efficacité de l'IA ne se mesure pas seulement en termes de précision brute, mais nécessite un cadre d'évaluation complet qui tient compte des éléments suivants

• Précision fonctionnelle : Fréquence à laquelle le modèle produit des résultats corrects
• Robustesse : Cohérence des performances face à des entrées et conditions variables
• Équité : Performances cohérentes entre différents groupes d'utilisateurs et scénarios
• Calibration : Alignement entre les scores de confiance et la précision réelle
• Efficacité : Besoins en calcul et en mémoire
• Explicabilité : Transparence des processus décisionnels, un aspect où les modèles distillés de DeepSeek excellent, en montrant leur processus de raisonnement

L'impact de la courbe des coûts

L'impact le plus immédiat de la sortie de DeepSeek est la réduction agressive de son prix. L'industrie technologique s'attendait à ce que les coûts baissent avec le temps, mais peu avaient prévu la rapidité avec laquelle cela se produirait. DeepSeek a démontré que des modèles puissants et ouverts peuvent être à la fois bon marché et efficaces, créant ainsi des possibilités d'expérimentation à grande échelle et de mise en œuvre rentable.

Amr Awadallah, PDG de Vectara, a insisté sur ce point, notant que le véritable point de basculement n'est pas seulement le coût de la formation, mais le coût de l'inférence, qui pour DeepSeek est d'environ 1/30e de celui des modèles o1 ou o3 d'OpenAI par coût d'inférence et par jeton. "Les marges qu'OpenAI, Anthropic et Google Gemini ont pu réaliser devront maintenant être réduites d'au moins 90 % parce qu'ils ne peuvent pas rester compétitifs avec des prix aussi élevés", a déclaré M. Awadallah.

De plus, ces coûts continueront à diminuer. Le PDG d'Anthropic, Dario Amodei, a récemment déclaré que le coût de développement des modèles continue de diminuer à un rythme d'environ quatre fois par an. Par conséquent, le prix facturé par les fournisseurs de LLM pour leur utilisation continuera également à diminuer.

"Je m'attends pleinement à ce que le coût tombe à zéro", a déclaré Ashok Srivastava, CDO d'Intuit, une entreprise qui a fortement misé sur l'IA dans ses offres de logiciels fiscaux et comptables comme TurboTax et Quickbooks. "...et la latence tombe à zéro. Elles deviendront simplement des capacités de base que nous pourrons utiliser."

Conclusion : L'avenir de l'IA en entreprise est ouvert, économique et guidé par les données

DeepSeek et Deep Research d'OpenAI sont plus que de nouveaux outils dans l'arsenal de l'IA - ce sont les signes d'un changement profond dans lequel les entreprises déploieront des masses de modèles spécifiques extrêmement rentables, compétents et enracinés dans les données et l'approche de l'entreprise.

Pour les entreprises, le message est clair : les outils permettant de construire de puissantes applications d'IA spécifiques à un domaine sont à portée de main. On risque de prendre du retard si on ne les exploite pas. Mais le véritable succès viendra de la manière dont on soigne les données, dont on exploite des techniques comme le RAG et la distillation, et dont on innove au-delà de la phase de pré-entraînement.

Comme l'a dit M. Packer d'AmEx, les entreprises qui gèrent correctement leurs données seront celles qui mèneront la prochaine vague d'innovation dans le domaine de l'IA.