Analyse critique de cas réels d'utilisation de la LLM : entre promesse et réalité

Alors que le débat sur la valeur réelle des grands modèles de langage (LLM) se poursuit, il est essentiel d'examiner de manière critique les cas d'usage réels mis en œuvre par les entreprises. Cette analyse se propose d'examiner les applications concrètes des LLM dans différents secteurs, en évaluant d'un œil critique leur valeur effective, leurs limites et leur potentiel.

Commerce électronique et vente au détail : optimisation ciblée ou suringénierie ?

Dans le secteur de la vente au détail et du commerce électronique, les LLM sont utilisés pour diverses tâches :

• Assistants internes et amélioration du flux de travail : Instacart a développé un assistant IA appelé Ava pour aider les équipes à écrire, réviser et déboguer du code, améliorer les communications et construire des outils internes. Bien que prometteurs, on peut se demander si ces assistants offrent une valeur substantiellement supérieure par rapport à des outils de collaboration plus traditionnels et moins complexes.
• Modération des contenus et sécurité : Whatnot utilise des LLM pour améliorer la modération de contenus multimodaux, la protection contre la fraude et la détection d'irrégularités dans les offres. Zillow emploie des LLM pour identifier les contenus discriminatoires dans les annonces immobilières. Ces cas représentent des applications spécifiques où les LLM peuvent offrir une valeur réelle, mais nécessitent des systèmes de vérification rigoureux pour éviter les faux positifs et négatifs.
• Extraction et classification des informations : OLX a créé Prosus AI Assistant pour identifier les fonctions professionnelles dans les annonces, tandis que Walmart a développé un système pour extraire les attributs des produits à partir de PDF. Ces cas démontrent l'utilité des LLM dans l'automatisation de tâches répétitives qui nécessiteraient autrement un travail manuel important.
• Génération de contenus créatifs : StitchFix combine du texte généré par des algorithmes avec une supervision humaine pour simplifier la création de titres publicitaires et de descriptions de produits. Instacart génère des images de produits alimentaires. Ces applications soulèvent des interrogations sur l'originalité des contenus générés et sur l'homogénéisation potentielle du langage publicitaire.
• Amélioration de la recherche : Leboncoin, Mercado Libre et Faire utilisent des LLM pour améliorer la pertinence des recherches, tandis qu'Amazon emploie des LLM pour comprendre les relations de bon sens et fournir des recommandations de produits plus pertinentes. Ces cas représentent un domaine où la valeur ajoutée des LLM est potentiellement significative, mais la complexité computationnelle et les coûts énergétiques associés pourraient ne pas justifier l'amélioration incrémentale par rapport aux algorithmes de recherche existants.

Fintech et banque : naviguer entre valeur et risques réglementaires

Dans le secteur financier, le LLM est appliqué avec prudence, compte tenu de la nature sensible des données et des exigences réglementaires strictes :

• Classification et tagging des données : Grab utilise des LLM pour la gouvernance des données, en classant les entités, en identifiant les informations sensibles et en attribuant les tags appropriés. Ce cas d'usage est particulièrement intéressant car il répond à un défi critique pour les institutions financières, mais nécessite des mécanismes de contrôle rigoureux pour éviter les erreurs de classification.
• Génération de rapports sur les crimes financiers : SumUp génère des récits structurés pour des rapports sur la fraude financière et le blanchiment d'argent. Cette application, bien que prometteuse pour réduire la charge de travail manuelle, soulève des inquiétudes quant à la capacité des LLM à gérer correctement des sujets légalement sensibles sans supervision humaine.
• Support aux requêtes financières : Digits suggère des requêtes relatives aux transactions bancaires. Ce cas d'usage montre comment les LLM peuvent assister les professionnels sans les remplacer, une approche potentiellement plus durable que l'automatisation complète.

Technologie : Automatisation et service

Dans le secteur technologique, les LLM sont largement utilisés pour améliorer les flux de travail internes et l'expérience des utilisateurs :

• Gestion des incidents et sécurité : Selon ce qui est rapporté sur security.googleblog.com, Google utilise des LLM pour fournir des résumés des incidents de sécurité et de confidentialité destinés à différents publics, notamment dirigeants, responsables et équipes partenaires. Cette approche fait gagner du temps aux responsables et améliore la qualité des résumés d'incidents. Microsoft emploie des LLM pour le diagnostic des incidents de production, tandis que Meta a développé un système d'analyse des causes racines assisté par IA. Incident.io génère des résumés d'incidents logiciels. Ces cas démontrent la valeur des LLM pour accélérer des processus critiques, mais soulèvent des interrogations sur leur fiabilité dans des situations à fort enjeu.
• Assistance à la programmation : GitHub Copilot propose des suggestions de code et des complétions automatiques, tandis que Replit a affiné des LLM pour la réparation de code. NVIDIA utilise des LLM pour détecter les vulnérabilités logicielles. Ces outils augmentent la productivité des développeurs, mais pourraient aussi propager des modèles de code inefficaces ou non sécurisés s'ils sont utilisés sans esprit critique.
• Requêtes de données et recherche interne : Honeycomb aide les utilisateurs à écrire des requêtes sur les données, Pinterest transforme les questions des utilisateurs en requêtes SQL. Ces cas montrent comment les LLM peuvent démocratiser l'accès aux données, mais pourraient aussi conduire à des interprétations erronées ou inefficaces sans une compréhension approfondie des structures de données sous-jacentes.
• Classification et gestion des demandes de support : GoDaddy classe les demandes de support pour améliorer l'expérience client. Dropbox résume les fichiers et répond aux questions les concernant. Ces cas montrent le potentiel des LLM pour améliorer le service client, mais soulèvent des préoccupations sur la qualité et l'exactitude des réponses générées.

Livraisons et mobilité : efficacité opérationnelle et personnalisation

Dans le secteur de la livraison et de la mobilité, les LLM sont utilisés pour améliorer l'efficacité opérationnelle et l'expérience des utilisateurs :

• Tests et support technique : Uber utilise des LLM pour tester des applications mobiles avec DragonCrawl et a construit Genie, un copilote IA pour répondre aux questions de support. Ces outils peuvent réduire significativement le temps consacré aux tests et au support, mais pourraient ne pas détecter des problèmes complexes ou des cas limites comme le ferait un testeur humain.
• Extraction et mise en correspondance des informations produits : DoorDash extrait les détails des produits à partir des données SKU et Delivery Hero fait correspondre son propre inventaire avec les produits des concurrents. Ces cas montrent comment les LLM peuvent automatiser des processus de mise en correspondance de données complexes, mais pourraient introduire des biais ou des interprétations erronées sans contrôles adéquats.
• Recherche conversationnelle et pertinence : Picnic améliore la pertinence de la recherche pour les listes de produits, tandis que Swiggy a mis en place une recherche neuronale pour aider les utilisateurs à découvrir des aliments et des produits d'épicerie de manière conversationnelle. Ces cas illustrent comment les LLM peuvent rendre les interfaces de recherche plus intuitives, mais pourraient aussi créer des « bulles de filtre » qui limitent la découverte de nouveaux produits.
• Automatisation du support : DoorDash a construit un chatbot de support basé sur des LLM qui récupère des informations depuis la base de connaissances pour générer des réponses résolvant rapidement les problèmes. Cette approche peut améliorer les temps de réponse, mais nécessite des garde-fous solides pour gérer les situations complexes ou chargées émotionnellement.

Social, médias et B2C : contenu et interactions personnalisés

Dans les médias sociaux et les services B2C, les LLM sont utilisés pour créer un contenu personnalisé et améliorer les interactions :

• Analyse et modération des contenus : Yelp a mis à jour son système de modération de contenus avec des LLM pour détecter les menaces, le harcèlement, les propos obscènes, les attaques personnelles ou l'incitation à la haine. LinkedIn analyse divers contenus sur la plateforme pour extraire des informations sur les compétences. Ces cas montrent le potentiel des LLM pour améliorer la qualité des contenus, mais soulèvent des inquiétudes sur la censure et la limitation potentielle de la liberté d'expression.
• Génération de contenus éducatifs et marketing : Duolingo utilise des LLM pour aider les concepteurs à générer des exercices pertinents, tandis que Nextdoor emploie des LLM pour créer des objets accrocheurs pour les emails. Ces applications peuvent accroître l'efficacité, mais peuvent aussi conduire à une standardisation excessive des contenus.
• Traduction et communication multilingue : Roblox exploite un modèle multilingue personnalisé pour permettre aux utilisateurs de communiquer sans problème dans leur propre langue. Cette application montre le potentiel des LLM pour surmonter les barrières linguistiques, mais pourrait introduire des nuances culturelles erronées dans les traductions.
• Interaction avec les contenus multimédias : Vimeo permet aux utilisateurs de dialoguer avec les vidéos grâce à un système de questions-réponses basé sur RAG capable de résumer le contenu vidéo, de renvoyer vers des moments clés et de suggérer des questions supplémentaires. Cette application montre comment les LLM peuvent transformer notre façon d'interagir avec les contenus multimédias, mais soulève des interrogations sur la fidélité des interprétations générées.

Évaluation critique : valeur réelle ou suivi de la tendance

Comme le souligne Chitra Sundaram, directrice de la practice data management chez Cleartelligence, Inc., « Les LLM sont voraces en ressources. L'entraînement et l'exécution de ces modèles nécessitent une puissance de calcul énorme, entraînant une empreinte carbone significative. L'IT durable consiste à optimiser l'utilisation des ressources, à minimiser le gaspillage et à choisir une solution de taille adaptée ». Cette observation est particulièrement pertinente lorsqu'on analyse les cas d'usage présentés.

L'analyse de ces cas d'utilisation fait ressortir plusieurs considérations essentielles :

1. Valeur incrémentale et complexité

De nombreuses applications des LLM offrent des améliorations incrémentales par rapport aux solutions existantes, mais avec des coûts computationnels, énergétiques et d'implémentation nettement plus élevés. Comme l'affirme Chitra Sundaram, « Utiliser un LLM pour calculer une simple moyenne, c'est comme utiliser un bazooka pour tuer une mouche » (paste-2.txt). Il est essentiel d'évaluer si la valeur ajoutée justifie cette complexité, en particulier en tenant compte de :

• La nécessité de systèmes de surveillance robustes
• Les coûts énergétiques et l'impact environnemental
• La complexité de la maintenance et des mises à jour
• Les exigences en compétences spécialisées

2. Dépendance à l'égard de la supervision humaine

La plupart des cas d'utilisation réussis maintiennent une approche humaine dans la boucle, où les LLM assistent plutôt que de remplacer complètement l'intervention humaine. Cela suggère que :

• L'automatisation complète via LLM reste problématique
• La valeur principale réside dans l'augmentation des capacités humaines, et non dans leur remplacement
• L'efficacité dépend de la qualité de l'interaction homme-machine

3. Spécificité du domaine et applications génériques

Les cas d'usage les plus convaincants sont ceux où les LLM ont été adaptés et optimisés pour des domaines spécifiques, avec des connaissances de domaine intégrées grâce à :

• Fine-tuning sur des données spécifiques au secteur
• Intégration avec les systèmes existants et les sources de connaissances
• Garde-fous et contraintes spécifiques au contexte

4. Intégration avec les technologies existantes

Les cas les plus efficaces n'utilisent pas la gestion du cycle de vie de manière isolée, mais la complètent :

• Systèmes de récupération et de stockage de données (RAG)
• Algorithmes spécialisés et flux de travail existants
• Mécanismes de vérification et de contrôle

Comme le montre le cas d'usage de Google, l'intégration des LLM dans les flux de travail liés aux incidents de sécurité et de confidentialité permet d'"accélérer la réponse aux incidents en utilisant l'IA générative", les résumés générés étant adaptés à différents destinataires, garantissant que les informations pertinentes parviennent aux bonnes personnes dans le format le plus utile.

Conclusion : une approche pragmatique du LLM

Chitra Sundaram offre une perspective éclairante lorsqu'il déclare : "Pour parvenir à une analyse durable, il faut choisir le bon outil pour le travail, et ne pas se contenter de suivre la dernière tendance. Il s'agit d'investir dans des analystes compétents et dans une bonne gouvernance des données. Il s'agit de faire de la durabilité une priorité essentielle".

L'analyse de ces cas d'utilisation réels confirme que les LLM ne sont pas une solution miracle, mais des outils puissants qui, lorsqu'ils sont appliqués stratégiquement à des problèmes spécifiques, peuvent offrir une valeur significative. Les organisations devraient :

1. Identifier des problèmes spécifiques où le traitement du langage naturel offre un avantage substantiel par rapport aux approches traditionnelles
2. Commencer par des projets pilotes pouvant démontrer une valeur rapide et mesurable
3. Intégrer les LLM aux systèmes existants plutôt que de remplacer complètement les flux de travail
4. Maintenir des mécanismes de supervision humaine, en particulier pour les applications critiques
5. Évaluer systématiquement le rapport coût-bénéfice, en tenant compte non seulement des gains de performance mais aussi des coûts énergétiques, de maintenance et de mise à jour

Les entreprises qui prospèrent à l'ère des LLM ne sont pas nécessairement celles qui les adoptent le plus largement, mais celles qui les appliquent le plus stratégiquement, en équilibrant l'innovation et le pragmatisme, et en gardant un œil critique sur la valeur réelle générée au-delà du battage médiatique.