C'est quoi, un LLM ?

Les Large Language Models (LLM) sont un type d'intelligence artificielle capable de comprendre et de générer un langage semblable à celui de l'homme. Comme un ingénieur mécanique utilise un logiciel pour modéliser le moteur d’une voiture, un chercheur qui crée un LLM a pour objectif de créer une représentation numérique simplifiée du langage humain. Ces modèles utilisent un grand nombre de paramètres, de données et une grande puissance de calcul.

Les LLM et l’IA générative se distinguent des autres formes d'IA car ils ne requièrent aucune compétence technique de la part des utilisateurs. Les outils sont alimentés par de grandes quantités de données non structurées et non étiquetées.

Chronologie des LLM existants (d'une taille supérieure à 10B) (Kun Zhou, 2023)

Chronologie des LLM existants (d'une taille supérieure à 10B) (Kun Zhou, 2023)

Par où commencer ?

Des utilisations concrètes existent déjà dans la plupart des secteurs : gestion de la connaissance en interne, automatisation de processus métier, génération de document, automatisation du support client, recommandation de produit personnalisée… S’il peut être intéressant de “se faire la main” avec un projet simple, l’entreprise qui souhaite utiliser un LLM (ou lancer un projet IA en général) devrait rapidement prioriser ses cas d’usages selon deux objectifs :

  • Ne pas se contenter d’améliorer l’existant, mais créer un avantage concurrentiel : la technologie est un outil au service du business et ne doit être mise en oeuvre qu’à condition de viser un retour sur investissement clair, ou un impact fort relativement aux meilleures solutions déjà existantes sur le marché (on ne fait pas de l’IA pour faire de l’IA). Pour construire une proposition de valeur unique, l’IA doit être combinée avec des éléments de différentiation (expérience utilisateur, effets de réseaux, branding, gestion des complexités réglementaires…).
  • Ne pas penser “quick win”, mais bâtir les fondations des futures capacités de l’organisation : plutôt que de se concentrer sur des cas d’usages sporadiques, les dirigeants doivent se projeter sur la vision idéale de l’entreprise automatisée. Une fois cette perspective définie, l’entreprise peut évaluer le niveau de sophistication manquant aux outils existants pour l’atteindre, et séquencer ses projets pour atteindre cette sophistication, étape par étape. Ainsi, les premiers projets posent des bases solides aux futures capacités de l’entreprise.

Attention à l’effet “bulle” autour des LLM : ils ne sont pas la solution à tous les problèmes. Dans beaucoup de situations, d’autres techniques d’intelligence artificielle seront plus efficaces. Dans certains cas, une simple digitalisation ou transformation des usages sera plus pertinente et pragmatique. C’est la règle n°1 du Machine Learning chez Google : n'ayez pas peur de lancer un produit sans machine learning. C’est tout l’enjeu de la phase d’analyse et d’évaluation des opportunités : identifier des problèmes à résoudre sans chercher absolument à positionner des technologies complexes.

Quels risques doivent être pris en compte en utilisant des LLM ?

  • Fiabilité des réponses : de potentielles réponses incorrectes, incomplètes ou trompeuses générées par l’IA doivent faire l’objet d’une évaluation critique par l’utilisateur
  • Biais dans les modèles : des biais présents dans les données d'entraînement peuvent conduire à des résultats qui reflètent ces biais (équité, discrimination)
  • Confidentialité des données : les organisations doivent se montrer prudentes sur le partage de données sensibles ou personnelles (RGPD)
  • Sécurité : l'IA générative peut être être manipulée pour fournir des résultats malveillants ou utilisée dans le cadre de cyberattaques (eg attaques de type Oracle : l’attaquant explore le modèle en fournissant une série d’outputs bien définis, ce qui lui permet d’obtenir de nombreuses informations ayant servi à l’entrainement, donc des données confidentielles et/ou données personnelles)
  • Propriété intellectuelle : face aux risques importants de violation de droits d'auteur, de marques ou de brevets, les entreprises doivent comprendre quelles données ont servi à entrainer le modèle et comment elles sont utilisées par l'outil
  • Impact écologique et dépense énergétique : le calcul se fait en analysant les ressources consommées (CPU /GPU, RAM), la consommation électrique associée et la consommation énergétique du/des datacenters. De manière remarquable, le choix du DNN, du data center et du processeur peut réduire l'empreinte carbone jusqu'à ~100-1000X
  • Éthique et emplois dégradés : si l’IA peut supprimer des taches à faible valeur ajoutée, l’essor de la génération de contenu peut aussi remplacer des tâches appréciées des collaborateurs par des tâches plus rébarbatives

Quels sont les profils nécessaires ? Faut-il les recruter ou faire appel à des partenaires ?

Il est important de construire en interne les compétences techniques de demain, mais la nature des talents nécessaires dépend grandement des usages de l’IA. Si l’entreprise a pour coeur d’activité l’IA ou que son coeur d’activité dépend de l’IA, elle peut faire le choix stratégique de construire une équipe interne dédiée aux LLMs, qui pourra développer et héberger différents modèles en interne. Dans les autres cas, l’entreprise s’appuiera sur des outils externes déjà hébergés, utilisés par une interface web ou par API, et ses besoins en compétences techniques se limiteront à des équipe de software engineering, parfois complétées par des profils de data analyse et de data engineering.

Il est également possible de faire appel à des prestataires externes, notamment en cas de contrainte de planning (besoin de réaliser un projet ou sortir une fonctionnalité rapidement) ou de manque d’expertise (pas les bonnes compétences en interne, projets complexes nécessitant l’appui d’experts). Si elle choisit d’externaliser un projet IA, l’entreprise doit être particulièrement vigilante au niveau de compétences des équipes externes et à sa capacité à acquérir et conserver la connaissance en interne (la mission devrait servir à acculturer et former les collaborateurs, qui doivent être impliquées dans le projet et, dans certains cas, formés pour maintenir le produit à l’issue du projet).

Dois-je laisser mes équipes libres d’expérimenter ?

Oui, le changement n’est jamais aussi simple que lorsqu’il est impulsé par les équipes ! Les dirigeants peuvent offrir des ressources et un cadre qui permettent d’expérimenter, par exemple une journée par semaine ou par mois dédiée à des travaux de R&D pour certaines équipes, favoriser les retours d’expériences, permettre aux plus avancés de former leurs collègues et encourager la création de communautés de pratiques (sans les forcer, elles ne fonctionnent généralement que lorsqu’un porteur souhaite s’investir et que les participants ont réellement envie de participer).

Si une vision stratégique permet de se projeter sur l’avantage compétitif de demain, de nombreuses opportunités d’amélioration seront amenées par des petits changements issus du terrain, par ceux qui réalisent les tâches opérationnelles au quotidien.

Par exemple, des développeurs pourront lancer le premier draft d’un nouveau code, améliorer du code existant plus rapidement, accélérer certaines taches manuelles et répétitives et explorer des pistes de résolution lorsqu’ils sont confrontés à un nouveau challenge. Tout ce temps gagné leur permettra de se concentrer sur des problèmes plus complexes et libèrera du temps à leur ingéniosité.

Impact de l’IA Générative sur la vélocité des développeurs (McKinsey, 2023)

Impact de l’IA Générative sur la vélocité des développeurs (McKinsey, 2023)

Comment créer une application qui utilise des LLM et plaise à mes utilisateurs ?

Les applications utilisant de l’IA et des LLM devraient devenir de plus en plus influentes dans nos vies, à commencer par les outils de bureautiques dopés à l’IA développés par Google et Microsoft.

Si l’innovation progresse à pas de géants, ce ne sont ni les capacités techniques, ni la précision des modèles, ni la profondeur des papiers de recherches publiés qui apporteront de la valeur directe à vos utilisateurs. Un produit qui fonctionne est avant tout un produit qui répond à un besoin, et idéalement suscite de l’émotion, quelles que soient les technologies sur lesquelles il s’appuie (Netflix a été construit en Angular, ce qui ne les a pas empêché d’atteindre un énorme succès).

Quant on repense aux premières applications sur iPhone, elles étaient bluffantes car elles apportaient une technologie fondamentalement nouvelle, mais elles ne sont pas restées. Les applications devenues essentielles à notre quotidien sont celles qui ont le mieux compris leurs utilisateurs, et réussi à créer une expérience hors du commun.

« Les gens n’ont pas besoin de perceuses. Ils ont besoin de trous dans leurs murs » (Théodore Levitt). En d’autres termes, la technologie n’est pas la priorité, il faut penser produit.

Finalement, c’est quoi la recette pour réussir ?

David Lieb, fondateur de Google Photos (qui a mis en production d'innombrables fonctionnalités d'IA avant que cela ne soit facile) disait : “si un millier de personnes très intelligentes et équipées des meilleures outils, qui n’ont jamais besoin de dormir et peuvent tout retenir en mémoire, ne peuvent pas régler votre problème… Alors l’IA ne peut pas aider”.

Christophe Pasquier, fondateur de Slite, propose une méthode intéressante : pour identifier des opportunités IA, demandez vous ce que vous feriez sur votre application si vous aviez 100 clones de votre CTO (ou de votre meilleur ingénieur), disponibles pour vous et vous seul, 24 heures sur 24, 7 jours sur 7 ?

En tant que dirigeant, s’il n’y avait qu’une chose à retenir, je pencherais pour celle-ci : l’IA n’est pas (encore) une intelligence supérieure et ne résoudra pas tous vos problèmes. Une fois cette réalité acceptée, intéressez vous vraiment à vos utilisateurs et expérimentez, les LLM sont devenus accessibles à presque tous. Si l’IA ne règle pas tout, elle devrait pouvoir vous faire gagner un temps fou.

© Copyright 2023 KAYRO.
Tous droits réservés.
Legal
Mentions légales
Politique de confidentialité
Conditions d'utilisation
Utilisation des cookies
AKUA Logo - A droplet of water
KAYRO
© Copyright 2023 KAYRO.
Tous droits réservés.
Legal
Mentions légales
Politique de confidentialité
Conditions d'utilisation
Utilisation des cookies