Julien Fournier - Tech Lead & Coordinateur d'agence
Découvrez notre calendrier de l'Avent spécial éco-conception
Lorem Ipsum is simply dummy text of the printing and typesetting industry. Lorem Ipsum has been the industry's standard dummy text ever since the 1500s, when an unknown printer took a galley of type and scrambled it to make a type specimen book.
Title document
Lorem Ipsum is simply dummy text of the printing and typesetting industry. Lorem Ipsum has been the industry's standard dummy text ever since the 1500s, when an unknown printer took a galley of type and scrambled it to make a type specimen book.
Comme beaucoup, vous avez constaté que l'IA est partout et occupe le premier plan de l'actualité tech ces 6 derniers mois. Tout est allé un peu trop vite et vous avez la sensation d'avoir vu le train partir en étant resté à quai ? Nous vous proposons de rattraper votre retard en 10 minutes de lecture, top chrono.
L’Intelligence Artificielle est au coeur de l’actualité. Les investissements sont massifs. Les promesses démesurées.
Avec un peu de recul, la révolution qui s’est opérée ces derniers mois est celle d’avoir fait de l’IA une commodité : la technologie est désormais accessible à toutes et à tous, as a Service (as API bien souvent) et à des coûts très abordables auprès de multiples fournisseurs.
Ce phénomène est loin d'être anodin.
En transformant l'intelligence artificielle en une ressource accessible et exploitable, une porte s'est ouverte pour toutes les entreprises, des startups innovantes aux grands groupes bien établis. Ce n'est plus une technologie réservée à une poignées d’entreprises disposant de talents rares et de ressources considérables.
L'impact de l'intelligence artificielle ne se limite pas à une amélioration des produits ou services existants : c’est un véritable tremplin pour la transformation numérique, permettant aux entreprises de repenser leurs modèles d'affaires, d'optimiser leurs processus opérationnels et d'offrir une meilleure expérience à leurs clients. Les applications de l'IA sont aussi diverses que variées et tous les secteurs sont concernés.
Aujourd'hui, l'IA innove autour de 2 grands domaines : la génération de texte et la génération d'images. Ces deux innovations principales que l'on appelle communément l'IA générative et qui sont liées, comme nous le verrons plus tard, ont permis à d'autres domaines technologiques de se développer car connexes dans les usages, même si le lien technologique est ici moins direct.
La révolution actuelle est d'abord celle des LLM, Large Language Model, dont les prémices grands publics avaient déjà lieu en 2022 avec l'arrivée de GPT-3 par OpenAI. Les capacités de l'IA devenaient telles qu'elles en étaient bluffantes.
Mais qu'est-ce qu'un LLM ? C'est une technologie qui permet, très simplement, de générer du texte en réponse à un énoncé, lui aussi textuel, que l'on appel le prompt. On peut faire l'analogie d'une requête sur un moteur de recherche. Les résultats du moteur seraient l'équivalent du texte généré, tandis que la requête est l'équivalent du prompt.
Lorsque l'on utilise ChatGPT, on envoie des prompts au LLM d'OpenAI qui nous répond.
Aujourd'hui les prompts ne sont plus forcément uniquement textuels, ils peuvent être accompagnés d'images.
GPT est la technologie de LLM d'OpenAI. Donc lorsque l'on parle de GPT, on fait référence à un moteur donné. Aujourd'hui, il existe d'autres LLM, les plus connus sont ceux de la société Anthropic (Claude), Google LaMDA (Bard) et il en existe plusieurs en Open Source disponibles sur HuggingFace, la plateforme communautaire opensource de référence autour de l'IA.
Les LLM sont une révolution car ils permettent une interaction naturelle sur les données en utilisant le langage. Tout le monde peut s'en servir à partir du moment où l'on sait écrire. On parle de technologie conversationnelle.
Nous jugeons que les LLM offrent le principal gisement d'innovation autour de l'IA. Ces technologies vont profondément changer nos usages et par conséquent, impacter les applications qui en découlent.
Les LLM ont été bâti sur une architecture de machine learning particulière, celle des Transformer. Cette architecture, prometteuse, a évidemment inspiré d'autres utilisations. Ainsi, les Transformers ont été réutilisés pour créer des moteurs capables de générer des images. De là, en découle les moteurs de génération d'image DALL-E (OpenAI), Midjourney et bien d'autres.
Le principe reste similaire à celui des LLM : à partir d'un prompt, pouvant être composé d'un texte et/ou d'images, le moteur va générer une image. Les cas d'usage de cette technologie sont nombreux et des acteurs de premiers plans ont commencé à se l'approprier : Adobe avec Firefly est le dernier exemple en date le plus convaincant.
Avec le recul, les usages de la génération d'images se restreignent principalement au milieu de la création (design digital en particulier) et les usages grands publics (ou intégré dans des applications grand public) restent limités.
Nous jugeons encore complexe l'intégration de la génération d'images dans des applications (web et mobile). En effet, nous considérons qu'en-dehors de quelques effets démos dont les effets de bord sont maîtrisés, il reste in fine assez complexe de généraliser l'usage sans se heurter rapidement à des impasses. Autrement dit, nous ne pensons pas que l'intégration de la génération d'images représente pour le moment un axe d'innovation intéressant.
Des technologies ont profité de l'essor de l'IA. Les prompts comme nous l'avons dit plus tôt sont principalement du texte. Quoi de plus naturel alors que de vouloir utiliser la voix et donc la dictée vocale pour faciliter leur rédaction ?
C'est ainsi que les moteurs de Speech To Text ont aussi vu leur capacités se démultiplier dernièrement. Nous jugeons la fonction Speech To Text d'OpenAI particulièrement convaincante sur le français usuel, pouvant d'ailleurs comporter du vocabulaire business et/ou technique avec des termes anglophones. Dans ce genre de cas, Siri tente souvent et maladroitement d'utiliser des noms à consonance proches pour remplacer ces termes anglophones. Ex: "Une API est REST" (OpenAI) vs "Une playlist" (Siri)
Si le Speech To Text a bénéficié d'un regain de traction, il en va de même pour son pendant inverse : le Text To Speech, c'est-à-dire la capacité à transformer du texte en audio. En effet, les LLM sont capables de générer des sorties textes, il ne restait plus qu'à transformer ce texte en audio pour que l'utilisation main libre soit complète. Un acteur de premier plan ici est ElevenLabs.
Enfin, ci et là, des acteurs innovent sur la "Vision", la capacité des IA à pouvoir décrire une image (ex: dans telle zone de telle image il y a un chat et à tel autre endroit il y a du texte avec écrit "Felix") . Cette innovation va de pair avec l'usage de prompts visuels plutôt que textuels. Bien que la Vision soit à la pointe depuis des années dans des domaines très particuliers, par exemple dans le médical avec la détection d'anomalies (i.e. cancers), la Vision pour un usage intégré dans des applications grand public passe difficilement le stade de la démonstration. Les technologies n'en sont pas encore au stade de commodité et l'écosystème doit encore mûrir un peu. Nous pensons tout de même que d'ici peu, il s'agira d'un important champ d'innovation.
Comme nous l'avons dit précédemment, si l'on souhaite innover en intégrant l'IA dans des contextes applicatifs existant alors, à notre sens, la majorité des intégrations se feront via l'emploi de LLM.
Mais du coup, pour quoi faire ? Pour quels usages ? Quelles sont au final les réelles capacités des LLM au-delà de la simplification de "génération de texte" ?
Génération de contenu : Les LLM peuvent être utilisés pour générer du contenu pour des blogs, des articles, des résumés, des descriptions de produits, des publicités, etc. Ils peuvent également être utilisés pour la création de poèmes, de nouvelles ou même de scripts de films.
Traduction de langage : Les LLM peuvent être utilisés pour traduire du texte entre différentes langues, même des langues imaginaires ou codifiés, pour peu que l'on ai réussi à donner des instructions correctes aux LLM.
Résumé automatique : Les LLM peuvent être utilisés pour résumer automatiquement de longs documents ou articles.
Correction grammaticale et orthographique : Les LLM peuvent être utilisés pour détecter et corriger les erreurs grammaticales et orthographiques dans un texte.
Prédiction de texte : Les LLM peuvent être utilisés pour prédire le texte suivant dans une séquence, ce qui peut être utile pour la saisie prédictive ou pour aider les écrivains à surmonter le blocage de l'écrivain.
Analyse de sentiment: Les LLM peuvent être utilisés pour analyser le sentiment d'un texte, ce qui peut être particulièrement utile pour surveiller les commentaires des clients sur les réseaux sociaux ou pour comprendre l'opinion publique sur certains sujets.
Recherche sémantique: Les LLM peuvent être utilisés pour améliorer la recherche d'information en comprenant le sens des termes de recherche plutôt qu'en se basant simplement sur les mots clés.
Détection d'anomalie et de fraudes : par exemple, en tant que compagnie d'assurance les LLM peuvent être utilisés les demandes de remboursement, de sinistres ou de prestations et détecter les cas de fraude potentielle. En analysant les descriptions de chaque demande il est possible d'identifier des schémas inhabituels, des incohérences ou des red flags qui pourraient indiquer une fraude.
Répondre à des questions : Les LLM peuvent être utilisés pour développer des systèmes de réponse aux questions directes des utilisateurs dans un langage naturel.
Assistants virtuels / chatbots : similaire au fait de répondre à des questions, on peut utiliser les LLM pour construire des assistants virtuels qui peuvent interagir avec les utilisateurs en langage naturel, répondre à leurs questions, les aider à planifier des événements, etc.
Tutorat / Enseignement : Les LLM peuvent être utilisés pour développer des systèmes de tutorat qui peuvent aider les étudiants à comprendre des concepts difficiles ou à répondre à leurs questions sur des sujets spécifiques.
Tous ces cas d'usage sont encore plus intéressant dès lors que vous arrivez à faire en sorte que le LLM se base sur les données de l'utilisateur qui s'en sert.
Par exemple, votre application permet de consigner des recettes de cuisine. En tant qu'utilisateur, j'apprécierais que l'intégration d'un LLM dans l’application me permette d'interroger les recettes de cuisine que j'ai déjà référencées dans l'application (ou de suggérer sur base de ces recette). La contextualisation est clé et constitue à date un enjeu et une légère difficulté technique.
Déployer des LLM dans un environnement technologique est maintenant largement documenté. A16Z a récemment réalisé une synthèse des architectures standard d'applications avec LLM. Nous avons repris leur représentation visuelle et l'avons simplifié pour illustrer cet article.
.png)
Les composantes essentielles sont les suivantes :
Les pipelines de données : vous allez souvent vouloir que le LLM soit contextualisé par rapport à vos utilisateurs, il faudra donc mettre en place des pipelines de données. Rien d'exotique ici, les technologies que vous utilisez déjà conviendront tout à fait.
Les bases de données vectorielles : pour pouvoir être exploitées par les LLM, les données doivent être traitées en amont pour être transformées en "vecteurs" ou "embeddings", c'est-à-dire une représentation numérique de la donnée, dépendante du moteur du LLM. Ces formats de données nécessitent des bases de données particulières (ex: Supabase, Pinecone) ou des libraires additionnelles aux bases de données standards (pgvector pour Postgres). Nous recommandons d'utiliser pgvector ou Supabase.
Les playgrounds : ce sont des interfaces "bacs à sable" qui permettront de peaufiner simplement vos prompts, éléments clés d'une intégration de LLM réussie.
L'orchestrateur : il s'agit du glue-code qui va permettre d'appeler les LLM, vos données contextuelles et qui fera l'interface avec votre application. Concrètement il s'agit de morceaux de codes maison. Un framework a émergé et se nomme LangChain, il facilite l'intégration des briques telles que les moteurs LLM, embeddings, etc.
Les fournisseurs de LLM, que l'on peut catégoriser en 3 familles :
Il est à noter que :
1. Les LLM Open Source, sont tous de loin inférieurs à ceux propriétaires.
2. De manière générale OpenAI domine :
3. OpenAI lorsque fourni par Microsoft Azure est plus rapide. Autrement dit : à date, la meilleure solution est OpenAI via Microsoft Azure.
Les briques satellites (ex: LLMOps et validation) : il s'agit ici d'utiliser du tooling pour limiter d'une part l'effet blackbox sur les échanges entre votre application et les LLM une fois celle-ci en production (améliorer l'observabilité). Le tooling aura aussi pour d'améliorer la sécurité et la fiabilité des intégrations de LLM. Nous n'entrerons pas dans les détails à ce niveau car le sujet devient complexe.
Nous répondrons sans détour : il est assez simple d'intégrer des LLM aujourd'hui car la technologie est devenue une commodité, comme nous l'avons dit maintes fois tout au long de cet article. L'innovation d'usage couvert par les LLM n'appartient plus à la recherche fondamentale mais bien à l'ingénierie logicielle classique et la plupart des entreprises tech sont capables de résoudre les défis qu'elle pose.
Au préalable, une acculturation au domaine pour pouvoir lancer un projet sera nécessaire, mais en ayant lu cet article vous avez déjà fait l'essentiel du travail.
Pour réaliser un projet avec un LLM il vous faudra deux ingrédients clés : des compétences techniques (ex: un.e bon.ne développeu.r.se) et de l'empathie pour travailler des prompts de qualité (ex: un bon Product Manager). En effet, concernant le dernier point : la formulation d'un prompt pouvant être aussi vaste que le langage le permet, il faut apprendre à comprendre comment le LLM réagit dans tel ou tel cas et avoir une aisance à l'écrit et un bon esprit de déduction est un réel avantage. La qualité d'un prompt étant essentielle car au final elle fera la différence entre une bonne et une excellente intégration.
Chez Dernier Cri, nous avons réalisé plusieurs intégrations de LLM et pouvons vous accompagner pour défricher ces sujets. Si vous avez une idée, parlons-en !
Restons en contact !
Lorem ipsum dolor sit amet, consectetur adipiscing elit. Suspendisse varius enim in eros elementum tristique. Duis cursus, mi quis viverra ornare, eros dolor interdum nulla, ut commodo diam libero vitae erat. Aenean faucibus nibh et justo cursus id rutrum lorem imperdiet. Nunc ut sem vitae risus tristique posuere.
