Dans un monde où la digitalisation des entreprises devient un enjeu stratégique, l’Intelligence Artificielle (IA) se présente comme le levier de transformation incontournable. Cet article vise à expliquer comment chez INFODIS, nous prenons en compte ces nouveaux enjeux, et notre expérience à trouver le meilleur partenaire pour nous mettre en place une architecture évolutive d’IA Générative.
Avec la pression croissante pour une agilité et une efficacité accrue, l’IA promet de réduire les coûts, d’améliorer la prise de décision grâce à des données et analyses précises et, finalement, de renforcer pour une entreprise sa compétitivité sur le marché. Cependant, cette promesse ne vient pas sans défis. Il est très facile pour tout un chacun d’ouvrir le site OpenAI et de « jouer » avec ChatGPT. Certains seront plus avancés en prompt et arriveront sans doute à sortir de belles réponses mais en réalité une vraie automatisation d’un processus ou d’un cas d’usage doit se construire dans le long terme et offrir une pérennité au système mis en place ou dans le cas des IA Génératives la nouveauté d’aujourd’hui est remplacée par celle de demain.
Des Frameworks existent par dizaine. Tous plus ou moins à même de faire pas mal de choses. Tous plus ou moins gratuits et tous plus ou moins avec les connecteurs nécessaires pour réaliser de A à Z une application embarquant de l’IA. Certains intègrent également un orchestrateur, moteur des IA génératives, qui arrive à concilier les demandes avec la gestion des LLM et leurs réponses en bonne et due forme.
On pourrait donc se dire : « on peut en interne se développer sa petite IA »….Oui mais :
Il faut des matériels de calculs et au-delà de nos bons vieux serveurs il nous faut des serveurs avec des GPU. GPU essentiellement Nvidia pour le moment qui a pris au bon moment le tournant des calculs avec ses cartes qui étaient auparavant dédiées au jeux vidéo.
Il faut de bonnes connaissances de programmation, à minima en Python et au mieux dans d’autres langages (C#, C++, scripting…)
Il faut s’y connaitre en mathématiques, probabilités et statistiques et il faut même se poser la question d’avoir en interne des Data Scientists, analystes, Ingénieurs et autres qui traduiront en langage mathématiques nos besoins de réponses des IA mises en place.
Il faut garder ses données en propre et surtout ne pas les exposer à Open AI ou d’autres…
Il faut avoir une éthique. L’IA ne se déploie pas comme une autre application. Elle fait trop entrer en jeux l’avenir pour certains et se poser la question de l’utiliser sans détruire notre structuration actuelle du monde du travail.
Fort de ce constat, et même si en interne INFODIS à sa propre équipe de développement et Innovation nous nous sommes posé la question de mettre en place une architecture globale pour construire de l’IA générative aux cas d’usages de nos clients et prospects et surtout de la rendre scalable et réplicable indéfiniment sans avoir aucune accroche avec aucun éditeur ou hébergeur et agnostique de toutes ses briques interne. Nous voulions pouvoir utiliser des entrées écrites par mail, par chat, par tout outil via API, et des sorties par Chat, par mail ou par tout outil via API. Nous voulions également que le choix du LLM soit fait à chaque fois en fonction du besoin client (rien ne sert de prendre une Porsche quand une Clio suffit). Nous souhaitions enfin dans un second temps intégrer la notion de voix…au vu des résultats peu probants ou trop onéreux nous attendons que la technique évolue dans ce domaine.
Tout d’abord un constat : le monde de l’IA et de l’IA générative n’est pas encore construit et plusieurs acteurs cherchent à s’imposer avec des approches différentes.
- Microsoft avec sa solution tout en un « Azur Open AI » propose une solution viable, stable mais où pour laquelle nous ne maitrisons ni l’investissement final ni les ROIS associés. De plus la solution est très orientée ChatGPT même si une ouverture semble exister avec Mistral ou d’autres, elle semble très compliquée à mettre en œuvre.
- D’autres proposent des solutions tout en un mais sans doute très propriétaires : le ROI est alors plus facilement calculable mais nous sommes fortement liés aux choix technologiques opérés et sans doute privés de toute innovation tierce
Second constat : Le monde de l’IA génère une certaine « aura », dès lors les fonctionnalités, finalités et objectifs desdites solutions manquent de tangibilité. Quel sera la solution finale livrée ? quel niveau d’autonomie sur ses évolutions ? quel niveau d’interaction ? Quelle latitude pour avancer ensuite avec nos clients ? et ne risquons-nous pas d’être continuellement sous « perfusion de sachants » pour faire avancer le sujet ?
Le marché de l’IA générative ne serait-il pas notre FarWest V.3 !
Troisième constat : Le prix ! Comme pour la plupart les business model, les charges projets, les engagements de livraison, les modalités de delivery, le coût d’infrastructures, de setup … Varient du simple au décuple !
C’est très compliqué quand on n’a pas encore de métrique de se dire : « mais en fait, combien cela me coute et combien je le vends ? »
En conclusion : On voit donc que l’accès à l’IA générative est compliqué. Compliqué parce que déployer un modèle industriel sur une IA Générative va bien au-delà des formes d’IA émergeantes embarquant des agents personnels qui peuvent prendre diverses formes, des assistants virtuels sur les smartphones aux haut-parleurs intelligents dans les maisons connectées. Dès lors les enjeux inhérents à l’IA reposent sur la data, sa qualité, sa disponibilité, et les modèles de structuration mais également sur l’accès à cette data, sa sécurisation, sa conformité, son respect des cadres légaux qui sont autant de défis pour nos entreprises
Il est donc primordial et nécessaire de développer de nouvelles compétences au sein des équipes IT, d’adopter une culture d’innovation continue et de travailler de manière transversale avec toutes les fonctions de l’entreprise pour déployer des solutions d’IA qui répondent non seulement aux besoins techniques mais aussi aux objectifs commerciaux globaux. On doit savoir ce qu’on veut vendre, se positionner sur de vrais cas d’usages de nos clients ou un vrai ROI est facilement calculable lors de la mise en place d’une IA.
