Ajouter l’IA générative à un logiciel existant : guide pratique pour les gestionnaires

Qasim Ali · Ingénieur logiciel senior (Java, IA), CS2 Technologies
Publié le · Lecture : 7 min

La plupart des entreprises qui s’intéressent à l’IA générative ne cherchent pas un nouveau produit. Elles veulent que le CRM, le portail client ou l’outil interne qu’elles utilisent déjà rédige, résume, trie ou cherche un peu mieux.

C’est un objectif raisonnable, et souvent un projet plus modeste qu’on le craint. Le risque se trouve ailleurs : une fonction qui laisse fuir des données, qui coûte plus cher qu’elle ne rapporte, ou qui affiche une erreur avec aplomb devant un client.

Ce guide passe en revue les décisions qui gardent ces risques petits. Il s’adresse à la personne qui approuve le projet, pas aux développeurs qui le réalisent, et il s’appuie sur les fonctions d’IA que nous exploitons en production dans nos propres produits.

1. Choisissez une seule tâche précise pour la première version

« Ajouter de l’IA au CRM » n’est pas un cas d’usage. « Rédiger une réponse à un nouveau prospect à partir des informations déjà dans sa fiche », oui. Tout comme « résumer un long billet de soutien avant qu’un agent l’ouvre » ou « extraire le numéro, la date et le total d’une facture PDF téléversée ».

Une bonne première tâche a trois atouts. Quelqu’un la fait déjà à la main, donc vous savez à quoi ressemble un bon résultat. Une erreur se repère facilement avant d’atteindre un client. Et elle revient assez souvent pour que quelques minutes gagnées chaque fois finissent par compter.

Évitez de lancer une fenêtre de clavardage générale dès le premier jour. Une boîte ouverte attire des questions auxquelles le système n’a jamais été préparé, et elle est bien plus difficile à tester qu’une fonction avec une entrée et un résultat attendu.

Pour les gestionnaires: Décrivez le premier cas d’usage en une seule phrase, avec une entrée et un résultat clairs. Si vous n’y arrivez pas, il n’est pas prêt.

2. Décidez où les données peuvent aller avant de choisir un modèle

Chaque requête envoyée à un modèle de langage transmet une partie de vos données à l’entreprise qui exploite ce modèle. La première question est donc : quel fournisseur, dans quelle région, sous quel accord?

Les options courantes ont chacune leur logique. Amazon Bedrock donne accès aux modèles de plusieurs éditeurs à l’intérieur de votre compte AWS, dans la région de votre choix. Azure OpenAI Service propose les modèles d’OpenAI dans Microsoft Azure, avec ses propres déploiements régionaux et ses conditions pour entreprises. L’API d’OpenAI en direct est souvent le point de départ le plus rapide. Chacune peut être le bon choix. L’important, c’est de lire les conditions d’utilisation et de conservation des données, de vérifier que le modèle voulu est offert dans la région dont vous avez besoin et de confirmer que vous pouvez signer l’entente exigée dans votre secteur.

Quand nous avons déplacé Notermed, notre scribe médical IA, vers Amazon Bedrock pour répondre à une exigence HIPAA, le vrai travail n’était pas le changement de modèle. C’était de rendre impossible tout envoi de données patients hors de la frontière approuvée. L’application refuse maintenant de démarrer si quelqu’un la branche sur un fournisseur non approuvé.

Pour les gestionnaires: Mettez d’abord la règle de données par écrit (quelles données, quel fournisseur, quelle région), puis demandez à votre équipe comment le code l’applique.

3. Gardez une personne dans la boucle, et concevez l’écran pour elle

Pour une première version, l’IA prépare et une personne décide. Dans Notermed, l’IA rédige la note clinique, puis le médecin la relit et la signe. Dans AgentlyLeads, notre propre CRM, l’assistant peut rédiger un courriel, mais rien de ce qu’il écrit ne part sans approbation humaine.

Ça ne fonctionne que si la révision est facile. Affichez le brouillon à côté de sa source. Rendez la correction accessible en un clic. Signalez les champs dont l’IA n’était pas certaine au lieu de les cacher. Si vérifier un brouillon prend plus de temps que l’écrire soi-même, les gens cesseront d’utiliser la fonction ou cesseront de vérifier, et la seconde issue est pire.

Il est aussi utile de décider tôt ce que l’IA ne doit jamais faire. Dans une note médicale, c’est ne jamais deviner un diagnostic ni ajouter des constatations dont personne n’a parlé. Votre liste sera différente, mais vous devriez en avoir une.

Pour les gestionnaires: Demandez à voir l’écran de révision dès la première démonstration. La rapidité avec laquelle on approuve ou corrige un brouillon décide de l’adoption de la fonction.

4. Testez avec vos vrais documents avant que quiconque s’y fie

Des données d’exemple bien propres cachent les problèmes. Les vraies entrées arrivent sous forme de PDF numérisés, de chaînes de courriels transférés, de chiffriers aux cellules fusionnées et de notes tapées à la hâte. Quand nous avons testé Notermed avec de vrais fichiers, certains échouaient carrément parce qu’ils dépassaient la limite d’entrée du modèle. Des fichiers de test propres ne l’auraient jamais montré.

Avant le lancement, rassemblez un ensemble d’exemples réels, anonymisés au besoin, et notez pour chacun à quoi ressemble une bonne réponse. Faites passer chaque version de la fonction sur cet ensemble. Quand quelqu’un modifie les instructions ou change de modèle, ce même ensemble vous dit si la qualité a monté ou baissé, avant qu’un client s’en aperçoive.

Pour les gestionnaires: Exigez un jeu d’évaluation tiré de vos propres données, et demandez à voir ses résultats à chaque changement d’instructions ou de modèle.

5. Fixez une limite de coût à chaque requête

Les modèles de langage sont facturés selon la quantité de texte qui entre et qui sort. Une fonction qui paraît peu coûteuse en démonstration peut devenir chère une fois qu’elle tourne sur chaque fiche, chaque nuit, pour chaque client. Les longs documents et les historiques de conversation qui ne cessent de grossir sont les suspects habituels.

Les remèdes relèvent surtout de la conception. N’envoyez au modèle que la partie de la fiche dont il a besoin. Utilisez le plus petit modèle qui réussit votre jeu de tests. Mettez en cache les réponses qui ne changent pas. Fixez un budget mensuel par fonction et un plafond d’utilisation par client, pour qu’un seul gros compte ne vide pas tout le budget.

Pour les gestionnaires: Demandez ce que coûte une requête, à peu près, et ce qui se passe quand un client utilise la fonction dix fois plus que prévu.

6. Journalisez tout, lancez derrière un interrupteur, gardez une marche arrière

Vous voudrez savoir ce qui a été envoyé, quel modèle a répondu, combien de temps ça a pris et ce que l’utilisateur a fait du résultat. Ce journal sert à analyser les plaintes, à suivre les dépenses et à montrer à un auditeur ce qui s’est passé. Attention à son contenu, par contre : si les entrées contiennent des renseignements personnels, le journal mérite la même protection que le système source.

Lancez la fonction derrière un indicateur d’activation. Activez-la d’abord pour les utilisateurs internes, puis pour un petit groupe de clients, puis pour tout le monde. En cas de problème, vous la désactivez sans nouveau déploiement. Traitez les changements de modèle de la même façon. Quand Notermed a changé de modèle, nous avons reconstruit l’index des documents dans un nouvel espace en gardant l’ancien, pour pouvoir revenir en arrière en quelques minutes.

Pour les gestionnaires: Avant le lancement, demandez à votre équipe de vous montrer comment désactiver la fonction d’IA pour un seul client, et combien de temps ça prend.

7. Définissez le succès avant le lancement

Choisissez quelques mesures liées à la tâche de la section 1. À quelle fréquence les gens acceptent-ils le brouillon tel quel, le modifient-ils ou le jettent-ils? Combien de temps la tâche prend-elle maintenant, comparé à avant? Combien coûte la fonction par mois, et par utilisation? À quelle fréquence un réviseur doit-il corriger une erreur de fait?

Mesurez la situation manuelle avant la mise en service, sinon vous n’aurez aucun point de comparaison. Revoyez ensuite les chiffres après quelques semaines. Une fonction que les gens délaissent en silence vous dit quelque chose, même si personne ne se plaint.

Pour les gestionnaires: Entendez-vous dès le départ sur deux ou trois mesures et un point de référence. Sans eux, la fonction d’IA ne peut pas prouver qu’elle vaut son coût.

En bref

Ajouter l’IA générative à un logiciel existant fonctionne mieux comme un changement ciblé et réversible : une tâche, une frontière de données écrite, une personne qui approuve le résultat, des tests sur de vrais documents, une limite de coût et un interrupteur pour tout arrêter. Une fois ces éléments en place, le choix du modèle devient l’une des décisions les plus simples du projet.

Qasim Ali

Ingénieur logiciel senior (Java, IA), CS2 Technologies

Qasim cumule 18 ans d’expérience en systèmes dorsaux, dont dix ans sur la plateforme dorsale de Vodafone Kabel Deutschland, et construit des fonctions d’IA en production pour les produits de CS2 et pour ses clients. Si vous envisagez une première fonction d’IA dans un système existant, il en discutera volontiers avec vous.