L'IA à grande échelle : le véritable défi est de gérer la valeur, pas de réduire les coûts

L'IA change l'économie de la technologie

Les technologies d'entreprise traditionnelles ont généralement été acquises dans le cadre d'arrangements relativement prévisibles : licences, abonnements, engagements d'infrastructure et programmes de mise en œuvre. Les coûts pouvaient habituellement être estimés à partir du nombre d'employés, de la capacité des systèmes ou d'un périmètre de travaux convenu.

L'IA ne s'inscrit pas confortablement dans ce modèle.

Son coût dépend de la consommation réelle. Il peut varier selon le modèle utilisé, la quantité d'informations traitées, la longueur de la réponse, la conception du flux de travail et le nombre de fois où un agent automatisé fait appel à d'autres systèmes ou modèles.

Deux tâches en apparence similaires peuvent donc avoir des coûts très différents.

Cela devient particulièrement important lorsque l'IA est intégrée aux processus métier. Une seule interaction peut déclencher une succession de recherches, d'appels de modèles, de validations et de nouvelles tentatives. Ce qui ressemble à une simple requête d'utilisateur peut devenir, en coulisses, un flux de travail étonnamment gourmand en ressources.

Dans le même temps, l'accès à l'IA n'est plus contrôlé exclusivement par le département technologique. Les employés peuvent souscrire à de nouveaux outils, créer leurs propres assistants et mettre en place des processus automatisés avec relativement peu de connaissances techniques. Cette accessibilité est une puissante source d'innovation, mais elle peut aussi entraîner des achats fragmentés, des capacités en double et une consommation que personne ne voit dans son ensemble.

C'est pourquoi la budgétisation annuelle classique ne suffit pas. L'IA exige une gestion active de la demande.

Commencer par rendre la consommation visible

Une organisation ne peut pas gérer efficacement l'IA si elle ne sait pas où elle est utilisée.

La première priorité devrait être de créer une vue consolidée de la consommation d'IA à travers les départements, les applications, les fournisseurs et les plateformes cloud. Cette vue doit aller au-delà des factures. Les dirigeants doivent pouvoir voir quel processus métier utilise l'IA, qui en est responsable, combien cela coûte et quel résultat est produit.

Les mesures techniques telles que les appels de modèles ou les volumes de traitement sont utiles aux ingénieurs, mais elles ne suffisent pas pour prendre des décisions métier. Les mesures les plus significatives sont probablement les suivantes :

• Coût par demande client résolue
• Coût par document examiné
• Coût par opportunité commerciale qualifiée
• Coût par version logicielle livrée
• Coût par sinistre, dossier ou transaction traité
• Revenus, capacité ou réduction des risques générés par un flux de travail dopé à l'IA

Cela change la conversation. Au lieu de se demander si l'organisation utilise trop d'IA, les dirigeants peuvent se demander si un usage particulier de l'IA produit suffisamment de valeur.

La visibilité crée également de la responsabilité. Lorsque la consommation est associée à un produit, un processus ou une unité commerciale identifiable, l'IA cesse d'apparaître comme une dépense technologique centrale inexpliquée. Elle devient un investissement métier avec un responsable et un retour attendu.

Utiliser le bon niveau d'intelligence pour la tâche

Les organisations ne mobilisent pas leurs collaborateurs les plus qualifiés pour chaque activité. Elles ne devraient pas non plus utiliser leur modèle d'IA le plus puissant — et généralement le plus coûteux — pour chaque requête.

De nombreuses tâches courantes, notamment la classification, l'extraction, la synthèse de base et la rédaction structurée, peuvent être traitées efficacement par des modèles plus petits ou moins chers. Les modèles plus performants peuvent alors être réservés aux travaux qui exigent réellement un raisonnement plus poussé, une plus grande précision ou des performances spécialisées.

L'objectif n'est pas de choisir le modèle le moins cher dans toutes les situations. Il s'agit de choisir l'option la plus économique qui respecte de manière fiable le niveau d'exigence requis.

Cette décision doit tenir compte de bien plus que du prix. La qualité, la rapidité, la confidentialité, la résilience et le risque comptent tous. Dans certains cas, un modèle premium sera entièrement justifié. Dans d'autres, un modèle hébergé plus petit, un modèle exploité en interne, voire un modèle exécuté localement sur un appareil, pourra être plus approprié.

La capacité essentielle est la flexibilité : pouvoir orienter différentes charges de travail vers différents modèles et modifier ces décisions à mesure que la technologie, les tarifs et les besoins évoluent.

Améliorer le flux de travail avant d'optimiser le modèle

Le choix du modèle reçoit beaucoup d'attention, mais une conception inefficace des flux de travail peut être une source de gaspillage plus importante.

Les systèmes d'IA peuvent traiter à plusieurs reprises des informations dont ils n'ont pas besoin, conserver des historiques de conversation inutilement longs ou produire des réponses bien plus détaillées que la tâche ne l'exige. Les agents automatisés peuvent s'enfermer dans des boucles improductives, répéter des actions ayant échoué ou faire appel à des services coûteux alors qu'une règle plus simple aurait suffi.

Ces problèmes sont rarement résolus par les seuls achats. Ils nécessitent une ingénierie et une conception de processus réfléchies.

Les organisations devraient examiner si elles peuvent :

• Envoyer uniquement les informations pertinentes pour la tâche
• Réutiliser des résultats déjà générés
• Définir des formats de réponse clairs et des limites de longueur appropriées
• Encadrer les nouvelles tentatives automatiques et l'utilisation des outils
• Orienter les requêtes simples vers des modèles plus simples
• N'escalader que les cas réellement complexes
• Repenser un processus défaillant avant d'y ajouter de l'IA

Ce dernier point est important. Automatiser un processus inefficace ne le rend pas nécessairement efficace. Cela peut simplement permettre à l'inefficacité de fonctionner plus vite et à plus grande échelle.

Intégrer la gouvernance dans l'expérience

Les politiques et la formation resteront importantes, mais elles ne peuvent pas porter à elles seules tout le poids de la gestion de l'IA en entreprise.

On ne peut raisonnablement pas attendre de la plupart des employés qu'ils comprennent l'économie de chaque modèle, invite ou flux de travail automatisé. Ils ne devraient pas non plus avoir à consulter un document de politique chaque fois qu'ils utilisent un service d'IA.

Une bonne gouvernance devrait donc être intégrée à la technologie elle-même.

L'environnement d'IA de l'organisation devrait pouvoir appliquer des règles d'accès approuvées, repérer les consommations inhabituelles, imposer des limites raisonnables et orienter les requêtes vers le service le plus approprié. Lorsqu'un coût ou un risque supplémentaire est justifié, il devrait exister une voie claire d'approbation ou d'escalade.

Cela fait de la consommation responsable le chemin naturel pour l'utilisateur. Cela permet aussi à la gouvernance de s'exercer au moment de l'activité, lorsqu'elle peut influencer le résultat, plutôt que des semaines plus tard à l'arrivée de la facture.

Le même principe s'applique aux conseils. Des recommandations contextuelles délivrées pendant que quelqu'un crée un flux de travail d'IA seront probablement plus utiles qu'une formation ponctuelle suivie plusieurs mois auparavant.

Traiter l'économie de l'IA comme une capacité permanente

La gestion de la demande d'IA ne doit pas devenir un exercice temporaire de réduction des coûts mené uniquement par l'équipe technologique.

Elle exige une coopération continue entre la technologie, la finance, les achats, la gestion des risques et la direction métier. Ensemble, ces fonctions doivent prévoir la demande, suivre la consommation, évaluer les fournisseurs et relier les dépenses à des résultats mesurables.

Cette capacité doit également reconnaître que le marché continuera d'évoluer. Le modèle le plus performant aujourd'hui n'offrira peut-être pas le meilleur rapport qualité-prix demain. De nouveaux fournisseurs, de nouvelles structures commerciales et de nouvelles options de déploiement continueront d'émerger.

Une dépendance à long terme envers un seul modèle ou fournisseur peut donc introduire un risque à la fois financier et opérationnel. Les organisations devraient préserver la capacité de déplacer des charges de travail, de réévaluer leurs choix d'approvisionnement et de combiner des capacités achetées, développées en interne et hébergées.

L'ancienne question de savoir s'il faut acheter ou construire devient trop étroite. La meilleure question est de savoir comment assembler — et ajuster en permanence — le bon mélange de services, de modèles et d'approches opérationnelles pour chaque charge de travail.

La maîtrise des coûts doit soutenir l'ambition

Il existe un risque que la hausse des dépenses d'IA pousse les organisations à une prudence excessive, juste au moment où la technologie commence à produire des résultats significatifs.

Ce serait une erreur.

Une gestion financière rigoureuse n'est pas l'ennemie de l'innovation. C'est ce qui rend possible une innovation durable. Lorsqu'une organisation sait identifier le gaspillage, elle peut réorienter ses ressources vers les flux de travail au plus fort potentiel. Lorsqu'elle comprend le coût d'un résultat, elle peut faire des choix éclairés sur les endroits où passer à l'échelle. Lorsque la gouvernance est intégrée à l'environnement, les employés peuvent innover dans des limites claires et pratiques.

Les organisations qui réussiront avec l'IA ne seront pas nécessairement celles qui dépensent le plus — ni celles qui coupent le plus fort. Ce seront celles qui comprennent où l'IA crée une valeur distinctive et qui savent orienter leur consommation en conséquence.

La prochaine étape de l'IA en entreprise sera donc définie moins par l'accès aux modèles que par la discipline de gestion.

La question n'est plus simplement : « Quelle quantité d'IA utilisons-nous ? » Elle est : « Qu'accomplissons-nous avec elle — et ce résultat justifie-t-il l'investissement ? »