Responsabilité IA et Hallucinations : La leçon des 440 000 $ de Deloitte

Fin 2025, une histoire édifiante pour l’ensemble du secteur des services professionnels s’est déroulée. Deloitte Australie a remis un rapport au gouvernement australien dans le cadre d’un contrat de 440 000 AU$ (290 000 US$) visant à examiner le système informatique des sanctions sociales du pays. Un problème est apparu lorsqu’un professeur de droit a lu le rapport et a identifié des « références fabriquées », notamment un livre inexistant et une citation de juge entièrement inventée.

Deloitte a ensuite réédité le rapport avec une nouvelle divulgation – il avait utilisé Azure OpenAI – et a accepté de rembourser la dernière partie de ses honoraires. L’incident n’était pas un échec du modèle d’IA, qui a fonctionné comme prévu en générant un texte plausible. C’était un échec de la supervision professionnelle. Cette affaire offre une leçon sévère : lorsque vous utilisez l’IA dans le cadre de votre travail client, vous êtes responsable du résultat, y compris de ses erreurs. Pour les consultants, dont la monnaie est la confiance et la précision, la gestion de cette nouvelle couche de responsabilité n’est pas une option.

Chez ZEKAI, nous examinons les outils et les flux de travail pour les professionnels, et cet article fournit un cadre pratique aux cabinets de conseil pour gérer le risque d’hallucinations d’IA. Nous ne sommes pas des avocats, et ce n’est pas un avis juridique, mais un guide des mesures de protection opérationnelles et basées sur des outils que votre cabinet peut mettre en œuvre dès aujourd’hui. C’est un défi majeur pour chaque praticien des services professionnels.

Qu’est-ce que la responsabilité liée aux hallucinations d’IA ?

La responsabilité liée à l’IA fait référence à la responsabilité légale et financière des dommages causés par un système d’intelligence artificielle. Il est crucial de noter que les principes juridiques actuels aux États-Unis, au Royaume-Uni et dans l’UE ne traitent pas l’IA comme une personnalité juridique pouvant être poursuivie. La responsabilité incombe aux humains et aux entreprises qui développent, déploient ou utilisent l’IA. Pour un cabinet de conseil, cela signifie que si un outil d’IA produit une analyse erronée, un point de données fabriqué ou une recommandation biaisée qui entraîne des pertes pour le client, le cabinet de conseil – et non le fournisseur d’IA – est susceptible d’être tenu responsable de négligence professionnelle.

Les hallucinations – lorsqu’un modèle d’IA génère des informations fausses, trompeuses ou absurdes mais les présente comme des faits – sont la source la plus directe de ce risque. Il ne s’agit pas de cas marginaux rares. Selon la complexité de la tâche, les taux d’hallucination des LLM peuvent varier de moins de 3 % à plus de 80 %. Une étude de 2025 a révélé que les fausses nouvelles et la désinformation coûtaient à l’économie mondiale environ 78 milliards de dollars par an. Bien que ce chiffre couvre un large impact sociétal, il signale les immenses dommages financiers qui peuvent découler d’une seule information incorrecte.

Le principe juridique fondamental est que l’IA n’est qu’un outil, comme une feuille de calcul ou une base de données de recherche. Si vous utilisez une calculatrice défectueuse pour donner des conseils financiers à un client, vous êtes responsable de l’erreur. Il en va de même pour l’IA. Les tribunaux ont déjà sanctionné des avocats pour avoir soumis des mémoires juridiques contenant une jurisprudence fabriquée par l’IA. L’affaire Deloitte ne fait qu’étendre ce précédent au domaine du conseil.

Les quatre niveaux de risque liés à l’IA pour votre cabinet

La responsabilité n’est pas un problème unique, mais un ensemble de risques interconnectés. Pour un cabinet de conseil, l’exposition provient de quatre domaines distincts. Les comprendre est la première étape pour les atténuer.

1. Risque lié à la saisie des données (Confidentialité et vie privée) : Le premier risque survient avant même que vous ne sollicitiez l’IA. L’introduction d’informations client sensibles – données financières, plans stratégiques, informations personnelles identifiables (PII) – dans un outil d’IA public peut violer les accords de confidentialité et les lois sur la protection des données comme le RGPD. À moins que votre contrat avec un fournisseur d’IA ne garantisse explicitement un modèle sans rétention de données et en instance privée, vous devez supposer que vos entrées pourraient être utilisées pour entraîner le modèle.
2. Risque lié à la sortie du modèle (Hallucinations et inexactitudes) : C’est le risque mis en évidence par l’affaire Deloitte. L’IA peut produire des informations plausibles mais factuellement incorrectes, des analyses erronées ou des conclusions biaisées. Si ce résultat est intégré à un livrable client, il devient une représentation directe du produit de travail de votre cabinet et une base claire pour une réclamation pour négligence professionnelle.
3. Risque lié aux actions des employés (Mauvaise utilisation et dépendance excessive) : Vos employés sont les principaux utilisateurs de ces outils. Le risque est double : une mauvaise utilisation intentionnelle (par exemple, utiliser l’IA pour des tâches pour lesquelles elle n’est pas adaptée) et une dépendance excessive involontaire (faire aveuglément confiance aux résultats de l’IA sans vérification). Sans une gouvernance et une formation claires, un employé pressé par le temps peut facilement copier-coller une statistique hallucinée dans un rapport final, rendant le cabinet responsable.
4. Risque lié aux contrats fournisseurs (Transfert de responsabilité) : Les fournisseurs d’IA utilisent souvent leurs conditions de service pour transférer la responsabilité des résultats à l’utilisateur. Votre contrat avec votre fournisseur d’IA peut contenir des clauses qui les indemnisent contre tout dommage causé par leur outil. Cela laisse votre cabinet assumer l’entière responsabilité si un client intente un procès pour une erreur générée par l’IA.

Des outils pour un travail de conseil plus sûr grâce à l’IA

Bien que le processus soit la première ligne de défense, des outils spécialement conçus peuvent réduire considérablement le risque de responsabilité par rapport à l’utilisation de chatbots à usage général. Les outils conçus pour les flux de travail professionnels incluent souvent des fonctionnalités de vérification, d’ancrage aux sources et de confidentialité des données qui sont absentes des IA grand public.

Nous recommandons aux cabinets d’évaluer les outils en fonction de leur capacité à atténuer les risques spécifiques du travail de conseil. Ici, nous comparons deux outils pertinents pour les tâches de conseil courantes : la génération de propositions et la visualisation de données. Nos critères de classement sont : Précision et vérifiabilité, Sécurité et confidentialité des données, Intégration au flux de travail et Rapport qualité-prix. ZEKAI évalue tous les outils de manière indépendante.

Faites glisser le tableau →

Comment élaborer une politique d’IA défendable

Un outil n’est aussi bon que le processus qu’il soutient. Pour gérer efficacement la responsabilité liée à l’IA, chaque cabinet de conseil, quelle que soit sa taille, a besoin d’une politique d’utilisation de l’IA claire et applicable. Une politique de vérification humaine est largement considérée comme une bonne pratique pour démontrer un niveau de diligence raisonnable, bien que sa portée juridique précise dépendrait des spécificités de toute réclamation.

1.  **Les données clients sont interdites dans l'IA publique :** Aucun employé ne peut saisir d'informations d'identification client, de données confidentielles ou de matériel non public dans un outil d'IA public (par exemple, les versions gratuites de ChatGPT, Claude, Gemini). Tout travail lié aux clients doit être effectué à l'aide d'outils d'IA de niveau entreprise approuvés par le cabinet, qui garantissent la confidentialité des données et ont été validés par le service informatique.
2.  **Toutes les sorties d'IA doivent être vérifiées :** Chaque affirmation, statistique, citation ou analyse générée par une IA doit être vérifiée de manière indépendante par un humain avant d'être incluse dans tout livrable destiné au client. L'employé utilisant l'IA est responsable de cette vérification.
3.  **Divulguer l'utilisation de l'IA si nécessaire :** Respectez toutes les obligations contractuelles et les exigences réglementaires concernant la divulgation de l'utilisation de l'IA dans le travail client. En cas de doute, privilégiez la transparence avec le client.
4.  **Le jugement final est humain :** L'IA est un outil de rédaction et d'analyse, pas de prise de décision finale. Le jugement professionnel final sur toute recommandation ou conclusion incombe au consultant humain, qui reste entièrement responsable.
5.  **Liste des outils approuvés :** Le cabinet tiendra à jour une liste d'outils d'IA approuvés qui ont été vérifiés pour leur sécurité, leur confidentialité et leur fiabilité. L'utilisation d'outils non approuvés pour le travail client est interdite.

La mise en œuvre de cette politique exige plus qu’un simple envoi de note de service. Elle implique la formation, la mise à jour des lettres de mission client pour clarifier l’utilisation de l’IA, et la discussion de la gouvernance de l’IA avec votre assureur en responsabilité professionnelle. Les assureurs examinent de plus en plus la manière dont les cabinets gèrent les risques liés à l’IA, et la mise en place d’une politique solide peut être essentielle.

L’IA est un accélérateur indéniable pour le travail de conseil, mais ce n’est pas un oracle. L’affaire Deloitte n’était pas une condamnation de l’IA ; c’était un rappel que la diligence professionnelle, la vérification et la responsabilité ne peuvent pas être automatisées. En adoptant un cadre clair de sensibilisation aux risques, des politiques internes robustes et les bons outils spécialisés, les cabinets de conseil peuvent tirer parti de la puissance de l’IA sans parier leur réputation sur une boîte noire. Pour plus de conseils sur les outils et les stratégies, visitez notre centre pour les services professionnels.