एआई हैलुसिनेशन देयता: फर्मों के लिए डेलॉइट का $440K सबक

अपडेट किया गया 16 अक्टूबर 2026 · Zekai संपादकीय टीम द्वारा समीक्षा

2025 के अंत में, पूरे प्रोफेशनल सर्विसेज उद्योग के लिए एक चेतावनीपूर्ण कहानी सामने आई। डेलॉइट ऑस्ट्रेलिया ने देश की कल्याण-जुर्माना IT प्रणाली की समीक्षा के लिए AU$440,000 (US$290,000) के अनुबंध के हिस्से के रूप में ऑस्ट्रेलियाई सरकार को एक रिपोर्ट सौंपी। एक समस्या तब सामने आई जब एक कानून प्रोफेसर ने रिपोर्ट पढ़ी और उसमें “मनगढ़ंत संदर्भ” पाए, जिसमें एक गैर-मौजूद किताब और एक न्यायाधीश का पूरी तरह से मनगढ़ंत उद्धरण शामिल था।

डेलॉइट ने बाद में एक नए खुलासे के साथ रिपोर्ट फिर से जारी की—कि उसने Azure OpenAI का उपयोग किया था—और अपनी फीस का अंतिम हिस्सा वापस करने पर सहमत हुई। यह घटना एआई मॉडल की विफलता नहीं थी, जिसने विश्वसनीय टेक्स्ट उत्पन्न करके डिज़ाइन के अनुसार प्रदर्शन किया। यह प्रोफेशनल निरीक्षण की विफलता थी। यह मामला एक कड़ा सबक देता है: जब आप क्लाइंट के काम में एआई का उपयोग करते हैं, तो आप आउटपुट के मालिक होते हैं, जिसमें उसकी गलतियाँ भी शामिल हैं। कंसल्टेंट्स के लिए, जिनकी मुद्रा विश्वास और सटीकता है, देयता की इस नई परत का प्रबंधन करना वैकल्पिक नहीं है।

ZEKAI में, हम प्रोफेशनल्स के लिए टूल्स और वर्कफ़्लो की समीक्षा करते हैं, और यह लेख कंसल्टिंग फर्मों के लिए एआई हैलुसिनेशन के जोखिम का प्रबंधन करने के लिए एक व्यावहारिक फ्रेमवर्क प्रदान करता है। हम वकील नहीं हैं, और यह कानूनी सलाह नहीं है, बल्कि उन परिचालन और टूल-आधारित सुरक्षा उपायों के लिए एक मार्गदर्शिका है जिन्हें आपकी फर्म आज लागू कर सकती है। यह professional services में हर प्रैक्टिशनर के लिए एक मुख्य चुनौती है।

एआई हैलुसिनेशन देयता क्या है?

एआई देयता एक आर्टिफिशियल इंटेलिजेंस सिस्टम द्वारा होने वाले नुकसान के लिए कानूनी और वित्तीय जिम्मेदारी को संदर्भित करती है। महत्वपूर्ण रूप से, अमेरिका, यूके और यूरोपीय संघ में वर्तमान कानूनी सिद्धांत एआई को एक कानूनी व्यक्तित्व के रूप में नहीं मानते हैं जिस पर मुकदमा चलाया जा सके। देयता उन मनुष्यों और कंपनियों पर टिकी है जो एआई को विकसित, तैनात या उपयोग करते हैं। एक कंसल्टिंग फर्म के लिए, इसका मतलब है कि यदि कोई एआई टूल एक त्रुटिपूर्ण विश्लेषण, एक मनगढ़ंत डेटा पॉइंट, या एक पक्षपातपूर्ण सिफारिश उत्पन्न करता है जिससे क्लाइंट को नुकसान होता है, तो कंसल्टिंग फर्म—न कि एआई वेंडर—प्रोफेशनल नेग्लिजेंस के लिए जिम्मेदार होगी।

हैलुसिनेशन—जब एक एआई मॉडल गलत, भ्रामक, या बेतुकी जानकारी उत्पन्न करता है लेकिन उसे तथ्य के रूप में प्रस्तुत करता है—इस जोखिम का सबसे सीधा स्रोत हैं। ये दुर्लभ किनारे के मामले नहीं हैं। कार्य की जटिलता के आधार पर, LLM हैलुसिनेशन दरें 3% से कम से लेकर 80% से अधिक तक हो सकती हैं। 2025 के एक अध्ययन में पाया गया कि फर्जी खबरों और गलत सूचनाओं से वैश्विक अर्थव्यवस्था को सालाना अनुमानित $78 बिलियन का नुकसान होता है। जबकि यह आंकड़ा व्यापक सामाजिक प्रभाव को कवर करता है, यह उस भारी वित्तीय क्षति का संकेत देता है जो गलत जानकारी के एक टुकड़े से हो सकती है।

मुख्य कानूनी सिद्धांत यह है कि एआई सिर्फ एक टूल है, जैसे एक स्प्रेडशीट या एक रिसर्च डेटाबेस। यदि आप किसी क्लाइंट को वित्तीय सलाह देने के लिए एक दोषपूर्ण कैलकुलेटर का उपयोग करते हैं, तो आप त्रुटि के लिए उत्तरदायी हैं। यही बात एआई पर भी लागू होती है। अदालतों ने पहले ही वकीलों को एआई-मनगढ़ंत केस लॉ वाले कानूनी संक्षिप्त विवरण प्रस्तुत करने के लिए दंडित किया है। डेलॉइट का मामला इस मिसाल को कंसल्टिंग डोमेन तक बढ़ाता है।

आपकी फर्म के एआई जोखिम की चार परतें

देयता एक अकेली समस्या नहीं है बल्कि परस्पर जुड़े जोखिमों का एक ढेर है। एक कंसल्टिंग फर्म के लिए, जोखिम चार अलग-अलग क्षेत्रों से आता है। उन्हें समझना उन्हें कम करने का पहला कदम है।

1. डेटा इनपुट जोखिम (गोपनीयता और निजता): पहला जोखिम तब होता है जब आप एआई को प्रॉम्प्ट भी नहीं करते। संवेदनशील क्लाइंट जानकारी—वित्तीय डेटा, रणनीतिक योजनाएं, PII—को एक सार्वजनिक एआई टूल में फीड करना गोपनीयता समझौतों और GDPR जैसे डेटा निजता कानूनों का उल्लंघन कर सकता है। जब तक एआई वेंडर के साथ आपका अनुबंध स्पष्ट रूप से शून्य-डेटा-रिटेंशन, निजी-इंस्टेंस मॉडल की गारंटी नहीं देता, तब तक आपको यह मान लेना चाहिए कि आपके इनपुट का उपयोग मॉडल को प्रशिक्षित करने के लिए किया जा सकता है।
2. मॉडल आउटपुट जोखिम (हैलुसिनेशन और अशुद्धि): यह वह जोखिम है जिसे डेलॉइट मामले ने उजागर किया। एआई विश्वसनीय लेकिन तथ्यात्मक रूप से गलत जानकारी, त्रुटिपूर्ण विश्लेषण, या पक्षपातपूर्ण निष्कर्ष उत्पन्न कर सकता है। यदि यह आउटपुट क्लाइंट डिलीवरेबल में शामिल हो जाता है, तो यह आपकी फर्म के कार्य उत्पाद का सीधा प्रतिनिधित्व बन जाता है और प्रोफेशनल नेग्लिजेंस के दावे का एक स्पष्ट आधार होता है।
3. कर्मचारी कार्रवाई जोखिम (दुरुपयोग और अत्यधिक निर्भरता): आपके कर्मचारी इन टूल्स के प्राथमिक उपयोगकर्ता हैं। यहां जोखिम दोहरा है: जानबूझकर दुरुपयोग (उदाहरण के लिए, एआई का उपयोग उन कार्यों के लिए करना जिनके लिए यह उपयुक्त नहीं है) और अनजाने में अत्यधिक निर्भरता (सत्यापन के बिना एआई आउटपुट पर आँख बंद करके भरोसा करना)। स्पष्ट शासन और प्रशिक्षण के बिना, एक कर्मचारी जो समय सीमा को पूरा करने की जल्दी में है, आसानी से एक हैलुसिनेटेड आंकड़े को अंतिम रिपोर्ट में कॉपी-पेस्ट कर सकता है, जिससे फर्म उत्तरदायी हो जाती है।
4. वेंडर अनुबंध जोखिम (देयता स्थानांतरण): एआई वेंडर अक्सर अपने सेवा की शर्तों का उपयोग आउटपुट के लिए देयता को उपयोगकर्ता पर स्थानांतरित करने के लिए करते हैं। आपके एआई प्रोवाइडर के साथ आपके अनुबंध में ऐसे खंड हो सकते हैं जो उनके टूल से होने वाले किसी भी नुकसान के खिलाफ उन्हें क्षतिपूर्ति करते हैं। यदि कोई क्लाइंट एआई-जनित त्रुटि पर मुकदमा करता है तो यह आपकी फर्म को पूरी जिम्मेदारी के साथ छोड़ देता है।

सुरक्षित एआई-संचालित कंसल्टिंग कार्य के लिए टूल्स

जबकि प्रक्रिया रक्षा की पहली पंक्ति है, सामान्य-उद्देश्य वाले चैटबॉट का उपयोग करने की तुलना में उद्देश्य-निर्मित उपकरण देयता जोखिम को काफी कम कर सकते हैं। प्रोफेशनल वर्कफ़्लो के लिए डिज़ाइन किए गए टूल्स में अक्सर सत्यापन, स्रोत-आधारितता और डेटा निजता के लिए ऐसी सुविधाएँ शामिल होती हैं जो उपभोक्ता-ग्रेड एआई में अनुपस्थित होती हैं।

हम फर्मों को कंसल्टिंग कार्य के विशिष्ट जोखिमों को कम करने की उनकी क्षमता के आधार पर टूल्स का मूल्यांकन करने की सलाह देते हैं। यहां, हम सामान्य कंसल्टिंग कार्यों से संबंधित दो टूल्स की तुलना करते हैं: प्रस्ताव निर्माण और डेटा विज़ुअलाइज़ेशन। हमारे रैंकिंग मानदंड हैं: सटीकता और सत्यापनशीलता, डेटा सुरक्षा और निजता, वर्कफ़्लो इंटीग्रेशन, और लागत के लिए मूल्य। ZEKAI सभी टूल्स की स्वतंत्र रूप से समीक्षा करता है।

तालिका को बगल में स्क्रॉल करें →

एक रक्षात्मक एआई नीति कैसे बनाएं

एक टूल उतना ही अच्छा होता है जितनी अच्छी प्रक्रिया का वह समर्थन करता है। एआई देयता का प्रभावी ढंग से प्रबंधन करने के लिए, हर कंसल्टिंग फर्म, आकार की परवाह किए बिना, एक स्पष्ट और लागू करने योग्य एआई उपयोग नीति की आवश्यकता है। मानव सत्यापन नीति को देखभाल के उचित मानक को प्रदर्शित करने के लिए व्यापक रूप से एक सर्वोत्तम अभ्यास माना जाता है, हालांकि इसका सटीक कानूनी महत्व किसी भी दावे की विशिष्टताओं पर निर्भर करेगा।

इस नीति को लागू करने के लिए केवल एक मेमो भेजने से कहीं अधिक की आवश्यकता है। इसमें प्रशिक्षण, एआई उपयोग को स्पष्ट करने के लिए क्लाइंट एंगेजमेंट लेटर्स को अपडेट करना, और अपने प्रोफेशनल देयता बीमा प्रदाता के साथ एआई शासन पर चर्चा करना शामिल है। बीमाकर्ता तेजी से इस बात की जांच कर रहे हैं कि फर्म एआई जोखिम का प्रबंधन कैसे कर रही हैं, और एक मजबूत नीति का होना महत्वपूर्ण हो सकता है।

एआई कंसल्टिंग कार्य के लिए एक निर्विवाद त्वरक है, लेकिन यह कोई भविष्यवक्ता नहीं है। डेलॉइट का मामला एआई का अभियोग नहीं था; यह एक अनुस्मारक था कि प्रोफेशनल परिश्रम, सत्यापन और जवाबदेही को स्वचालित नहीं किया जा सकता है। जोखिम जागरूकता के एक स्पष्ट फ्रेमवर्क, मजबूत आंतरिक नीतियों और सही उद्देश्य-निर्मित टूल्स को अपनाकर, कंसल्टिंग फर्म अपनी प्रतिष्ठा को एक ब्लैक बॉक्स पर दांव पर लगाए बिना एआई की शक्ति का लाभ उठा सकती हैं। टूल्स और रणनीतियों पर अधिक मार्गदर्शन के लिए, professional services के लिए हमारे हब पर जाएँ।