एक रिपोर्ट के अनुसार, AI लेखन उपकरण विश्वसनीयता की चुनौती का सामना कर रहे हैं क्योंकि प्रमाणीकरण के प्रयास कम पड़ रहे हैं।

Princeton’s Center for Information Technology Policy (CITP) की एक हालिया रिपोर्ट से पता चलता है कि कई AI प्रमाणीकरण उपकरण, जो तथ्यात्मक अखंडता बनाए रखने के लिए महत्वपूर्ण हैं, पत्रकारों के पर्याप्त इनपुट के बिना विकसित किए जा रहे हैं। इसका सीधा असर लेखकों के लिए जानकारी की विश्वसनीयता पर पड़ रहा है, जिसमें AI लेखन उपकरणों का उपयोग करने वाले भी शामिल हैं। यह चूक सामग्री निर्माताओं और समाचार संगठनों के लिए एक बड़ी बाधा पैदा करती है जो ऐसे युग में तथ्यों को सत्यापित करने का प्रयास कर रहे हैं जहाँ AI विश्वसनीय रूप से नकली मीडिया उत्पन्न कर सकता है।

• AI-जनित नकली मीडिया तथ्यात्मक अखंडता के लिए एक बढ़ता खतरा पैदा करता है, जिससे सभी लेखकों के लिए सत्यापन तेजी से जटिल हो जाता है।
• कई वर्तमान AI प्रमाणीकरण और सत्यापन उपकरण कामकाजी पत्रकारों के पर्याप्त परामर्श के बिना विकसित किए गए हैं, जिससे व्यावहारिक कार्यान्वयन चुनौतियाँ पैदा होती हैं।
• C2PA जैसी पहल, जो मीडिया के स्रोत का पता लगाने के लिए डिज़ाइन की गई हैं, को न्यूज़ रूम में अपनाने और सोशल मीडिया वितरण में महत्वपूर्ण तकनीकी और प्रणालीगत बाधाओं का सामना करना पड़ता है।
• AI डिटेक्शन उपकरण अक्सर संभाव्य आत्मविश्वास रेटिंग प्रदान करते हैं, जो लेखकों या उनके दर्शकों के लिए उपयोगी नहीं होते हैं जिन्हें स्पष्ट, बाइनरी प्रमाणीकरण की आवश्यकता होती है।

लेखकों के लिए तथ्यात्मक अखंडता पर बढ़ता खतरा

2026 में, कृत्रिम बुद्धिमत्ता का उपयोग करके मीडिया को बदलने और गढ़ने की आसानी और सामर्थ्य अभूतपूर्व स्तर पर पहुँच गई है। वे सभी साक्ष्य जिन पर लेखक और पत्रकार तथ्यों को सत्यापित करने के लिए निर्भर करते हैं—फोटोग्राफ और वीडियो से लेकर दस्तावेज़, वेबसाइट और यहाँ तक कि ऑडियो कॉल तक—अब AI द्वारा विश्वसनीय रूप से अनुकरण किए जा सकते हैं। यह विकास सामग्री बनाने वाले किसी भी व्यक्ति के लिए एक चुनौतीपूर्ण परिदृश्य बनाता है, विशेष रूप से उन लोगों के लिए जो AI लेखन उपकरणों का उपयोग करते हैं और अपने आउटपुट की तथ्यात्मक सटीकता सुनिश्चित करने की आवश्यकता है।

पिछले जून में, पत्रकारों, प्रौद्योगिकीविदों और शिक्षाविदों का एक महत्वपूर्ण जमावड़ा मैनहट्टन में NYU’s Arthur L. Carter Journalism Institute में एकत्रित हुआ था। Princeton’s CITP द्वारा आयोजित इस दिवसीय कार्यशाला में प्रमाणीकरण और सत्यापन प्रक्रियाओं के बढ़ते खतरे पर चर्चा की गई। CITP द्वारा प्रकाशित बाद की रिपोर्ट इन चर्चाओं का संश्लेषण करती है, जो इसके लेखकों द्वारा “AI युग में तथ्यों के लिए लड़ाई” के रूप में वर्णित महत्वपूर्ण अंतर्दृष्टि प्रदान करती है।

वर्तमान AI प्रमाणीकरण उपकरण क्यों चूक जाते हैं

CITP रिपोर्ट एक महत्वपूर्ण विसंगति को उजागर करती है: जबकि AI-जनित मीडिया के प्रवाह का मुकाबला करने के लिए कई सत्यापन पहल और वाणिज्यिक उत्पाद सामने आए हैं, उनमें से कई पत्रकारों के पर्याप्त प्रत्यक्ष परामर्श के बिना विकसित नहीं किए गए हैं। रिपोर्ट के लेखक इस बात पर जोर देते हैं कि “एक तथ्य स्थापित करने का मतलब तेजी से उसके नीचे के तथ्यों को स्थापित करना है,” सत्यापन प्रयासों और संभावित रूप से गढ़ी गई जानकारी की भारी मात्रा के बीच “हथियारों की दौड़” का उल्लेख करते हुए। व्यावहारिक इनपुट की इस कमी का मतलब है कि लेखकों और सामग्री निर्माताओं के लिए कई AI उपकरण वास्तविक दुनिया की सत्यापन आवश्यकताओं को प्रभावी ढंग से संबोधित नहीं कर सकते हैं।

लेखकों के लिए, इसका तात्पर्य यह है कि भले ही AI सामग्री लेखन अधिक प्रचलित हो रहा है, तथ्यात्मक रिपोर्टिंग के मूलभूत तत्व दबाव में हैं। मजबूत और पत्रकार-सूचित प्रमाणीकरण उपकरणों के बिना, पारंपरिक तरीकों से या लेखन AI की सहायता से उत्पादित सामग्री की अखंडता जोखिम में रहती है। यह चुनौती AI अनुवाद उपकरणों और AI संपादन उपकरणों तक फैली हुई है, जहाँ स्रोत सामग्री की प्रामाणिकता सर्वोपरि है।

C2PA: कार्यान्वयन बाधाओं के साथ एक आशाजनक समाधान

प्रमाणीकरण समस्याओं से निपटने के लिए डिज़ाइन की गई एक प्रमुख सिलिकॉन वैली पहल Coalition for Content Provenance and Authenticity (C2PA) है। 2021 में Adobe, Microsoft और BBC जैसे उद्योग जगत के नेताओं द्वारा लॉन्च किया गया, C2PA का लक्ष्य मीडिया फ़ाइलों के भीतर क्रिप्टोग्राफिक रूप से हस्ताक्षरित “मैनिफेस्ट” को एम्बेड करना है। यह तकनीक एक डिजिटल लेबल बनाती है जिस क्षण एक फोटो या वीडियो कैप्चर किया जाता है, सावधानीपूर्वक इसके पूरे इतिहास और उत्पत्ति को रिकॉर्ड करती है क्योंकि इसे संपादित किया जाता है, प्रकाशित किया जाता है और प्लेटफार्मों पर प्रसारित किया जाता है। यह सैद्धांतिक रूप से डिजिटल संपत्तियों के लिए एक स्पष्ट कस्टडी श्रृंखला प्रदान कर सकता है, जो लेखकों और समाचार संगठनों के लिए अमूल्य होगा।

Associated Press और The New York Times जैसे प्रमुख समाचार संगठनों से समर्थन प्राप्त करने के बावजूद, C2PA को न्यूज़ रूम कार्यान्वयन में महत्वपूर्ण बाधाओं का सामना करना पड़ा है। रिपोर्ट में एक गुमनाम न्यूज़ रूम का हवाला दिया गया है जहाँ फोटो को इनजेस्ट और संपादित करने के लिए उपयोग किए जाने वाले सॉफ़्टवेयर ने मैनिफेस्ट को हटा दिया, जिससे डेवलपर्स पर इस मुद्दे को ठीक करने के लिए पर्याप्त दबाव पड़ा। इसके अलावा, अधिकांश सामग्री प्रबंधन प्रणाली (CMS) विक्रेताओं के पास वर्तमान में C2PA समर्थन की कमी है, जिसका अर्थ है कि भले ही मैनिफेस्ट आंतरिक रूप से दिखाई दे रहे हों, वे अक्सर तब हटा दिए जाते हैं जब सामग्री पाठकों के लिए प्रकाशित की जाती है। रिपोर्ट के लेखक सवाल करते हैं, “क्या दर्शक यह मानेंगे कि समाचार संगठन के पास अपनी फ़ाइलों के लिए कस्टडी की एक श्रृंखला है यदि वह मैनिफेस्ट की ‘पूर्ण पारदर्शिता’ प्रदान नहीं कर सकता है?” यह मुद्दा सोशल मीडिया कंपनियों द्वारा और भी जटिल हो जाता है, जिनमें से कई अपने प्लेटफार्मों पर साझा की गई छवियों से C2PA और अन्य मेटाडेटा को हटा देती हैं, जिससे पहल की प्रभावशीलता और कम हो जाती है और सामग्री AI सत्यापन जटिल हो जाता है।

स्रोत से परे: लेखकों के लिए AI डिटेक्टरों की सीमाएँ

इसी तरह की चुनौतियाँ अन्य प्रमाणीकरण उपकरणों को भी प्रभावित करती हैं, जिनमें AI छवि और वीडियो डिटेक्टर शामिल हैं। इनमें से कई उपकरण आत्मविश्वास रेटिंग प्रदान करके काम करते हैं, जैसे कि एक छवि के AI-जनित होने की “80% संभावना”। CITP रिपोर्ट बताती है कि ये संभाव्य रेटिंग अधिकांश रिपोर्टरों और, विस्तार से, उन लेखकों के लिए काफी अनुपयोगी हैं जिन्हें स्पष्ट उत्तरों की आवश्यकता होती है। दर्शक आमतौर पर प्रमाणीकरण को एक बाइनरी विकल्प के रूप में देखते हैं: क्या यह वास्तविक है, या यह नकली है? इन डिटेक्टरों का सूक्ष्म आउटपुट विश्वसनीय पत्रकारिता और सामग्री निर्माण के लिए आवश्यक निश्चित निष्कर्षों में आसानी से परिवर्तित नहीं होता है।

इसके अलावा, रिपोर्ट क्रिप्टोग्राफिक हस्ताक्षरों से जुड़ी महत्वपूर्ण सुरक्षा चिंताओं पर प्रकाश डालती है। मानवाधिकार संगठन Witness द्वारा किए गए एक हालिया अध्ययन से पता चला है कि तस्वीरों या वीडियो से पहचान संबंधी जानकारी संलग्न करना पत्रकारों और उनके स्रोतों को खतरे में डाल सकता है, विशेष रूप से उन लोगों को जो सत्तावादी वातावरण में काम कर रहे हैं। यह किसी भी लेखक या संगठन के लिए एक गंभीर नैतिक दुविधा प्रस्तुत करता है जो ऐसे स्रोत उपकरणों के कार्यान्वयन पर विचार कर रहा है, खासकर संवेदनशील जानकारी या कमजोर स्रोतों से निपटने के दौरान।

लेखक क्या कर सकते हैं: AI सत्यापन परिदृश्य को नेविगेट करना

वर्तमान परिदृश्य सभी लेखकों से अत्यधिक सतर्कता की मांग करता है। जबकि Jasper, Grammarly AI, DeepL, Wordtune और Quillbot जैसे लेखकों के लिए AI उपकरण दक्षता और सामग्री उत्पादन में निर्विवाद लाभ प्रदान करते हैं, उनके द्वारा संसाधित और प्रस्तुत की जाने वाली जानकारी की अखंडता सर्वोपरि रहती है। रिपोर्ट इस बात पर जोर देती है कि पारंपरिक पत्रकारिता की जांच और आलोचनात्मक सोच पहले से कहीं अधिक महत्वपूर्ण हैं।

लेखकों के लिए, व्यावहारिक निष्कर्ष स्पष्ट है: सत्यापन के लिए केवल नवजात AI डिटेक्शन या स्रोत उपकरणों पर निर्भर न रहें। इसके बजाय, कई स्वतंत्र स्रोतों के साथ जानकारी को क्रॉस-रेफरेंस करने और सभी असत्यापित मीडिया के प्रति एक संशयवादी दृष्टिकोण बनाए रखने को प्राथमिकता दें। वर्तमान AI प्रमाणीकरण प्रौद्योगिकियों की सीमाओं को समझना बढ़ती जटिल डिजिटल दुनिया में विश्वसनीयता की रक्षा करने और तथ्यात्मक सटीकता सुनिश्चित करने के लिए महत्वपूर्ण है।

अक्सर पूछे जाने वाले प्रश्न

दोषपूर्ण AI प्रमाणीकरण उपकरण AI लेखन उपकरणों का उपयोग करने वाले लेखकों को कैसे प्रभावित करते हैं?

दोषपूर्ण AI प्रमाणीकरण उपकरणों का मतलब है कि लेखक जिस अंतर्निहित जानकारी पर निर्भर करते हैं, चाहे वह मैन्युअल रूप से प्राप्त की गई हो या AI लेखन उपकरणों के माध्यम से, उसे सत्यापित करना कठिन है। इससे अनजाने में AI-जनित झूठ को प्रकाशित करने या उस पर निर्भर रहने का जोखिम बढ़ जाता है, जिससे विश्वसनीयता कम होती है।

C2PA क्या है और यह न्यूज़ रूम के साथ क्यों संघर्ष कर रहा है?

C2PA Adobe और Microsoft जैसी संस्थाओं द्वारा मीडिया में क्रिप्टोग्राफिक मैनिफेस्ट को एम्बेड करने, उसके मूल और परिवर्तनों को ट्रैक करने की एक पहल है। यह संघर्ष करता है क्योंकि न्यूज़ रूम सॉफ़्टवेयर और सामग्री प्रबंधन प्रणालियाँ अक्सर इन मैनिफेस्ट को हटा देती हैं, जिससे दर्शकों को पूर्ण पारदर्शिता नहीं मिल पाती है।

क्या AI छवि डिटेक्टर सामग्री की तथ्य-जांच करने वाले लेखकों के लिए विश्वसनीय हैं?

रिपोर्ट बताती है कि AI छवि और वीडियो डिटेक्टर, जो अक्सर आत्मविश्वास रेटिंग (जैसे, 80% संभावना) प्रदान करते हैं, रिपोर्टरों के लिए विशेष रूप से उपयोगी नहीं हैं। दर्शक आमतौर पर एक बाइनरी उत्तर—वास्तविक या नकली—की उम्मीद करते हैं, जिसे ये संभाव्य रेटिंग प्रभावी ढंग से प्रदान करने में विफल रहती हैं।