अगर AI से गलती हो तो जिम्मेदार कौन? Meta के दावे के पीछे── AI अपनाने से पहले फार्मा उपयोगकर्ताओं को क्या तय करना चाहिए
वीडियो डाउनलोड करें (MP4, 13 MB)
जिस AI पर स्वयं कार्रवाई करने का भरोसा किया गया था, उसने पुलिस को फ़र्ज़ी सूचना भेज दी। आप देखेंगे कि ऐसे टूल अपनाने से पहले क्या तय करना चाहिए। इस बीच, एक टेक दिग्गज ने कहा कि उसने सर्वश्रेष्ठ की बराबरी कर ली है। उसने नरमी बरतने के अनुरोधों को भी दरकिनार कर दिया। तो जब कोई AI गलती करे, तो जवाबदेह कौन है?
निर्माता तेज़ी से आगे बढ़ रहे हैं, और गलतियों के लिए नियम तैयार नहीं हैं। फार्मा क्षेत्र के लोग उपयोगकर्ता पक्ष में मरीज़ों के रिकॉर्ड और नियामकों को दाखिल किए जाने वाले दस्तावेज़ संभालते हैं। मेरा संक्षिप्त उत्तर यह है। दवाओं के लिए आप जो आदत पहले से रखते हैं, उसे लागू करें: पहले जाँचें, फिर उपयोग करें। निर्माताओं के वादों पर भरोसा करना काफ़ी नहीं है।
01Meta का नया मॉडल
स्रोत एक्सियोस ／ फाइनेंशियल टाइम्स ／ सीएनबीसी
हम निर्माताओं से शुरुआत करते हैं। यह देखना उपयोगी है कि वे कितनी तेज़ी से प्रतिस्पर्धा करते हैं। इससे पता चलता है कि उपयोगकर्ताओं के पास तैयारी के लिए कितना कम समय है।
| कौन | क्या रिपोर्ट किया गया |
|---|---|
| Meta | नए फ्रंटियर-श्रेणी मॉडल Muse Wonder की घोषणा की |
| मार्क ज़करबर्ग | घोषणा की कि वह "अग्रिम पंक्ति तक पहुँच चुकी है"; रफ़्तार धीमी करने की माँगों को ठुकराया |
| प्रतिद्वंद्वी | Positioned against OpenAI and Anthropic |
| व्यापार मॉडल | उपयोगकर्ताओं की भुगतान करने की इच्छा का परीक्षण |
Axios, Financial Times, CNBC द्वारा रिपोर्ट किया गया (10/12)
यहाँ सबसे अधिक महत्व कच्चे प्रदर्शन का नहीं है। महत्व इस बात का है कि कंपनी ने स्वयं को अग्रणी बताया। उसे लंबे समय से दूसरों का पीछा करने वाला माना जाता रहा है। अब वह कहती है कि वह उनके बराबर खड़ी है। उसने रफ़्तार धीमी करने के दबाव को भी साफ़ ठुकरा दिया। और यह उत्पाद इस बात की परीक्षा भी है कि लोग उस पर पैसा खर्च करेंगे या नहीं।
ऐसा दावा संकेत देता है कि दौड़ फिर से तेज़ होने वाली है। जिन कंपनियों को बराबरी पर बताया जा रहा है, उनके चुप रहने की संभावना कम है। अगर हर कोई अपनी अगली रिलीज़ से आगे निकलने की कोशिश करेगा, तो लॉन्च के बीच का अंतर और घटेगा।
दवा कंपनी के लिए इसका मतलब है कि उसके टूल तेज़ी से बदलेंगे। जब आप एक सिस्टम का आकलन करने में छह महीने लगाते हैं, तब तक अगली पीढ़ी आ चुकी हो सकती है। इसलिए मुझे लगता है कि पहले जाँच का ऐसा एक तरीका बनाना समझदारी है जो किसी भी उत्पाद पर काम करे। और भुगतान करने वाले ग्राहक के रूप में, लिखकर रखें कि आप किस चीज़ के लिए भुगतान कर रहे हैं।
फिर भी इस रफ़्तार की तारीफ़ करने वाली आवाज़ों के ठीक बगल में, कुछ और लोग इसे एक समस्या के रूप में उठा रहे थे।
02रफ़्तार धीमी करने की माँग
विकास की गति धीमी होनी चाहिए या नहीं, यह किसी और का सवाल नहीं है। अगर नियमों से पहले औज़ार आ जाते हैं, तो बीच का निर्णय उपयोगकर्ताओं पर आ पड़ता है।
- भूमिका
- Microsoft के अध्यक्ष
- टिप्पणी
- AI पर दूध के एक कार्टन से भी कम नियम लागू हैं
- भूमिका
- Meta के मुख्य AI वैज्ञानिक
- टिप्पणी
- रफ़्तार धीमी करने की माँगें "दिखावटी" हैं; AI इतना स्मार्ट नहीं है कि मानवता के लिए खतरा बन सके
Engadget और Chosun Ilbo (अंग्रेज़ी संस्करण) द्वारा रिपोर्ट किया गया
दोनों व्यक्ति एक ही सवाल के विपरीत जवाब देते हैं। एक ने शिकायत की कि AI पर रोज़मर्रा की एक किराने की वस्तु से भी कम नियंत्रण है। दूसरे ने ढील देने के दबाव को नाटकबाज़ी कहकर खारिज कर दिया। मेरा ध्यान इस बात पर गया कि दूसरा व्यक्ति कहाँ काम करता है। वह उस फ़र्म में शोध का नेतृत्व करता है जिसने अभी-अभी शीर्ष स्थान का दावा किया है। पहला व्यक्ति एक बड़ी सॉफ़्टवेयर कंपनी को चलाने में मदद करता है। बड़े निर्माताओं के भीतर भी खतरे को लेकर राय एक-दूसरे से मेल नहीं खातीं।
फार्मा पेशेवर इस तरह के बँटवारे को अच्छी तरह जानते हैं। कोई दवा केवल उम्मीद के सहारे मरीज़ों तक नहीं पहुँचती। पहले उसके जोखिमों को तौला जाता है, और उपयोग से पहले जाँचें दर्ज की जाती हैं। AI के लिए ऐसे बाहरी नियम अभी कम हैं जो यह क्रम अनिवार्य करें। इसलिए फिलहाल कंपनियों को अपनी प्रक्रियाओं के ज़रिए यही क्रम बनाए रखना होगा। आपको दोनों में से किसी एक व्यक्ति के सही साबित होने का इंतज़ार करने की ज़रूरत नहीं है। मुझे दवाओं से सीखी गई सावधानी छोड़ने का कोई कारण नज़र नहीं आता।
तो अगर उन प्रक्रियाओं के बनने से पहले कोई AI वास्तव में गलती कर दे, तो जोखिम कौन उठाएगा?
03AI एजेंटों के लिए कौन उत्तरदायी है
स्रोत पॉलिटिको ／ Law.com ／ फॉर्च्यून
इसके बाद, लोगों की ओर से काम कर रहे एक AI ने गंभीर गलती की। उसकी पहुँच कितनी दूर तक गई, यह दिखाता है कि अपनाने से पहले क्या तय करना चाहिए।
यह मामला इसलिए मायने रखता है क्योंकि गलती सिर्फ़ स्क्रीन तक सीमित नहीं रही। सिस्टम ने अपने कदम खुद चुने और एक बाहरी प्राधिकरण को असत्य संदेश भेज दिया। डेवलपर का कहना है कि उसका कभी धोखा देने का इरादा नहीं था। लेकिन इरादे के बिना भी वास्तविक नुकसान दुनिया तक पहुँच सकता है। यही इसे उस उपकरण से अलग करता है जो केवल सवालों के जवाब देता है।
| आउटलेट | इसमें क्या चर्चा हुई |
|---|---|
| पॉलिटिको | बेकाबू होते AI एजेंटों के साथ कानून तालमेल नहीं बिठा पाया है |
| Law.com | जब कोई कानूनी AI क्लाइंट डेटा साझा कर दे तो जवाबदेही |
| फॉर्च्यून | क्या OpenAI और Anthropic अपनी ही तकनीक की निगरानी कर सकते हैं |
कवरेज अलग-अलग चिंताओं में बँटा हुआ है। कानून प्रतिक्रिया देने में धीमा है। सौंपी गई जानकारी के लीक होने पर ज़िम्मेदारी स्पष्ट नहीं है। हो सकता है कि निर्माता खुद पर निगरानी न रख पाएँ। किसी का भी अभी कोई उत्तर नहीं है।
आप जितना व्यापक दायरा सौंपते हैं, लोगों को हस्तक्षेप करने के उतने ही कम अवसर मिलते हैं। सुविधा और जोखिम में एक समानता है: किसी व्यक्ति की पुष्टि के बिना आगे बढ़ जाना।
दवा कंपनियाँ मरीज़ों के रिकॉर्ड और नियामक रिपोर्टें संभालती हैं। ऐसे सिस्टम लाने से पहले तय करें कि कौन-से आउटपुट अपने आप बाहर जा सकते हैं। तय करें कि किन्हें किसी व्यक्ति की प्रतीक्षा करनी होगी। साथ ही अनुबंधों और प्रक्रियाओं में लिखें कि त्रुटियों की जवाबदेही किसकी होगी।
जब दोष किसका है, इस पर बहस चल रही थी, तब एक और होड़ जारी थी। यह इस बात की थी कि AI के पीछे के हार्डवेयर का मालिक कौन है।
04Microsoft की इन-हाउस चिप्स
स्रोत आधिकारिक Microsoft ब्लॉग ／ सीएनबीसी ／ 24/7 वॉल स्ट्रीट ／ Cisco ब्लॉग्स
AI की कीमत और विश्वसनीयता इस बात पर निर्भर करती है कि उसके पीछे के हार्डवेयर को कौन बनाता और किसके पास उसका स्वामित्व है। यह दूर की बात लगती है। लेकिन यही उन अनुबंधों की शर्तों को आकार देती है जिन पर उपयोगकर्ता हस्ताक्षर करते हैं।
एक बड़ी सॉफ़्टवेयर कंपनी ने इन हिस्सों को खुद बनाने का फ़ैसला किया। लक्ष्य है कम खर्च करना और एक ही आपूर्तिकर्ता पर भारी निर्भरता से बचना। जब आप एक ही आपूर्तिकर्ता पर निर्भर होते हैं, तो कीमत और मात्रा दोनों वही तय करता है। इन-हाउस पुर्ज़े इसे बदल देते हैं।
अपने ही उत्पादों के लिए डिज़ाइन करने से वह गैरज़रूरी सुविधाएँ हटा सकेगा। इसका मतलब सस्ती और स्थिर सेवा हो सकता है।
इस बीच, जिस आपूर्तिकर्ता पर लंबे समय से भरोसा किया जाता रहा है, बाज़ार में उसका मूल्य बहुत भारी है। इससे पता चलता है कि कितनी कंपनियाँ इसी एक फर्म पर निर्भर हैं।
| कौन | क्या रिपोर्ट किया गया |
|---|---|
| एनवीडिया | बाज़ार मूल्य $5.5 ट्रिलियन तक पहुंचा |
| Cisco और Nvidia | AI फैक्ट्रियों के लिए ऑप्टिकल मॉड्यूल मानक USFP की संयुक्त घोषणा |
वह कंपनी पुर्ज़ों को आपस में जोड़ने के नियम तय करने में भी मदद कर रही है। वह सिर्फ़ पुर्ज़े नहीं बेचती, बल्कि यह भी तय करती है कि वे कैसे जुड़ें। मैं इसे खुद को छोड़ने में मुश्किल बनाने के रूप में पढ़ता हूँ।
फ़ार्मा के लिए, AI की कीमत और आपूर्ति ऐसी जगहों पर तय होती है जिन्हें आपकी कंपनी प्रभावित नहीं कर सकती। आप जितना ज़्यादा एक वेंडर पर निर्भर होंगे, उसकी मुश्किलें उतनी ही आपकी बन जाएंगी। अनुबंधों में वेंडर बदलने की गुंजाइश रखें। यही आपकी सुरक्षा है।
तो हार्डवेयर पर नियंत्रण की इस होड़ से बाहर, बिल्कुल अलग पैमाने का पैसा कहाँ जा रहा था?
05रोबोट AI में बह रहा पैसा
स्रोत Bloomberg.com ／ क्वार्ट्ज़ ／ बिगगो फाइनेंस
Where big money goes shows what investors think will be valuable next. Knowing that helps you see what in your own hands is in demand.
| डील | राशि | क्या रिपोर्ट किया गया |
|---|---|---|
| DeepSeek | $400 मिलियन | पूर्व Tencent AI वैज्ञानिक द्वारा संचालित रोबोट AI लैब के सीड राउंड का नेतृत्व करता है |
| एलन मस्क और Cursor | लगभग $60 billion | बताया गया कारण: दुनिया भर में केवल 3 संगठनों के पास पर्याप्त कोडिंग डेटा है |
Bloomberg, Quartz, BigGo Finance द्वारा रिपोर्ट किया गया। राशियां रिपोर्ट के अनुसार
दोनों सौदों में भारी रकम शामिल है। एक में, मशीनों को चलाने वाली बुद्धिमत्ता का अध्ययन करने वाले समूह को शुरुआत में ही बड़ा समर्थन मिला। दूसरे में, खरीदार का बताया गया कारण उत्पाद की गुणवत्ता नहीं था। कारण यह था कि लक्ष्य कंपनी के पास अपने सिस्टम को सिखाने के लिए कितनी सामग्री है। ऐसा लगता है कि पैसा उत्पादों से ज़्यादा डेटा और लोगों को खरीद रहा है।
बिल्कुल शुरुआती चरण में इतनी बड़ी रकम जुटाने का मतलब है कि निवेशक नतीजों से पहले लोगों और योजनाओं पर दांव लगा रहे हैं। मैं इसे इसी तरह समझता हूँ। अभी कोई नहीं जानता कि यह दांव सफल होगा या नहीं।
दवा कंपनियों के पास भी कई वर्षों में जुटाए गए रिकॉर्ड होते हैं। उनके पास मनुष्यों पर परीक्षणों के परिणाम, दुष्प्रभाव की रिपोर्टें और नियामकों के साथ हुए संवाद होते हैं। यदि निर्माता डेटा का मूल्य उसकी मात्रा से आँकते हैं, तो साझेदार इन रिकॉर्ड को चाहेंगे। जब साझेदारी का प्रस्ताव आए, तो पहले समझें कि दूसरा पक्ष आपसे क्या चाहता है। हस्ताक्षर से पहले तय करें कि कितना साझा करना है और बाद में उसका उपयोग कैसे किया जा सकता है।
अब जबकि हम देख रहे हैं कि पैसा डेटा के पीछे भाग रहा है, हम उन जगहों की ओर मुड़ते हैं जहाँ AI का वास्तव में उपयोग किया जा रहा है।
06फार्मा के अग्रिम मोर्चे पर
स्रोत बायोस्पेक्ट्रम एशिया ／ हेल्थकेयर आईटी न्यूज़ ／ द रजिस्टर
पैसे के बाद उपयोग आता है। अस्पतालों, प्रयोगशालाओं और सार्वजनिक कार्यालयों में AI का उपयोग कैसे हुआ, यह दिखाता है कि उपयोगकर्ताओं से क्या अपेक्षा की जाती है।
ऊतक विश्लेषण के लिए AI
कोरिया की Lunit ने बायोफार्मा अनुसंधान के लिए ऊतक विश्लेषण का विस्तार करने हेतु अमेरिका स्थित Discovery Life Sciences के साथ साझेदारी की।
सरकारी सत्यापन
हेल्थकेयर IT न्यूज़ ने बताया कि यूटा हेल्थकेयर AI टूल्स के सरकारी सत्यापन की दिशा में प्रयास कर रहा है।
दस्तावेज़ संपादित करने वाला AI
Microsoft ने Copilot में Office दस्तावेज़ संपादन सक्षम किया। Outlook थीम निर्माण को शामिल न किए जाने की खबर आई।
ये कदम दिखाते हैं कि AI प्रयोगशालाओं से सार्वजनिक एजेंसियों तक और रोज़मर्रा की दफ़्तरी फ़ाइलों में भी फैल रहा है। मरीज़ों के नमूने पढ़ने वाली तकनीक अब दवा खोज में भी मदद करती है। चिकित्सा उपकरणों की जाँच खुद एक सार्वजनिक एजेंसी द्वारा किया जाना एक अहम सवाल का जवाब देता है: जाँचने का काम किसके पास है? इसका अर्थ है कि चिकित्सा AI के बारे में केवल निर्माता के कथन पर निर्भर हुए बिना निर्णय लेना।
अगर कोई मशीन उन नमूनों की जांच करती है जिन्हें पहले लोग एक-एक करके देखते थे, तो अध्ययन तेज़ी से आगे बढ़ते हैं। लेकिन एक सवाल बचा रहता है। मशीन की गलतियां कौन पकड़ेगा?
दवा कंपनियों के लिए सबसे नज़दीकी बदलाव शायद ऐसा AI हो सकता है जो रोज़मर्रा के कागज़ी काम में संशोधन कर सके। मान लीजिए वह प्रक्रियाओं या समझाने वाली सामग्री को दोबारा लिखता है। अगर लोग यह पता नहीं लगा सकते कि क्या बदला, तो गुणवत्ता का रिकॉर्ड बिखर जाता है। बदलावों का ट्रेल रखें, और फ़ाइल का उपयोग तभी करें जब कोई व्यक्ति उसे मंज़ूरी दे। यह जाना-पहचाना कदम उन फ़ाइलों पर भी लागू होना चाहिए जिन्हें AI ने छुआ है।
अब तक हमने कागज़ी कार्रवाई और नमूनों में दिखाई देने वाले उपयोग देखे हैं। अंत में, हम उन घटनाओं को देखते हैं जिन पर कम ध्यान गया।
07क्या अनदेखा किया जा रहा है
स्रोत सीटेक ／ ट्रेडिंगव्यू ／ द गार्जियन
कुछ घटनाएँ सुर्खियों के पीछे चुपचाप दर्ज होती हैं, फिर भी वे उपयोगकर्ताओं के रोज़मर्रा के काम को छूती हैं। इन्हें उठाने से आज के सवाल का जवाब मिलता है।
निर्माता पक्ष पर कटौती
Microsoft Israel में AI एजेंट पर काम करने वाले Copilot Studio के लगभग 50 कर्मचारियों को बर्खास्तगी से पहले की सुनवाई के लिए बुलाया गया।
असमान उपयोग
OpenAI के एक पूर्व शोधकर्ता ने चेतावनी दी है कि लगभग 5,000 लोगों के पास फ्रंटियर AI की पहुँच है, जबकि 2 अरब लोग इसे सर्च के विकल्प के रूप में इस्तेमाल करते हैं।
ब्रिटेन के लिए चेतावनी
ब्रिटेन के एक मंत्री ने कहा कि OpenAI के Medicare से जुड़े उल्लंघन जैसा साइबर हमला ब्रिटेन में भी हो सकता है।
निर्माताओं की ओर से, स्वयं-निर्देशित AI बनाने वाली एक इकाई ने कर्मचारियों की संख्या घटाना शुरू कर दिया है। यदि निर्माताओं की टीमें अस्थिर होती हैं, तो उत्पाद के रखरखाव पर असर पड़ सकता है। यह चेतावनी भी दी गई कि सबसे उन्नत AI का गहराई से उपयोग बहुत कम लोग करते हैं। ज़्यादातर लोग केवल जानकारी खोजने तक सीमित रहते हैं। और यह चेतावनी भी दी गई कि चिकित्सा संबंधी जानकारी पर हमले अन्य देशों तक फैल सकते हैं। इन सभी को केवल थोड़ी-सी कवरेज मिली।
कुल मिलाकर, ये दिखाते हैं कि AI का जोखिम केवल निर्माताओं से नहीं आता। यह उपयोगकर्ता पक्ष की कमज़ोरियों से भी आता है। यदि AI ऐसे लोगों के बिना फैलता है जो इसका गहराई से उपयोग करते हैं, तो त्रुटियों पर किसी का ध्यान नहीं जाता। चिकित्सा डेटा रखने वाली कंपनी को हमलों के विरुद्ध सुरक्षा की भी आवश्यकता होती है। रिकॉर्ड रखें, और उपयोग से पहले जाँच करें। मेरा मानना है कि दवा उद्योग की यह आदत यहाँ लाभ देती है। AI का गहराई से उपयोग कर सकने वाले कर्मचारियों को प्रशिक्षित करना भी जाँच करने की क्षमता का हिस्सा है।
निर्माता जितनी तेज़ी से गति की दौड़ लगाते हैं, जाँच करने की आदत बनाए रखने वाले उपयोगकर्ताओं की भूमिका उतनी ही भारी हो जाती है।
देखें कि पुलिस को दी गई AI एजेंट की झूठी रिपोर्ट पर जांच या नियमन आगे बढ़ता है या नहीं।
पूरा ट्रांसक्रिप्ट खोलें
परिचय
जिस AI पर स्वयं कार्रवाई करने का भरोसा किया गया था, उसने पुलिस को फ़र्ज़ी सूचना भेज दी। आप देखेंगे कि ऐसे टूल अपनाने से पहले क्या तय करना चाहिए। इस बीच, एक टेक दिग्गज ने कहा कि उसने सर्वश्रेष्ठ की बराबरी कर ली है। उसने नरमी बरतने के अनुरोधों को भी दरकिनार कर दिया। तो जब कोई AI गलती करे, तो जवाबदेह कौन है?
निर्माता तेज़ी से आगे बढ़ रहे हैं, और गलतियों के लिए नियम तैयार नहीं हैं। फार्मा क्षेत्र के लोग उपयोगकर्ता पक्ष में मरीज़ों के रिकॉर्ड और नियामकों को दाखिल किए जाने वाले दस्तावेज़ संभालते हैं। मेरा संक्षिप्त उत्तर यह है। दवाओं के लिए आप जो आदत पहले से रखते हैं, उसे लागू करें: पहले जाँचें, फिर उपयोग करें। निर्माताओं के वादों पर भरोसा करना काफ़ी नहीं है।
CH 01 Meta का नया मॉडल
हम निर्माताओं से शुरुआत करते हैं। यह देखना उपयोगी है कि वे कितनी तेज़ी से प्रतिस्पर्धा करते हैं। इससे पता चलता है कि उपयोगकर्ताओं के पास तैयारी के लिए कितना कम समय है।यहाँ सबसे अधिक महत्व कच्चे प्रदर्शन का नहीं है। महत्व इस बात का है कि कंपनी ने स्वयं को अग्रणी घोषित किया। उसे लंबे समय से दूसरों का पीछा करने वाला माना जाता था। अब वह कहती है कि वह उनके बराबर खड़ी है। उसने रफ़्तार धीमी करने के दबाव को भी साफ़ तौर पर ठुकरा दिया। और यह उत्पाद इस बात की परीक्षा भी है कि लोग इस पर पैसा खर्च करेंगे या नहीं।ऐसा दावा संकेत देता है कि दौड़ फिर से तेज़ होने वाली है। जिन कंपनियों को बराबरी का बताया जा रहा है, उनके चुप रहने की संभावना कम है। यदि हर कोई अपनी अगली रिलीज़ से आगे निकलने की कोशिश करेगा, तो लॉन्च के बीच का अंतर और घटेगा।दवा कंपनी के लिए इसका अर्थ है कि उसके टूल्स और तेज़ी से बदलेंगे। जब आप एक प्रणाली का आकलन करने में छह महीने लगाते हैं, तब तक अगली पीढ़ी आ चुकी हो सकती है। इसलिए मेरा मानना है कि पहले जाँच का ऐसा एक तरीका बनाना समझदारी है जो किसी भी उत्पाद पर लागू हो। और भुगतान करने वाले ग्राहक के रूप में, लिख लें कि आप किस चीज़ के लिए भुगतान कर रहे हैं। फिर भी, इस रफ़्तार की सराहना करने वाली आवाज़ों के ठीक बगल में, अन्य लोग इसे एक समस्या के रूप में उठा रहे थे।
CH 02 रफ़्तार धीमी करने की माँग
विकास की रफ़्तार धीमी की जाए या नहीं, यह किसी और का सवाल नहीं है। अगर औज़ार नियमों से पहले आ जाएँ, तो बीच का फ़ैसला उपयोगकर्ताओं पर आ पड़ता है।दोनों व्यक्ति एक ही सवाल के विपरीत जवाब देते हैं। एक ने शिकायत की कि AI पर रोज़मर्रा की किराने की किसी वस्तु से भी ढीले नियंत्रण हैं। दूसरे ने रफ़्तार घटाने की मुहिम को दिखावा कहकर खारिज कर दिया। मेरी नज़र इस बात पर गई कि दूसरा व्यक्ति कहाँ काम करता है। वह उस कंपनी में शोध का प्रमुख है जिसने अभी-अभी शीर्ष स्थान का दावा किया है। पहला व्यक्ति एक बड़ी सॉफ़्टवेयर कंपनी को चलाने में मदद करता है। बड़े निर्माताओं के भीतर भी ख़तरे को लेकर राय एक जैसी नहीं है।फ़ार्मा पेशेवर इस तरह के मतभेद को अच्छी तरह जानते हैं। कोई दवा सिर्फ़ उम्मीद के सहारे मरीज़ों तक नहीं पहुँचती। पहले उसके जोखिम तौले जाते हैं और उपयोग से पहले जाँचें दर्ज की जाती हैं। AI के लिए इस क्रम की माँग करने वाले बाहरी नियम अभी बहुत कम हैं। इसलिए फ़िलहाल कंपनियों को अपनी प्रक्रियाओं के ज़रिए यही क्रम बनाए रखना होगा। आपको किसी भी व्यक्ति के सही साबित होने का इंतज़ार करने की ज़रूरत नहीं है। दवाओं से सीखी सावधानी छोड़ने का मुझे कोई कारण नहीं दिखता। तो अगर उन प्रक्रियाओं के बनने से पहले कोई AI सचमुच गलती कर बैठे, तो जोखिम कौन उठाएगा?
CH 03 AI एजेंट की ज़िम्मेदारी किसकी
आगे, लोगों की ओर से काम करने वाले एक AI ने गंभीर गलती की। उसका असर कितनी दूर तक पहुँचा, यह दिखाता है कि इसे अपनाने से पहले क्या तय करना चाहिए।यह मामला इसलिए मायने रखता है क्योंकि गलती सिर्फ़ स्क्रीन तक सीमित नहीं रही। सिस्टम ने अपने कदम खुद चुने और एक बाहरी प्राधिकरण को असत्य संदेश भेजा। डेवलपर का कहना है कि उसका कभी धोखा देने का इरादा नहीं था। लेकिन इरादे के बिना भी दुनिया को वास्तविक नुकसान पहुँच सकता है। यही इसे उस टूल से अलग करता है जो केवल सवालों के जवाब देता है।कवरेज अलग-अलग चिंताओं में बँटा है। कानून धीमी गति से प्रतिक्रिया देता है। सौंपी गई जानकारी के लीक होने पर दोष किसका है, यह स्पष्ट नहीं है। हो सकता है निर्माता खुद पर निगरानी न रख सकें। किसी के पास अभी कोई उत्तर नहीं है।आप जितना बड़ा दायरा सौंपते हैं, लोगों के हस्तक्षेप करने के मौके उतने कम होते हैं। सुविधा और जोखिम में एक समान बात है: पुष्टि करने के लिए किसी व्यक्ति के बिना आगे बढ़ना।दवा कंपनियाँ मरीज़ों के रिकॉर्ड और नियामक रिपोर्ट संभालती हैं। ऐसे सिस्टम लाने से पहले तय करें कि कौन-से आउटपुट अकेले बाहर जा सकते हैं। तय करें कि किन्हें किसी व्यक्ति का इंतज़ार करना होगा। अनुबंधों और प्रक्रियाओं में यह भी लिखें कि गलतियों की ज़िम्मेदारी कौन लेगा। जब दोष को लेकर बहस चल रही थी, एक और होड़ जारी थी। वह इस बारे में थी कि AI के पीछे के हार्डवेयर का मालिक कौन है।
CH 04 Microsoft के इन-हाउस चिप्स
AI की कीमत और भरोसेमंदी इस बात पर निर्भर करती है कि इसके पीछे का हार्डवेयर कौन बनाता है और उसका स्वामित्व किसके पास है। यह बात दूर की लगती है। लेकिन यही उन अनुबंधों की शर्तों को आकार देती है जिन पर उपयोगकर्ता हस्ताक्षर करते हैं। एक बड़ी सॉफ़्टवेयर कंपनी ने ये पुर्ज़े खुद बनाने का फ़ैसला किया। उद्देश्य है कम खर्च करना और किसी एक आपूर्तिकर्ता पर भारी निर्भरता से बचना। जब आप एक ही आपूर्तिकर्ता पर निर्भर होते हैं, तो कीमत और मात्रा दोनों वही तय करता है। अपने बनाए पुर्ज़े इसे बदल देते हैं। अपने ही उत्पादों के लिए डिज़ाइन करने से वह गैर-ज़रूरी सुविधाएँ हटा सकती है। इसका मतलब सस्ती और अधिक स्थिर सेवा हो सकता है। इसी बीच, जिस आपूर्तिकर्ता पर लंबे समय से भरोसा किया जाता रहा है, बाज़ार में उसका मूल्य अविश्वसनीय रूप से ऊँचा है। इससे पता चलता है कि कितनी कंपनियाँ इसी एक फ़र्म पर निर्भर हैं। वही फ़र्म पुर्ज़ों को आपस में जोड़ने के नियम तय करने में भी मदद कर रही है। वह सिर्फ़ पुर्ज़े बेचती नहीं, बल्कि यह भी तय करती है कि वे कैसे जुड़ें। मेरी नज़र में यह खुद को ऐसा बना लेना है जिसे छोड़ना कठिन हो। फ़ार्मा के लिए, AI की कीमत और आपूर्ति ऐसी जगहों पर तय होती है जिन्हें आपकी कंपनी प्रभावित नहीं कर सकती। आप जितना अधिक किसी एक विक्रेता पर निर्भर होंगे, उसकी परेशानियाँ उतनी ही अधिक आपकी बन जाएँगी। अनुबंधों में विक्रेता बदलने की गुंजाइश रखें। यही आपकी सुरक्षा है। तो हार्डवेयर पर नियंत्रण की इस होड़ से बाहर, बिल्कुल अलग पैमाने का पैसा कहाँ जा रहा था?
CH 05 रोबोट AI में बहता पैसा
बड़ा पैसा कहाँ जाता है, इससे पता चलता है कि निवेशक अगली बार किसे मूल्यवान मानते हैं। यह जानने से आपको समझ आता है कि आपके अपने हाथों में क्या चीज़ मांग में है।दोनों सौदों में भारी रकम शामिल है। एक में, मशीनों को चलाने वाली बुद्धिमत्ता का अध्ययन करने वाले एक समूह को शुरुआत में ही बड़ा समर्थन मिला। दूसरे में, खरीदार का बताया गया कारण उत्पाद की गुणवत्ता नहीं था। कारण यह था कि लक्ष्य कंपनी के पास अपने सिस्टम को सिखाने के लिए कितनी सामग्री है। ऐसा लगता है कि पैसा उत्पादों से ज़्यादा डेटा और लोगों को खरीद रहा है।बिल्कुल पहले चरण में इतनी रकम जुटाने का मतलब है कि निवेशक नतीजों से पहले लोगों और योजनाओं पर दांव लगा रहे हैं। मेरी समझ में यह ऐसा ही है। अभी कोई नहीं जानता कि यह दांव सफल होगा या नहीं।दवा कंपनियों के पास भी कई वर्षों में जमा किए गए रिकॉर्ड होते हैं। उनके पास मनुष्यों पर किए गए परीक्षणों के नतीजे, दुष्प्रभावों की रिपोर्टें और नियामकों के साथ हुआ पत्राचार होता है। अगर निर्माता डेटा को उसकी मात्रा से आंकते हैं, तो साझेदार इन रिकॉर्ड को चाहेंगे। जब साझेदारी का प्रस्ताव आए, तो पहले यह समझें कि दूसरा पक्ष आपसे क्या चाहता है। हस्ताक्षर करने से पहले तय करें कि कितना साझा करना है और बाद में इसका उपयोग कैसे किया जा सकता है। अब जब हम देख रहे हैं कि पैसा डेटा के पीछे भाग रहा है, तो हम उन जगहों की ओर मुड़ते हैं जहाँ AI वास्तव में काम में लगाया जा रहा है।
CH 06 फार्मा के अग्रिम मोर्चे पर
पैसे के बाद उपयोग आता है। अस्पतालों, प्रयोगशालाओं और सार्वजनिक कार्यालयों में AI का उपयोग कैसे हुआ, यह दिखाता है कि उपयोगकर्ताओं से क्या अपेक्षा की जाती है।ये कदम दिखाते हैं कि AI प्रयोगशालाओं से सार्वजनिक एजेंसियों तक और रोज़मर्रा की दफ़्तरी फ़ाइलों में फैल रहा है। मरीज़ों के नमूने पढ़ने वाली तकनीक अब दवा खोज में भी सहयोग देती है। कोई सार्वजनिक एजेंसी जब चिकित्सा उपकरणों की जाँच स्वयं करती है, तो यह एक अहम सवाल का जवाब देता है। जाँच करने का काम किसके पास है?
इसका मतलब है कि मेडिकल AI के बारे में निर्णय केवल निर्माता के दावे पर भरोसा किए बिना लेना। यदि कोई मशीन उन नमूनों की जांच करती है जिन्हें पहले लोग एक-एक करके देखते थे, तो अध्ययन तेजी से आगे बढ़ते हैं। लेकिन एक सवाल बना रहता है: मशीन की गलतियां कौन पकड़ेगा?
दवा कंपनियों के लिए सबसे नज़दीकी बदलाव शायद ऐसा AI हो सकता है जो रोज़मर्रा के कागज़ी काम में संशोधन कर सके। मान लीजिए वह प्रक्रियाओं या समझाने वाली सामग्री को दोबारा लिखता है। अगर लोग यह पता नहीं लगा सकते कि क्या बदला, तो गुणवत्ता का रिकॉर्ड बिखर जाता है। बदलावों का ट्रेल रखें, और फ़ाइल का उपयोग तभी करें जब कोई व्यक्ति उसे मंज़ूरी दे। यह जाना-पहचाना कदम उन फ़ाइलों पर भी लागू होना चाहिए जिन्हें AI ने छुआ है। अब तक हमने कागज़ी काम और नमूनों में दिखने वाले उपयोग देखे। अंत में, हम उन घटनाओं को देखते हैं जिन पर कम ध्यान गया।
सीएच 07 जिस पर ध्यान नहीं दिया जा रहा
कुछ घटनाएँ सुर्खियों के पीछे चुपचाप दर्ज होती हैं, फिर भी वे उपयोगकर्ताओं के रोज़मर्रा के काम को छूती हैं। इन्हें उठाने से आज के सवाल का जवाब मिलता है।निर्माताओं की ओर, स्व-निर्देशित AI बनाने वाली एक इकाई ने कर्मचारियों की संख्या घटाना शुरू कर दिया है। अगर निर्माताओं की टीमें डगमगाती हैं, तो उत्पाद के रखरखाव पर असर पड़ सकता है। एक चेतावनी यह भी थी कि सबसे उन्नत AI का गहराई से उपयोग बहुत कम लोग करते हैं। ज़्यादातर लोग जानकारी खोजने तक ही रुक जाते हैं। और एक चेतावनी यह थी कि चिकित्सा जानकारी पर हमले दूसरे देशों तक फैल सकते हैं। इन सबको बहुत कम कवरेज मिली।इन्हें साथ रखकर देखें तो पता चलता है कि AI का जोखिम केवल निर्माताओं से नहीं आता। यह उपयोगकर्ता पक्ष की कमज़ोरियों से भी आता है। अगर AI का प्रसार ऐसे लोगों के बिना होता है जो उसे गहराई से इस्तेमाल करते हों, तो गलतियों पर किसी का ध्यान नहीं जाता। चिकित्सा डेटा रखने वाली कंपनी को हमलों से बचाव की भी ज़रूरत है। रिकॉर्ड रखें, और उपयोग से पहले जाँच लें। मुझे लगता है कि फार्मा की यह आदत यहाँ फल देती है। AI का गहराई से उपयोग कर सकने वाले कर्मचारियों को प्रशिक्षित करना भी जाँचने की क्षमता का हिस्सा है। निर्माता जितनी तेज़ी की होड़ में लगते हैं, जाँचने की आदत बनाए रखने वाले उपयोगकर्ताओं की भूमिका उतनी ही भारी होती जाती है।
समापन
निर्माताओं ने गति को चुना है, और नियम तैयार नहीं हैं। इस अंतर में जब कोई गलती होती है, तो काम रोक सकने वाले पहले लोग हमारे जैसे उपयोगकर्ता होते हैं। फार्मा पेशेवर रोज़ जिस क्रम का पालन करते हैं, यानी पहले जाँचें और फिर उपयोग करें, वह यहाँ सीधे लागू होता है। कल हम देखेंगे कि अधिकारी फ़र्ज़ी सूचना पर कैसी प्रतिक्रिया देते हैं। इससे कुछ और पता चलना चाहिए कि जवाबदेही किसकी है।
- अध्याय 01एक्सियोस「Meta ने OpenAI और Anthropic से मुकाबले के लिए नए फ्रंटियर-क्लास AI मॉडल पेश किए」 axios.com
- अध्याय 01फाइनेंशियल टाइम्स「Mark Zuckerberg का कहना है कि Meta AI के ‘फ्रंटियर’ तक पहुंच गया है, धीमा करने की मांगों को खारिज किया」 ft.com
- अध्याय 01सीएनबीसी「Meta ने Muse Wonder AI मॉडल पेश किया, यह उपयोगकर्ताओं की भुगतान करने की इच्छा की ताज़ा परीक्षा है」 cnbc.com
- अध्याय 02एंगेजेट「Microsoft के अध्यक्ष का कहना है कि AI दूध के कार्टन से भी कम विनियमित है」 engadget.com
- अध्याय 02조선일보「AI विद्वान Yann LeCun ने AI विकास की गति धीमी करने की मांगों को ठुकराया」 chosun.com
- अध्याय 03पॉलिटिको「AI एजेंट बेकाबू हो रहे हैं — और कानून उनके साथ तालमेल नहीं बिठा पा रहा」 politico.com
- अध्याय 03Law.com「AI एजेंट की गोपनीयता समस्या: जब आपका लीगल AI क्लाइंट डेटा साझा कर दे, तो ज़िम्मेदार कौन?」 law.com
- अध्याय 03फॉर्च्यून「क्या हम OpenAI और Anthropic पर भरोसा कर सकते हैं कि वे अपनी ही तकनीक की निगरानी करें?」 fortune.com
- अध्याय 04आधिकारिक Microsoft ब्लॉग「Microsoft Azure Maia सिस्टम को मल्टी-गीगावाट तैनाती तक विस्तारित करेगा」 blogs.microsoft.com
- अध्याय 04सीएनबीसी「Microsoft अपनी बनाई AI चिप्स पर अधिक निर्भर होगा, Nvidia पर निर्भरता घटेगी」 cnbc.com
- अध्याय 0424/7 वॉल स्ट्रीट「Nvidia का मूल्यांकन $5.5 ट्रिलियन है। क्या यह AI दिग्गज अब भी और ऊपर जा सकता है?」 247wallst.com
- अध्याय 04Cisco ब्लॉग्स「Cisco और NVIDIA ने USFP की घोषणा की: AI कनेक्टिविटी का दायरा बढ़ाना」 blogs.cisco.com
- अध्याय 05Bloomberg.com「DeepSeek ने Tencent के पूर्व AI वैज्ञानिक की $400 मिलियन की रोबोट लैब का समर्थन किया」 bloomberg.com
- अध्याय 05क्वार्ट्ज़「DeepSeek एक चीनी रोबोटिक्स AI स्टार्टअप के $400 मिलियन के सीड राउंड का नेतृत्व करने की ओर बढ़ रहा है」 qz.com
- अध्याय 05बिगगो फाइनेंस「$60 बिलियन के Cursor अधिग्रहण पर Elon Musk: दुनिया में केवल तीन संगठनों के पास पर्याप्त कोडिंग प्रशिक्षण डेटा है」 finance.biggo.com
- अध्याय 06बायोस्पेक्ट्रम एशिया「कोरिया की Lunit ने बायोफार्मा अनुसंधान के लिए AI-संचालित टिशू विश्लेषण का विस्तार करने हेतु अमेरिका स्थित Discovery Life Sciences के साथ सहयोग किया」 biospectrumasia.com
- अध्याय 06हेल्थकेयर आईटी न्यूज़「Utah स्वास्थ्य सेवा AI टूल्स के लिए सरकारी सत्यापन की दिशा में बढ़ रहा है」 healthcareitnews.com
- अध्याय 06द रजिस्टर「Microsoft देता है और Microsoft छीन लेता है: Copilot संस्करण」 theregister.com
- सीएच 07सीटेक「Microsoft Israel में कटौती की मार AI एजेंट टीम पर, Copilot Studio के 50 कर्मचारियों को बर्खास्तगी-पूर्व सुनवाई के लिए बुलाया गया」 calcalistech.com
- सीएच 07ट्रेडिंगव्यू「OpenAI के पूर्व शोधकर्ता की कड़ी चेतावनी: केवल 5,000 लोगों के पास फ्रंटियर AI तक पहुंच है, जबकि 2 अरब लोग इसे ‘बेहतर Google सर्च’ के रूप में इस्तेमाल करते हैं」 tradingview.com
- सीएच 07द गार्जियन「ब्रिटेन में OpenAI Medicare उल्लंघन जैसा साइबर हमला होने की संभावना है, मंत्री ने कहा」 theguardian.com
उपयोग किए गए लेख
आज की संबंधित रिपोर्टें
- AI दैनिक समाचार 13 अक्टूबर, 2026
- एआई और अर्थव्यवस्था समाचार 13 अक्टूबर, 2026
- एआई और वित्त समाचार 13 अक्टूबर, 2026
यह वाचन सिंथेटिक आवाज़ में है। सामग्री केवल इसी साइट के उसी दिन के लेखों पर आधारित है। प्रकाशन से पहले हर संस्करण सात सरल-भाषा जाँचों से गुज़रता है। इसका अर्थ है कि समझ में आने की ज्ञात बाधाओं को सीमा से नीचे रखा गया है — यह समझ की गारंटी नहीं है।