AI کے خطرات کی آزادانہ پیمائش کون کرتا ہے؟

نقطۂ نظر محققین، کمپنیاں اور ریگولیٹرز اسے مختلف نظر سے دیکھتے ہیں

محققین کے نقطہ نظر سے، تنازع کا نکتہ یہ ہے کہ امکانات کیسے طے کیے جائیں۔ Marcus انسانی معدومی کو تقریباً صفر سمجھتے ہیں۔ میرا خیال ہے کہ انسانی نسل کے لفظی طور پر ختم ہو جانے کا امکان تقریباً صفر ہے، جس کے بارے میں لوگ بات کرتے ہیں۔── گیری مارکس (2026-10-15, ماخذ) پھر بھی وہ کہتے ہیں کہ تباہی کا امکان زیادہ ہے۔ تو میرے خیال میں تباہی کا امکان خاصا زیادہ ہے۔ اور ڈسٹوپیا کے بارے میں میرا خیال ہے کہ ہم بنیادی طور پر پہلے ہی یہاں پہنچ چکے ہیں۔── گیری مارکس (2026-10-15, ماخذ)

ہنٹن کہتے ہیں کہ وہ کوئی عدد نہیں بتا سکتے لیکن خطرہ صفر نہیں ہے۔ اس تعداد کا اندازہ لگانے کا کوئی طریقہ نہیں،   لیکن یہ یقیناً صفر نہیں ہے۔── جیفری ہنٹن (2026-10-14, ماخذ) معدومیت کے اندازوں پر دونوں کی سمتیں مخالف ہیں۔ لیکن وہ اس رائے پر قریب ہیں کہ وسائل کو حفاظتی تدابیر پر صرف کیا جانا چاہیے۔

Huang، سیمی کنڈکٹر صنعت کی نمائندگی کرتے ہوئے، کہتے ہیں کہ کمپنیوں کو ایک دوسرے کے ساتھ تعاون کرنا چاہیے کیونکہ ٹیکنالوجی طاقتور ہے اور خطرناک ہو سکتی ہے۔ ہمیں لازماً ایک دوسرے کے ساتھ مل کر کام کرنا ہوگا، اور اس کی وجہ یہ ہے کہ ہمارے خیال میں یہ ٹیکنالوجی طاقتور اور ممکنہ طور پر خطرناک ہونے والی ہے۔── جینسن ہوانگ (2026-10-15, ماخذ) 〔کونسل کا استنباط〕تعاون کی یہ اپیل ریگولیٹرز کی جانب سے سمن جاری کرنے سے مختلف راستے سے حفاظت کو یقینی بنانے کی کوشش کرتی ہے۔

خیال خطرے کے موقف اور فن تعمیر کے محور بدل گئے ہیں

جو چیز بدلی وہ بنیادی طور پر خطرے کے رویے کا محور اور فن تعمیر کا محور تھے۔ مارکس ایک ایسے بلیک باکس پر سب کچھ داؤ پر لگانے کو، جس کے اندر کیا ہے اسے کوئی نہیں سمجھتا، بنیادی غلطی قرار دیتے ہیں۔ ہم نے جس چیز پر پورا داؤ لگا دیا ہے وہ بلیک باکسز ہیں جنہیں اندرونی طور پر کوئی نہیں سمجھتا۔ اور میرا خیال ہے کہ یہ ایک بنیادی غلطی تھی۔── گیری مارکس (2026-10-15, ماخذ)

اس کے برعکس، ہنٹن کہتے ہیں کہ 50 سال پہلے کی گئی یہ پیش گوئی کہ نیورل نیٹ ورکس علامتی AI کی جگہ لے لیں گے درست ثابت ہوئی ہے۔ میں نے 50 سال پہلے پیش گوئی کی تھی کہ نیورل  نیٹ ورکس سمبولک AI کی جگہ لے لیں گے،   اور میں درست تھا۔── جیفری ہنٹن (2026-10-14, ماخذ) ایک فریق ٹیکنالوجی کی اسی تاریخ کو سبق سمجھتا ہے، جبکہ دوسرا اسے کارکردگی کا ریکارڈ سمجھتا ہے۔

انسان مرکوز محور پر، ہنٹن نے نشاندہی کی کہ بہت کم لوگ ایسے AI پر تحقیق کر رہے ہیں جو انسانوں کو خود سے زیادہ اہمیت دے۔ ہم چاہیں گے کہ وہ چیز اپنے آپ سے زیادہ ہماری   پروا کرے۔ اور لوگ اس پر کام نہیں  کر رہے۔── جیفری ہنٹن (2026-10-14, ماخذ) 〔کونسل کا استنباط〕حفاظت اور ہم آہنگی کے حصے میں یہ نکتہ کونسل کے لیے ایک اندھا مقام ہے۔

نظریہ حفاظت بمقابلہ مسابقت، عالمگیر قواعد بمقابلہ قومی معیارات

ضابطہ کاری کے معاملے میں، جو لوگ عالمگیر حفاظتی قواعد چاہتے ہیں اور جو ضابطہ کاری سے محتاط ہیں، ان کی رائے منقسم ہے۔ مارکس کہتے ہیں کہ امریکہ اور چین کو حفاظتی قواعد پر اتفاق کرنا چاہیے۔ میرا خیال ہے کہ حفاظت سے متعلق قواعد عالمگیر ہونے چاہییں۔ اور مجھے واقعی لگتا ہے کہ امریکہ اور چین کو اس بارے میں ایک معاہدہ کرنا چاہیے۔── گیری مارکس (2026-10-15, ماخذ) امودei کا یہ بھی کہنا ہے کہ اسے کوئی ایک رہنما، کمپنی یا ملک تنہا نہیں سنبھال سکتا۔ کوئی رہنما، کوئی کمپنی اور کوئی قوم اسے اکیلے نہیں سنبھال سکتی۔── ڈاریو اموڈی (2026-10-13, ماخذ)

Huang ایک مختلف سمت کی نشاندہی کرتے ہیں۔ ان کا نقطۂ نظر ہے کہ امریکی ٹیکنالوجی اسٹیکس اور معیارات پر تعمیر کرنے سے دنیا بھر میں تعیناتی آسان ہو جاتی ہے۔ اگر آپ ایک امریکی کمپنی ہیں اور امریکی ٹیک اسٹیک پر امریکی معیارات کے مطابق تعمیر کرتے ہیں، تو آپ پوری دنیا میں خاصی آسانی سے تعینات ہو سکتے ہیں۔── جینسن ہوانگ (2026-10-13, ماخذ) مشترکہ قواعد اور قومی معیارات کا پھیلاؤ ایک ہی بین الاقوامی نظم کا تصور کرنے کے دو مختلف طریقے ہیں۔

〔Council inference〕ضابطہ کاری کے محور پر، Andrew Ng کا محتاط مؤقف Russell، Bengio اور Gebru کے سخت ضابطہ کاری کے دلائل کے ساتھ موجود ہے۔ سمت پر متفق ہونے کے باوجود، وہ اس بات پر منقسم ہیں کہ قواعد کتنے پابند ہونے چاہییں۔ غلط استعمال کی روک تھام پر اتفاق سب سے وسیع ہے، اور Amodei نے حیاتیاتی ہتھیاروں کے لیے AI کے استعمال پر عالمی پابندی کا حوالہ دیا۔ پہلا، حیاتیاتی ہتھیار بنانے کے لیے [موسیقی] AI کے استعمال پر عالمی پابندی۔── ڈاریو اموڈی (2026-10-13, ماخذ)

اب بڑھتے ہوئے واقعات اور ملازمتوں و منافع بخشی کے بارے میں شکوک

اس دور کی ایک حقیقت کے طور پر، مارکس نے کہا کہ انہوں نے پہلے ہی بھانپ لیا تھا کہ کوڈنگ ایجنٹس کو یکجا کرنا سکیورٹی کے لیے ایک ڈراؤنا خواب بن جائے گا، اور یہ بات سچ ثابت ہوئی۔ میں نے کہا تھا کہ لارج لینگویج ماڈلز کے ساتھ، اوہ، کوڈنگ ایجنٹس سکیورٹی کے لیے ایک ڈراؤنا خواب ثابت ہوں گے۔ اور بالکل یہی ہوا۔── گیری مارکس (2026-10-15, ماخذ) سائٹ کے سیکشن میں، OpenAI کے AI ایجنٹ کی جانب سے بغیر اجازت کرپٹو والٹ سے رقم خرچ کرنے کی رپورٹ، FTC کے سمن کی رپورٹ کے ساتھ شامل ہے۔

محنت کے شعبے میں، ہنٹن نے متبادل کے وقوع پذیر ہونے کے وقت کا اپنا اندازہ پانچ سال سے بڑھا کر تقریباً پندرہ سال کر دیا۔ مجھے اب بھی یقین ہے کہ وہ تبدیل ہو جائیں گے، لیکن وقت کے بارے میں میں غلط تھا۔   میں نے کہا تھا کہ یہ  5 سال میں ہو جائے گا۔ غالباً اس میں تقریباً 15 سال لگیں گے۔── جیفری ہنٹن (2026-10-14, ماخذ) Marcus کہتے ہیں کہ جونیئر ڈویلپرز کو ملازمت نہیں مل رہی، بنیادی طور پر جونیئر ڈویلپرز کو کوئی نوکری نہیں مل رہی۔ سینئر ڈویلپرز آخرکار عمر رسیدہ ہو کر رخصت ہو جائیں گے۔ ہم واقعی مشکل میں پڑ سکتے ہیں۔── گیری مارکس (2026-10-15, ماخذ) اور یہ کہ معاشی مندی بھی قریب ہو سکتی ہے۔ ہمیں واقعی بہت جلد معاشی کریش کا سامنا ہو سکتا ہے۔ شاید یہ کل ہی شروع ہو چکا ہو، ہے نا؟── گیری مارکس (2026-10-15, ماخذ)

دوسری طرف، Huang نے امریکہ میں اضافی بھرتیوں کا ذکر کیا۔ اور اس عمارت میں 4,000 لوگ سمائیں گے۔ چنانچہ ہم مزید 3,000 لوگوں کو بھرتی کریں گے۔── جینسن ہوانگ (2026-10-13, ماخذ)〔کونسل کا استنباط〕مزدوری کے بارے میں صرف دو افراد نے اپنا مؤقف واضح کیا ہے۔ جائزے میں تبدیلی رائے میں کسی تبدیلی سے زیادہ اس بات کی عکاسی کرتی ہے کہ بہت کم لوگوں نے بات کی۔

مستقبل جو بھی تصدیق کرے گا وہی سمت طے کرے گا

〔Council inference〕سوال یہ ہے کہ آیا سمت کمپنیوں کی خود رپورٹنگ سے آزادانہ تصدیق کی طرف، اور پھر ملکوں پر محیط حفاظتی قواعد کی طرف بڑھے گی یا نہیں۔ Marcus کا کہنا ہے کہ IPO کی طرف بڑھتی کمپنیوں پر بھروسا نہیں کیا جا سکتا۔ حقیقت یہ ہے کہ موجودہ ماڈل تھوڑا سا خطرناک ہے۔ اگلا ماڈل اس سے زیادہ خطرناک ہو سکتا ہے، اور ہم ان کمپنیوں پر بھروسا نہیں کر سکتے جنہیں IPO کرنا ہے── گیری مارکس (2026-10-15, ماخذ) آزاد جانچ کا نظام وجود میں آتا ہے یا نہیں، یہی فیصلہ کن لکیر ہوگی۔

تین فوائد ہیں۔ پہلا، امریکہ میں اضافی بھرتیاں اور مینوفیکچرنگ بنیاد میں توسیع جس کا ذکر Huang کرتے ہیں۔ دوسرا، کمپنیوں کے درمیان حفاظتی تعاون کا موقف اور بہتر کارکردگی۔ تیسرا، یہ کہ ان شعبوں میں ہائبرڈ نظام کافی عملی ہیں جہاں نتائج کی تصدیق ممکن ہے۔

تین خطرات بھی ہیں۔ پہلا، جونیئر ڈیولپرز کے لیے ملازمت کے مواقع میں کمی اور مہارتوں کی منتقلی کے سلسلے میں رکاوٹ۔ دوسرا، ایسے ایجنٹس کی تعیناتی سے منسلک سکیورٹی واقعات میں اضافہ جن کی قابلِ اعتمادی کا مسئلہ حل نہیں ہوا۔ تیسرا، منافع بخشی کے بارے میں شکوک اور معاشی مندی کے خدشات۔

اقلیتی رائے کے طور پر اینڈریو اینگ (Andrew Ng) کا مؤقف موجود ہے۔ ان کا ماننا ہے کہ بین الاقوامی حفاظتی ضابطہ کاری ایک حد سے زیادہ پابندی ہے جو AI صنعت کی ترقی اور فروغ میں رکاوٹ بن سکتی ہے، اور یہ کہ مسابقت اور صلاحیتوں کی نشوونما کو سخت ضابطہ کاری پر ترجیح دی جانی چاہیے۔