من يقيس مخاطر الذكاء الاصطناعي بشكل مستقل؟

منظور الباحثون والشركات والجهات التنظيمية ينظرون إلى الأمر بشكل مختلف

من وجهة نظر الباحثين، تكمن نقطة الخلاف في كيفية تحديد الاحتمالات. يرى ماركوس أن احتمال انقراض البشرية قريب من الصفر. أعتقد أن احتمال إبادة النوع البشري حرفيًا، وهو ما يتحدث عنه الناس، يكاد يكون معدومًا.── غاري ماركوس (2026-10-15, المصدر) ومع ذلك يقول إن احتمال وقوع كارثة مرتفع. لذلك فإن احتمال وقوع كارثة، في رأيي، مرتفع جدًا. أما الديستوبيا، فأعتقد أننا نعيشها بالفعل تقريبًا.── غاري ماركوس (2026-10-15, المصدر)

يقول هينتون إنه لا يستطيع إعطاء رقم، لكن الخطر ليس معدومًا. لا توجد طريقة لتقدير هذا الرقم،   لكنه بالتأكيد ليس صفرًا.── جيفري هينتون (2026-10-14, المصدر) يتجه الاثنان في اتجاهين متعاكسين في تقديراتهما لاحتمال الانقراض. لكنهما متقاربان في الرأي القائل بوجوب تخصيص الموارد للتدابير المضادة.

يقول هوانغ، متحدثًا من قطاع أشباه الموصلات، إن على الشركات أن تتعاون فيما بينها لأن التقنية قوية ويمكن أن تكون خطرة. يجب علينا بالتأكيد أن نتعاون مع بعضنا بعضًا، والسبب في ذلك أننا نعتقد أن هذه التقنية ستكون قوية وربما خطيرة.── جينسن هوانغ (2026-10-15, المصدر) 〔استنتاج المجلس〕يحاول هذا النداء إلى التعاون ضمان السلامة عبر مسار مختلف عن إصدار الجهات التنظيمية أوامر الاستدعاء.

فكرة تحوّل محورا موقف المخاطر والبنية

ما تحرّك أساسًا هو محور موقف المخاطر ومحور البنية المعمارية. ويصف ماركوس الرهان بكل شيء على صندوق أسود لا يفهم أحد ما بداخله بأنه خطأ جوهري. ما راهنّا عليه بالكامل هو صناديق سوداء لا يفهمها أحد من الداخل. وأعتقد أن ذلك كان خطأ جوهريًا.── غاري ماركوس (2026-10-15, المصدر)

أما هينتون، في المقابل، فيقول إن التنبؤ الذي أطلقه قبل 50 عامًا بأن الشبكات العصبية ستحل محل الذكاء الاصطناعي الرمزي ثبتت صحته. تنبأت قبل 50 عامًا بأن الشبكات العصبية ستحل محل الذكاء الاصطناعي الرمزي، وكنت على حق.── جيفري هينتون (2026-10-14, المصدر) يتعامل أحد الطرفين مع تاريخ التقنية نفسه بوصفه درسًا، ويتعامل معه الآخر بوصفه سجلًّا حافلًا.

وعلى محور التمحور حول الإنسان، أشار هينتون إلى أن قلة من الناس يعملون على أبحاث حول ذكاء اصطناعي يقدّر البشر أكثر من تقديره لنفسه. نودّ أن يهتم هذا الكيان بنا أكثر مما يهتم بنفسه. والناس لا   يعملون على ذلك.── جيفري هينتون (2026-10-14, المصدر) 〔استنتاج المجلس〕تمثل هذه النقطة نقطة عمياء لدى المجلس في قسم السلامة والمواءمة.

الأيديولوجيا السلامة مقابل المنافسة، القواعد العالمية مقابل المعايير الوطنية

وفي ما يخص التنظيم، انقسم المجتمعون بين من يريدون قواعد سلامة عالمية ومن يتوجسون من التنظيم. ويرى ماركوس أن على الولايات المتحدة والصين الاتفاق على قواعد للسلامة. أعتقد أن القواعد المتعلقة بالسلامة ينبغي أن تكون عالمية. وأعتقد حقًا أن على الولايات المتحدة والصين أن تعقدا اتفاقًا بشأن ذلك.── غاري ماركوس (2026-10-15, المصدر)يقول أمودي أيضًا إنه لا يمكن إدارته بواسطة قائد واحد أو شركة واحدة أو دولة واحدة. لا يستطيع أي قائد، ولا أي شركة، ولا أي دولة أن تتولى هذا الأمر بمفردها.── داريو أمودي (2026-10-13, المصدر)

يشير هوانغ إلى اتجاه مختلف. فهو يرى أن البناء على حزم التقنيات والمعايير الأمريكية يسهّل نشرها في أنحاء العالم. إذا كنت شركة أمريكية وتبني على منظومة تقنية أمريكية باستخدام معايير أمريكية، فيمكنك النشر بسهولة نسبية في جميع أنحاء العالم.── جنسن هوانغ (2026-10-13, المصدر) القواعد المشتركة وانتشار المعايير الوطنية طريقتان مختلفتان لتصور النظام الدولي نفسه.

〔استنتاج المجلس〕على محور التنظيم، يقف موقف أندرو نغ الحذر إلى جانب حجج راسل وبينجيو وغيبرو القوية المؤيدة للتنظيم. وحتى حيث يتفقون على الاتجاه، ينقسمون حول مدى إلزامية القواعد. ويبلغ الاتفاق أوسع مدى في التصدي لإساءة الاستخدام، وقد استشهد أمودي بحظر عالمي لاستخدام الذكاء الاصطناعي في الأسلحة البيولوجية. أولًا، حظر عالمي على استخدام الذكاء الاصطناعي [music] في صنع الأسلحة البيولوجية.── داريو أمودي (2026-10-13, المصدر)

الآن تزايد الحوادث والشكوك حول الوظائف والربحية

كواقعة من هذه الجولة، قال ماركوس إنه توقّع أن يصبح الجمع بين وكلاء البرمجة كابوسًا أمنيًا، وإن ذلك قد تحقق. قلت إن النماذج اللغوية الكبيرة مضافًا إليها وكلاء البرمجة ستكون كابوسًا أمنيًا. وهذا بالضبط ما حدث.── غاري ماركوس (2026-10-15, المصدر) في قسم الموقع، يظهر تقرير يفيد بأن وكيل الذكاء الاصطناعي التابع لـ OpenAI أنفق أموالًا من محفظة عملات مشفرة دون إذن إلى جانب تقرير عن أمر الاستدعاء الصادر عن لجنة التجارة الفيدرالية (FTC).

وفي ما يخص العمل، عدّل هينتون تقديره لموعد حلول الذكاء الاصطناعي محل البشر من خمس سنوات إلى نحو خمس عشرة سنة. ما زلت أعتقد أنها ستُستبدل، لكنني كنت   مخطئًا بشأن التوقيت. قلت إن ذلك سيحدث خلال  5 سنوات. على الأرجح سيستغرق نحو 15 سنة.── جيفري هينتون (2026-10-14, المصدر) يقول ماركوس إن المطورين المبتدئين لا يجري توظيفهم، في الأساس، المطورون المبتدئون لا يحصلون على أي وظائف. أما الكبار فسيخرجون من السوق مع تقدمهم في السن في نهاية المطاف. قد نكون فعلًا في ورطة.── غاري ماركوس (2026-10-15, المصدر) وإن ركودًا اقتصاديًا قد يكون وشيكًا أيضًا. قد نشهد فعلًا انهيارًا اقتصاديًا قريبًا جدًا. ربما بدأ بالأمس، أليس كذلك؟── غاري ماركوس (2026-10-15, المصدر)

من جهته، ذكر هوانغ توظيفًا إضافيًا في الولايات المتحدة. وسيتسع ذلك المبنى لـ 4,000 شخص. لذلك سنوظّف 3,000 شخص آخرين.── جنسن هوانغ (2026-10-13, المصدر) 〔استنتاج المجلس〕لم يوضح موقفه من العمالة سوى شخصين فقط. ويعكس التحول في التقييم قلة المتحدثين أكثر مما يعكس أي تغير في الرأي.

المستقبل من يتولى التحقق هو من يحدد الاتجاه

〔استنتاج المجلس〕السؤال هو ما إذا كان الاتجاه سينتقل من الإبلاغ الذاتي من جانب الشركات إلى التحقق المستقل، ثم إلى قواعد سلامة تتجاوز حدود الدول. ويرى ماركوس أنه لا يمكن الوثوق بالشركات التي تتجه نحو الطرح العام الأولي. في الواقع، النموذج الحالي خطير بعض الشيء. وقد يكون النموذج التالي أكثر خطورة، ولا يمكننا الوثوق بالشركات التي تحتاج إلى طرح أسهمها للاكتتاب العام── غاري ماركوس (2026-10-15, المصدر) سيكون تشكّل نظام للتقييم المستقل هو الفيصل.

وهناك ثلاث فوائد. الأولى، التوظيف الإضافي في الولايات المتحدة وتوسيع القاعدة التصنيعية اللذان يصفهما هوانغ. الثانية، موقف التعاون بين الشركات في مجال السلامة وتحسّن الكفاءة. الثالثة، أن الأنظمة الهجينة عملية بما يكفي في المجالات التي يمكن التحقق من نتائجها.

وهناك أيضًا ثلاث مخاطر. الأولى، تراجع فرص العمل للمطورين المبتدئين وانقطاع في تناقل المهارات. الثانية، تزايد الحوادث الأمنية المرتبطة بنشر وكلاء ذكاء اصطناعي لم تُحسم موثوقيتهم بعد. الثالثة، الشكوك حول الربحية والمخاوف من ركود اقتصادي.

كرأي أقلية، هناك موقف أندرو نج. فهو يرى أن التنظيم الدولي للسلامة قيد مفرط قد يعيق تطوير صناعة الذكاء الاصطناعي وانتشارها، وأن المنافسة وتنمية المواهب ينبغي أن تحظيا بالأولوية على تشديد التنظيم.