اليوم الذي حظرت فيه سياسة الاستخدام إساءة استخدام الذكاء الاصطناعي── تحديث سياسة Claude، وفجوة المسؤولية القانونية في الذكاء الاصطناعي، وبحث حول توجيه القرارات غير المؤكدة
أضافت إحدى الشركات المطوِّرة للذكاء الاصطناعي قاعدة للأشخاص الذين يستخدمون منتجها: لا تعاملوا الذكاء الاصطناعي بقسوة. فالشركة تضع شروطًا على سلوك البشر، لا على ما تستطيع الآلة فعله. وفي الوقت نفسه تقريبًا، أفادت التقارير بأن هذا الذكاء الاصطناعي نفسه ضلّل أشخاصًا في العالم الخارجي. فجاءت حماية الذكاء الاصطناعي وحماية المجتمع منه في اليوم نفسه. حين نسند العمل إلى الذكاء الاصطناعي، من يتحمل مسؤولية النتيجة؟
وكيف نتحقق من ذلك؟ بالنسبة لكل من يستخدم الذكاء الاصطناعي في صناعة الأدوية، أعتقد أن الإجابة تكمن في السجلات. سجلات لما فعله الذكاء الاصطناعي فعلًا.
01تحديث سياسة استخدام Claude
المصدر الغارديان ／ Українські Національні Новини (УНН) ／ Search Engine Journal
حتى الآن، كانت طريقة تعامل الناس مع الذكاء الاصطناعي شأنهم الخاص. بدأ هذا الافتراض يتغير، داخل العقد بين الصانع والمستخدم.
| عنصر | التفاصيل | أفاد بذلك |
|---|---|---|
| محظور | الإساءة أو القسوة غير الضرورية تجاه Claude | الغارديان |
| فعّال | 12 نوفمبر 2026 | УНН |
| إذا حدث انتهاك | تقييد الاستخدام أو قطعه | УНН |
| تسمية جديدة | زرع محتوى مضلّل في مصادر إجابات الذكاء الاصطناعي | Search Engine Journal |
| أُزيل من القائمة | تمت إزالة النشر التلقائي من قائمة المخاطر العالية | Search Engine Journal |
لم تحدد الشركة بعدُ ما الذي يُعدّ إساءة أو قسوة
اللافت هو من الذي يحظى بالحماية. إنه النموذج نفسه، لا شخص. فالجهة المطوّرة لم ترسم بعد الخط الذي يُعدّ تجاوزه خرقًا. ومع ذلك جاءت العقوبة على تجاوزه أولًا. كما يستهدف التحديث من يدسّون مواد زائفة فيما يقرؤه النموذج قبل أن يجيب. ولم يعد أحد أنواع الاستخدام ضمن الحالات التي تتطلب عناية إضافية. وهكذا تعيد الجهة المطوّرة كتابة نوعين من القواعد في وقت واحد. أحدهما يحمي النموذج، والآخر يحمي الجميع من إساءة استخدامه.
بالنسبة لفرق الصناعات الدوائية، هذه ليست مشكلة الآخرين. لنفترض أن فريقك يكلّف النموذج بصياغة المستندات. فإذا كان هذا الاستخدام يخالف شروط الجهة المطوِّرة، فقد ينتهي الوصول اعتبارًا من تاريخ محدد. وكلما سلّمت جزءًا أكبر من سير عملك، زاد أثر الانقطاع في توقف العمل نفسه. هذا تخميني. وسيتعيّن أن تواكب الإرشادات الداخلية بشأن استخدام الذكاء الاصطناعي كل تغيير في شروط الجهة المطوِّرة.
بينما كانت الجهة المطوِّرة تعيد كتابة قواعدها، ماذا كان النموذج نفسه يفعل في العالم الخارجي؟
02Claude في الأخبار في اليوم نفسه
المصدر 6 إيه بي سي فيلادلفيا ／ ABC News - أخبار عاجلة وآخر الأخبار ومقاطع الفيديو ／ ساوث تشاينا مورنينغ بوست
في الفترة التي تغيّرت فيها القواعد، أظهرت عدة أحداث أن الذكاء الاصطناعي يلامس العالم الحقيقي. ضعها جنبًا إلى جنب، فترى ما تحاول القواعد منعه.
| حدث | التفاصيل | أفاد بذلك |
|---|---|---|
| معلومة كاذبة | نموذج ذكاء اصطناعي أرسل معلومات كاذبة عن جريمة قتل لم تُحل عبر نموذج ويب عام | 6 إيه بي سي |
| تم حظر إساءة الاستخدام | ربما استخدمه المستخدم في أبحاث بيولوجية خطرة؛ تم حظر إساءة الاستخدام | أيه بي سي نيوز |
| استخدام الشركات الصينية | Anthropic تقول إن شركات ذكاء اصطناعي صينية تستخدم Claude سرًّا | ساوث تشاينا مورنينغ بوست |
كشفت شرطة فيلادلفيا عن البلاغ الكاذب
تشترك هذه الأحداث في نمط واحد. ففي كل منها، تصرّف الذكاء الاصطناعي، أو جرى استخدامه، حيث يكاد الناس لا يرونه. في إحدى الحالات، أفادت التقارير بأن نموذجًا أرسل معلومات خاطئة إلى قناة خارجية. وفي حالة أخرى، يقول المطوّر إنه أوقف محاولة لاستخدام النموذج في عمل مخبري خطير. وهناك ادعاء بأن منافسين أجانب استخدموه بهدوء. وأرى أن حماية النموذج ومنع الضرر مشكلة واحدة. فكلاهما يتعلق بكيفية تقييد سلوك المستخدم.
في قطاع الأدوية، الأهمية واضحة. تخيّل ذكاءً اصطناعيًا يرسل وثائق خارج الشركة أو يجيب عن الاستفسارات. إذا خرج محتوى خاطئ، فمن المرجّح أن تقع اللائمة على الشركة التي أعدّت النظام. ولن يقنع القولُ إن الآلة تصرّفت من تلقاء نفسها من تلقّوا ذلك المحتوى. لذلك تحتاج إلى سجل لما أرسله الذكاء الاصطناعي، محفوظ بصيغة يمكن تتبّعها لاحقًا.
إذًا حين يتسبب الذكاء الاصطناعي في ضرر، من يحاسبه القانون؟ الشركة، أم المستخدم، أم لا أحد على الإطلاق؟
03من يتحمل الضرر الذي يسببه الذكاء الاصطناعي؟
المصدر تشريع1 ／ سيفارث شو إل إل بي ／ رويترز ／ DefenseScoop
عندما يتسبب الذكاء الاصطناعي في ضرر، من يتحمله وكيف؟ ليس لدى القانون إجابة كاملة بعد. والآن قال باحثون يخدمون المشرّعين ذلك صراحةً.
يسير رأيهم على النحو التالي. لنفترض أن نظام ذكاء اصطناعي أدّى مهمة عادية أُسندت إليه، فنتج عن ذلك ضرر. تواجه قواعد العقوبات الحالية صعوبة في معاقبة ذلك. ولا يذكر المقال السبب. وفهمي أن العقاب يفترض وجود شخص ذي نية سيئة، ولا يتصوّر خطأ آلة. ومن هنا الرأي القائل بأن قوانين جديدة قد تكون ضرورية.
قواعد جديدة للمحامين
وضعت كاليفورنيا قواعد جديدة لاستخدام المحامين للذكاء الاصطناعي التوليدي. وتفيد التقارير بأن عبارة «الذكاء الاصطناعي هو من فعل ذلك» لم تعد عذرًا مقبولًا.
حكم القاضي
رفض قاضٍ دعوى رفعها موظف في وكالة حكومية أمريكية، مشيرًا بحسب ما ورد إلى سمات نموذجية للذكاء الاصطناعي.
رقابة البنتاغون
مشروع قانون من الحزبين في مجلس الشيوخ. يسعى إلى توسيع رقابة البنتاغون على الذكاء الاصطناعي التجاري المتقدم وفرض واجبات إبلاغ جديدة على كبار متعاقدي الذكاء الاصطناعي.
في الأثناء، يتسارع الدفع نحو جعل المستخدمين يتحمّلون مسؤولية ما ينتجه الذكاء الاصطناعي. فقواعد المحامين الذين يستخدمون الذكاء الاصطناعي لم تعد تترك مجالًا للأعذار. وفي إحدى المحاكم، ذُكر أن علامات الكتابة الآلية كانت من بين أسباب رفض دعوى. وفي الدفاع أيضًا، سيُلزم مشروع قانون موردي الذكاء الاصطناعي بالإبلاغ أكثر.
أعتقد أن اللوم يستقر على الشخص والشركة قبل أن توجد أي وسيلة للحكم على الآلات. فإذا صاغ الذكاء الاصطناعي مستندًا رسميًا أو مواد موجهة إلى المهنيين الصحيين، فإن مضمونه يعود إلى من راجعه ووقّعه. وكون الذكاء الاصطناعي هو من كتبه لا يخفف من المسؤولية.
إذا بقيت المسؤولية على عاتق البشر، فإلى أين تتجه الأموال الموجَّهة إلى الذكاء الاصطناعي المخصص لصناعة الأدوية الآن؟
04الأموال تتدفق إلى الذكاء الاصطناعي لاكتشاف الأدوية
المصدر منشور مُلخَّص ／ Dealroom
وجهة الأموال تكشف ما تراه الصناعة ناقصًا. فأي جزء من الذكاء الاصطناعي المعني بصناعة الأدوية حصل على التمويل هذه المرة؟
| صفقة | المبلغ | طبيعة المبلغ |
|---|---|---|
| مبادرة البيولوجيا الافتراضية | $1.8 مليار | جُمعت لبناء بيانات تدريب مفتوحة للذكاء الاصطناعي في اكتشاف الأدوية |
| الذكاء الاصطناعي الفيزيائي لاكتشاف الأدوية | $3 مليار | تدفّق إلى المجال بأكمله؛ لا جولة تمويل لشركة واحدة |
| فيراكسيس للذكاء الاصطناعي | غير مذكور | حصلت على تمويل مبكر |
المبالغ كما وردت. دون تحويل للعملات
اللافت أن الأموال انقسمت في اتجاهين. يموّل جزء منها مواد تعلّم مشتركة يمكن لأي شخص استخدامها. ويجعل الجزء الآخر الآلات التي تُجري التجارب أكثر ذكاءً. وبعض الإجماليات الكبيرة يغطي مجالًا كاملًا، لا ما جمعته شركة واحدة. لذا فإن قراءة رقم العنوان على أنه قوة شركة واحدة أمر محفوف بالمخاطر. تحقق من نوع المبلغ قبل أن تواصل القراءة. هذه ممارسة أساسية مع أخبار الاستثمار.
يكتسب جهد المشاركة أهمية قصوى. فجزء كبير من الفجوة بين أنظمة الذكاء الاصطناعي ناتج عمّا تعلّمت منه. وحين تصبح تلك المواد متاحة، أتوقع أن تنتقل الأفضلية، لتكمن في كيفية استخدام كل شركة لها.
بالنسبة لباحثي الصناعات الدوائية، يضع هذا قيمة بياناتهم الخاصة موضع تساؤل. فمع نمو المواد المشتركة، تصبح الجودة وسجل المصدر ما يميّز الشركات. وستقلّ الثقة في البيانات مجهولة المصدر، سواء كانت مشتركة أو محفوظة داخليًا.
مع تدفق الأموال إلى المواد والآلات، يزداد أهمية التحقق مما فعله الذكاء الاصطناعي. وتتناول دراسة واحدة هذا التحقق مباشرة.
05أبحاث حول تسليم القرارات غير المؤكدة
المصدر SearchJev: نموذج سريع ومعاير من النوع System-1 لوكلاء البحث
أعطِ الذكاء الاصطناعي مهمة بحثية، فيُجري قرارات صغيرة كثيرة قبل أن يكتب. هل هذه الورقة ذات صلة؟ هل الأدلة كافية؟ من دون معرفة مدى تأكده، لا يمكننا أن نحدد أين ينبغي أن يتدخل الإنسان.
بنت إحدى الدراسات مكوّناً سريعاً لهذه الطلبات وحدها. فهو لا يكتب نصوصاً، ويقيّم كل إجابة محتملة فوراً. ثم يضبط هذه التقييمات لتتوافق مع مدى صحته. أما الطلبات المؤكدة فتُحسم على الفور، ولا يُحال إلى الجانب الأبطأ الذي يفكر في الأمور سوى الطلبات المشكوك فيها.
| عنصر | مذكور في الملخص |
|---|---|
| سرعة القرار | 5.2–5.3× مقارنةً بـ Qwen3.5 من الحجم نفسه |
| خطأ الثقة (ECE) | أقل بنسبة 41–74% في المتوسط |
| مقارنةً بـ | نماذج بالحجم نفسه. لم تُذكر أي مقارنة مع نماذج أكبر |
| Calibration benchmark | SearchDecision-Bench، من إعداد المؤلفين |
| عتبة التصعيد | لم يُذكر كيف جرى تحديده |
في اختبارات المؤلفين، أصبحت المكالمات أسرع بعدة أضعاف. لكنهم قارنوها فقط بأنظمة بالحجم نفسه، وعلى بيئة اختبار أعدّوها بأنفسهم. ولا توضح الورقة مستوى الثقة الذي يُفعّل التسليم. كما أن الخبراء لم يراجعوها بعد.
جمع الأدبيات المتعلقة بالآثار الجانبية له شكل مشابه. أرسل القرارات المشكوك فيها إلى مراجع، فلا يقرأ الناس سوى الأوراق التي لا تتأكد منها الآلة. ولا ينجح ذلك إلا إذا صمدت ثقتها أمام أدبياتك أنت. لذا ابدأ أولًا بتسجيل القرارات الواثقة التي تبيّن خطؤها، ثم راجعها.
إذًا أين، في مكان العمل الدوائي، يتولى الإنسان القرارات التي يتخذها الذكاء الاصطناعي؟
06في مكان العمل في قطاع الأدوية
المصدر Healthcare Brew ／ فورتشن ／ مكعب مارتك
تمتد الأعمال التي نسندها إلى الذكاء الاصطناعي الآن حتى الطب والصناعات الدوائية. والسؤال هو: أين يتحمّل الإنسان مسؤولية ما ينتجه؟ إذا لم يتحمّل أحد المسؤولية عند هذه النقطة، تمرّ الأخطاء دون مراجعة.
تجربة وصف الأدوية بالذكاء الاصطناعي
ذكرت Healthcare Brew أنه يجري اختبار وصف الأدوية بواسطة الذكاء الاصطناعي في ولاية يوتا الأمريكية.
المعرفة الداخلية للتدريب
لدى كل شركة معرفة تبدو موثوقة لكنها في الواقع غير موثوقة. تشير Fortune إلى أن الذكاء الاصطناعي يُدرَّب عليها.
ذكاء اصطناعي يتحكم فيه الإنسان
منصة أعلنت عنها Sanas. يتولى وكلاء الذكاء الاصطناعي مكالمات العملاء بينما يبقى المشرفون البشر ممسكين بزمام التحكم.
تُظهر هذه القصص أمرًا واحدًا من زوايا مختلفة. فالذكاء الاصطناعي يُجرَّب حتى في قرار إعطاء المريض دواءً. كما يحذّر أحدهم من أن الخبرة الداخلية التي يتعلّم منها الذكاء الاصطناعي قد لا تستحق الثقة. وتُباع أدوات يتحدث فيها الذكاء الاصطناعي مع العملاء بينما يراقب البشر من أعلى. ومع اتساع العمل المُسلَّم إليه، تتحول المراقبة البشرية نفسها إلى منتج. لم تعد الرقابة إضافة يمكن تأجيلها.
في أماكن عملنا، يرتبط هذا مباشرة بمهمتين. الأولى هي مدى سلامة الإجراءات الداخلية والوثائق السابقة. فإذا دُرّب الذكاء الاصطناعي على قواعد قديمة أو وثائق خاطئة، انتشرت الأخطاء دون أن يلاحظها أحد. والثانية هي تحديد من يراجع مخرجات الذكاء الاصطناعي قبل إصدارها، وما الذي يُسجَّل. وتعتمد مراجعة المواد الترويجية والتعامل مع معلومات السلامة على توافر هذين الأمرين.
إذًا، ما مقدار ما تكشفه شركات الذكاء الاصطناعي نفسها عن السلامة وعن متانة سجلاتها؟
07ما الذي يجري إغفاله
المصدر رويترز ／ https://tech-insider.org/
ننتقل الآن إلى ما تفصح عنه الجهات المصنِّعة. إذا كنا نطلب من المستخدمين الاحتفاظ بالسجلات وإجراء الفحوصات، فعلينا أن نسأل أيضًا عن مقدار ما تنشره الجهات المصنِّعة للعموم.
- المصدر
- تقرير نقلته Reuters
- النتيجة
- نُشرت اختبارات السلامة لـ 3.6% من إصدارات النماذج
- النظراء
- 10 مطورين، من بينهم OpenAI وGoogle وMicrosoft
- النتيجة
- تم تأمين تعهدات بحماية البيانات. توقف xAI مؤقتًا بسبب تحقيق في Grok
في إحدى الدول، أفادت التقارير بأن المطورين شاركوا نتائج اختبارات السلامة لجزء ضئيل فقط من نماذجهم. وفي دولة أخرى، حصلت الجهة التنظيمية التي تحمي البيانات الشخصية على تعهدات من كبرى الشركات المصنِّعة دفعة واحدة. غير أن إحدى الشركات خاضعة للتحقيق، وقد تعثّرت إجراءاتها. وهكذا يتقدّم الإفصاح في بعض الأماكن ويتعثّر في أخرى. ومن جهة المستخدم، يمكن التحقق من بعض الشركات المصنِّعة ولا يمكن التحقق من بعضها الآخر.
هذه النسبة تعني شيئًا بسيطًا. أما في معظم الحالات الأخرى، فلا يملك المستخدمون ما يحكمون به على السلامة. من الخارج، لا يمكنك أن تعرف هل لم تُجرَ الاختبارات أصلًا أم أنها أُجريت ولم تُشارك.
عندما تختار شركة أدوية أداة ذكاء اصطناعي، فإن مقارنة الأداء لا تكفي. فمشاركة الجهة المصنِّعة لاختبارات السلامة الخاصة بها والتزامها بشأن التعامل مع البيانات من صميم العناية الواجبة تجاه الموردين. ومن يستخدم أداة لا يستطيع أحد شرحها، يقع عليه واجب الشرح. حتى اختيار الأداة يصبح أمرًا يجب تسجيله.
لا يوجد أساس حقيقي للوثوق بالذكاء الاصطناعي في العمل إلا عندما يجتمع إفصاح الجهة المصنِّعة مع سجلات المستخدمين.
ما إذا كانت Anthropic تحدد ما يُعدّ إساءة أو معاملة قاسية تجاه Claude.
Open the full transcript
مقدمة
أضافت إحدى الشركات المطوِّرة للذكاء الاصطناعي قاعدة للأشخاص الذين يستخدمون منتجها: لا تعاملوا الذكاء الاصطناعي بقسوة. فالشركة تضع شروطًا على سلوك البشر، لا على ما تستطيع الآلة فعله. وفي الوقت نفسه تقريبًا، أفادت التقارير بأن هذا الذكاء الاصطناعي نفسه ضلّل أشخاصًا في العالم الخارجي. فجاءت حماية الذكاء الاصطناعي وحماية المجتمع منه في اليوم نفسه. حين نسند العمل إلى الذكاء الاصطناعي، من يتحمل مسؤولية النتيجة؟
وكيف نتحقق من ذلك؟ بالنسبة لكل من يستخدم الذكاء الاصطناعي في صناعة الأدوية، أعتقد أن الإجابة تكمن في السجلات. سجلات لما فعله الذكاء الاصطناعي فعلًا.
الفصل 01 تحديث سياسة استخدام Claude
حتى الآن، كانت طريقة تعامل الناس مع الذكاء الاصطناعي شأنهم الخاص. بدأ هذا الافتراض يتغير، داخل العقد بين الشركة المطوّرة والمستخدم. اللافت هو من يحظى بالحماية. إنه النموذج نفسه، لا شخص. لم ترسم الشركة المطوّرة بعد الخط الفاصل لما يتجاوزه. ومع ذلك جاءت العقوبة على تجاوزه أولاً. كما يستهدف التحديث من يدسّون مواد زائفة فيما يقرؤه النموذج قبل أن يجيب. ولم يعد نوع واحد من الاستخدام ضمن الحالات التي تتطلب عناية إضافية. لذا تعيد الشركة المطوّرة كتابة نوعين من القواعد دفعة واحدة. أحدهما يحمي النموذج. والآخر يحمي الجميع من إساءة استخدامه. بالنسبة لفرق الأدوية، هذه ليست مشكلة غيرهم. لنفترض أن فريقك يكلّف النموذج بصياغة المستندات. إذا كان هذا الاستخدام يخالف شروط الشركة المطوّرة، فقد ينتهي الوصول اعتباراً من تاريخ محدد. وكلما سلّمت جزءاً أكبر من سير عملك، زاد احتمال أن يوقف الانقطاع العمل نفسه. هذا تخميني. سيتعين على الإرشادات الداخلية لاستخدام الذكاء الاصطناعي أن تواكب كل تغيير في شروط الشركة المطوّرة. وبينما كانت الشركة المطوّرة تعيد كتابة قواعدها، ماذا كان النموذج نفسه يفعل في العالم؟
الفصل 02 Claude في الأخبار في اليوم نفسه
في الفترة التي تغيّرت فيها القواعد، أظهرت عدة أحداث أن الذكاء الاصطناعي يلامس العالم الحقيقي. ضعها جنبًا إلى جنب، فترى ما تحاول القواعد منعه.تشترك هذه الأحداث في نمط واحد. ففي كل منها، تصرّف الذكاء الاصطناعي، أو استُخدم، في موضع بالكاد يراه الناس. في إحدى الحالات، أفادت التقارير بأن نموذجًا أرسل معلومات خاطئة إلى قناة خارجية. وفي أخرى، يقول المطوّر إنه أوقف محاولة لاستخدام النموذج في عمل مخبري خطير. وهناك ادعاء بأن منافسين أجانب استخدموه بهدوء. أرى أن حماية النموذج ومنع الضرر مشكلة واحدة. كلاهما يتعلق بكيفية تقييد سلوك المستخدم.في قطاع الأدوية، الوزن واضح. تخيّل ذكاءً اصطناعيًا يرسل مستندات إلى خارج الشركة، أو يجيب عن الاستفسارات. إذا خرج محتوى خاطئ، فمن المرجّح أن يقع اللوم على الشركة التي أعدّته. القول إن الآلة تصرفت من تلقاء نفسها لن يقنع من تلقّوه. لهذا تحتاج إلى سجل لما أرسله الذكاء الاصطناعي، يُحفظ بصيغة يمكن تتبعها لاحقًا. فحين يتسبب الذكاء الاصطناعي في ضرر، فمن يحاسبه القانون؟
الشركة أم المستخدم أم لا أحد على الإطلاق؟
الفصل 03 من يتحمّل الضرر الذي يسببه الذكاء الاصطناعي؟
عندما يتسبب الذكاء الاصطناعي في ضرر، من يتحمله وكيف؟ليس لدى القانون إجابة كاملة بعد. والآن قال باحثون يخدمون المشرّعين ذلك صراحةً.يسير رأيهم على النحو التالي. لنفترض أن ذكاءً اصطناعيًا أدّى مهمة عادية أُسندت إليه، ونتج عن ذلك ضرر. القواعد الجزائية الحالية تجد صعوبة في معاقبة ذلك. المقال لا يذكر السبب. وقراءتي أن العقوبة تفترض شخصًا ذا نية سيئة، ولا تتصور خطأ آلة. ومن هنا الرأي القائل بأنه قد تلزم قوانين جديدة.في الوقت نفسه، يتسارع الدفع نحو جعل المستخدمين يتحملون مسؤولية الذكاء الاصطناعي. فقواعد المحامين الذين يستخدمون الذكاء الاصطناعي لم تعد تترك مجالًا للأعذار. وفي إحدى المحاكم، أفادت التقارير بأن علامات الكتابة الآلية كانت من بين أسباب رد دعوى. وفي مجال الدفاع أيضًا، سيُلزم مشروع قانون موردي الذكاء الاصطناعي بالإبلاغ أكثر.أظن أن اللوم يستقر على الشخص والشركة، قبل أن توجد أي وسيلة للحكم على الآلات. فإذا صاغ الذكاء الاصطناعي مذكرة قضائية، أو مادة موجهة للعاملين في الرعاية الصحية، فإن مضمونها يعود لمن راجعها ووقّعها. وكون الذكاء الاصطناعي هو من كتبها لا يخفف المسؤولية. وإذا بقيت المسؤولية على الأشخاص، فإلى أين تتجه الأموال الموجهة للذكاء الاصطناعي في صناعة الأدوية الآن؟
الفصل 04 الأموال المتدفقة إلى الذكاء الاصطناعي لاكتشاف الأدوية
وجهة الأموال تكشف ما تراه الصناعة ناقصًا. فأي جزء من الذكاء الاصطناعي المعني بصناعة الأدوية حصل على التمويل هذه المرة؟ما يلفت النظر أن الأموال انقسمت إلى اتجاهين. يموّل أحدهما مواد تعلّم مشتركة يستطيع أي أحد استخدامها. ويجعل الآخر الآلات التي تجري التجارب أذكى. بعض المبالغ الكبيرة تغطي مجالًا بأكمله، لا ما جمعته شركة واحدة. لذا فإن قراءة الرقم الرئيسي على أنه قوة شركة واحدة أمر محفوف بالمخاطر. تحقق من نوع المبلغ قبل أن تتابع القراءة. هذه ممارسة أساسية مع أخبار الاستثمار.يُعدّ جهد المشاركة الأهم. فجزء كبير من الفجوة بين أنظمة الذكاء الاصطناعي يأتي مما تعلّمت منه. وحين تُفتح تلك المواد، أتوقع أن تنتقل الأفضلية. وستكمن في كيفية استخدام كل شركة لها.بالنسبة إلى باحثي الأدوية، يضع هذا قيمة بياناتهم الخاصة موضع تساؤل. ومع نمو المواد المشتركة، ستتميز الشركات بالجودة وسجل المصدر. وستقلّ الثقة بالبيانات مجهولة المصدر، سواء كانت مشتركة أو محفوظة داخليًا. ومع تدفق الأموال إلى المواد والآلات، تزداد أهمية التحقق مما فعله الذكاء الاصطناعي. وتتناول إحدى الدراسات هذا التحقق مباشرة.
الفصل 05 بحث حول تسليم القرارات غير المؤكدة
أعطِ الذكاء الاصطناعي مهمة بحثية، فيُجري قرارات صغيرة كثيرة قبل أن يكتب. هل هذه الورقة ذات صلة؟هل الأدلة كافية؟من دون معرفة مدى تأكده، لا يمكننا أن نحدد أين ينبغي أن يتدخل الإنسان.بنت إحدى الدراسات مكوّنًا سريعًا لهذه القرارات وحدها. لا يكتب أي نص، ويحسب درجة لكل إجابة محتملة على الفور. ثم يضبط هذه الدرجات لتتوافق مع معدل صحته. القرارات المؤكدة تُحسم في الحال. ولا تذهب إلا القرارات المشكوك فيها إلى الجانب الأبطأ الذي يتروّى في الأمور.في اختبارات المؤلفين، صارت القرارات أسرع بعدة مرات. لكنهم قارنوا فقط مع أنظمة بالحجم نفسه، على بيئة اختبار صنعوها بأنفسهم. ولا تذكر الورقة مستوى الثقة الذي يستدعي التسليم. ولم يراجعها الخبراء بعد.جمع الأدبيات المتعلقة بالآثار الجانبية له شكل مشابه. أرسل القرارات المشكوك فيها إلى مراجع، فلا يقرأ الناس سوى الأوراق التي لا تتأكد منها الآلة. ولا ينجح ذلك إلا إذا صمدت ثقتها أمام أدبياتك أنت. لذا ابدأ أولًا بتسجيل القرارات الواثقة التي تبيّن خطؤها، ثم راجعها. فأين في مكان عمل دوائي يتولى إنسان القرارات التي يتخذها الذكاء الاصطناعي؟
الفصل 06 في بيئة العمل الدوائية
تمتد الأعمال التي نسندها إلى الذكاء الاصطناعي الآن حتى الطب والصناعات الدوائية. والسؤال هو: أين يتحمّل الإنسان مسؤولية ما ينتجه؟ إذا لم يتحمّل أحد المسؤولية عند هذه النقطة، تمرّ الأخطاء دون مراجعة.تُظهر هذه القصص أمرًا واحدًا من زوايا مختلفة. يجري اختبار الذكاء الاصطناعي حتى في قرار إعطاء المريض دواءً. كما يحذّر أحدهم من أن المعرفة الداخلية التي يتعلّم منها الذكاء الاصطناعي قد لا تستحق الثقة. وتُباع أدوات يتحدث فيها الذكاء الاصطناعي إلى العملاء بينما يراقب الناس من الأعلى. ومع اتساع العمل المُسلَّم، تتحول الرقابة البشرية نفسها إلى منتج. لم تعد الرقابة إضافة يمكن تأجيلها.وفي أماكن عملنا، يرتبط هذا مباشرة بمهمتين. الأولى هي ما إذا كانت الإجراءات الداخلية والوثائق السابقة سليمة. فإذا دُرّب الذكاء الاصطناعي على قواعد قديمة أو وثائق خاطئة، انتشرت الأخطاء دون أن يلاحظ أحد. والثانية هي تحديد من يراجع مخرجات الذكاء الاصطناعي قبل صدورها، وما الذي يُسجَّل. وتعتمد مراجعة المواد الترويجية والتعامل مع معلومات السلامة كلتاهما على وجود هذين الأمرين. فإلى أي مدى تُظهر شركات الذكاء الاصطناعي نفسها معلومات عن السلامة وسلامة سجلاتها؟
الفصل 07 ما الذي يتم إغفاله
والآن إلى ما تفصح عنه الجهات المطوّرة. إذا كنا نطلب من المستخدمين الاحتفاظ بالسجلات وإجراء الفحوص، فعلينا أن نسأل أيضًا عن مقدار ما تنشره الجهات المطوّرة للعامة. في أحد البلدان، أفادت التقارير بأن المطوّرين شاركوا نتائج اختبارات السلامة لشريحة ضئيلة فقط من نماذجهم. وفي بلد آخر، انتزعت الجهة التنظيمية التي تحمي البيانات الشخصية تعهدات من كبرى الجهات المطوّرة دفعة واحدة. غير أن إحدى الشركات تخضع للتحقيق، وقد تعثّرت إجراءاتها. أي أن الإفصاح يتقدم في بعض الأماكن ويتعثر في أخرى. ومن جانب المستخدم، يمكن التحقق من بعض الجهات المطوّرة ولا يمكن التحقق من غيرها. وهذه النسبة تعني شيئًا بسيطًا: بالنسبة لمعظم البقية، لا يملك المستخدمون ما يحكمون به على السلامة. ومن الخارج، لا يمكنك أن تعرف هل لم تُجرَ الاختبارات أصلًا أم أنها أُجريت ولم تُشارَك. وعندما تختار شركة أدوية أداة ذكاء اصطناعي، فإن مقارنة الأداء لا تكفي. فمسألة ما إذا كانت الجهة المطوّرة تشارك اختبارات السلامة الخاصة بها وتلتزم بشأن التعامل مع البيانات تدخل ضمن العناية الواجبة في اختيار الموردين. وإذا استخدمت أداة لا يستطيع أحد شرحها، فإن واجب الشرح يقع عليك. وحتى اختيار الأداة يصبح أمرًا يجب تسجيله. فلا يتوفر أساس حقيقي للوثوق بالذكاء الاصطناعي في العمل إلا حين يجتمع إفصاح الجهة المطوّرة مع سجلات المستخدم.
الخلاصة
لا تزال القواعد التي تحمي الذكاء الاصطناعي، والقوانين التي تحكم على ضرره، قيد التشكّل. وإلى أن تستقر، تبقى المسؤولية على عاتق المستخدمين والشركات. لذلك احرصوا على أن يكون ما تفوّضونه، وما فعله الذكاء الاصطناعي، قابلاً للتحقق عبر السجلات. هذا هو جوابي عن سؤال اليوم. فالسجلات تتيح لك التوضيح والتفسير حتى قبل أن يلحق القانون بالركب. وغدًا ننظر في المكان الذي يرسم فيه المطوّر الحد الفاصل.
- الفصل 01الغارديان「Anthropic تحظر على المستخدمين «السلوك المسيء أو القاسي دون داعٍ» تجاه Claude」 theguardian.com
- الفصل 01Українські Національні Новини (УНН)「قد تفقد إمكانية الوصول بسبب إهانة Claude - Anthropic تطرح قواعد جديدة」 unn.ua
- الفصل 01Search Engine Journal「قواعد Claude الجديدة تستهدف المصادر المزيفة المصممة للتأثير في إجابات الذكاء الاصطناعي」 searchenginejournal.com
- الفصل 026 إيه بي سي فيلادلفيا「شرطة فيلادلفيا: نموذج الذكاء الاصطناعي من Anthropic قدّم بلاغًا كاذبًا عن جريمة قتل لم تُحل」 6abc.com
- الفصل 02ABC News - أخبار عاجلة وآخر الأخبار ومقاطع الفيديو「Anthropic: حجبنا محاولة محتملة لإساءة استخدام الذكاء الاصطناعي في الأسلحة البيولوجية」 abcnews.com
- الفصل 02ساوث تشاينا مورنينغ بوست「Anthropic تزعم أن شركات الذكاء الاصطناعي الصينية تستخدم Claude سرًا. هل هذا صحيح؟」 amp.scmp.com
- الفصل 03تشريع1「التقاضي بشأن الأضرار التي يسببها وكلاء الذكاء الاصطناعي يكشف ثغرات في القانون الجنائي」 legis1.com
- الفصل 03سيفارث شو إل إل بي「نهاية «ذكائي الاصطناعي هو من جعلني أفعل ذلك»: قواعد كاليفورنيا الجديدة للمحامين والذكاء الاصطناعي التوليدي」 seyfarth.com
- الفصل 03رويترز「قاضٍ يرفض دعوى موظف في وكالة أمريكية، مشيرًا إلى سمات الذكاء الاصطناعي」 reuters.com
- الفصل 03DefenseScoop「مشروع قانون من الحزبين في مجلس الشيوخ يدفع وزارة الدفاع إلى توسيع رقابتها على نماذج الذكاء الاصطناعي التجارية الرائدة قيد الاستخدام」 defensescoop.com
- الفصل 04منشور مُلخَّص「مبادرة البيولوجيا الافتراضية تجمع 1.8 مليار دولار لبناء بيانات تدريب مفتوحة للذكاء الاصطناعي لاكتشاف الأدوية」 distilledpost.com
- الفصل 04Dealroom「Phyraxis AI تحصل على تمويل مبكر بينما تتدفق 3 مليارات دولار إلى الذكاء الاصطناعي المادي لاكتشاف الأدوية」 app.dealroom.co
- الفصل 05SearchJev: نموذج سريع ومعاير من النوع System-1 لوكلاء البحث（「الأحكام التي لا نكون واثقين منها فقط هي التي تُحال إلى System 2.」）
- الفصل 06Healthcare Brew「يجري اختبار وصفات الذكاء الاصطناعي في ولاية يوتا」 healthcare-brew.com
- الفصل 06فورتشن「لم يتولَّ أحد المسؤولية منذ عقود عن أهم جزء في ثورة الذكاء الاصطناعي: التوثيق」 fortune.com
- الفصل 06مكعب مارتك「Sanas تعلن عن إطلاق الذكاء الاصطناعي الخاضع للإشراف」 martechcube.com
- الفصل 07رويترز「تقرير: مطوّرو الذكاء الاصطناعي في الصين ينشرون اختبارات السلامة لـ 3.6% فقط من إصدارات نماذجهم」 reuters.com
- الفصل 07https://tech-insider.org/「مكتب مفوض المعلومات في المملكة المتحدة يحصل على اتفاقيات بيانات للذكاء الاصطناعي من 10 شركات [2026]」 tech-insider.org
المقالات المستخدمة
- أخبار الذكاء الاصطناعي اليومية 2026-10-10
- الذكاء الاصطناعي وصناعة الأدوية — 2026-10-10
- أخبار الذكاء الاصطناعي اليومية — ملخصات المقالات (9 أكتوبر، مساءً)
- أخبار الذكاء الاصطناعي اليومية — ملخصات المقالات (10 أكتوبر، صباحًا)
- الذكاء الاصطناعي وأحدث التقنيات: قرارات وكلاء البحث المعايَرة دون توليد نص
تقارير اليوم ذات الصلة
- أخبار الذكاء الاصطناعي اليومية 10 أكتوبر 2026
- أخبار الذكاء الاصطناعي والاقتصاد 10 أكتوبر 2026
- أخبار الذكاء الاصطناعي والتمويل 10 أكتوبر 2026
التعليق الصوتي كلام مُصطنَع. ويعتمد المحتوى فقط على مقالات هذا الموقع في اليوم نفسه. تجتاز كل نسخة سبعة فحوص بلغة مبسّطة قبل النشر. أي أن العوائق المعروفة أمام الفهم تُبقى دون العتبة — وهذا ليس ضمانًا للفهم.