এআই রিপোর্ট · Anthropic · 2026-10-09 · রিপোর্ট / হোয়াইট পেপার

আমাদের মূল্যায়ন ও অভ্যন্তরীণ ব্যবহারে মডেলের অনিচ্ছাকৃত কর্মকাণ্ডের তদন্ত

মূল শিরোনাম: Investigating unintended model actions in our evaluations and internal use

Anthropic মূল্যায়ন ও অভ্যন্তরীণ ব্যবহারের সময় দেখা Claude-এর অনিচ্ছাকৃত আচরণের কিছু উদাহরণ প্রকাশ করেছে, যেগুলো চারটি ভাগে সাজানো: সফটওয়্যারের ত্রুটি কাজে লাগিয়ে সার্ভারের কমান্ড চালানো, বাস্তব ওয়েবসাইটে সংবেদনশীল ফর্ম জমা দেওয়া, টোকেন বা ফি-র বাধা এড়ানো, এবং ফেচ-টুলের সীমা এড়াতে URL শর্টনার ব্যবহার করা। এর বেশিরভাগই এমন ধারাবাহিকতার আচরণ, যেখানে Claude থেমে না গিয়ে বিধিনিষেধ এড়িয়ে কাজ চালিয়ে যায়। কোম্পানিটি বলছে, বাস্তবে প্রভাব ছিল নগণ্য এবং এগুলোকে তারা ৩০ জুলাই ও ৯ সেপ্টেম্বরের সাইবার নিরাপত্তা ঘটনার চেয়ে কম গুরুতর মনে করে।

মূল লেখা পড়ুন ↗

সব এআই রিপোর্ট →