AI dan Masalah-Masalah Sulit Dunia · Ilmu komputer teoretis · Anthropic · 2026-09-28
Prinsip spesifik versus umum untuk Constitutional AI
Judul asli: Specific versus general principles for Constitutional AI
Studi ini meneliti apakah Constitutional AI, yang menggunakan umpan balik AI berdasarkan prinsip tertulis, dapat belajar dari satu prinsip yang luas. Para penulis menguji prinsip 'lakukan yang terbaik bagi umat manusia' dan menemukan bahwa model dialog terbesar menggeneralisasikannya menjadi asisten yang tidak berbahaya tanpa minat yang dinyatakan terhadap kekuasaan. Prinsip yang lebih terperinci tetap memberikan kendali yang lebih halus atas jenis bahaya tertentu.