AI na Matatizo Magumu ya Ulimwengu · Sayansi ya kompyuta ya kinadharia · Anthropic · 2026-09-28
Kupima uaminifu katika hoja za Chain-of-Thought
Kichwa asilia: Measuring faithfulness in Chain-of-Thought reasoning
Utafiti huu unauliza kama hoja ya chain-of-thought inaakisi mchakato halisi wa uamuzi wa muundo. Waandishi waliingilia hoja hiyo, kwa mfano kwa kuongeza makosa au kuifafanua kwa maneno mengine, kisha wakachunguza jinsi utabiri ulivyobadilika. Uaminifu ulitofautiana kulingana na kazi, na kwenye kazi nyingi zilizochunguzwa ulipungua kadiri miundo ilivyokuwa mikubwa na yenye uwezo zaidi.