KI und die schwierigen Probleme der Welt · Theoretische Informatik · Anthropic · 2026-09-28
Spezifische versus allgemeine Prinzipien für Constitutional AI
Originaltitel: Specific versus general principles for Constitutional AI
Die Studie untersucht, ob Constitutional AI, das auf schriftlichen Prinzipien basierendes KI-Feedback nutzt, aus einem einzigen breiten Prinzip lernen kann. Die Autoren testeten das Prinzip „Tu, was für die Menschheit am besten ist“ und stellten fest, dass die größten Dialogmodelle es zu harmlosen Assistenten verallgemeinerten, die kein erklärtes Interesse an Macht haben. Detailliertere Prinzipien ermöglichten dennoch eine feinere Kontrolle über bestimmte Arten von Schaden.