KI und die schwierigen Probleme der Welt · Theoretische Informatik · arXiv · 2026-10-23
TrustedCode: Bewertung großer Sprachmodelle bei der Entwicklung vertrauenswürdigen Codes durch automatisierte Programmverifikation
Originaltitel: TrustedCode: Evaluating Large Language Models for Developing Trusted Code through Automated Program Verification
Da KI-generierter Code unzuverlässig ist, ist formale Verifikation ein vielversprechender Weg, Vertrauen herzustellen, doch bestehende Werkzeuge zielen meist auf Java und C statt auf Python. Die Autoren stellen TrustedCode vor, das mithilfe von LLMs Python typprüft, über Why3 in WhyML übersetzt und anhand formaler Spezifikationen mit den automatisierten Beweisern von Why3 verifiziert. In Experimenten mit zehn Python-Programmen gingen 50 % der beobachteten Fehler auf Lücken im Domänenwissen zurück, 30 % auf die Syntax und 20 % auf semantische und Typprobleme; das Werkzeug ist Open Source.