AI与世界难题 · 理论计算机科学 · arXiv · 2026-10-23
TrustedCode:通过自动化程序验证评估大语言模型开发可信代码的能力
原标题: TrustedCode: Evaluating Large Language Models for Developing Trusted Code through Automated Program Verification
由于AI生成的代码不可靠，形式化验证是建立信任的一种有前景的方式，但现有工具大多针对Java和C，而非Python。作者提出了TrustedCode，它利用大语言模型对Python进行类型检查，通过Why3将其翻译为WhyML，并使用Why3的自动证明器依据形式化规约进行验证。在对十个Python程序的实验中，所观察到的错误有50%源于领域知识的缺失，30%源于语法，20%源于语义和类型问题，该工具已开源。