AI 與世界的難題 · 理論資訊科學 · arXiv · 2026-10-23
TrustedCode：透過自動化程式驗證評估大型語言模型開發可信程式碼的能力
原標題: TrustedCode: Evaluating Large Language Models for Developing Trusted Code through Automated Program Verification
由於 AI 生成的程式碼並不可靠，形式化驗證是建立信任的一種有前景的方式，但現有工具大多針對 Java 和 C，而非 Python。作者提出 TrustedCode，它利用大型語言模型對 Python 進行型別檢查，透過 Why3 將其轉譯為 WhyML，並以 Why3 的自動化證明器依據形式化規格進行驗證。在十個 Python 程式的實驗中，所觀察到的錯誤有 50% 源自領域知識的缺漏，30% 源自語法，20% 源自語意與型別問題；該工具為開源。