L'IA face aux grands problèmes du monde · Informatique théorique · arXiv · 2026-10-23
TrustedCode : évaluation des grands modèles de langage pour le développement de code de confiance par la vérification automatisée de programmes
Titre original: TrustedCode: Evaluating Large Language Models for Developing Trusted Code through Automated Program Verification
Le code généré par l'IA n'étant pas fiable, la vérification formelle est une voie prometteuse pour établir la confiance, mais les outils existants ciblent surtout Java et C plutôt que Python. Les auteurs présentent TrustedCode, qui utilise des LLM pour vérifier les types de Python, le traduire en WhyML via Why3, puis le vérifier par rapport à des spécifications formelles avec les prouveurs automatiques de Why3. Dans des expériences sur dix programmes Python, 50 % des erreurs observées provenaient de lacunes dans la connaissance du domaine, 30 % de la syntaxe et 20 % de problèmes sémantiques et de types, et l'outil est open source.