La IA y los problemas difíciles del mundo · Informática teórica · arXiv · 2026-10-23
TrustedCode: evaluación de grandes modelos de lenguaje para desarrollar código confiable mediante verificación automatizada de programas
Título original: TrustedCode: Evaluating Large Language Models for Developing Trusted Code through Automated Program Verification
Dado que el código generado por IA no es fiable, la verificación formal es una vía prometedora para establecer confianza, pero las herramientas existentes se centran sobre todo en Java y C en lugar de Python. Los autores presentan TrustedCode, que utiliza LLM para comprobar los tipos de Python, traducirlo a WhyML mediante Why3 y verificarlo con especificaciones formales usando los demostradores automáticos de Why3. En experimentos con diez programas de Python, el 50% de los errores observados provino de lagunas de conocimiento del dominio, el 30% de la sintaxis y el 20% de problemas semánticos y de tipos; la herramienta es de código abierto.