Investigación

Agentes de IA y autocorrección de software: la importancia de prever errores

Por 5 min de lectura
Foto ilustrativa: Free code computer screen image

Imagen: Free code computer screen image · CC0 · vía Openverse / rawpixel. Imagen ilustrativa, no procede de la noticia.

Claves

  • Científicos de Tsinghua, Virginia y Microsoft Research plantean un filtro para que los agentes detecten si sus ajustes de código empeorarán el sistema.
  • El módulo IDM concede una segunda oportunidad de corrección cuando pronostica que una tarea no llegará a buen término.
  • La resolución de retos de programación subió de una mediana del 22% a rozar el 30% gracias a este mecanismo de previsión.
  • El proceso aumentó el consumo medio hasta 170 millones de tokens en cuarenta ciclos, frente a los 49 millones del esquema previo.
  • Los autores aclaran que estos ensayos no garantizan estabilidad en entornos de producción ni prescinden del criterio de desarrolladores humanos.

Un nuevo enfoque para la autoedición de software mediante IA

En el ámbito de la ingeniería informática, cualquier variación introducida en un programa para optimizar una función concreta corre el peligro de desestabilizar otras partes que ya operaban correctamente. Cuando este reto se traslada a los agentes inteligentes concebidos para alterar sus directrices y su código interno, el peligro de introducir anomalías imprevistas se multiplica.

Para abordar esta dificultad, un equipo científico vinculado a Microsoft Research junto a las universidades de Virginia y Tsinghua ha publicado en el repositorio arXiv un estudio centrado en dotar a estas entidades de una fase previa de evaluación. En lugar de ejecutar directamente cada cambio, la tecnología intenta pronosticar si la modificación provocará un retroceso. El propósito de este trabajo no radica en volver a entrenar las redes neuronales subyacentes, sino en afinar las instrucciones y rutinas con las que estos sistemas desarrollan su trabajo diario.

Cómo funciona la arquitectura de predicción preventiva

El marco del experimento se apoya en HyperAgents, una estructura donde dos entidades cooperan: una asume la resolución práctica de encargos y la otra formula ajustes técnicos para ambas, con facultad añadida de modificar sus propias pautas. Este concepto enlaza con antecedentes previos orientados a la autoevolución algorítmica, como la iniciativa Darwin Gödel Machine difundida por Sakana AI en 2025.

La gran aportación de la investigación actual radica en la incorporación del denominado Improvement Dynamics Model (IDM). Este módulo examina la propuesta técnica y, tomando como referencia el historial acumulado, calcula el desenlace probable. Es capaz de discernir entre un fallo puntual de respuesta y una detención completa del flujo de trabajo. Cuando prevé que el cambio causará un perjuicio, autoriza un ciclo adicional de revisión antes del ensayo formal.

Un caso documentado durante las pruebas ilustra bien este funcionamiento: un problema de sintaxis provocado por la omisión involuntaria de comillas impidió al agente culminar su labor antes de agotar los recursos de llamada. El predictor anticipó la imposibilidad de finalizar la tarea y forzó una rectificación que permitió finalmente completar con éxito 11 encargos.

Eficacia técnica frente al gasto computacional

Los científicos evaluaron este mecanismo sometiéndolo a 166 ejercicios de programación totalmente ajenos a la etapa de ajuste previo. Para dar por superado cada ejercicio, la solución planteada debía superar una batería estricta de verificaciones:

  • Agente de referencia inicial: obtuvo una efectividad aproximada del 16%.
  • Esquema HyperAgents sin predicción: situó su mediana de acierto en torno al 22%.
  • Esquema con predictor IDM: alcanzó una mediana próxima al 30% tras cinco rondas de prueba.

Adicionalmente, el modelo predictivo demostró versatilidad al ser entrenado con tareas de selección de artículos o diseño robótico y transferirse después a la valoración de ejercicios matemáticos, donde la coincidencia con evaluadores humanos alcanzó el 55% en mediana, superando el 47% del método base.

Sin embargo, la precisión tiene una contrapartida económica y técnica evidente. Durante 40 rondas de programación, el sistema asistido por el predictor consumió un promedio estimado de 170 millones de tokens, mientras que el formato previo requirió cerca de 49 millones. Aunque al equiparar el volumen de tokens la técnica predictiva conservó una superioridad del 10,9% en rendimiento acumulado, los propios investigadores señalan la ausencia de una estimación integral sobre el coste global de cómputo.

Qué supone este hallazgo para las empresas en España

Para el tejido empresarial español, compuesto en su inmensa mayoría por pymes y organizaciones medianas, estas investigaciones marcan pautas estratégicas sobre el uso prudente de la inteligencia artificial:

  • Insustituibilidad del equipo técnico: El propio informe subraya que estos ensayos de laboratorio distan de acreditar solvencia en entornos empresariales reales. Ninguna organización debería prescindir de la supervisión que aportan los programadores profesionales.
  • Impacto directo en costes de API: Las arquitecturas que delegan decisiones y validaciones cruzadas entre múltiples agentes multiplican el consumo de procesamiento, lo que exige calcular con rigor la rentabilidad antes de desplegarlas.
  • Robustez en los cimientos digitales: En vez de apostar por sistemas totalmente autónomos e inestables, resulta mucho más seguro implantar proyectos sólidos de software a medida que aíslen la lógica de negocio y prevengan corrupciones de datos.

Pautas para abordar la automatización con criterio

Al proyectar iniciativas corporativas de automatización con IA, la principal enseñanza de este estudio consiste en interponer barreras de contención antes de la ejecución definitiva. Establecer entornos de validación controlados, limitar el número máximo de iteraciones y auditar los consumos de tokens son prácticas indispensables para cualquier directivo que busque innovación sin asumir riesgos operacionales desproporcionados.

Preguntas frecuentes

¿Pueden los agentes de IA reprogramar ya los sistemas de una empresa?

En absoluto. Los autores de la investigación aclaran que se trata de ensayos académicos que no demuestran fiabilidad en entornos reales ni reemplazan a los profesionales del desarrollo de software.

¿Qué función cumple el modelo predictivo IDM en este experimento?

Analiza las modificaciones de código propuestas y anticipa si provocarán errores graves o bloqueos, otorgando una revisión extra al agente antes de ejecutar los cambios definitivos.

¿Compensa el incremento de gasto computacional que exige este método?

Depende de la criticidad del proceso. La tasa de acierto subió del 22% a casi el 30%, pero requirió 170 millones de tokens frente a los 49 millones del esquema convencional.

Fuentes

  1. Los agentes de IA están aprendiendo a mejorar su propio software. La clave puede estar en predecir sus errores antes de cometerlos — Xataka, 16 de octubre de 2026

Artículo de análisis elaborado por la Redacción NuborAI a partir de las fuentes citadas. Las citas textuales se atribuyen a sus autores.

  • #agentes de ia
  • #desarrollo de software
  • #investigacion ia
  • #modelos de lenguaje

¿Lo aplicamos en tu empresa?

En NuborAI diseñamos automatizaciones con IA, agentes y software a medida para pymes en España. Te contamos qué tiene sentido en tu caso.

Hablemos de tu proyecto