HeadlinesBriefing HeadlinesBriefing.com

Tus seis modelos de IA son en realidad dos: errores

Towards Data Science •
×

El 9 de octubre, Vals AI puso a prueba si los equipos de agentes de programación valen lo que cuestan. GPT 6 Sol y Claude Opus 5.5 construyeron 50 aplicaciones web, cada uno por su cuenta y como equipo con subagentes, con un esfuerzo de razonamiento medio y máximo. Los equipos costaron entre 1,8 y 5,1 veces más. De las cuatro comparaciones entre equipo y agente individual, solo una fue estadísticamente significativa: Sol con esfuerzo medio, que ganó 7,3 puntos. En el caso de Sol, elevar el esfuerzo de razonamiento del agente individual de medio a máximo añadió 11,4 puntos, más de lo que añadió un equipo con esfuerzo medio.

Ese estudio trata sobre la división del trabajo, no sobre si los agentes cometen los mismos errores. Aun así, plantea una pregunta: cuando añades otro modelo a una votación, ¿cuántas opiniones independientes aportas realmente? El teorema del jurado de Condorcet, de 1785, sugiere que la precisión por mayoría se acerca a 1 a medida que se añaden votantes, pero solo si cada votante acierta más de la mitad de las veces y sus juicios son independientes. Con p = 0,7, tres votantes aciertan el 78,4 % de las veces, cinco el 83,7 %, nueve el 90,1 % y veinticinco el 98,3 %.

La independencia es el supuesto frágil. Cinco amigos que estudiaron con los mismos apuntes erróneos repetirán el mismo fallo, y la mayoría se equivocará con total seguridad. Los modelos de lenguaje entrenados con textos superpuestos y diseños similares podrían compartir puntos ciegos. Una simulación ilustra la brecha: con errores independientes, la mayoría de cinco modelos acierta el 83,8 % de las veces, pero con errores superpuestos solo acierta el 74,4 %, aunque la precisión individual de cada modelo no cambie.

El artículo se propone medir directamente este efecto con seis modelos abiertos reales y 1500 preguntas de examen, aplicando una fórmula para estimar cuántas opiniones independientes aporta realmente un panel.

Fuente: Towards Data Science · Resumido por HeadlinesBriefing