HeadlinesBriefing HeadlinesBriefing.com

¿Eres dueño del código que escribe tu IA?

Towards Data Science •
×

Tu asistente de programación informa que todas las pruebas han pasado. La compilación está en verde, así que fusionas la solicitud de extracción y pasas a lo siguiente. Tres semanas después llega un problema, pero el agente no está disponible para ayudarte. Quizá se agotó tu cuota de API o estás atrapado en un tren de cercanías sin señal. El código ahora es tuyo, y algo se ha roto. ¿Realmente puedes arreglarlo?

Esa pregunta es el problema central del proyecto CodeOwnership. En la práctica, la propiedad implica más que tener tu nombre en una confirmación. Solo eres verdaderamente dueño del código si puedes rastrear su lógica y corregirlo por completo sin ayuda. Las pruebas superadas demuestran que el software funciona en un buen día, pero no demuestran que lo entiendas. Esto se refiere solo al mantenimiento, no a la licencia ni a los derechos de autor.

El autor creó CodeOwnership, un piloto ligero, para poner a prueba este punto ciego. Un agente de IA escribe una función, y el desarrollador registra una valoración honesta de cuánto la entiende. Luego, un segundo agente introduce un único error preregistrado. El desarrollador abre un informe de incidencia con todas las herramientas de IA desactivadas e intenta localizar el defecto.

El entorno de pruebas, que incluye especificaciones bloqueadas, pruebas visibles y ocultas, una verificación ciega de errores, una CLI guiada y una herramienta de informes que evita una puntuación combinada única, está completo. En la primera prueba, el autor calificó su confianza con 4 sobre 5 y detuvo el cronómetro a los 8 minutos y 12 segundos sin haber encontrado el error. Unos 30 minutos después, en una sesión posterior, el error fue localizado, aunque el script seguía registrando NOT FIXED porque no se había aplicado ninguna corrección.

Esto es solo una desarrolladora en una única ejecución, no un punto de referencia de la industria. Muestra cómo funciona el entorno de pruebas, dónde falla y cómo sería una prueba realista de comprensión del código.

Fuente: Towards Data Science · Resumido por HeadlinesBriefing