HeadlinesBriefing favicon HeadlinesBriefing.com

¿Qué caracterizaría a un producto de IA serio?

Hacker News •
×

El autor critica los productos de IA actuales como ChatGPT, Gemini y Claude por no tomar en serio sus limitaciones. Argumentan que estas herramientas se presentan como asistentes para resolver problemas mientras ignoran su falla principal: las alucinaciones. El texto destaca cómo la verificación de errores se descarta como lenguaje legal en lugar de integrarse en el flujo de trabajo.

El autor propone una interfaz de hoja de cálculo de 2 columnas donde los usuarios deben verificar cada afirmación con notas y una casilla de verificación. También sugieren que los asistentes de codificación deben incluir verificaciones de diferencias antes de las pruebas para evitar desperdiciar cómputo. La pieza concluye exigiendo más citaciones y detalles en lugar de respuestas no respaldadas, llamando al enfoque actual un estafa.

El autor menciona específicamente a Ollama como otro culpable debido a su menor calidad de modelo. Argumentan que las herramientas serias deben proporcionar facilidades para la verificación, no solo advertencias. La publicación está inspirada en la admisión universal de que las IAs cometen errores, aunque ningún producto construye un flujo de trabajo alrededor de esta realidad.