В этом продолжении я исследую «плодовитый ИИ-психоз», когда пользователи генерируют массовые выводы ИИ без реальной ценности. В отличие от истинного психоза, это более легкое отключение от реальности, характеризующееся неспособностью оценивать качество. Например, разработчик может ежедневно производить тысячи строк кода, но код не имеет полезности. Продуктивный разработчик пишет меньше, но значимый код. Аналогично, автор, пишущий 100 000 слов в день, вероятно, жертвует тщательностью по сравнению с 1 000 качественных слов. Основная проблема не в объеме вывода, а в восприятии—пользователь не может оценить ценность своей работы. Текущие ИИ-инструменты, такие как чат-боты, просты, но продвинутые агентные системы решают сложные задачи, делая этот психоз более распространенным. Эти агенты могут автономно создавать приложения или исправлять ошибки, но они также принимают плохие решения. Результат: впечатляющие достижения наряду со сломанным программным обеспечением, подчеркивающие необходимость критического надзора.