|
Professor Seleznov
|
Работники Amazon научились «обманывать» корпоративный искусственный интеллект MeshClaw для выполнения KPI. Сотрудники стали имитировать активность, создавая лишние задачи и перерасходуя ресурсы, сжигая токены ради статистики, а не выполнения нужных задач.
Оказалось, что с момента запуска внутреннего ИИ-агента MeshClaw в Amazon прошло всего несколько недель, но уже появились сотрудники, которые намеренно ставят агенту избыточные, ненужные или заведомо непродуктивные задачи (так называемый «tokenmaxxing») — чтобы увеличить потребление ИИ-токенов и выполнить KPI.
Amazon планирует вложить в развитие ИИ около $200 млрд и рассматривает агентов как ключевой инструмент. По внутренним документам компании, MeshClaw «видит сны, чтобы консолидировать знания, отслеживает рабочие процессы на встречах и распределяет почту, пока вы спите».
Однако в Amazon столкнулась с эффектом закона Гудхарта: когда показатель становится целью, он перестает быть надёжным. Минимум 80% разработчиков обязаны использовать ИИ еженедельно, а отчёты об израсходованных токенах поступают менеджерам среднего звена. «Эти инструменты внедряются под большим давлением, — говорит один из сотрудников. — Некоторые просто сознательно тратят токены MeshClaw впустую».
В Amazon утверждают, что расход токенов не будет учитываться при оценке сотрудников и не одобряет включение этого параметра в кадровые отчёты. Но многие сотрудники не верят в это, так как на внутренних «досках почёта» компании токены всё же учитываются в статистике персонала.-Источник
|
|
|
