Работники научились имитировать работу с помощью ИИ

Внедрение ИИ-инструментов в рабочие процессы  не избежало классической имитации бурной деятельности, выразившейся в спаминге KPI и перерасходе ресурсов, пишет Financial Times.

С момента запуска в Amazon внутреннего ИИ-агента MeshClaw прошло всего несколько недель, но некоторые работники уже научились ставить ему ненужные, избыточные и заведомо непродуктивные задачи (tokenmaxxing). Цель — поднять потребление ИИ-токенов, чтобы выполнить KPI.

Amazon, которой предстоит вложить в ИИ $200 млрд, считает агентов одним из незаменимых инструментов развития. “Он [агент] видит сны, чтобы консолидировать полученные знания, следит за рабочими процессами, пока вы на встрече и распределяет вашу почту, пока вы спите”, — говорится во внутреннем документе.

Однако компания, судя по всему, попала в обычную ловушку закона Гудхарта (“когда мера становится целью, она перестает быть хорошей мерой”). Использовать ИИ каждую неделю обязаны минимум 80% разработчиков, а отчеты об израсходованных ими токенах поступают менеджерам среднего звена. “Эти инструменты внедряются под большим давлением, — говорит один из сотрудников. — Некоторые просто сознательно прожигают в MeshClaw свои токены”.

Сама Amazon обещала, что не будет учитывать израсходованные токены при оценке сотрудников, и не одобряет включение этого параметра в отчеты по персоналу. Но сотрудники этому не слишком верят. Во всяком случае, на внутренних “досках почета” токены учитываются.

Бизнес пока не научился нормально измерять эффективность человеческого труда, которому помогает ИИ. О похожих проблемах недавно писали в Meta, Microsoft, Google, JPMorgan, Disney и других компаниях. Они глубже, чем простое измерение полезности работников по сути числом строк написанного кода: чем строже KPI по искусственному интеллекту, тем больше у персонала стимулов транжирить вычислительные ресурсы, желательно самые дорогие, на задачи, которые этого не требуют.