- Компании начали считать, сколько ИИ-токенов тратит каждый сотрудник, чтобы контролировать расходы на генеративный ИИ.
- Zapier уже запустила внутреннюю панель с данными по использованию ИИ, а Kumo AI отслеживает токены по каждому инженеру.
- В Vercel эксперимент с ИИ-агентами обошёлся примерно в $10 тысяч за один день.
IT-компании начали вводить новую метрику для контроля затрат на искусственный интеллект — токены, то есть единицы текста, которые модели обрабатывают при запросах и ответах. По данным The Wall Street Journal, бизнес всё чаще отслеживает, сколько токенов расходует каждый сотрудник, чтобы сократить нецелевое использование ИИ и понять, где такие траты действительно окупаются.
Платформа автоматизации Zapier запустила внутреннюю панель, где видно, как сотрудники применяют ИИ и во что это обходится компании. Директор по ИИ-трансформации Брэндон Саммут прямо назвал токены новой статьёй расходов. Хотя цена одного токена со временем снижается, общий счёт растёт из-за того, что сотрудники всё активнее используют ИИ в повседневной работе.
Такие данные помогают замечать отклонения. Если один сотрудник тратит в несколько раз больше токенов, чем остальные, компания пытается понять причину: это признак неэффективной работы или, наоборот, способ получить заметно больше результата. Иными словами, бизнес оценивает не только расход, но и то, приносит ли он пользу.
Иногда суммы оказываются неожиданно высокими. В Vercel инженер запустил группу ИИ-агентов для анализа научной статьи и создания сервиса на её основе. За день система сгенерировала код, на который у людей могли бы уйти недели или месяцы, но расход токенов составил около $10 тысяч. После таких случаев компании внимательнее смотрят на резкие всплески затрат и обсуждают правила, какие модели и для каких задач можно использовать.
При этом токены начинают обсуждать не только как статью расходов, но и как рабочий ресурс. В отрасли уже говорят о доступе к вычислениям как о части компенсации для инженеров. Некоторые соискатели, как сообщалось ранее, уже спрашивают у работодателей, какой бюджет на ИИ-модели им будет доступен.
Контекст
Ранее компании Кремниевой долины начали предлагать инженерам бонусы, связанные с доступом к ИИ-моделям. Параллельно руководители крупных игроков, включая Nvidia и OpenAI, обсуждают токены и вычислительные мощности как возможный элемент компенсации.
Что это значит на практике
Для сотрудников использование ИИ в работе всё чаще перестаёт быть безлимитным: компании будут смотреть не только на результат, но и на цену каждого запроса. Для бизнеса это означает появление новых внутренних лимитов, отчётов и правил работы с ИИ-инструментами.
