Эпоха нормирования ИИ-ресурсов: Компании ограничивают использование для мелких задач
Крупные корпорации повсеместно вводят ограничения на использование искусственного интеллекта на рабочих местах. Причиной стало неконтролируемое потребление бюджета, выделенного на ИИ, из-за применения дорогостоящих нейросетей для выполнения незначительных, базовых заданий.
Accenture вводит жёсткое нормирование токенов ИИ
Среди пионеров в этом направлении — консалтинговая фирма Accenture, которая перешла к строгому нормированию токенов. Персоналу компании теперь запрещено использовать высокозатратные ИИ-системы для рутинных операций, что указывает на переход от неограниченного доступа к ресурсам к их тщательному распределению.
Прекращение «токенмаксинга» и переход к рациональному потреблению
Период, когда сотрудники могли свободно использовать ИИ для любых целей, известный как «токенмаксинг», оказался кратковременным. Сейчас крупные организации активно переходят к стратегии нормирования ИИ-бюджетов, стремясь оптимизировать расходы и обеспечить эффективное использование передовых технологий только для действительно сложных и важных задач.
У нас на работе тоже начали жестко лимитировать доступ к GPT-4, пересадили всех на 3.5 для большинства задач. Для сложных проектов приходится подавать отдельные заявки с обоснованием, что, конечно, замедляет процесс. Зато заметил, что коллеги стали креативнее подходить к формулировкам запросов для 3.5, выжимая максимум. Мой лайфхак: используйте кастомные инструкции для чата, чтобы каждый раз не повторять контекст.