Месяц на сумму 1,3 миллиона долларов! Отец лобстеров раскрывает свой счет за токены, расходы полностью покрыты OpenAI

да, вы не ошиблись!

Основатель раков Peter Steinberger потратил за месяц на API токены сумму, достигающую 1,3 миллиона долларов+.

Как видно, за 30 дней общий расход токенов составил 603 миллиарда, количество запросов — 7,6 миллиона,

пользователи воскликнули: «Нанять команду разработчиков, возможно, дешевле, чем это.»

Другой пользователь спросил: «Брат, лучше бы ты показал хоть какие-то реальные навыки, чтобы сделать то, что не под силу инженерам с миллионами долларов годовой зарплаты, иначе эта реклама может стать сигналом начала пузыря передовых лабораторий. И к тому же, это цена с субсидией. Господи, если считать по реальной стоимости, она будет гораздо выше.»

Steinberger ответил: «Я отключил быстрый режим, цена сразу снизилась на 70%, так что по сути это стоимость одного сотрудника.»

Кто-то прямо пошутил: «Месячные 1,3 миллиона долларов? В итоге ты ничего не поставил. Ты, наверное, самый плохой маркетинговый гений в истории.»

Steinberger тоже ответил: «Ну, не знаю, брат, твое определение «ничего не поставил» кажется слишком особенным.»

Steinberger также заявил: «Все эти коды написаны с помощью Codex. Те более хаотичные, которые я позже приводил в порядок, — это, вероятно, сделано Claude.»

После того, как он раскрыл высокие расходы на токены и вызвал обсуждение, Steinberger быстро отреагировал, сказав, что он пытается ответить на такой вопрос:

«Если токены перестанут быть важными, как мы будем строить программное обеспечение в будущем?»

Мы долгое время запускаем около 100 Codex в облаке, проверяя каждый PR, каждый issue. Как только в основную ветку попадает исправление, @clawsweeper в итоге находит старый issue, который висит уже 6 месяцев, и закрывает его с точной цитатой.

Мы запускаем Codex на каждом коммите, проверяя безопасность, потому что эти проблемы очень легко пропустить.

Мы используем Codex для устранения дублирования issues, обнаружения кластеров и отправки отчетов о наиболее срочных проблемах.

У нас есть агенты, которые могут воспроизвести сложные окружения, запустить временную машину crabbox.sh, войти в Telegram или подобные платформы, записать видео и опубликовать сравнение до и после исправления в PR.

Некоторые Codex следят за новыми issues и, если они соответствуют нашим уже обозначенным целям продукта, автоматически создают PR. Затем другой Codex проверяет этот PR.

Также у нас есть Codex, который мониторит комментарии на предмет спама и блокирует соответствующих пользователей.

Мы запускаем Codex для проверки производительности и отправляем отчеты о регрессиях в Discord.

У нас есть агенты, которые слушают наши собрания и начинают работу самостоятельно. Например, когда мы обсуждаем новые функции, они создают PR прямо во время обсуждения.

Мы создали clatch.ai, который разбивает все проекты на функциональные модули для проверки, поиска багов и регрессий.

В области безопасности мы также делаем такую же разбивку и используем Vercel DeepSec и Codex Security для обнаружения регрессий и уязвимостей.

Все эти автоматизации позволяют нам управлять проектом очень компактной командой.

Встает вопрос: кто же оплачивает такие высокие расходы? Очевидно, не он сам.

«OpenAI не взимает с меня плату за токены.»

Tokenmaxxing: как долго еще продлится эта гонка по пропускной способности

Это прямо убивает соревнование.

Недавно в AI-сообществе обсуждали Tokenmaxxing, крупные компании, включая Meta и Amazon, даже публиковали внутренние рейтинги использования токенов, делая использование ИИ-инструментов и расходование токенов KPI для сотрудников.

Тогда Meta занимала первое место, среднее потребление одного пользователя составляло 281 миллиард токенов, что при разной стоимости моделей могло означать миллионы долларов расходов. А основатель раков Peter Steinberger за месяц потратил 603 миллиарда токенов — просто сокрушительный удар.

Бывший ученый из Tesla и OpenAI Karpathy в подкасте признался, что чувствует давление максимизации использования ИИ: «Ключ — в токенах. Какой у тебя пропускной объем токенов? Сколько ты можешь задействовать?»

Token постепенно превращается в новый ресурс производства, а также в мерило плотности работы ИИ. Команда с достаточно высоким пропуском токенов, хорошей разбивкой задач и надежной системой проверки может достигнуть уровня, который раньше был доступен только крупным командам.

Недавно глава OpenAI Greg Brockman в твите заявил: «Token быстро становится универсальным входом для решения задач.»

Но мы верим, что важен не только объем токенов, а правильная организация проекта, как построил основатель раков автоматизированную разработку ИИ.

Эта статья взята с сайта: Машина ума

Предупреждение о рисках и отказ от ответственности

Рынок подвержен рискам, инвестиции требуют осторожности. Эта статья не является индивидуальной инвестиционной рекомендацией и не учитывает конкретные цели, финансовое положение или потребности каждого пользователя. Пользователь сам несет ответственность за решения, основанные на мнениях, взглядах или выводах, изложенных в статье.