К содержанию
Транскрипт

Транскрипт · 139 · Лучшие AI-модели станут роскошью? Токены, лимиты и цена доступа — ToTheMoon

Полная расшифровка. Таймкоды открывают соответствующий момент видео.

К странице выпуска
00:00:00–00:03:30Новый раздел Codex: токены, чаты и персонализация
Александр Волчек00:00:00

Сколько на самом деле на сегодняшний день стоит использование таких мощных систем, как ChatGPT или Anthropic, или Gemini? На самом деле, сколько они стоят? И если использование такой системы, как Codex, может стоить сто тысяч долларов в день, то кому они будут доступны в будущем? Об этом с вами сегодня поговорим. Словом, всем привет. Мы на канале ToTheMoon. Что произошло? Я, залез и случайно наткнулся на новый раздел в Codex, который показывает в рамках профиля, сколько я потратил, токенов.

Упоминаются: Codex · ToTheMoon
Александр Волчек00:00:50

И может быть, этот раздел уже был. Я его никогда не смотрел. Понятно, что у меня есть разные, есть подписки в разных системах и плюс есть, когда я оплачиваю сам полностью токены. Я неоднократно заявлял, вообще очень много раз заявлял, что, я считаю лично, что такая система, как ChatGPT, Pro и Pro подписка за двести долларов, еще когда она появилась несколько лет назад, и мне как одному из первых ее даже, участников ручку подарил OpenAI. Тут так и написано: участник ChatGPT Pro с двадцать четвертого года.

Упоминаются: Токенизация
Александр Волчек00:01:25

И, смешно. Ручку. Я неоднократно говорил, что я глубоко убежден, что моя работа внутри Codex, внутри ChatGPT, она убыточна для компании. Понятно, что там было огромное количество дискуссий. Она не убыточна, запросы стоят мало. Та. Я, захожу сегодня вот в этот новый раздел персонализации. И, кстати, сегодня мы с вами поговорим не только про стоимость. Сегодня я хочу еще с вами, затронуть тему по поводу памяти. Насколько круто, крутые изменения произошли с памятью о вас и с таким одновременным анализом всех чатов ваших, независимо от того, сохраняли вы, используете вы одно контекстное, одно окно или не одно контекстное окно.

Упоминаются: Codex
Александр Волчек00:02:22

Сегодня поговорим вот об этом понятии, которое в искусственном интеллекте называется AI dreaming. Да? То, что на русский переводят как сновидения. И, можно ли это называть сновидениями? Поясню даже, почему мы с этим сегодня поговорим. Опять же, в частности, цены. тема для меня невероятно, еще раз, важная, и мне кажется, что она для всех людей очень сильно важная. Что будет вообще происходить впереди? Кто будет иметь доступ вообще к этим системам? И вот эти заявления, как Дженсен Хуанг заявил, что тот, кто в нашей компании, если сотрудник зарабатывает программист полмиллиона долларов в год, а он не тратит токенов на полмиллиона долларов, то это очень плохо, да? А параллельно мы видим вот эту ситуацию в Meta, когда Цукерберг говорил всем полностью тратить токены очень много работать с системами, когда они сейчас потратили несколько триллионов токенов, то они начали, наоборот, все полностью ограничивать, потому что это начало стоить миллиарды долларов.

Упоминаются: Meta · Токенизация
Александр Волчек00:03:22

Или может стоить миллиарды долларов какой-то период. Но вот у меня интересная вещь. Представьте, я захожу, вижу число: сорок миллиардов токенов я потратил. Я думаю, какое-то число.

00:03:30–00:05:5440 млрд токенов в Codex: что увидел Александр
Александр Волчек00:03:33

Я много раз говорил, что ни один нормальный, здоровый человек, вообще ни один человек не может считать токенами. И вообще странно выдавать, результат токенами. Или вот сейчас страница OpenAI написано, там, токены, потом написано пиковые токены, потом написано там current streak, longest streak. Какие-то просто даже непонятно, что это такое, что имеется в виду. Мне было очень странно, когда я увидел сорок миллиардов токенов. Я вначале подумал, что это, может, с чатом GPT вместе связано. Потом оказалось, нет, это с чатом GPT не связано, это относится к Codex.

Упоминаются: Токенизация · Codex
Александр Волчек00:04:09

При этом мне было почему странно? Потому что я увидел, что у меня в Codex три тысячи двести семьдесят чатов. И я хочу вам сказать, что я три тысячи двести чатов вроде как не создавал. Мало того, он пишет, что я использовал скиллов тысячу восемьдесят восемь, но я понятно, что скиллы лично сам не особо создаю. То есть сейчас есть очень много людей, которые рассказывают, что вот они настраивают скиллы, кучу всего делают. Я это не люблю. Я пропагандирую разработку AI-native софта. И это когда искусственный интеллект все полностью делает за вас.

Упоминаются: Codex
Александр Волчек00:04:42

Не какие-то терминалы, он сам принимает решения, сам пишет код, сам полностью все делает. Я считаю, что это единственная возможность вообще что-то по-настоящему серьезное создать и по-настоящему продвинуться. Я ни в коем случае не говорю про профессиональное программирование. В рамках профессионального программирования, понятно, люди садятся и пишут какой-то конкретно отдельный модуль, какой-то отдельный участок кода и так далее. Когда я увидел сорок миллиардов токенов, я примерно понимаю, какие есть цены. И я решил, спросить у чата GPT, а сколько бы, я бы заплатил бы денег, если бы я все бы эти токены покупал, а не часть токенов у меня была бы в подписке. Я не могу сказать, кстати, что я токенами много съел денег.

Упоминаются: Токенизация
Александр Волчек00:05:21

Я не съел десятки тысяч долларов, но какие-то суммы я съел, на которые я плюс-минус не сильно обращал внимания. Просто если бы это было бы больше десяти тысяч долларов, я бы на это серьезно обратил внимание. У меня много разных систем тратит денег, очень много разных списаний и в том числе по API, там, например, в рамках распознавания аудио разных сообщений, в том числе система токенов тоже у меня есть, но там есть ограничения. Там стоят ограничения, лимиты дневные, например, пятьдесят, сто долларов, там, сто пятьдесят, двести долларов. То есть вполне резонные суммы.

Александр Волчек00:05:53

Я, про сорок миллиардов спросил и получил ответ, который меня насторожил, и я решил с вами сразу же с ним поделиться.

00:05:54–00:06:33Сколько это могло бы стоить по API
Александр Волчек00:06:01

Да, то есть я получил ответ. Диапазон примерно был диапазон ориентир, более менее средний от трехста тысяч до пятиста тысяч долларов при использовании плюс минус там, пять точка high. Я спрашивал у него, я использую extra high, да? И там такая сумма была, на один миллиард двести тысяч долларов. Я увидел эту сумму и решил немного с этим разобраться. В Codex можно зайти и посмотреть дневное расходование токенов. И в рамках дневного расходования токенов я увидел очень интересные даты. Я увидел два, три дня, за которые я потратил пятнадцать миллиардов токенов.

Упоминаются: Codex
00:06:33–00:08:4315 млрд токенов за три дня на GPT‑5.6 Sol
Александр Волчек00:06:39

Это было четырнадцатое, пятнадцатое и шестнадцатое июля. Это было на прошлой неделе. И, я действительно вспомнил, что в эти дни я про это ругался, что там активно начал работать пять точка шесть Sol. И, понятно, что я его использовал в режиме ультра, и я его много на что запустил. Плюс у меня было очень много накопленных сбросов ChatGPT, плюс ChatGPT сам периодически сбрасывал лимиты. Вот как раз в выпуске в прошлом подкасте, мне кажется, я говорил про то, что он мне сбрасывал лимиты, и я потратил очень много времени с помощью GPT-5.6 Sol но не получил результат. И мой вывод до того, как я, кстати, увидел эти токены, я хочу вам заметить, я сказал очень четко, что мне очень жалко людей, которые купили по API, GPT-5.6 Sol. То есть можно сколько угодно в интернете рассказывать, какая это крутая модель, как она классно отвечает.

Упоминаются: GPT-5.6 Sol · Токенизация
Александр Волчек00:07:35

И действительно, в чате есть классные вещи, она дает. И даже, наверное, с точки зрения программирования я вижу некоторые неплохие результаты? Но я хочу сказать, что в целом GPT-5.6 Sol на текущий момент, вот прошло там, понятно, что это прошло некоторое время, понятно, что она станет лучше, и, возможно, кто-то из вас будет смотреть выпуск, там, чуть позже и скажет: "Слушайте, Александр, уже пять точка шесть неплохо работает". Я сейчас просто другую мысль вам доношу. Этот выпуск никак не устареет, да? Я доношу мысль вам вообще про происходящую действительность.

Упоминаются: GPT-5.6 Sol
Александр Волчек00:08:03

Вот так вот эти потраченные двадцать миллиардов токенов, пятнадцать миллиардов токенов за три дня, их, средняя примерная оценка стоимости около если мы говорим, а я знаю, что это точно была Sol модель, я знаю, гарантированно, что это была Sol модель. То есть там теоретически максимум такой траты может быть где-то полмиллиона долларов. Ну и средний диапазон, там, сто пятьдесят, двести тысяч долларов! За три дня. Еще раз, я результата с помощью GPT-5.6 Sol как такового не получил.

Упоминаются: GPT-5.6 Sol
Александр Волчек00:08:40

Мало того, я хочу сказать, что мне GPT-5.6 Sol остановил, очень много моих работ, которые у меня делались, и сбил мне, он мне сбил очень много результатов.

Упоминаются: GPT-5.6 Sol
00:08:43–00:09:20OpenAI vs Anthropic: кто выигрывает в разработке
Александр Волчек00:08:49

В отличие, кстати, от Anthropic Fable. Я здесь, вы знаете, что я большой любитель OpenAI и ChatGPT, и останусь, наверное, на данный момент времени, потому что все же основные чаты я использую в нем. Ну и у меня очень много чатов, да? Очень много систем, очень много анализа. Сейчас с выходом GPT-5.6 Sol и более расширенных контекстных окон и reasoning, и GPT-5.6 Sol может, такие серьезные анализы делать. Я, конечно, мне очень многое нравится, но я здесь поддержу Илона Маска в том, что Anthropic, начал завоевывать невероятно рынок.

Упоминаются: GPT-5.6 Sol
00:09:20–00:10:49Главный лидер в разработке
Александр Волчек00:09:27

Какой рынок? Смотрите. Anthropic не завоевывает рынок узнаваемости во всем мире. То есть им не пользуется миллиард человек. И, по всей видимости, все же OpenAI должен стоить дороже, чем Anthropic при выходе на IPO. Я просто могу сейчас так смещать чуть свое мнение, начать смещать, потому что, у меня есть удивительные вещи касательно, конечно, OpenAI, что они делают. OpenAI - невероятный лидер из-за того, что у него есть миллиард пользователей, из-за того, что они делают основной чат.

Александр Волчек00:09:58

Но все же в разработке систем Anthropic стал, таким, очень серьезной машиной. И если мы говорим про лидерство в области создания AI-native софта, и мы говорим о том, что AI-native программное обеспечение. Кстати, посмотрите, я делал выпуск вот несколько дней назад по поводу, что такое AI-native. Я даже не хочу это переводить здесь, но это программное обеспечение или компании, полностью сделанные искусственным интеллектом. Посмотрите, там интересный выпуск, в том числе частично философский выпуск, про искусственный интеллект.

Александр Волчек00:10:35

Так вот, Anthropic, конечно, в данном случае может выиграть в создании этого AI-native софта. Хотя, возможно, ChatGPT сделает свои исправления, и мы увидим другой результат. Потому что сейчас вообще очень тяжело оценить, какая система работает хуже и лучше.

00:10:49–00:12:54Kimi K3 и дешевые китайские модели
Александр Волчек00:10:52

То есть появилось от Moonshot Kimi K3, все пишут: "Все устарело. Вот Kimi K3 стоит гораздо дешевле. Посмотрите, какая крутая система". Я на это на все читаю, думаю, как вообще вы все это тестировали, как это проверили, что это реально за система? Что такое стоит? Я напомню, китайские компании, они подстраиваются под свой рынок, у них нет, они не могут поставить цену, как ставит Anthropic или как ставит OpenAI за токены. Они просто не могут это сделать, их никто не будет покупать. И, или будут покупать там, где уже жесткие санкции, ограничения со стороны OpenAI и Anthropic, и там, где очень серьезно их ограничивают, да? И поэтому они ставят те цены, которые они могут поставить.

Упоминаются: Kimi K3 · Токенизация
Александр Волчек00:11:38

Но вопрос в том, что Anthropic и OpenAI - это убыточные компании. И судя по моим сорока миллиардам токенам, и когда ты в день можешь потратить сто тысяч долларов или двести тысяч долларов сжечь просто токенов в каком-то тарифе, а потом тебе их просто опять могут обновить. Ты задаешься вопросом, что происходит? Или вот OpenAI в X у них сейчас был розыгрыш, возможно, вы успеете, кому-то будет супер полезно. Вы там можете выложить, чем вам полезен Codex, и они вам дают сто долларов. И они десять тысяч человек дают сто долларов.

Упоминаются: Codex
Александр Волчек00:12:09

То есть, вот они десять миллион долларов дают, токенами. Но судя по расходам токенов подписки Это вообще ничто. Что такое сто долларов? Что я запущу на сто долларов? Что я сделаю на сто долларов? Я рассказывал вам, я как-то, помню, был у меня один из самых моих первых тестов. Extra High пять точка пять ChatGPT. Помню, сто долларов купил. Я еще думал, может, хватает чуть шире, и они у меня там что, хоп, и за несколько минут съелись. И результата у тебя нет. Я понимаю, что я когда задачу выполняю, ты вот на нее потратил тысячу долларов, и ты тогда должен понимать, как ты пишешь в этой задаче контекст, как ты, описываешь все происходящее. И это уже начинается не AI-native система?

Александр Волчек00:12:49

Это уже начинается что-то другое, это уже начинается какое-то программирование. Конечно, когда ты видишь, вот эти всплески, которые произошли в эти дни, вот в четырнадцатое, пятнадцатое, шестнадцатое число

00:12:54–00:14:30Кто расходует токены? И кто за них платит?
Александр Волчек00:13:03

то есть когда у тебя пять миллиардов токенов потратилось, ты понимаешь, что эти токены тратились не только тобой, это токены тратились неквалифицированной системой. И я задаюсь вопросом: а кто будет это оплачивать? Кто вообще за это будет платить деньги? Кто будет решать, кто может тратить платно, а кто может тратить бесплатно? Что это вообще будет? Что это будут за люди? Вот, например, сейчас Anthropic дал всем учителям в Америке бесплатный доступ к их про версии. У них вроде и так были, разные субсидии для учителей. И у OpenAI были ты сидишь и думаешь: ну вот вы дали там в двадцати или тридцатидолларовой версии бесплатный доступ.

Упоминаются: Токенизация
Александр Волчек00:13:51

Это в убытке для компании будет для вас находиться или в плюсе? И какую выгоду вы из этого хотите получить? Потому что, судя по текущим расходам токенов, конечно, во-первых, это говорит о том, что Anthropic не до конца может субсидировать, как OpenAI, и у Anthropic нету я не видел у Anthropic такого количества расходов токенов. И я замечу, что чат Claude, он связан с токенами. То есть вы когда сидите в чате Claude, вы также токены едите. То есть если бы я мой чат, я, конечно, думаю, OpenAI скоро так сделает.

Упоминаются: Claude · Токенизация
00:14:30–00:20:56Кому будет доступен сильный ИИ?
Александр Волчек00:14:31

Им будет это тяжело сделать, но они это сделают. Когда они свяжут чат с общими едиными токенами, тогда резко у всех, кто очень серьезно сидит в системе, уменьшится доступ. И это начнет стоить. Я понимаю, что моя работа будет стоить в месяц сотни тысяч долларов. И буду ли, готов ли я платить сотни тысяч долларов за текущее использование ChatGPT и Codex? Я вам честно скажу, не готов. Сотни тысяч долларов не готов. Какие-то суммы готов. Наверное, до десяти тысяч долларов готов, но сотни тысяч долларов вряд ли.

Упоминаются: Codex
Александр Волчек00:15:09

А еще насколько вы готовы или насколько я готов изменить свой подход к использованию Codex или Claude, или к ChatGPT, когда ты привыкаешь к хорошему качеству? То есть что мы видим? Что Anthropic выложил Fable, сказал, что Fable будет временно. Посмотрите, какая крутая модель. Теперь он ее вот со вчерашнего дня включил в постоянный доступ полностью. В хороших тарифах она есть, в дорогих тарифах она есть в постоянном доступе. Да, там пятьдесят процентов лимита, но она у меня, она есть в макс, например, доступе.

Упоминаются: Claude · Codex
Александр Волчек00:15:45

Модель Fable. Почему? Потому что если ты привык к тому, что у тебя есть возможность провести аудит твоей системы через Fable, ты к этому привыкаешь. Вот к Sol я еще не привык в плане Codex. Наверное, я к Sol уже начал привыкать в плане ChatGPT. Как вы это видите? Что вы чувствуете? Какие у вас будут, какие у вас представления о том, что будет происходить впереди с точки зрения доступа и стоимости таких систем? И я рекомендую всем очень серьезно на эту тему не просто задуматься, эту тему осознавать и понимать, потому что мы живем в мире, когда люди недооценивают вообще происходящее и не понимают, что сколько стоит. Кто-то может сказать, что OpenAI, например, наживается на тех людях, которым он продает токены.

Упоминаются: Codex · GPT-5.6 Sol · Токенизация
Александр Волчек00:16:41

Но вы посмотрите на их расходы. Какие колоссальные расходы несут эти компании! Просто невероятные расходы несут компании. Или посмотрите, почему Google ограничил компанию Meta в продаже им Gemini. В силу того, что они сказали: вы несете слишком большой расход мы переместим этот расход, например, на других людей или на другие области. Действительно ли искусственный интеллект серьезного качества, даже такого, как мы видим сейчас, даже такого, как мы видим сейчас, появится везде, то есть во всех ассистентах, в машинах в роботах. Действительно ли он там появится? Крутой искусственный интеллект, действительно умный, настоящий, серьезный искусственный интеллект.

Упоминаются: Meta
Александр Волчек00:17:31

Сколько это будет все стоить? Или кто-то скажет, что на сегодняшний день посмотрите вот на Китай, китайские модели и посмотрите на разные исследования, когда компании делают очень серьезные системы. И эти очень серьезные системы, они мало тратят токенов, они мало тратят ваших денег. действительно ли это так будет? Тогда зачем OpenAI вливать такую модель GPT-5.6 Sol? Зачем просто? Или зачем Anthropic вливать Fable, когда она стоит дорого? И при этом давать людям условно качественный продукт.

Упоминаются: GPT-5.6 Sol
Александр Волчек00:18:13

Потому что про Fable я еще окей. Хотя тоже у меня большой вопрос по поводу цена-качество. Цена-качество и конечная эффективность. Про память. Я сегодня очень сильно хотел привязать эту тему к памяти, но решил все же вас не сбивать. И про память, и dreaming я сниму сейчас дополнительный выпуск, и он выйдет, там, через несколько дней. И я хочу, кстати, сказать, что я про память снимал классно выпуск. Вы можете себя подготовить и его посмотреть. Плюс у нас на канале будут появляться сейчас новые авторы. Зачем мы вообще приносим новых авторов?

Александр Волчек00:18:48

Я понимаю, что есть люди, которые хотели бы получать больше контента. Есть люди, которые хотели получать больше разностороннего контента. Не только контент от меня или от Ильнара, или от Тани, и получать контент, более широкий с точки зрения подходов в рамках искусственного интеллекта, разнонаправленный контент от разного типа людей. И у нас будут появляться. Вот появилась Анна Волчек — это моя сестра, она очень сильно вовлечена в искусственный интеллект. И многие спрашивают: "А вот чем человек занимается? Я хочу посмотреть своего знакомого человека, кто он такой?"

Александр Волчек00:19:19

А что вы вообще знаете про меня? Люди, большинство которые смотрят этот канал, они меня не знают меня частично. Какие-то микро вещи знают про человека. И многие писали, вот надо представлять людей. Как вы хотите человека представлять? Одной фразой? Вот мы живем в мире, в котором все хотят знать периодически только одни фразы. Вот я надеюсь, вам будут нравиться наши выпуски и всегда у нас есть постоянная аудитория, вы сможете для себя выбрать тех авторов, которые вам нравятся.

Александр Волчек00:19:49

Смогут ли компании, которые нанимают к себе людей, которые якобы разбираются в кавычках в искусственном интеллекте, какие-то названия, как промт инженеров или людей, которые умеют создавать что-то в Codex, настраивать различных агентов, как они это называют. Сейчас пойдут новые названия, будут говорить AI-native системы. Могут ли компании проверить этих людей с точки зрения затрат? Как это сделать вообще? Кто сколько денег расходовал и почему он их расходовал? Ведь система настолько непрозрачная, система настолько недоступная, система настолько непонятная вообще.

Упоминаются: Codex
Александр Волчек00:20:29

Невероятно, кстати, непонятная система. Что с этим со всем будет происходить? Как это вообще все полностью будет происходить? Удивительно, невероятно, неясно. Делитесь в своих комментариях и встретимся в следующих выпусках ToTheMoon.

Упоминаются: ToTheMoon