Всем привет! Вы на канале To the Moon. Технологические новости, инсайты из Кремниевой долины и по всему миру. Сегодня у нас в выпуске четыре главных новости в рамках искусственного интеллекта. Первое: SpaceX вышел на биржу, и он обогнал Microsoft, подошел к трем триллионам долларов. Что будет дальше на этом рынке вообще происходить? Meta за один месяц израсходовала семьдесят три триллиона токенов, которые, по их же ощущениям, должны стоить миллиарды долларов. И сотрудники соревнуются, у кого больше токенов израсходовано. Третье: правительство США отозвало иск против дата-центров Илона Маска и начало защищать стратегический объект. Очень интересная тема касательно того, как государство работает сейчас против граждан. И четвертое: OpenAI Anthropic идут в корпоративный рынок, в enterprise, и банки, авиакомпании. И самое главное, они хотят модернизировать старый корпоративный софт. А вопрос, ну, во-первых, конечно, у OpenAI сегодня цель не проиграть Anthropic и вопрос что будет дальше с корпоративным софтом? Итак, смотрим наш подкаст.
Мне кажется, что эта неделя, она сверхактивная на рынке искусственного интеллекта, но в то же время она активная для энтузиастов, нежели чем для большинства людей. Большинство людей, мне кажется, все равно не заметят, что произойдет. И тут я даже встречался с приятелем в Сан-Франциско, который вообще в рынке AI. Я ему говорю: "Слушай, тут Fable закрыли". Он мне говорит: "А Fable — это что такое?" И после этого я понял .
Не слушает наш подкаст этот человечек.
Да, и после этого я понял, что-
Блэклистед.
Ну, он знал, что такое Mythos. И дальше он мне очень много всего про него говорил и рассказал как раз таки просто... И только что разговаривал там со своим партнером, тоже там с одним в IT. Он говорит: "Слушай, ну точно все знают, что такое Fable. Из-за Fable Anthropic за четыре дня получил очень много подписчиков и пользователей". Я не уверен, что на самом деле это произошло и действительно они получили много подписчиков. Вот что точно произошло на рынке, это то, что, эээ, SpaceX сделал размещение и в какой-то момент времени стало стоить больше, чем Microsoft. И вчера она подходила к трем триллионам. И мне кажется, что вот это феноменальное изменение рынка. И вообще на рынке происходит очень много, с одной стороны, классных вещей, с другой, с другой стороны, класн-- странных вещей. Как мы с вами разговаривали про Австралию, что там детям за, ммм, до шестнадцати лет запретили использовать социальные сети. Великобритания продвигает закон, и вроде как уже с начала нового года в Великобритании нельзя будет молодежи до шестнадцати лет использовать социальные сети. Точнее, закон трактуется следующим образом: что социальные сети не имеют права давать доступ молодежи до шестнадцати лет в социальные сети, потому что нельзя использовать, они не имеют права, да? Вот это важно слышать.
Ответственность на ту сторону кладут, да.
Расскажи вот тему, которую ты прислал про защиту Илона Маска, в частности, да.
Ну, у, эээ. Давайте так. Илон Маск во многих судебных процессах участвует, как и многие богатые люди. Но у него еще была такая история. Они построили свой дата-центр, и дата-центр снабжать надо электричеством. И, соответственно, они построили газовые турбины. При этом есть законы, которые вроде как запрещают строить эти газовые турбины без дополнительного согласования. И там есть, тут я в тонкости американского законодательства уходить не буду, социально активная группа, которая, соответственно, подала иск против Илона Маска и против, соответственно, вот этого строительства, этих газовых турбин, что надо их убрать, слишком близко находятся к домам, школам, церквям, что это, соответственно, портит воздух. А есть закон о чистом воздухе и так далее. И вот этот судебный процесс Министерство юстиции США прикрыло. То есть они сегодня сами пришли и сказали иск отозвать. И между строк читается примерно следующее: что этот объект слишком важен, что это судебное дело влияет на уг-- практически национальную безопасность Соединенных Штатов Америки. Поэтому, соответственно, дело по этому иску надо прекратить. То есть, по факту Министерство юстиции приходит и говорит, что вот это стратегический объект, все остальные законы на него не распространяются, он нам нужен, руки от него уведите. Вот. Поэтому интересно, что у Илона Маска, помимо IPO, еще и вот такие проявления в судебной сфере тоже появились.
Слушай, ну, видишь, мы же, по-моему, полтора года назад говорили, да, когда началась вот эта вся история по поводу создания, инвестирования в дата-центры, и когда Трамп еще всех собрал в январе и сказал, значит, что мы сейчас привлечем больше, чем полтриллиона долларов. Понятно, что потом эта сумма начала расти. Сейчас мы с вами прекрасно понимаем, что это уже вроде как бы обычные цифры, да? Помните, да, выпуски To the Moon два года назад, полтора года назад, тогда суммы-
Семь триллионов собирал.
Мы казались большими. Что семь триллионов?
Семь триллионов Альтман собирал, и мы обсуждали, сколько это бюджета республики Беларуси. В разных странах мы это считали.
Да.
А сейчас уже как бы компания стоит половину этого бюджета.
Ну, по идее, они, кстати, мы тут общались, вместе встречались с Сашей Машебовым, и мы обсуждали как раз таки, что они не должны в OpenAI, не может делать размещение меньше, чем три триллиона сейчас, да, Anthropic уже как бы должен делать два. То есть вот по идее, хотя с учетом того, что показывает Антропика, Антропик много занял в последние недели внимания. To the moon, как пишут наши подписчики, ожидали опять про чат GPT, а тут, значит, бесконечно рассказы про Клод. Кто-то мне написал, значит, только купил Клод по вашей рекомендации, а нам тут закрыли версию Клода. Вот. Но когда вы покупали Клода по рекомендации-
А вот это, кстати, Саш, очень важно.
Сейчас обсудим, да. У нас, кстати, был спецвыпуск. Обязательно посмотрите на тему Fable, и мы, конечно же, сегодня расскажем Fable, потому что у нас есть люди, которые смотрят и следят за нами в выходные конкретно, да? И они хотят видеть всех нас. Сейчас мы к Fable перейдем.
Я вначале что спрошу: Таня, ты начала упорядочивать свои проекты с помощью кодекса или нет?
Я начала, но честно, я по-прежнему, Саш, не вижу никакого-
Не понимаешь, не понимаешь, что это, да?
Да, у меня есть, допустим, вот что он мне предложил из того, что там приконнектиться к Фигме, да? Ну окей, у меня есть выстроенный процесс в Фигме, он мне ничего нового не дал. Приконнектиться к Google Drive. У меня уже есть привычная структура папок. Конечно, она точно не идеальная, их слишком много, но то, что он мне делает, мне как-то не подходит. То есть такое ощущение, что здесь какое-то есть бутылочное горлышко в виде того, что как будто нужен какой-то дополнительный человек, дополнительный источник, который может добавлять ему данных. Потому что я застряла в своем видении. То, что он мне предлагает, мне как-то не улучшает ни процесс, ничего. И я рассчитывала на тебя. Но ты пока тоже слился.
Я не то чтобы слился, я просто хочу сказать, что ты поднимаешь очень важную тему. Тему того, что, по сути, ты сама не понимаешь, а что вообще можно делать, да? Или твоя система на эту тему не рассуждает. Это учитывая, что ты с преподавателем-
Учитывая еще и с тем, что я дала ему полный доступ к Google Drive, по поводу чего я тоже так, знаешь, начинаю думать, а нормально ли это, что я, это же получается, модель, ну, опять-таки извиняюсь, если я могу где-то прозвучать непрофессионально, я не профессионал в этом деле. Я ему даю доступ на обучение к моим файлам, да? То есть у меня там всякие чертежи, структуры и все прочее. Мне интересно, кто от этого больше выиграет. Потому что я пока никакого не получила позитивного эффекта, кроме того, что убедилась, я в этом ничего не пойму. Мне нужен человек, который мне хотя бы базово объяснит, что нужно добавить, какие компоненты, чтобы это
заработало.
Ну, получается, что, ну, во-первых, он у тебя ничего не изучит и не обучится, и не зафантюнится и так далее. Ты даже не переживай, он твои файлы все не читал, читать не будет и читать не собирается, да, и прочитать их не сможет, да, ему не хватит как минимум ни контекстной уковки, ничего. И система это делать не собирается даже. А по поводу того, что бы тебе должны объяснить, чтобы что-то получилось. То есть, по сути, ты сама не понимаешь конечную цель. Конечно, когда человек не понимает до конца конечную цель, ты, получается, не просто, у тебя какая история? Ты и цель не понимаешь, как идти туда не понимаешь. Я сегодня общался там с партнером со своим, и я ему говорю, ну, простая вещь. То есть если взять сегодня Codex и Claude, они достаточно плохо разрабатывают UX, UI человечески. То есть очень достаточно плохо разработан интерфейс. То, что я, по крайней мере, вижу. Но тот человек, который разрабатывает, насколько, например, этот человек понимает, что компонент меню, которое показано людям, там шапочка сверху или слева, он должен быть сделан единым и неизменяемым на всех страницах, например, да? Чтобы даже такая мысль возникла. Это реально представляешь, да? Чтобы у человека даже такая мысль возникла или он заложил это в требования, потому что изначально и Клоду, и Кодексу пофиг, да, они тебе будут создавать меню на каждой странице, если захотят, чтобы такое возникло, ты должен понимать, а что такое вообще эти компоненты, как они работают и в чем история работы асинхронных, синхронных разных этих компонентов, на каких, как они должны где функционировать, находиться. И здесь возникает история.
Возникает, э, история. То есть получается то, что просто ты рассказываешь, конечно, ты не до конца понимаешь, а что хочется получить. Это мы кинули какую-то идею. Вот. А в выпуске еще как-
Я даже спросила у ChatGPT, что-- чем мне может помочь Codex. Ну, у меня тоже какие-то очень-
Он тебе ответит банальщину. Помочь схо-- заказа-заказ, заказ суши сделать в Instacart.
Да, построить мне сайт. Ну, come on. У меня реально построен сайт за большие деньги, потому что это мое
портфолио.
Вот. А в реальности он может очень серьезно делаться. Здесь мы приходим к важной теме, что люди не понимают как. И вот, помните, я говорил про этот кейс, я до сих пор им занимаюсь. Я очень хочу, что у нас будет на это и выпуски, и, э, я, возможно, это будет в каком-то, как я говорил, open source виде, чтобы я отдал системе анализировать свои четыре с половиной тысячи чатов и достаточно много я потра-- мне кажется, система потратила туда больше ста миллионов точно токенов и, может, сто пятьдесят, может, двести миллионов, не знаю. И примерно, мне кажется, такие там числа. И я получил как несколько результатов. То есть я получил один результат, потом еще результат, еще результат, еще результат. И как бы эта система вылизывалась, вылизывалась, вылизывалась. Я вчера, мимо проходила моя жена, я говорю: "Слушай, хочешь, я тебе покажу. Тут вот я сделал штуку". Она, конечно, ничего не понимает. Она подошла. Мне просто было ей в плане посмеяться, что система знает, да, или что система видит, или какие она детали видит. Я хочу сказать, конечно, что видно, что система собирает колоссальный объем данных, о котором я даже и сам не помню, и вообще даже не помню, что я там спрашивал, не помню, что там находилось. И ни один поиск на сегодняшний день ChatGPT в Anthropic и в Claude, да, и в Gemini не позволит это все найти. С другой стороны, видно, что модели на сегодняшний день, чтобы, ну, по-настоящему, они даже рядом не подошли, вот так я бы хотел сказать, к тому, чтобы по-настоящему понять, а кто я такой. И то, про что мы постоянно с вами говорим, вот эта система, которая од-- по-настоящему знает, кто вы такой, и по-настоящему помогает вам принимать решения. До этого еще, ну, потребуется много времени. Или, как минимум, потребуется много разных настроек, много потребуется внимания, синхронизации данных и так далее. То есть, например, я много, вы знаете, веду разных занятий и каналов, и всего, и я все эти годы последние эти данные структурирую. Если бы я их бы не структурировал, то мне обучить, настроить определенные системы было бы очень тяжело. Ну, практически нереально. То есть только из-за того, что эти данные структурированы, есть возможность сделать, потому что сама система эти данные структурировать не может. По крайней мере, то, что это видно. Ну, посмотрим. Посмотрим, что с этим произойдет. Хотя еще раз, моя сестра была очень довольна, когда она обучилась на двух с половиной тысячах своих чатов. И я понимаю даже, наверное, почему. Потому что все же эта система создала мне, э, структуру проектов, там, списки памяти и так далее. Там есть очень странные вещи. Например, она до конца не понимает, сколько у меня детей, там, или до конца не знает, где я живу. То есть или если я спрашивал, не знаю, про-- я помню, у меня здесь товарищ был, и я сидел и спрашивал: если у тебя резидентство в Дубае, то как, какие там есть определенные вещи надо было в банковской системе открыть. ChatGPT почему-то в одном из выводов сказал, что у меня есть резидентство в Дубае, да. Он показал, почему. Он объяснил. Потому что вот был этот вопрос и все остальное. Но это не ChatGPT сделал, это сделала совместная работа Codex и Claude. И было странные вещи. Но! Что интересно, большинство работы в этой системе тогда сделал Claude Fable. И так получилось, что я когда запустил этот проект, появился Fable, и Fable, значит, четыре дня двадцать четыре на семь работал, сожрал мне все токены в Claude. У меня впервые закончились токены в Claude. Значит, в прошлом выпуске, Эльнар, да, я говорил, что в-- в Codex закончились, значит, закон-закончились они в Claude впервые именно из-за Fable, потому что после Fable, как его закрыли, они не заканчиваются.
Вот. А Fable в максимальных, там, в Ultra Claude и в Max, они, значит, начали у меня очень много всего снимать. И перейдем к Fable вообще, к истории с Fable, то, что произошла. До сих пор рынок в обсуждении, особенно американское сообщество, значит, в обсуждении: это маркетинг, это, это неправда, как бы, это они специально это сделали, специально что-то показали, закрыли. Кто-то говорит, что Китай все равно всему обучится и дистиллирует. И ваши все эти модели — это все фигня полная. Какая разница? Это все одно и то же. Какие на этот счет мысли есть?
Ну, я б начал с-- вот ты затронул уже эту тему, что часть людей купила подписку, стали подписчиками Claude, когда вышел Fable. Таких, может быть, и не то чтобы сильно много, но такие люди точно есть. Даже среди моих знакомых есть люди, которые купили подписку только тогда, когда появился Fable. Они об этом услышали, думают: "Ой, надо попробовать". Купили платную подписку. Ну и, собственно, через несколько дней нету той модели, ради которой была куплена подписка. Как минимум, выглядит странно и не то чтобы сильно красиво с точки зрения пользователя. Еще это огромный удар, на мой взгляд, для Anthropic с точки зрения энтерпрайза. Не знаю, как по остальным компаниям, но по Anthropic точно. Ты уже не можешь, по крайней мере, в текущей ситуации какие-то критически важные сервисы, даже по API, мэтчить на Anthropic, то есть использовать модели Anthropic для каких-то своих критически важных систем. Потому что в какой-то момент экспортный контроль решает, что, например, и Opus 4.8 или Opus 4.7 тоже являются важными, и Anthropic закрывает к ним доступ. И твой сервис, который был завязан на этой системе, просто перестает работать. И вот это, конечно, мне кажется очень нехорошим звоночком перед IPO для компании Anthropic.
Опять же, выглядит это вроде как нехорошим звоночком, но я не слышу, чтобы это как-то повлияло по-настоящему на их репутацию. Плюс бытует мнение, что Anthropic не будет выходить на IPO в ближайшие прямо месяцы И, по крайней мере, мне тут человек так сказал, что в начале должны произойти разблокировки акций на продажу SpaceX. И в начале должен пройти период времени, да, чтобы следующие компании пошли и следующие компании выходили. Так ли это? Я не до конца понимаю. Я не до конца понимаю, кто является входными инвесторами вообще в рамках IPO. Но мы можем видеть, что SpaceX сделал не такое большое, во-первых, размещение, да, у них там семьдесят или восемьдесят, или девяносто миллиардов долларов всего. Это не такая большая сумма, да? То есть были компании в мире, которые с удовольствием хотели бы купить часть SpaceX, что, собственно, они и сделали. Вопрос, что дальше будет происходить с этими цифрами, там, когда выйдет Anthropic и OpenAI — это большой вопрос.
Что ты думаешь на тему того, что Codex версию пять и пять выпустил уже очень давно? Пять про-- пять, пять про я уже даже забыл, когда она вышла. А Codex пять, пять high, мне кажется, что уже как бы прошло время и уже вроде как надо что-то новое, да? Или мы сильно торопим, или мы сильно торопимся. Они сейчас выпустили очень интересную историю. Возможно, в преддверии их новой модели они выпустили такой, не знаю, как это назвать, как меморандум некоторый. То есть они сказали, что-- они исследовательский материал выпустили. Они сказали, что у них существует новый метод проверки модели до релиза. Называется симуляция развертывания. И этому, кстати, было неплохое внимание, мне кажется, уделено. И это попытка заранее предсказать, как новая модель будет себя вести в реальном использовании. И, по сути, что они делают? Они взяли один и три миллиона безличных разговоров, стерли ответ предыдущей модели, которая была, и ответили заново этой моделью. Потому что если бы ты давал уже какой-то предустановленный контекст, то это бы работало по-другому, да? И, соответственно, OpenAI отслеживал около двадцати категорий, там, нежелательного поведения, включая ложь, там, выдуманные факты, какие-то скрытые неопределенности и так далее. И вот здесь вот история какая. OpenAI сейчас вот эти какие-то выпуски делал, он делает их в преддверии того, что у них будет выход новой модели или OpenAI остановился на самом деле в своем развитии? Вот мне-- мы, мы несколько месяцев на этом канале рассказываем о том, что модели становятся недоступными, модели будут недоступными, модели будут недоступными не только из-за санкций, что модели будут доступны только для, там, американских компаний. Ну, в Китае для китайских, понятно, для китайского рынка, что модели будут доступны определенной группе людей, что, возможно, появятся дорогие тарифы. Собственно, я и жду. То есть я был бы не против, там, чтобы Fable просто стоил, там, в новом тарифе, который, там, не знаю, стоит несколько тысяч долларов, да .
Вот. Антирационально, да, я рассуждаю? И, ну, в этом есть некоторая рациональность. При всем при этом OpenAI очень странный. То есть мне один человек, который встречался недавно с, э, со всеми руководством OpenAI на очень маленькой встрече, там двадцать человек или сколько было, и там был Сэм Альтман тоже. Он мне сказал, что они вообще уже не про AGI. Ну, то есть они не думают про AGI, они не думают как исследовательская компания, что они думают про то, как не проиграть Anthropic, да? И это, мне кажется, любимый нарратив Ильнара на тему того, как, правильно, как не проиграть.
Последние полгода точно компании так действуют.
Да. Они, мне кажется, уже чуть ли не год, да, так стали действовать, Ильнар, когда еще-
Полтора года как.
Да, но Ильнар на самом деле, когда я сейчас как-то в чате у нас написал с вами про Fable, Ильнар написал: "Ждем ответа от чата GPT". Поэтому Ильнар как раз таки, мне кажется, стал достаточно нейтрально относиться, да? Просто у нас раньше зоны были сильно разделены. Я до сих пор люблю чат, чат GPT пять пять про в обычных ответах. Вот моя редактор, например, у меня есть одна сотрудница, она жестко все время продвигает, значит, мне Claude.
Просто все время продвигает, значит, мне Клода. Она все время говорит: "Александр, мне Клод нравится больше, как пишет тексты, там". А мне нравится. Последний раз мне прислала, я все захаил, сказал, что, значит, это все ерунда и мне не нравится, как он написал. Хотя еще раз я, эээ, конечно, стал использовать Клод, в частности проектирование определенных систем, да, или понимание вообще, а как их проектировать. Потому что лично я каким вопросом задаюсь сейчас и почему Таня тебе рекомендовал такую систему делать? Не для того, чтобы задумываться над тем, что у тебя кто-то чертеж украдет или за тем, чтобы, эээ, данные кому-то кто-то получит или как бы, а затем, чтобы найти механизм нового мышления для себя. А, собственно говоря, как такие системы можно применять, да? Потому что я по себе, что вижу, что я, например, сейчас последние две недели в-- и в Кодексе, и в Клодкоде, но я могу себе это, наверное, позволить. Но я чем занимаюсь? Я ищу методы, а какие методы являются максимально эффективными для реализации определенных задач. Потому что вот как бы чат GPT, наверное, такая история у меня нет. Я, бывает, описываю очень хорошо задание, а бывает, я описываю ерунду. Я знаю, что я писал очень плохо, но мне не хочется бесконечно все там структурировать, да? Я там не структурирую, просто не хочется. Просто у меня уже как бы, ну, просто не хочу этим заниматься. Да, я не знаю, как, как все остальные, эээ, и как наши подписчики. Тоже интересно, кстати, это узнать. Есть люди в этом увлеченные. А вот в Кодексе и Клоде я начал смотреть, а как вообще рационально правильно ставить задачу. То есть можно ли отдавать ему проекты чуть шире или чуть меньше, а делать маленькую задачу, или лучше сделать ее большой. Потому что иногда я поражаюсь, иногда ты даешь достаточно серьезную задачу, она начинает жить по щелчку пальца. Как только это происходит, я начинаю давать ей много серьезных задач и перестают работать все самые маленькие простые задачи.
Да, и ты не понимаешь, значит, эээ, что, что вообще в этой зоне.
По поводу ответа от крупных компаний, да, здесь я бы не только от OpenAI, но и от Гугла тоже ждал, потому что Mythos вышел уже достаточно давно. Иии учитывая, насколько параллельными курсами все эти компании идут, у них точно есть разработки для таких больших моделей. И я бы ждал здесь не только от чата GP, не-не-не только от OpenAI новую версию, но, повторюсь, и от Гугла. Gemini тоже крупненький. По поводу того, что вот у них там основной посыл сейчас не проиграть антропикам. Если вдруг Fable вернут, а это может случиться уже к моменту выхода этого видео, то эти компании будут серьезно отставать. Если у конкурента есть модель уровня Fable, а вы до сих пор висите на моделях, которым уже три-четыре месяца, а на текущем рынке это все-таки уже достаточно долго, то переток пойдет с новой силой в сторону антропика, в сторону Клода. Все больше и больше будет пользователей перетекать. Им придется отвечать на подобного рода модели. Не может быть такого, что у кого-то из игроков на этом рынке настолько серьезные преимущества по качеству моделей. Ну, либо просто к нему все перетекут.
Ну, вот это, вот это очень интересно. Вот это очень интересный вопрос. А в действительности ли нету отрыва у качества моделей? Потому что, вот ты знаешь, э, я, я все же считаю, что есть большая разница, да. Там, э, большая разница того, что делает OpenAI или Antropic от того, что, например, кто-то дистиллирует их модель. То есть я не верю в то, что модель при ее те-- при текущих моделях, при текущих системах защиты самих моделей Клодом там или чатом GPT, их можно дистиллировать настолько, чтобы эта модель была там девяносто процентов такой же. А еще у меня возникает вопрос, вот возьмем Цукерберга. И они зна-- были на передовой в создании open source в рамках генеративного искусственного интеллекта. Их модель была, м-мне кажется, что, ну, она, по крайней мере, обсуждалась очень много. И они вкладывали-
Прошлой весной она совсем большой была. То есть мы прямо отдельно-
Они вкладывали большое, они вкладывали большое количество денег. И обратите внимание, самое интересное, они не просто вкладывали большое количество денег, они не просто вкладывали большое количество денег. Цукерберг выходил с такими заявлениями, что если я потрачу двести, двести пятьдесят там миллиардов долларов и у меня не будет результата, ничего страшного, что в искусственном интеллекте это нормально. А тут мы начинаем слышать совершенно другие нарративы. Во-первых, мы слышали, что должны выйти модели у них в первом квартале, они не вышли. Помните, да? Авокадо и все остальное, что мы там заявляли. Или, может быть, они вышли, я о них не знаю, но, по-моему, не вышли. Да, Эльнар?
А-авокадо вроде выходил, но-
Или авокадо в какой-то версии выходил.
Мы говорили, что- Авокадо, по-моему, где-то выпущено. Да, мы говорили, что это выпущенная работа новой команды, которую собирали за миллиарды. Но как бы-- она, кстати, не стала open source. Это первая модель, по-моему, эээ, у этой компании, которая не, не была выведена в open source. Но как бы про эту модель все давно забыли.
Да, но где она? Да просто где она? Она, наверное, она-- понятно, что она находится в их системах, там Meta IA и так далее. Но все эти системы, они очень сильно отстали с точки зрения качества. Мы же сейчас не говорим про простой искусственный интеллект, который как в Siri показали там на выставке Apple, да? Значит, расскажи мне, что будет на чемпионате мира по футболу. Там и показывают изображение.
Мы же не про такой искусственный интеллект говорим сейчас, там не про такие системы, да? Все же пять, пять про там и Fable или там Opus, даже четыре точка восемь, но это просто другой уровень. И тут, значит, интересная была тема по Цукербергу. Он несколько месяцев назад выдал такую историю, что все сотрудники должны использовать как можно больше токенов. Ну и мы знаем, что вообще в мире сейчас тема, тренд такой: используйте искусственный интеллект, используйте токены. Многие компании выделяют на это ресурс. Вот кому-то двести долларов выделяют, кому-то пятьсот, у кого-то не ограничено, кому-то выделяют десять тысяч. Приходит Дженсен Хуан, говорит: "Если сотрудники тратят пятьсот тысяч долларов, то типа это вам хана". А тут появляется новая, значит, новая тема про Цукерберга, что появляется новое понятие, как то-токен, токен мейксинг и такая максимизация токенов, что и Meta рассылает внутреннюю записку на примерно шесть тысяч сотрудников. И в ней сказано, что использование искусственного интеллекта внутри компании растет экспоненциально и что- Что самое прикольное, что сотрудники стали расходовать токенов больше, чтобы в рейтинге как бы быть тех, кто больше всего расходует токены. Да? И я понимаю прекрасно, что эта тема-- это как если бы кому-то бы дали и сказали: расходуйте как можно больше денег на рекламу, да, и не считайте их, потому что как сейчас посчитать эффективность? То есть вообще как они могут посчитать эффективность? Но понятно, что мир маркетологов, продуктовых директоров, продуктовых менеджеров, в продажах там есть огромный мир, а, и бизнеса, в том числе. Они считают, значит, что все можно посчитать. Но есть вещи, которые посчитать крайне тяжело. И я обычно людям говорю: у вас зарплата выросла из-за искусственного интеллекта? Они говорят: нет. А в вашей компании, вашей компании реально стало прямо прибыли в разы больше зарабатывать? Они говорят: нет. Я говорю: и в чем прикол? Понятно, что есть, где искусственный интеллект дает эффективность. Мы это ни в коем случае не убираем, рассказываем про это на канале. Но я просто пример Цукерберг как раз таки показываю про то, что, по сути, кстати, знаете, какая у них цифра токенов? Они сказали, что у них за тридцать дней было израсходовано семьдесят три триллиона токенов, и там было озвучено, что, что топовый пользователь доходил до двести восемьдесят один миллиард токенов. То есть когда я сейчас сказал, что я потратил двести миллионов токенов, там, на анализ своей системы и так далее, я делал это достаточно эффективно, но при этом много тратил. То я такой думаю двести восемьдесят миллиардов — это в тысячу раз больше. И ты думаешь... То есть у них даже токен, у них были легенды токена, такие рейтинги и session immortal, значит, сессия невозможна. Внутри стояла, и для них, конечно, стало проблемой. Почему? Потому что стоимость токенов начинает превышать миллиарды долларов, миллиарды долларов. Когда у тебя начинают превышать такие деньги, ты начинаешь задумываться. Понятно, что, наверное, для компании Meta миллиарды долларов это нормально. То есть если у тебя десятки, сотни миллиардов долларов выручки, у Meta, наверное, не сотни миллиардов, да, мне кажется, они меньше, чем сто.
Не хочу здесь врать, до конца не знаю их показатель. И, наверное, это вроде как дает некоторую определенную эффективность. Якобы ты говоришь, значит, мы тратим, не знаю, пять процентов нашей выручки, да? Ну, вроде, почему бы и нет? А в то же время, а вы действительно, потратив пять процентов вашей выручки, получили какую-то эффективность плюс двадцать или плюс тридцать, или плюс сколько процентов. И поэтому моя мысль, Нар, была: а действительно, раз все эти люди, они ошибаются бесконечно, все вот эти, которые всем этим управляют, они же всем этим управляют. То есть Цукерберг известная личность, но если взять его заявления за два года, как бы большой вопрос, то действительно ли, Эльнар, модели везде одинаковые и настолько похожие? То есть ты все же думаешь, что они очень-- ну нет, нет ни у кого на данный момент уникальности.
Ну, давай сейчас я к этому вернусь. Прокомментирую только про токены. С одной стороны, действительно, это может быть очень расточительно. Потратили, ну, то есть сделали соревнования, которые можно хакнуть просто тем, что ты постоянно там какие-то тупые вопросы шлешь, заставляешь модели рассуждать, перепроверять агента запускаешь в цикле и так далее. Но при этом они чего добились? Что большое количество сотрудников погрузилось в эту историю. Если это такая, условно говоря, разовая акция, там, на два-три месяца, когда мы просто, ну вот да, пожгли огромное количество денег, пожгли огромное количество токенов, но мы сдвинули большую неповоротливую компанию в сторону использования AI. У нас там условно вахтеры на входе жгут токены. Ну да, потом это соревнование закончится, но как бы весь, вся наша компания сдвинулась. Я просто пытаюсь найти какие-то положительные эффекты от этого немножко странного соревнования. Возможно, они есть. То есть потом просто уберут это соревнование, но как бы привычка-
Нет, ну так, лучше пробовать таким компаниям точно лучше пробовать делать, чем вообще не делать. Правильно?
Делать, чем, вообще не делать. Правильно?
О чем я говорю? , помнишь, когда код красный Альтман объявил? Это из-за Google было с Gemini связано. Мы тоже говорили в выпусках, что типа не надо все бросать, о-о-отписываться от одной компании, бежать в другую компанию, потому что пройдет буквально немножко времени, несколько недель, максимум месяц, у конкурентов будут модели такого же уровня. Это же и случилось., и вот такое происходило уже несколько раз. Какая-нибудь компания выкидывает модель, которая рвет все бенчмарки. Через буквально немножко времени остальные тоже догоняют, и паритет на рынке сохраняется. С Fable и с Mythos такого пока не произошло., на самом деле я немножко в этом удивлен., ну, Fable понятно, он несколько дней на рынке существовал, как бы, и то, что на него не отреагировали нормально, хотя уверен, что все компании знали, что он скоро выйдет и так далее. Но вот Mythos довольно давно уже был, и проект Glasswing уже несколько месяцев существует. Иии то, что другие компании на это не отреагировали выпуском своих похожих моделей, это немножко меня смущает. Мне все-таки, конечно, говорит о том, что, возможно, они от-отстают от Anthropic и не могут это реализовать. Либо есть какие-то другие причины, по которым они это не выпускают.
Мне пока н-н-не ясно, не очевидно, но мне хочется, конечно, чтобы у остальных тоже подобного качества модели выходили., что касается дистилляции, еще что я вспомнил., ну, вот часто же приводят такой пример., вот, условно, вот вы сейчас живете, да, вот у вас там, я не знаю, вода из крана бежит, зимою дома тепло, иии вы перемещаетесь по миру за, там, какое-то не очень большое количество денег и так далее. А если отмотать на несколько веков назад, то это уровень жизни, недосягаемый для, там, императоров, для каких-то очень и очень богатых, состоятельных людей. Так вот, похожая история. Ну, то есть сейчас, очень и очень, низшая прослойка среднего класса живет лучше, чем там какой-нибудь Наполеон Бонапарт, условно говоря, по крайней мере, по каким-нибудь критериям уж точно. Да, там, по доступности еды, по, там, перемещениям, по безопасности, еще по каким-то вопросам. Условно. Так вот, с моделями происходит же то же самое, на самом деле. Да, можно считать, что китайские модели отстают, ну, пусть на полгода. Да какая, по сути, разница? Да, на полгода они отстают, но с точки зрения обычного обывателя, ну, вот ты уже как бы можешь пользоваться результатами, которые были у других компаний, но условно бесплатно. Можешь развернуть, скорее всего, это еще на каких-нибудь своих серверах и этими вычислительными мощностями распор-распоряжаться и получать достаточно качественные результаты. Да, не frontier. Да, ты не самый первый, но у тебя все это есть. И это, на мой взгляд, вот немножко похожая история с богачами, там, древности и, там, с текущими людьми, да. У нас все равно, как бы есть какой-то frontier, есть, там, самые, недоступные модели, которые, возможно, будут стоить, там, подписки несколько тысяч долларов, но через какое-то время все равно это как бы опадает и для всех остальных компаний тоже.
Вспоминаем историю, мы про нее говорили. Мне кажется, она сейчас очень важная для обсуждения. Она еще, по крайней мере, не исчезла., историю того, что OpenAI и Anthropic покупают компании иии разворачивают свои собственные компании для того, чтобы заниматься внедрением программного обеспечения в, в другие компании. На-на фоне этого что еще происходит, значит? OpenAI, во-первых, выпускает партнерскую программу вчера. В рамках этой партнерской программы они предлагают обучить триста тысяч консультантов., вот у нас вы-выйдет, спецвыпуск про Anthropic, в, по поводу их политики безопасности., я снял новое, иии, наверное, во вторник, в среду он будет. И я там как раз таки говорил, историю того, что О-OpenAI вроде как хочет создать триста тысяч, консультантов. А выглядит это, что они хотят, сделать их среди таких каких-то крупных консалтинговых компаний или каких-то супер проверенных компаний. Вот все время выглядит это так, да? И как будто весь рынок все время крутится вокруг каких-то топовых компаний, больших бизнесовых. Хотя, по идее, в их логике они должны крутиться вокруг масс-маркета, да? Потому что они как никто другой, у них миллиард пользователей, и им надо думать о том, как бы, чтоб было полтора миллиарда пользователей. Вот одна из проблем, которая обсуждается на рынке здесь, в Кремниевой долине, у OpenAI, которая может изменить весь рынок сейчас, ход всего инвестирования и всего венчура Кремниевой долины. Что будет, если Antr-- , OpenAI во втором квартале покажет отсутствие роста выручки? То есть если у них будет такое понятие, как флэт по выручке, ровно по выручке, то что будет происходить? , говорят, что, в этот момент времени должна произойти переоценка, да, понятия инвестирования, подходов, всего остального, да? , здесь момент такой, что они могут показать, флэт или не флэт их по выручке. Это зависит, мне кажется, от их стратегии, на что они целенаправлен-- на что они направлены. То, что сейчас видно, они больше направлены на, последние полгода, по крайней мере, на развитие В2В направления, а не на создание, каких-то сверхкрутых моделей или развитие действительно супер работающей системы для обычных людей. Потому что вот вещи, которые-- они-- вчера иду в мобильное приложение и не могу найти проекты в чате GPT. Проекты исчезли. Я говорю: "Ну еще они исчезли. Есть только какие-то закрепленные". И потом оказалось, они их там привнесли сверху в какую-то отдельную вкладку. И в эту отдельную вкладку ты кликаешь, они открываются. У меня интерфейс, я не знаю, какой-то выборки тестеров или что, но у меня интерфейс во всех системах меняется все время. То есть просто, просто все время. Они все время разные.
Я уже даже, я уже даже отвык к тому, как называются модели, потому что я не-- я, бывает, не вижу Я не понимаю, как в проф свою зайти в максимальную, потому что там то видно thinking, то нету thinking, то thinking такая, то такая. Ты уже, значит, не понимаешь, значит, где что происходит. Так вот, суть про вот эти их, их направление внимания, что они хотят автоматизировать другие компании. На этой неделе появилась информация, что Anthropic и DXC, значит, начинают заходить в банки, в авиакомпании. И самая интересная фраза там есть: в старый enterprise код. И что такое старый enterprise код? Это, эта тема, кстати, фундаментально важная. Самая важная вообще, которая есть. Это не написание изменения кода для таких компаний, как Salesforce или Booking, или Airbnb. А что делать с вот этими десятками миллионов и миллиардами сайтов и софтов разных написанных, ну или сотнями миллионов, там, написанных вот этих софтов разных старых, которые везде установлены. Что с ними со всеми делать? И появится ли система, которая сможет эти софты как-то обновлять или, эээ, делать их более управляемые, или, например, разбираться в этом коде и как-то ставить на свою, на свою автоматическую поддержку. И что написано? Что вот эта D-- DXC — это крупная IT сервисная компания, да, и она обслуживает, понятно, огромное количество людей. По официальному сообщению, которое сейчас было, что DXC будет обучать десятки тысяч сертифицированных Cloud специалистов, которые будут так называемые forward deployed engineers. То есть это инженеры не просто-- , смотрите, нарратив, вот прямо копия, вот прямо копия нарратива, да, того, что выполнил OpenAI. Я просто про партнерку OpenAI очень внимательно изучил. А про-- вот нарратив про эту компанию я просто прочитал очень быстро эту новость, да. И даже интересно сверить, интересно посмотреть, а даты вообще совпадают или не совпадают у OpenAI и у Anthropic. А, ну, Anthropic это выпустил одиннадцатого июня, да, а OpenAI — шестнадцатого. И, ну, ну реально! И они пишут, что вот эти инженеры — это будут инженеры определенного типа, это как бы, это инженеры, которые встраиваются, вот их дословно: инженеры, которые встраиваются прямо в среду клиента и помогают внедрять Cloud в реальные системы, да. И вот прямо копия того, что OpenAI делает. И здесь вопрос стратегии их. Я все время говорю, да. Anthropic это делает для того, чтобы все больше захватить создание софта и везде как бы влезть. И дальше этот софт поддерживает разработку вот этих вот систем. И мне кажется, что это может быть новой моделью заработка в мире, не моделью продажи токенов. Я вот относительно верю, я сейчас ехал, и висят там эти Factory Token, там все Сан-Франциско AI-м завешано, да, Таня? Мне кажется, Сан-Франциско просто-
Да, это ужас.
Просто это дурдом. Я уже таких компаний никогда не видел, не
знал, там, год назад.
И причем рекламы в стиле «Угадай, что я имел в виду». Вообще непонятно, о чем речь.
Просто везде. И вот эти фабрики токенов везде полностью написано. И, по сути, Anthropic, мне кажется, что где могут быть деньги, это не в фабриках токенов, а могут быть деньги-- ну, с одной стороны, твою систему используют обычные люди. Вот как ChatGPT миллиард человек использует, да. Когда этот миллиард человек поймет, что их система важнее тренажерного зала. Ну, не важнее — окей, но где-то стоит, по крайней мере, не менее важная, да, потому что количество людей, которые посещают тренажерный зал, я люблю приводить такой пример, больше, чем количество людей, которые используют платные системы искусственного интеллекта. Что странно. Вот. А здесь история в том, что вторая есть тема, на которой, мне кажется, можно денег заработать. Это как раз таки, когда представим, Anthropic внедрился вот в этот, то, что они называют Интерп-- старый, старый enterprise код, да, старый код корпоративный, который был написан когда-то и везде, и становится системой, которая его поддерживает. И мне кажется, что вот мне когда-то на заре, в две тысячи четвертом году я работал во французской компании программистом
Я работал во французской компании программистом, и мне мой директор, значит, открывает дверь и говорит: «Все, значит, будем работать с, э, там, с разными микросхемами». И появляется новый робот. Ну и, по сути, привозят робота, и этот робот, это робот, э, для перемещения, участвует в процессе изготовления процессоров и работает вместе с кремниевыми пластинами, да? Я большой кусок своей жизни этому посвятил в полупроводниковой промышленности на фабриках в мире, там Intel и так далее. И вот он привозит робота и говорит: «Этот робот стоит на фабрике Intel, и в нем надо найти ошибку». И ты открываешь, значит, этот код, написанный на Borland C++, и там комментарии на французском языке, на английском языке, на китайском языке, вообще-- вообще просто. Просто открываешь какой-то черный ящик полностью и тебе говорят: «Intel прислал тут доработку. Тут вот есть такая штучка, что вот если на пластинах, а, такое наименование кода, то система неправильно работает». И ты, значит, это исправляешь. Причем когда ты это исправляешь, ты не понимаешь, ты какие-то другие циклы убил или не убил. Ну, как это? Ты даже не знаешь, какое количество там внутри есть циклов, и ты поставляешь вот эту специальную сборку этого софта для этого робота. Это были роботы произ-- французской компании Sopra такая когда-то была, один из больших поставщиков оборудования в мире именно полупроводниковой промышленности. Это Semi Equipment, а, Automation, да? И, а, соответственно, а, ты вливаешь туда вот этот код. Мне кажется, что если бы я сейчас бы-- мне привезли бы такой код, ну, очевидно, Ильнар, согласен, да, мы бы что бы сделали? Мы бы взяли бы этот код, загнали бы в Claude Code и сказали бы... А там же его не что бы там сверхмного написано, на самом деле, для управления, там, этим роботом, да? И, ну, там есть низкоуровневый, ну, там разный-- разное программирование, понятно. И я бы загнал бы весь этот код, сказал: «Слушай, мне надо вот эту строчку изменить». Я думаю, что он бы мне примерно через 10 минут все поменял, и все бы заработалось. Ну, я-- мне кажется, что бы заработало.
Не, Ильнар, мне кажется, заработала бы такая история, да?
Да скоре-скорее всего. А более того, за похожие вещи говорят, Fable и забанили.
Да. А, но смотри, а за похожие вещи Fable забанили?
Ну, слушай, по крайней мере, то, что говорят, что, вот, ну, типа нашли джейлбрейк, который позволяет сделать так, чтобы, там, использовать ее, там, в кибератаках. А потом, соответственно, слухи, которые вот ходят, то есть у нас нет достоверной информации, слухи, которые ходят, говорят примерно следующее. В чем заключается джейлбрейк? Ты скидываешь кусок кода, говоришь: «Надо его починить». Когда моделька его починила, ты говоришь: «А напиши тесты, которые покажут, что действительно теперь эта проблема не существует». А потом вот эти тесты — это и есть атака, с помощью которой ты проверяешь, вот эта вот штука работает или не работает. И вот как бы таким образом можно создать, там, киберугрозу, да? И вот как бы это примерно то, что ты говоришь, да? Вот прислали программу, говорят: «Не работает, надо починить». Вот. Потом покрываешь тестами и экспортом-
Ильнар, но смотри, большинство систем в мире, я не говорю про системы в мире серьезного плана, там, не знаю, работы, а, си-- карточки Visa, там, банковские большие операторы и так далее. Но большинство вот этих вот десятков миллионов софтов и сайтов, они, а, вот эти вот дырки можно находить не с помощью Fable и даже не с помощью Opus 4.8.Max, да? Их можно находить с помощью моделей гораздо попроще, которые внутри лежат в том же Claude, не знаю, с помощью Claude Sonnet, да, или с помощью, мне кажется, даже семейства, там, 4o, наверное, в части GPT. То есть явно, явно можно находить огромное количество разных дырок.
И open source
моделями тоже.
И open source моделями тоже. И поэтому здесь история, а, скорее вопрос: кто может для чего применить такую систему и насколько вот уже крупные, более серьезные компании к этому готовы, да? И насколько-- а крупные серьезные компании, как мы видим, они относительно готовы с учетом того, как у них работают их системы. Например, я вот могу сказать, есть Amazon. Как тормозит Amazon часто, как он выдает глючно, как там невозможно что-то найти. Ну это же ужас просто! Я понимаю, что некоторые алгоритмы у них сделаны для того, чтобы человек больше покупал, но у них я периодически там что-то могу не купить, потому что я просто не могу там искать. То есть эта система вообще не сделана для того, чтобы ты по параметрам там где-то что-то искал. Я представляю, что там вообще за объем кода написан, систем написан, и явно даже большие серьезные компании подлежат каким-то, в теории, подлежат взломам таким через систему Fable, да? Ну и мы не говорим про огромное количество, ведь огромное количество хакеров, они охо-охотятся не только за тем, чтобы взломать Chase банк, там, или правительство Америки, они охотятся за тем, чтобы какие-то маленькие даже вещи, где-то какую-то маленькую компанию украсть или какой-то компромат получить с какой-то маленькой компании. То есть вот это, конечно, серьезная проблема в мире, но ее уже не избежать, да, ее уже не избежать с учетом даже присутствия текущих моделей. И мне кажется, что основная масса людей в мире даже этого не понимает. И превентивно, да, потому что вот если ты сидишь и у тебя есть какой-то софт, и у тебя там стоит внутри какая-то система, CRM-система, ERP-система, MRP-система. Кстати, сейчас можно очень специфические вещи сделать с помощью этих систем. И здесь я призываю, наоборот, людей очень серьезно с этим разбираться, чтобы от этого обезопасиваться. Хотя, а кто най-- сделает эти исправления, да, как поймет, как сделать эти исправления? То есть люди одновременно боятся вот того, что Таня озвучивала, что из серии, там, ChatGPT украдет у него там чертежи или обучится там на них, да? И хотя они могут-
Ну, не чертежи. Чертежи, понятное дело, что мало ценности.
У тебя там нет ничего.
Персональных данных.
Вообще нет, вообще нет ничего. Знаешь, в чем дело?
Включая карточки, например.
Ну и Смотри, смотри. Смотри, это же-- нет, смотри, э, данные клиентов это уже другой вопрос, да? Когда ты распространяешь данные клиентов-
Но данные каких клиентов?
Есть 100 клиентов.
Да, данные клиент-- каких клиентов? Да. И дальше воп-- ну, я имею в виду, к-к-какие данные, да? И дальше вопрос, а хоть с ними был подписан контракт, да? И какой был подписан контракт с точки зрения тех данных, которые ты, например, можешь прогонять в модели, не можешь прогонять в модели, как можешь прогонять в модели и так далее.
Ну, как ты понимаешь, таких апдейтов в контрактах еще не было.
Да. Ну, это надо опять же изучать, что ты имеешь право делать, а что нет, потому что это твоя автоматизация. Ты же в автоматизированную систему загоняешь и загоняла в облачное, например, хранилище, могла загнать, купить Salesforce, например, в Salesforce загнать данные своих клиентов. Тебя не смущало, что это тоже компания, у нее тоже есть облачное хранилище или твоя Google почта. Тебя не смущает, что Google Drive принадлежит компании Google? И какая разница? Компания Google имеет твой Google Drive, к твоему доступу как компания Google или как компания Google через Gemini, да, в которую ты, например, открываешь, туда впускаешь. То есть, по сути, твои данные, Таня, и так уже давно находятся в облаках, и это, э, скорее, э, некоторое внутреннее, очень специфическое состояние, да, с точки зрения... Это стандартная реакция.
Это, это, это факт.
Здесь я согласен точно. Эльдар, ты, ты этот...
Да, да, да. Вот про то, что ты говорил, э, про то, что не только Fable можно кибер, э, угрозы создавать. Э, я не знаю, в спецвыпуске ты успел, не успел охватить вот это открытое письмо Free Fable сайт появился, где как раз довольно интересные вещи написаны по поводу, э, киберугроз. Он написан и подписан людьми, которые вот как раз кибербезопасностью занимаются. И там есть как раз интересные мысли, что на самом-то деле, э, эксплойты модели умеют находить. То есть, ну, уязвимости модели умеют находить на сверхчеловеческом уровне уже с прошлого года. То есть это речь не про Fable, а про модели, которые сильно раньше появились, что условно каждый день люди, которые занимаются кибербезопасностью, такими вещами пользуются. Вот, э, тем джейлбрейком, условно, который вот мы описали с тобой чуть-чуть пораньше, да? Э, и дальше интересные мысли, что текущее развитие китайских моделей, по крайней мере, про тех, про которые мы знаем, отстает от передовых моделей максимум на два месяца. Иии если правительство США лишает доступа всех, э, моделей Fable, то достаточно скоро китайцы догонят, э, и, соответственно, защищаться от угроз будет гораздо сложнее, если у нас забрали такой инструмент, которым мы могли бы воспользоваться. Ну, говоря мы, я имею в виду вот люди, которые подписали это письмо, которые занимаются кибербезопасностью. Если вдруг, э, кто-то из наших зрителей это письмо не читал, а темой интересуется, настоятельно рекомендую FreeFable.org, по-моему, мы ссылочку обязательно оставим.
Почитайте, там довольно занятные мысли на тему кибербезопасности, развития моделей, э, фронтир-модель на Западе и китайские модели. Довольно интересно почитать.
Хочется, э, чтобы мы не застряли только в Fable и в Mythos. Хочется рассказать очень интересный пример, который сейчас произошел, значит, в одном из университетов. Студент, э, написал, э, я снимал, мне кажется, про это шортс, но в выпуске мы про это не говорили. И а тема очень, очень прикольная. Значит, студент, э, использовал, э, ну, писал, э, свой диплом. И когда этот диплом разбирали, то, э, приемная комиссия сказала следующее, значит: его диплом проанализировал искусственный интеллект, который анализирует на написание, э, текста искусственным интеллектом, и сказал, что его диплом на девяносто восемь процентов написан AI generated, сгенерирован искусственным интеллектом. Значит, он пришел, а, в-- это было в частном университете в Нью-Йорке
Это было в частном университете в Нью-Йорке. Он пришел, э, туда на защиту и говорит: "Смотрите, я могу вам открыть свой Google Docs и показать, как я на протяжении последнего полугода писал свой диплом строчка за строчкой. Вы сможете полностью увидеть, что я это делал сам. И это прямое, сто процентов гарантированное доказательство того, что я диплом писал сам и что искусственный интеллект я не использовал". На что ему при-- эта приемная комиссия сказала: "Э, для нас, э, в приоритете имеет значение система, которая автоматически определила, что ваш диплом сгенерирован". И отказала ему. Посмотрим, как этот кейс дальше будет развиваться, да? Потому что выходила новость, что человек потерял сорок пять тысяч, что его сразу же лишили. Сорок пять тысяч, э, ст-ст-- как это называется, студенческих? Не премия, а scholarship, да, да, стипендии, что у него, значит, забрали вот эти сорок пять тысяч долларов в год стипендии. Но это, скорее всего, не как стипендия, это, скорее всего, скидка на обучение. Да, да. Ну, какой-то комплекс, что якобы его забрали, потому что этого человека признали.
Ну, понятно, что его сразу же поставили там, я не знаю, как не выгнали, да? По идее, его могли бы за это выгнать. И посмотрим, как этот кейс дальше всплывет на рынке. Но мне кажется, что он невероятно интересный в силу вообще, м, того, где мы сейчас находимся. То есть мы сейчас-- это и в-- к слову, а какой код какая система может написать? А код пишет лучше программист или лучше пишет уже система? А, и как, и как, иску-- кто доверяет искусственному интеллекту? Как доверяет искусственному интеллекту, да? И в какой момент доверяет искусственному интеллекту? Потому что, конечно, я, я зна-- я знал и видел, что эти системы периодически ошибаются с точки зрения качества их работы, потому что у меня такая же ситуация была с примером с моим племянником, когда ему система говорила, что там тридцать процентов работы написано или сколько искусственным интеллектом. Он говорит: "Саша, я полностью все сто процентов эссе написал сам". Да? И, а, как с этим многим людям будет жить? Это будет, это будет большая проблема.
На эту тему слышал еще такой кейс, что когда подобного рода система начинает говорить, что видео, не видео, что текст вот AI сгенерирован, э, чтобы, соответственно, показать, что система работает неправильно, в нее просто начали скидывать, э, тексты реальными людьми, написанные до появления AI. И большую часть из них моделька тоже сказала: "AI сгенерирован", там на сколько процентов или еще что-то такое. Ну, а это написано реальными людьми в даты до того, как появился AI, и там точно не могло быть использовано. В этом плане false positive срабатываний достаточно много. То есть когда моделька ошибается и ошибочно называет, э, ту или иную работу AI сгенерированной, и на это, к сожалению, не проверяют. Ну, вот и в том университете, видимо, тоже какая-то похожая проблема.
Да, и получается, что когда глава Google говорит о том, что поисковые алгоритмы будут уже работать с помощью искусственного интеллекта, то ты понимаешь, сколько в интернете находится фейка и насколько. Если сейчас в Google ничего найти нельзя, то, по сути, с помощью искусственного интеллекта, если делается поиск, то е-- такой, такой их поиск, он будет работать очень специфическим образом. Ну а как по-другому? Потому что если, например, система считает, что у меня есть двой-- э, второе, там не знаю, гражданство в Дубае, э, или там резидентство, да, или говорит, что у меня где-то, где-то что-то есть, потому что просто я этим интересовался или про это спросил, или ставит что-то для меня суперважное, а уже видно, что это время прошло, и это для меня уже неважное, а оно прямо убедительно бьет, что это суперважное. Это я считаю, что это очень большая проблема. То есть такой объем данных, который сейчас генерируется на объеме данных, на котором обучаются эти сейчас системы, они, по сути, в себе внутри имеют, ну, очень серьезный черный ящик, да? Просто невероятно черный ящик. Я имею в виду для обычных людей, для принятия даже решений. То есть скоро же начнут. Сейчас огромное количество людей почему-то уверено, что искусственный интеллект сможет давать очень много крутых рекомендаций, да? Например, в бизнесе.
Да, это большая проблема.
Да. Или мне недавно товарищ сказал, например, управлять рекламой, да? И ты ему говоришь: "Подожди секундочку. Так у него же нету данных. Здесь у него есть небольшой кусок данных. Или как он может управлять моим календарем? У него нету объема данных для того, чтобы управлять моим календарем. Даже если я его везде подключу, он не может им управлять, потому что у меня не алгоритм, там, менеджера по продажам, который работает где-то, вот его календарем, может быть, можно управлять, да?" И очень много разрозненных аспектов. И получается, что если кто-то начнет использовать это как рекомендацию к действию, как рекомендацию к тому, чтобы начать войну, или как рекомендацию к тому, чтобы запустить, открыть какой-то бизнес, рекомендацию какую-то сделать покупку или открыть бизнес-направление — это проблема. Это как сегодня я видел рилс в интернете, где-- я не знаю, почему он мне попался, но он попался. Семья приехала в европейскую страну, и там люди спросили, можно ли ее посещать, у ChatGPT гражданам, э, России без визы. И ChatGPT выдал, что можно. Они, значит, пришли на границу, им говорят: "Нельзя". Человек показал им, пограничнику, этот скриншот с ChatGPT, да? Вот это звучит как сказка, но я представляю, сколько таких проблем на самом деле на сегодняшний день существует. По-настоящему сколько таких проблем существует.
И ChatGPT в ответ начинает писать: "Да, вы совершенно правы.
Нельзя посещать".
А это, кстати, это, кстати, вообще проблема, да? Вот я снимал видео про Конституцию Antropica, оно-- посмотрите его, там несколько дней назад оно было относительно нашего текущего выпуска. И как раз таки в Конституции Antropica я разбирал их, очень много их деталей. А как устроена на самом деле их система с точки зрения определения таких вещей. То есть в какой момент она с вами должна согласиться, в какой не должна согласиться, в какой должна отстоять свое мнение, в какой момент должна она с вами поспорить, как поспорить, где поспорить и так далее. И проблема еще, которую я лично вижу у моделей, это, конечно, когда ты-- ну, есть куча всего прекрасного, мы про это рассказываем, да? А есть проблема, когда ты разговариваешь в сессии с моделью, а она уже давно против тебя условно, да? Или она уже давно решила тебе только врать, да? Или она давно решила сделать задачу совершенно по-другому. И вот это, конечно, беда. И у тебя нету какого-то флага красного, не знаю, загорелась бы какая-нибудь лампочка и написала там: "Внимание!" Вот. Некоторые модели стараются это делать, некоторые модели про это стараются писать, да, некоторые модели стараются всякие фишки делать. Кстати, Ильнар, не знаю, как у тебя, у меня появилось буквально несколько дней назад, мы рассказывали про то, что Opus, когда выпустил четыре точка восемь, то, выпустив четыре точка восемь макс, они запустили dynamic workflows. Это значит, что параллельная работа агентов. У меня буквально вот вчера или позавчера в интерфейсе появился, я впервые увидел, такая появляется плашка, и в ней загораются такие ячейки. Мне кажется, я ее в разных интерфейсах разных систем видел. И там написано, что мы запустили только что параллельно там шестнадцать агентов, ты открываешь там, и там видны все эти агенты. Ты же видел, да, эту, эту историю? Видел, да? У меня просто, у меня-- я просто ее не видел так вот часто на запущенных задачах. Ну, что работают все агенты. Я просто не до конца понимаю, они реально работают или это какая-то визуализация чего-то просто прикольная, которая есть. Это реально работают они, эти агенты?
Тяжело сказать. Скорее всего, да. Но как бы могут и приукрашивать.
У меня есть вопрос к Ильнару. У меня, значит, сын, ну, Ильнар знает, Гриша, ему шесть лет, у него сейчас какое-то помешательство на математике, чему я бесконечно рада. И он мне все время задает какие-то вопросы. Там одни мне сложно ответить, на ки-- на большинство, конечно, легко, поскольку он только в первый класс пойдет. И тут он мне задал вопрос: какое самое большое число? У меня было как бы подозрение, но я решила на всякий, все-таки не моя специализация, проверить с чатом GPT.
И чат GPT, к моему удивлению, ну вот давай, Ильнар, как ты ответишь?
Нет, конечно, самого большого числа. Если на уровне первоклассника объяснять, ты берешь самое большое число, которое существует, прибавляешь к нему единичку и получаешь еще большее самое большое число. И так можно продолжать сколько угодно.
Ну вот, я, конечно, так глубоко не знала, но подозревала, что бесконечность и все такое. Чат GPT мне назвал, конкретно дал ответ, что это Google. Я, значит, думаю, ну ладно, чат GPT точно в математике сильнее, чем я. Рассказала своему ребенку, он рассказал в школе. И, в общем, понимаешь, и там, возможно, в школе его друзья тоже в это свято поверили. И как бы вот это вот к вопросу о том, как будет эта информация распространяться и как она будет множиться и сколько ее будет. И вот сейчас я решила перепроверить, еще раз спросить у чата GPT. Теперь он мне уже дает правильный ответ. Тот же самый чат GPT с моим аккаунтом. То есть, вот. И, Саш, помнишь еще эту историю с Днем отца? Тоже он загаллюцинировал и сказал, что он был в прошлое воскресенье, дал мне. А, несмотря на то, что это платная про версия, а он будет только в следующее.
Про Google. Там надо смотреть формулировки. Если это было там какое-нибудь самое большое число, именованное, ну, типа у которого имя есть, я не знаю, есть больше, чем у Google, потому что Google - это число со ста нулями, да? То есть когда у тебя большое количество нулей, оно реально огромное, у него есть название. Возможно, у чисел больше нет просто конкретного названия. Здесь я точно не знаю, но такая ситуация может быть. И, возможно, предыдущий ответ был связан с тем, что вот есть число Google, оно очень большое, у него есть конкретное название. Если тебе нужно какое-то очень большое число, у которого есть название, то, в принципе, ответ валидный. Но да, если спрашивать именно как вот, как, как был задан вопрос, видимо, то
Как был задан вопрос, видимо, то, то да, правильный ответ второй.
Так что вот так вот. Даже в таких простых вопросах все неоднозначно.
Ну что, увидимся с-- ровно через неделю. Вы были на канале To The Moon.