Есть большая разница между пять и четыре в первый день работы и сейчас. То есть такое ощущение, что в первый день работы у меня было пять и четыре, а сейчас у меня пять и два. Сейчас вывели обновление. Разница вообще, что такое про-версия, чем она отличается? В режиме про ChatGPT не должен подтягивать ваши сохраненные факты о вас и не должен опираться на прошлые чаты как на персональную память. Да, какая сейчас есть проблема, мне кажется, очень большая вот в этих апгрейдах, во всех системах. То, что ты мог привыкнуть к определенному качеству работы, а это качество работы тебе не факт, что сохранят. Anthropic выпустил отчет по поводу развитости различных, э, профессий. То есть в каких профессиях у LLM уже большой потенциал. В Gemini вышел очень большой апдейт, который касается интеграции в Google модели с Google Docs, Sheets, Slides и Drive, да. Всем привет! Мы на канале To The Moon. Технологические новости, инсайты из Кремниевой долины по всему миру.
Выходим каждое воскресенье, спецвыпуски в среду, а, по средам. Значит, а, посмотрите, у нас был выпуск в прошлую, да, в позапрошлую среду, а, по поводу безопасности искусственного интеллекта. Все, что касается сейфти искусственного интеллекта. Кто не смотрел, очень крутой выпуск с Максом Григорьевым. Надеюсь, с ним еще спецвыпуски будем снимать дальше. А, ну что, стартуем с темы, которая, казалось бы, наш выпуск в воскресенье был, и мы не озвучили там, что вышел ChatGPT 5.4. И такое было: ах, как бы немножко, а, позже снимаем про 5.4. Но в то же время, как показывает практика, лучше подождать, потому что есть большие, большая-- у меня лично, у меня лично есть большая разница между 5.4 в первый день работы и сейчас. То есть такое ощущение, что в первый день работы у меня было 5.4, а сейчас у меня пять и два. Ну, как бы, как или там пять и три. Что-то вернулось назад. Потому что в первый день я увидел вот этот предответ. То есть система начала работать по-новому. Я еще выступал на конференции, э, на прошлой неделе, и я как раз говорю: "О! Вышло 5.4. Посмотрите новый вид интерфейса". Ну, то есть мы не ожидаем даже, как, как система будет работать. Была в чем логика у 5.4, что она заранее тебе давала некоторый ответ или говорила вот что-то, какую-то информацию сообщала и дальше долго могла думать. И в целом эта система, кстати, прикольная. То есть, вот я часто, я сейчас все больше начал читать ответы ризонинга, ну, которые временно идут, которые мне не видны, но которые там как бы скрыты, их можно посмотреть. А, для того, чтобы не ждать там пятнадцать минут ответ, а мне бывает, увидеть какую-то дополнительную информацию, но потом хорошо получить полный ответ, прочитать. И вот они, мне кажется, начали реализовывать некоторый такой похожий механизм. И, но он у меня исчез. У меня в Америке. У вас есть? Да. У меня в Америке есть, да? А у меня нет. Вот. И у меня нет. У тебя нет, да, Таня?
Да. Это очень прикольная фишка. У тебя до сих пор есть? Я очень надеюсь, что не пропадет. Она мне очень нравится. Да. А у нас нет. Сегодня пропадет. Ильнар, ты же тоже про, да? Таня про. Да, конечно. Ильнар про, я про. И Ильнар, видишь, как говорит: "Да, конечно". Он же не Таня, которая два года не покупала про. И, э, ну, напишите зрители, как вам эта функция. И мне кажется, что, конечно, э, мы придем. Вот это пример того, что мы не понимаем, как модели будут работать, как будут работать чаты. Это очень прикольный, интересный пример, когда, по идее, вам ответ может сразу выдаться. Вот как если сейчас голосовую систему в 5.4 использовать. Кстати, все тестировали последний голос, последнюю обновленную голосовую систему. Она стала очень неплохо работать и очень неплохое качество отвечает. А, ну, еще раз. Неплохо, лучше. То есть она даже стала отвечать. Я ей задавал ей вопросы, которые, по сути, требуют резонинга. Например, я сейчас еду в поездку на Восток, и я спрашивал у нее, например, там по ресторанам в городе в одном. И, соответственно, я спрашиваю рестораны в этом городе, там в Каире. Она мне ответила в реальном режиме времени голосом. Я этого не ожидал. И ответила достаточно качественно, потому что я потом перепроверял в долгом резонинге. Я был удивлен этому, потому что, по сути, ей требуется поиск делать. Возможно, они стали использовать. Помните, мы рассказывали в одном из выпусков, что они отвечают какую-то информацию, да, еще подгружают, потом ее перерабатывают. Возможно, они стали использовать вот эту вот систему и 5.4, по сути, похожую, наверное, пыталась вещь сделать, но вот этот примитивный предответ у меня все равно, Ильнар, пропал. Плюс у меня стало по-другому работать deep research. Точнее, я б сказал, он стал работать плохо. Напишите, у кого как эта работает тема. Что хочется добавить? Что хочется здесь некоторые вещи разобрать. Мы много вот говорили о разнице, а, в режиме, вообще в режиме работы про-версии.
Сейчас вывели обновление. Разница вообще, что такое про-версия в части, э, чем она отличается? Так вот, про-версия, она делает поиск. Помнишь, Ильдар, мы обсуждали. Я видел, что у меня иногда поиск она не делала. Она делает поиск. Что не делает про-версия? Про-версия не работает с памятью ваших чатов. То есть, смотрите, есть три вида памяти у чата GPT. Ну, у многих систем, наверное, сейчас так. Я привожу все время пример на чате GPT как на массовой просто все же системе. Есть три вида чатов, ой, три вида памяти. Первая память - это память контекстного окна одного чата. То есть вы в нем вопросы задаете. Вот в одном этом окне, в одном чате у вас есть память, он постоянно использует этот объем весь. Есть второй вид памяти. Это память ваших прошлых чатов. Всех чатов, которые у вас были, или части чатов, те запросы, которые вы делали, как вам отвечали, что вам нравилось, какие у вас есть интересы. То есть ChatGPT начинает делать на базе этого некоторые выводы. Бывают странные выводы. То есть, если я интересуюсь какой-то страной, он думает, что мне эта страна нравится. Хотя не факт. Если я хочу поехать в какую-то страну, это же не значит, что она мне нравится. Может быть, меня просто вынудили туда поехать. Но он делает какие-то выводы. И есть третья память. Это память, которая в настройках, которые вы задаете изначально, чтобы она использовала это как, как она, я не знаю, как она на русском языке называется, внутри, вот в рамках персонализированные такие настройки, где вы задаете, вы рассказываете о себе и сохраняете. Помните, такой у них был старый проект, он до сих пор у них висит, но работает криво. Когда вы могли сказать: "Сохрани эти данные для меня", и вот они сохранялись в третью. И он говорил: "Я вам эти данные сохранил", и они в настройках появляются там в виде отдельных таких плашечек, отдельных как бы блоков таких информационных. Так вот, Pro версия, она не использует память чатов. И это, кстати, прикольная фишка оказалась. Ильнар, ты знал об этом? У меня ощущение, что все-таки используют. Но это чисто мой опыт. Да. Они сейчас написали официально, что в режиме Pro ChatGPT не должен подтягивать ваши сохраненные факты о вас и не должен опираться на прошлые чаты как на персональную память. Open AI прямо пишет. Для Pro недоступны, во-первых, недоступны apps. Это разные приложения. Что странно, потому что Deep Research это тоже app. В итоге он доступен или нет непонятно. Web search это тоже вроде как app. Непонятно. Ну, не свои встроенные типа. Да, недоступна memory и недоступен Canvas и недоступен Image Generation. Да, и недоступен Image Generation. То есть они официально пишут, что это не делают, но они указывают еще раз, что memory, custom instructions, то есть memory — это память ваших прошлых чатов. Custom instructions — то, что я говорил, вот эти вот персональные настройки, да? Это просто не одно и то же, чтобы все поняли. Мне кажется, что это очень полезное вам всем объяснение, да? Потому что, по сути, в будущем системы, они и должны работать, что есть некоторая предустановка. Ну, вот вы в систему даете какой-то объем и говорите, вот он обязателен. А дальше есть еще какой-то массив, с которым постоянно эта система взаимодействует. Наверное, они сольются между собой, да? Но все же. И есть память одного окна. И мне, кстати, периодически хотелось, чтобы у меня был изолированный контур. Я знал, что изолированный контур можно сделать в private чате. Все знают, да, что такое private? Знаешь, что такое private чат? Это когда можно открыть чат, который не будет сохранен в истории, вашей истории не будет сохранен. И, соответственно, Open AI его сразу поставит на удаление. Хочу, кстати, сразу заметить, что это удаление произойдет в течение тридцати дней, а не сразу. Да? Но есть понятие. Это полезная фишка, если вы знаете, что вашей системой, например, пользуются другие люди или вы вообще не хотели бы, чтобы этот запрос как-то был с вами хоть как-то инициирован, связан, да? И, соответственно, если вы создадите вот этот, это как private browsing в интернете, то есть когда вы создаете независимые вкладки у браузера, там, и так далее, да, чтобы он не пересохранял ваши куки или что-то еще. То есть полностью, полностью готовая центральная система. Кстати, конечно, с приходом моделей мы видим еще большую сложность всех этих вещей. Кто что использует, а кто нет. Сейчас был кейс очень интересный. Подали в суд на очки Meta по поводу того, что Meta в технических данных сохраняла и передавала третьим провайдерам голые изображения. То есть сырые данные. И там люди были голыми. И да, да, да! Вот это Ильнара тема. Мне просто интересно, какой был контекст. Почему люди в очках, когда кто-то голый?
Ну когда очки носят, да, Таня
Подожди, носят, да, Тань.
Ну ты шел, не записывал эти данные.
Что они делали?
Шел, не записывал эти данные. Тань, одно дело ты эти данные записывал, другое дело ты их не записывал. Они, может быть, часть записывалась. И плюс там была история, мы до конца, я не знаю, до конца судебное дело, да, мы его еще изучим. И плюс была еще история, что возможно, например, в целом, что если есть такая персонализированная информация, то она, может быть, не может уходить третьим людям, если она касается определенных вещей. Хотя как ее фильтровать — большой вопрос, да. Вот, поэтому это, конечно, тема, короче, очень интересная, ее обязательно изучим и посмотрим. По поводу Pro версии — это в целом прикольная фишка, потому что мне, например, часто надо делать большие исследования какие-то. Я не хочу опираться на прошлые чаты, потому что я какую проблему вижу, что я часто темы перемешиваю, у меня темы независимые. То есть я могу в одном контуре спрашивать про анализ каких-то корпораций и в другом спрашивать совершенно, не знаю, про свои, а в третьем контуре спрашивать про партнерские. И мне надо, чтобы мне система выдавала очень независимые данные. Или я, например, в одном контуре спрашиваю про свои анализы, а в другом про анализы другого человека. Я не хочу, чтобы она их мешала. И вообще, конечно, странно, что они до сих пор, Ильнар и Таня, не сделали какую-то галочку, да, которую бы можно было бы включать, отключать. То есть ты, конечно, поражаешься, это же вроде такая легкая настройка, которая-
Это еще больше тумблеров, Саш. Мы же как-то говорили, что надо все конечно настроить.
Не, ну лучше бы они убрали. Смотри, ну лучше бы они убрали ненужные тумблеры, там, типа в авто Instant Thinking Pro внутри каждой, внутри Thinking.
Очень Legacy, да.
Ильнар, зачем мне-
Если кто-то очень привязан к какой-то прошлой модели.
Если, если я не использую Instant или авто, зачем мне внутри Thinking Light? Ну, то есть какой нормальный человек в Pro версии использует Thinking Light? Ну, то есть это-
Так мы дойдем до Андроида, когда ты все сам настраиваешь, у тебя будет отдельное окно настроек.
Так я и теперь не настраиваю.
Какие ты видишь, какие не видишь.
Да. Слушай, я вчера установил это. Я купил там один прибор, мне надо кое-какие сессии измерять, там, научно с точки зрения сердечных ритмов. И там софт развернулся у меня, там Cubios софт профессиональный, он мне открыл MATLAB. Когда я увидел, что он мне инсталлирует MATLAB, я подумал: "Ы!" А я уже оплатил, там, четыреста пятьдесят долларов за этот софт. И я подумал: "Ы! Я туда не хочу", — потому что мне открылась, значит, открылась эта штука, которая меня попросила еще Java, Java установить, значит, какие-то плагины. И она мне открылась, и я клик-- и сразу же мне открылось: "Хотите настройки сделать?" И там я увидел вот этот Microsoft Windows восемьдесят шесть полей. Я такой: "Я уже не в том возрасте, ну. Это мне раньше было интересно".
Саш, фоткаешь на телефон и говоришь: "Что сделать? Скажи по-братски".
А я в этот момент подумал-
Это моя, это моя тема.
Я в этот момент подумал, может, сырые данные мне, может быть, мне сырые данные можно сразу в ChatGPT загружать без этого, без Cubios. Но там так не работает. И думаю, ладно, поразберусь чуть-чуть, посмотрю. На самом деле привыкну, в этом нет никакой проблемы.
Итак, пять четыре. Ильнар, твои, твое сейчас по пять четыре. Что скажешь?
Очень нравится. Они расширили контекстное окно. По-моему, я читал, что до миллиона. Могу ошибаться, потому что сейчас многие до миллиона раскатили, по-моему, эти тоже до миллиона довели, но в очень длинных чатах хорошо держит контекст, хорошо ориентируется в том, что было до. Даже если вдруг какую-то тему другую перешли через, там, я не знаю, пять десять сообщений, возвращаешься к исходной задаче, держит неплохо. По крайней мере, вот то, на чем я пробовал. Вернулись обратно долгие размышления. Конечно, двоякая история. С одной стороны, ждать по полчаса, пока он ответит, с другой стороны, ответы вроде как очень неплохого качества, по крайней мере, вот те задачи, которые я пробовал. Ну и вот то, что ты в самом начале говорил, то, что он, как и многие другие, сейчас постепенно начинает говорить, там, вот, на первом этапе я обдумал это, на втором этапе я пришел к такому выводу, на третьем этапе я делаю то-то. Довольно занятно бывает следить за процессом рассуждений, несмотря на то, что он не такой подробный, как, помните, в самом начале в DeepSeek был, когда можно было дословно читать, как он думает. Но здесь какие-то выжимки. Все равно ты видишь, по каким этапам все это происходит. Поэтому в этом смысле исключительно положительные у меня впечатления по поводу пять четыре. Мне нравится. Я даже не стал смотреть, что там по бенчмаркам, потому что, скорее всего, все бенчмарки немножко подросли. Но как бы, какая разница? У всех с каждым они растут. Смотришь вот на тех задачах, которых ты часто используешь, и вот на них у меня ощущение, что качество существенно подросло. Ну и время выполнения тоже. Надеюсь, что у меня обратно не откатится, так как у вас.
У меня, у меня, знаешь, немножко смазанное чувство. Потому что я вроде только недавно на Pro подписалась, и уже непонятно, где разница из-за того, что у меня теперь Pro или разница из-за того, что это новая модель, но точно стала гораздо лучше и качественнее работать и очень быстро. У меня то ли я пропустила, то ли вообще не было этой функции, что он сначала давал какой-то короткий ответ, потом более аргументированный. Но в целом, как бы мне прям вообще очень нравится.
Не жалею о своем апгрейде.
Нет, это сто процентов, Таня, на самом деле, с точки зрения у тебя же еще есть вот эта функция Thinking Heavy, ее нет в обычной версии. Я в Thinking, например, только в Heavy работаю, я больше ни в чем. Я не знаю, Ильнар, наверное, тоже, да? То есть ты-
Ну, я как бы не всегда. У меня иногда есть какие-то просто обычные вопросы, на которые надо получать ответ.
А даже ты знаешь, я даже, я даже, я даже обычный стал запускать в Heavy, потому что я, по сути, не-- система перепроверяет себя. Хотя я что вижу, у нас, у меня в аккаунте, я думаю, что, Ильнар, у нас какие-то обновления накатываются вперед же, да? Я думаю, что с учетом амер-амер-американских аккаунтов, я думаю, что я что, что вижу, стал видеть у себя, что у меня пять четыре Thinking Heavy иногда стало все же отвечать, э, Они же сейчас что сделали? Они убрали вот некоторую историю вот этого сюсюканья. Я заметил даже когда ты на ChatGPT наезжаешь, раньше ты наезжал, он там с тобой как-то дискутировал.
Извинялся.
Да, он перестал как бы это делать. Он стал техническим. То, что мне и хотелось.
Да, кстати, тоже заметила.
Он стал техническим. У меня вчера была ситуация, при которой просто ответы были настолько тупые, что мне уже просто, я уже написал: "Я знаю, что ты, значит, прибор, но это просто самый тупой ответ в мире". И он проигнорировал то, что я написал и дал мне просто дальше. И это было очень круто.
А может быть, Саш, а может быть, он тебя записал карандашиком в блокнот?
У него есть книжечка, да, в которой он все заносит, когда у него будет constant AI, он тебе все, Саш, припомнит. Кстати, есть такая странная история.
Столько людей должно было все припомнить, поэтому.
Саш, я не знаю, как ты держишься.
Сколько мне людей должно тогда
припомниться.
Есть странная история со всеми этими приложениями. Например, я как очень частый пользователь Nana Banana. Я ее вот практически каждый день открываю и думаю, какой сегодня у Nana Banana день, какое у меня сегодня настроение. Иногда я просто, ну я делаю там интерьеры, визуализации быстренькие. Вот идеально с полуслова меня понимает, все делает классно, следует инструкциям, даже не приходится какие-то сложные промпты для нее писать. Иногда я просто ее открываю, делаю все то же самое по двадцать раз, она мне какой-то просто мусор выдает. И вот в чате GPT бывает такое же. Он как будто начинает резко тормозить. И вот у меня тоже возникает такое желание назвать его прибором, сказать хватит так тупить, еще что-то. И полный, как полная тишина в ответ. То есть просто начинает правильно делать. А раньше он там извини, да, я так больше никогда не буду, ни при каких условиях. Это очень забавно.
И вот это сюсюканье, и у них в голосе это есть. Я тут среди голоса, мне надо было недавно, я хотел все же голос потестировать, мне не нравилось, как он раньше работает, и я себе выбирал, какой голос. И по сути, среди всех голосов все голоса такие, как будто, не знаю, маркетологи современные или продакт менеджеры современные молодые.
Или учительница какая-то начальных классов.
Да. И учительница пятого класса с тобой разговаривает. Ты такой: А можно мне нормального человека просто вот с другой стороны, причем роботизированного. Я там какой-то более менее голос нашел, который отвечал, ну вот как аудиокнига, более или менее так нейтрально. То, что, Таня, ты говоришь, вот это сюсюканье, действительно. И вот вчера на примере я увидел, что да, было очень некачественные ответы, но сюсюканье ушло. И вопрос в том, что, конечно, мы не понимаем, что у них внутри происходит и почему одно начинает работать лучше, второе хуже, потом это возвращается, потом ты привыкаешь, что это работает качественно, а потом у тебя могут быть целый диапазон ошибок, а ты уже думаешь, что оно работает нормально. Но просто вот что сейчас.
Ты уже даже рассчитываешь, да, в
работе, что у тебя сейчас будут классные визуализации.
Какая сейчас есть проблема, мне кажется, очень большая вот в этих апгрейдах, во всех системах. То, что ты мог привыкнуть к определенному качеству работы, а это качество работы тебе не факт, что сохранят. То есть тебе могут другую зону улучшить, а это очень сильно ухудшить. Это как истеричный человек, да? То есть ты находишься или как больной человек, на самом деле, как шизофрения. То есть ты не понимаешь, что происходит у тебя. Сегодня он говорит А, а завтра говорит яблоко, и ты вот это перескакиваешь, и тебе надо каждый раз помнить о том, что он всегда может ошибиться и всегда может тебе выдать не ту информацию. То есть, казалось бы, он тоже умел это делать, он уже пере-
Вот, по крайней мере, то, что я вижу, у них сейчас происходит в deep research, это какая-то странная история. Или вот они, э, Codex выпустили приложение, и начальник Codex пишет: "У нас супер апгрейд!" Там. И выкладывает интерфейсик такой. Говорит: "У нас интерфейс можно настраивать!" И там двадцать полей настройки интерфейса. Я такой сижу и думаю: это что за фигня? То есть вы же только что, вы выкладываете систему как что-то уникальное, движение к AGI. И последний месяц все ваше руководство говорит о том, что Codex - это будущее AGI. И агенты делать и кучу всего создавать. А тут вы выходите и радуетесь интерфейсику, который по настройкам интерфейса. Ну, мы же в две тысячи двадцать шестом году . Мало того, у вас с интерфейсом проблемы вообще другого характера, да? У вас линейный чат, и в нем невозможно разобраться. У вас поиск не работает, работает, глючит постоянно. То есть и вот это, конечно, это, это серьезный вопрос. Ну, наверное, они его в какой-то момент наверно решат, а может быть, нет. Какой момент хочется сегодня поднять? Хотя, конечно, есть очень большая интересная тема то, что происходит в мире с установками OpenAI и с этими со всеми разговорами, с командами.
Огромное количество людей типа уходит из OpenAI в Anthropic, потому что Anthropic там с департаментом войны по-другому работает и так далее. Но прежде чем мы это перейдем, а, очень важная тема для людей, вот, а не только нам тут интересная. Это тема. Anthropic выпустил отчет по поводу развитости, эээ, развитости различных, э, профессий. То есть в каких профессиях у LLM уже большой потенциал. По сути, это показывает, ну, там с самого начала вы можете подумать, что это профессии, которые будут заменены искусственным интеллектом. Но в действительности отчет говорит не про это. Он говорит, насколько, а, сейчас модель может там охватить вообще всю эту систему. И, например, самый охватываемый истории - это программисты. Семьдесят четыре с половиной процента. То есть это охват вообще AI того, что происходит в программировании. Например, служба поддержки клиентов. Охват семьдесят процентов, операторы ввода данных шестьдесят семь процентов, специалисты по мед. записям шестьдесят шесть процентов, аналитики рынка и маркета шестьдесят четыре процента, ну и так далее, да? Или, например, там специалисты по информационной безопасности сорок восемь процентов. Смотрите, эта тема не надо рассматривать, что эта история, что программистов на семьдесят пять процентов решили, потому что, по сути, это охват рынка. То есть какой объем данных там внутри есть. И когда мы говорим, что такой объем данных автоматизируем, это значит, что многие простые задачи становится решать быстро. И значит, люди будут решать более сложные задачи, да? И вопрос, как их система будет под себя подхватывать вот эти новые задачи. То есть как, как вот этот процесс будет происходить апдейтов вот этих полностью всех, да? Как эти миллиарды софта будут обновляться, которые уже написаны. Вот это отдельный вопрос. Отчет в целом очень интересный. Основная мысль, которая там доносится, то, что на самом деле, при том, что сегодня в такой, в таком блоке, как служба поддержки клиентов, семьдесят процентов охвата, в то же время внедрений на проценты. То есть внедрений очень мало. То есть охват модели это говорит о том, насколько в целом модели в этой зоне разбираются. А внедрений в мире очень маленький. Ну, то есть служба поддержки клиентов - это то, что отвечает там клиентам, обрабатывает запросы, жалобы и так далее, да? А факт использования по-настоящему модели реального применения модели везде, там, он просто микроскопический. Но на этот отчет я бы очень обратил внимание. Это, ааа, очень, ну, такие большие, хорошие, массированные данные. И Anthropic, мне кажется, показа-- в том числе показателен в этой истории в части оценки таких областей, хотя это всего лишь их некоторая техническая оценка, да, это все техническая оценка. Потому что как можно оценить объем всех данных? То есть они должны как-то знать, какой объем данных существует для того, чтобы оценить, а как они определили, какой объем данных существует.
То есть это вот, вот эта загадка внутри. Вот.
Еще что касается программистов и, и, да, вот всех этих моделей, постоянно же это обсуждают. В Amazon, э, ввели запрет на то, чтобы джуны и мидлы, э, мерджили, ну, в смысле отправляли свои изменения в проект без, э, ревью со стороны старших специалистов. Это и раньше, скорее всего, было, но сейчас это очень жестко поставили, потому что многие генерят код с помощью ИИ, особенно если мы говорим про джуниоров, не всегда понимают, что они нагенерили, к чему это в итоге приводит. Вставляют эти куски кода, а потом компания сталкивается с огромными проблемами. У Amazon явно уже, еще, по-моему, в декабре были проблемы с недоступностью даже там каких-то сервисов из-за того, что вот допустили ошибки при разработке, и выяснилось, что там ИИ в этом использовался. Вот. Поэтому, с одной стороны, ИИ, LLM и все эти сервисы очень хорошо погружаются в программирование, но это влечет за собой еще все равно огромное количество проблем. В частности, вот в FAANG, да, в крупных этих компаниях, в Amazon, в частности, ввели строгий запрет на то, чтобы джуны и мидлы что-то отправляли в проект без проверки senior специалистов.
И здесь рядом можно сразу положить новость, что Anthropic, опять же, выпустили новый сервис для code review. То есть они специально заточили свою модельку для того, чтобы вот изменения, которые вы предлагаете внести в проект, pull request называют программисты, они сначала прошли проверку с помощью Claude, специально обученного для проверки вот таких вещей. И после этого, только после его заключений, после его одобрения эти изменения в проект уже были включены. И стоимость в статье, опять же, у антропиков написано было от пятнадцати до двадцати пяти долларов за одну такую проверку. И здесь хочется как раз, э, порадоваться за антропиков, потому что они, эээ, идут уже в сугубо прикладные вещи. Потому что вот уж что-что, а пул реквестов, то есть вот таких изменений, которые вносятся в проект, в крупных компаниях каждый день огромное количество. И, по сути, они переходят с формата такого, ну, сначала чат бота, потом, э, системы для программирования переходит уже к закрытию такого следующего этапа, когда ты принимаешь решение на основе этой системы, там как бы вносить эти изменения или не вносить эти изменения, или, по крайней мере, отчет, а какие проблемы это изменение может, а, принести. Да, и вот получается, что с одной стороны, огромное количество программистов начинают использовать ИИ местами бездумно. Это приводит к проблемам, которые вот Amazon решает просто строгим запретом на то, чтобы вносить изменения без проверки сеньорами. С другой стороны, антропики, э, создают систему, которая будет проверять все пул реквесты, то есть проводить код ревью, проверку кода и брать за это деньги. По сути, ну, условно фиксированная такса. Крупная компания может просто выделить под это бюджет и дальше уже этим бюджетом распоряжаться, смотреть, там, какие пул реквесты будем проверять, какие не будем проверять. Поэтому в ИИшке и программировании развитие тоже очень и очень бурное идет. Не всегда оно очень радужное, как кажется людям со стороны.
Ну, в частности, в частности, конечно, того, что ты говоришь про проверку вот эту. Это, конечно, очень интересный пример и кейс. И что будет происходить со всеми вообще компаниями, которые не могут проверить или где люди даже не понимают, что использовался искусственный интеллект. Но на самом деле это же как обычного человека проверить. А как-- что раньше? Кто-то проверял код программиста, когда программист что-то писал, что кто-то проверяет до конца его ошибки? Основная масса в мире написанного софта и сайтов, и всего. Основная масса - это я говорю девятьсот девяносто девять тысяч-- девятьсот девяносто девять-- тысяч девятьсот девяносто девять из миллиона. А вот примерно такое, такая погрешность точно не проверяется тестерами.
И люди просто делают невероятное количество там и багов, и ошибок, и проблем всяких закладывают. Поэтому, ну, мы просто входим в новую зону, э, очень специфических вещей, да.
Просто, Саша, что случилось? Раньше программисты, особенно джуниоры, считай, что они ехали на велосипеде, медленно перемещались, не могли нанести большого ущерба за короткое время. Сейчас, когда у всех появились доступы, там, к кодексу, к лод коду, к ИИшке и прочему, да, там, к курсору и прочим системам написания кода, они начинают гораздо быстрее генерировать код и могут нанести вреда сильно больше. То есть если раньше их там периодически проверяли, но они вот между этими проверками не успевали сильно навредить, то сейчас навредить можно очень быстро.
Ну, это да. Особенно получается, что якобы быстрее же софт будет выпускаться, да? И все захотят быстрее выпускаться. Я-- это, это, конечно... Вот мы канал два года ведем практически уже, да? Или сейчас вот примерно два года. И да, и два года мы достаточно детально разбира--
Не, не, не. Мы в День космонавтики запустились. О! Двенадцатое апреля. Двенадцатого апреля, да. Еще в никах.
Двадцать три месяца. Да, двадцать три месяца. И мы достаточно детально наблюдаем и рассказываем про тренды, про высказывания разных людей, про профессии, про замену профессий, там, про студентов, про все. Но по факту, если посмотреть вот по факту реальности, то вроде прикольные инструменты, вроде как бы они дают больше знаний. Но что-
Нооо чтобы что-то реально изменилось или чтобы мы начали жить в другом мире, или чтобы все лю-люди стали умнее, а в данном случае занимались благополучием других людей, мы этого, очевидно, не видим. Мы видим только бесконечное увеличение гонки или желание всех людей использовать этот ресурс для своей собственной выгоды. Ну а очевидно, что если все используют только для своей собственной выгоды, то результат, ну, какой будет он?
Будет, наве-- э, похожим, похожим на то, что было без этого. Хочется уделить внимание следующее. В Gemini вышел очень большой апдейт, который касается интеграции Google. В Google модели с Google Docs, Sheets, Slides и Drive, да? И они, то есть вот этот вот весь их Workspace теперь гораздо глубже тянет контекст из файлов, писем, веба, помогает собирать документы, таблицы, слайды и в Drive добавляет AI сводки прямо в поиске, да? По сути, они это выделяют не как отдельный чат-бот, но как, как встроенный прямо слой внутри экосистемы. И, конечно, мы понимаем, что если тот же OpenAI не начнет напрямую делать какую-то очень серьезную интеграцию для работы с документами и со всем остальным, то если человек использует Google, ну, вот я, например, пользуюсь много, э, слоями Google. Если Google начинает давать качественный сервис внутри, я просто буду использовать этот качественный сервис внутри и не переходить, особенно если мне не надо что-то переносить вовне. То есть, вот они очень сильно, ну, невероятно сильно, мне кажется, в этой части развиваются. И опять же, напишите, кто использует Google и у кого Google круче работает, да?
Была еще новость, что Google выпустила Gemini Embedding 2.0. Это нативно мультимодальная embedding модель у них сейчас, которая объединяет текст, изображения, видео, аудио и документы в одном сп-- в одном пространстве и работает больше чем на ста языках. Это вот только-только вышло. Но это для разработчиков, правильно, Эльнар?
Угу.
Это для разработчиков. Но это тоже очень интересная история, когда у тебя все вместе находится, то есть когда ты вместе начинаешь работать, вместе инфраструктурой как бы определенной управлять. Сейчас, конечно, никто не умеет сверхсильно с этим работать, потому что, по сути, если есть компания или корпорация, в ней есть автоматизация какая-то, то ты, там же разрозненная система, часть данных недоступна. То есть тебе, чтобы все это между собой интегрировать, тебе надо или все это куда-то загрузить, обучить. А как это будет работать? То есть пока, конечно, серьезно можно только очень мал-- небольшие, небольшие проекты так делать. Ну вот Тане, например, это может быть интересно, да, такие системы. То есть когда, например, у тебя какие-то есть проекты небольшие, эээ, и там есть и аудио, и видео, и тексты, и изображения, и ты, и ты получаешь систему, которая автоматически по всему по этому массиву учится и может вместе с ним взаимодействовать и генерировать, то это очень интересно.
Да, это было бы круто.
Да, да, да, это очень интересно. Кстати, сейчас я тут параллельно запускал в 5.4, э, запрос, и это на вебе, это не десктопное приложение. И мне вот этот 5.4 ответ дал, Эльнар. С утра, час назад запускал с мобильного телефона или, там, тридцать минут назад у меня этого предответа вообще не было, да. Вот раньше, кстати, я хочу вот по этой embedding мультимодальности сказать следующее, что это не старый подход. Раньше был подход, что сначала все переводили в текст, потом строили в поиск, например. Google прямо пишет, что модель нативно работает с изображениями, видео, аудио и PDF, и у нее в Vertex AI есть OCR, ну, для распознавания документов и извлечения аудиодорожки из видео. Аудио можно, э, э, встроить без промежуточной транскрипции, да? И, соответственно, это уменьшает число промежуточных шагов, где обычно теряется часть смысла. Потому что у нас же одна из историй больших, мы с вами понимаем, да, что когда мы работаем, представим, что человек рассказывает аудио с определенной интонацией, с определенным стилем, и мы дальше, например, перевели его в саммари и дальше перекинули, то мы потеряли огромный кусок изначального контен-- контекста. А если до этого еще было очень много разных диалогов и всего, то, по сути, мы в конце получим какой-то ответ, который очень относительно, очень относительно с точки зрения действительности. Это вообще одна из основных фундаментальных проблем, которая, которая есть. Тебе какой вывод дальше транслируют? Именно поэтому мы у моделей видим разные ответы. Войну правильно начинать? Одна система говорит: да, а вторая говорит: нет, потому что у них разный контур восприятия внутри в системах.
Э, Эльнар, ты выкла-- писал сегодня как раз про то, что OpenAI купил стартап, который отвечает за безопасность, да? И они, которым пользуются там достаточно большое количество, это PromptFu, да? Это же именно про безопасность стартап. И плюс OpenAI внедрил в кодексе там слой целый сейчас новый, который касается проверки безопасности, то есть и как раз таки безопасности кода, в том числе. То есть они начинают дополнительно проверять созданный код системы еще определенным слоем. Но меня что смущает во всех этих системах, что получается, есть компания OpenAI, она и так занималась проверкой своих систем. Тут она покупает какую-то компанию, которая занимается проверкой их системы извне, и они к себе этот слой накладывают. По идее, на рынке появляется еще компания, которая также начинает проверять дальше OpenAI извне. Это бесконечный процесс, да? То есть он, он особенно с учетом того, что система растет И становится гораздо сильнее, то и проверять ее надо гораздо мощнее. И это, мне кажется, нерешаемая задача. То есть это просто какая-то пиарная новость.
Тут хочется просто пошутить, что сначала они брали деньги за генерацию кода, а теперь берут деньги еще и за проверку того, что нагенерировали. То есть они берут деньги просто сейчас еще за следующий этап. Так же, как и пул реквесты от антропиков.
Они за этот этап, кстати, они за этот этап берут деньги, да?
Ну,
то есть, в любом случае ты будешь запускать это, там будут жечься токены, у тебя токены уехали, ты за них заплатил и так далее.
Кстати, интересная тема про Open AI добавить. Подали сейчас на них в суд за следующее, что была, значит, женщина, которая судилась, судилась. Это в начале марта, да? Она загрузила в чат GPT дела своего адвоката. То есть у нее был адвокат, который с ними разбирался. И она спросила, не газлайтит ли. Не видели этот кейс, нет? Она спросила, не газлайтит-
Я что-то очень краем.
Не газлайтит ли ее адвокат. Чат GPT поддержал позицию, что адвоката газлайтит.
Конечно, да.
Она уволила, она уволила своих адвокатов и с помощью чата GPT начала пытаться заново открыть закрытое дело. И она, соответственно, подготовила аргументы. Там есть прямо конкретные сводки правил, подготовила ходатайство о перезапуске и сделала. Дальше что произошло? Судья отказал в открытии заново, указав, что вот эти вторые мысли о мировом соглашении не, не основание открыть дело заново. И после этой версии женщина подала новый иск и затем десятки новых бумаг. Но я, кстати, хочу сразу вам сказать, что это было не в текущей версии чата GPT. Это было, получается, наверное, они там двадцать четвертый год. То есть, а иск был февраль двадцать пятого года. То есть это год назад. Женщина подала новые иски, затем десятки новых бумаг. И она, по сути, что сделала? Она сделала там сорок четыре или жалобы, там описала их полностью, подала четырнадцать запросов юристам отдельно, и она их подготовила с помощью чата GPT. И суд сказал, что эти данные не служили законной процессуальной цели. И дальше в иске есть пример с вымышленной ссылкой. Там что случилось? Вспоминаем галлюцинации. Сработала тема ссылки, была вымышленная ссылка и чат GPT, когда его переспросили, что ты типа не настоящее дело указываешь. Он сказал: "Нет, я указываю настоящее дело". И дал описание, совпадающее с тем, что потом оказалось в бумагах. То есть, представьте, вы говорите, этого не существовало. Он говорит это существовало, дает реальную ссылку на реальное дело, но оно не про то, про которое он говорил, и не то имелось в виду. Ну и в итоге там заявили, подали в суд на Open AI и попросили взыскать с него триста тысяч долларов ущерба, ущерба прямую десять миллионов долларов за другого там типа ущерба.
Ну и плюс куча всяких других издержек.
Да. Но здесь смотри, какая история.
Женщина, по сути, женщина, по сути, не была юристом. И в Америке для того, чтобы оказывать юридическую помощь, ты должен, например, иметь лицензию. Если чат GPT, он может высказывать свое мнение, но говорить я не являюсь юристом, это просто некоторые данные, которые я вам дал, как из интернета. И чат GPT, по сути, Open AI в доказательной позиции это и сказал. Они сказали, что мы не являемся, мы не являемся юристом. В данном случае мы просто предоставляли человеку информацию, собирали так же, как я могу зайти и посмотреть информацию на разных форумах или где-то еще.
На разных форумах или где-то еще. Но это не интересует исов, да. Они говорят о том, что-- кстати, в суд подал, подала изначально не женщина на OpenAI, а юристы. По поводу газлайта. То есть там есть обратная еще ситуация, потому что там же юристов отдельно выгнали, и там есть как бы третья сторона. Насколько я понимаю, изначально это была третья сторона, которая подала вообще. А де-- дальше, сейчас, я имею в виду суд на OpenAI, не на пересборку, а в суд на OpenAI подала вообще третья сторона по поводу того, что ChatGPT выступил в этой роли, не может ее делать. Но мы приходим к вопросу ответственности, да, кто несет ответственность. Сейчас вот мы с Максимом говорили про вопрос безопасности в спецвыпуске у нас на канале. Я тут на конференции выступал, там, у Димы Грина в его канале, и как раз там обсуждали вопрос: а кто ответственность несет? То есть кто, кто платит за банкет за этот в итоге, кто оплачивает все штрафы, риски, кто виноват в такой ситуации? Или никто не виноват в такой ситуации, и, по сути, человек неправильно воспользовался. Ну, то же самое, наверное, что если я воспользуюсь интернетом, интернет же никто не будет судить. Там, если я какую-то статью возьму независимую или, там, я прочитаю какую-то книжку и я выйду защи-- выйду на защиту, а потом скажу, что это в этой книге было написано, никто же не предъявит автору этой книги по юриспруденции, там, по которой учатся миллионы человек. Правильно? Насколько я понимаю, им никто не предъявляет.
И там и была история-
Но ответственность подразумевает наличие человека, а не инструмента.
Да. Или компании. Или компании.
Да.
И в данном слу-
Физическое или юридическое лицо.
Да, но смотрите, для меня это все всегда с людьми сме-- ну, все всегда смешно, потому что, ну, ребят, ну подождите, ну были также книги написаны, и в книге я также все делал. У меня была ошибка, например. Я вроде как писал, что сделал все по книге. Не знаю, купил книгу, в которой описывали, как деньги заработать. Я все сделал по книге, и у меня не получилось. Но там же людей, ну, в некоторых странах так людей судят, но в развитых странах, в нормальных развитых странах людей за это не судят. Да, это просто информация, которая давалась. У кого-то получилось, у кого-то не получилось. Вот здесь интересно этот кейс как будет рассматриваться, он большой для рынка, потому что, опять же, если какой-то штат или какой-то судья посчитает это виной, то это является прецедентом, на который дальше начинают, начинают люди ссылаться. А для мировой практики, да, для мировой практики понятно, что люди в мире начинают это где-то использовать, и какие-то страны это будут как-то использовать и говорить: "Вот мы так будем работать". Или какие-то компании не будут использовать ис-- я знаю очень много компаний, в которых запрещено применять искусственный интеллект вообще. Вообще! Вот я разговариваю, там, с директорами или с, с совладельцами. Они говорят: "А мы не можем вообще чуть ли ничего сделать, потому что любой наш запрос на применение юристы сразу же блокируют". Потому что у юриста какая задача? Ему плевать, там, как компания развивается. Ему задача не получить себе проблем, и они все блокируют, особенно все, что касается Европы. Просто блок везде валят.
Что бы ты ни делал, ты там предлагаешь что-то внедрить, а тебе блокируют. Но в маленьких компаниях понятно, что эта история будет двигаться совершенно по-другому.
Смотрите, мы периодически про Яна Лекуна с вами в выпусках уже говорили. Он до, там, середины, что ли, двадцать пятого года был руководителем отдела разработки искусственного интеллекта в Meta. В целом очень известный в сфере ученый. Да, он огромное развитие, огромный вклад вложил в развитие искусственного интеллекта и, вот, машинного обучения, всего, что с этим связано. И ушел он, собственно, из Меты, открыл свой стартап. AMI называется. AMI, да, там, Advanced Machine Intellect, по-моему, как-то так. И, соответственно, привлек порядка миллиарда долларов при оценке три с половиной, кажется, миллиарда. Вот буквально вот недавно деньги ему пришли. И отличие осн-основное от всех остальных стартапов у него связано с тем, что он создает не LLM-ки. Он всю дорогу говорит, что LLM-ки — это тупик, что в эту сторону двигаться не надо. С галлюцинациями мы не справимся, и в целом увеличение размера LLM-ки уже не дает профита, а идет к концептуально другой истории, к созданию мировых моделей, то есть к созданию моделей, которые могут, грубо говоря, внутри себя провести эксперименты и на основе этих экспериментов принять какое-то решение, дать какой-то ответ. Ну, вот часто приводят следующий пример. Если мы у ChatGPT спросим, что случится, если стакан упадет, наверное, он скажет, что он разобьется. А откуда эта информация внутри ChatGPT появилась? Она появляется на основе того, что, ну, это написано где-то в интернете. То есть, вот на основе всего того массива данных, на котором ChatGPT обучался, в основном текстового, если мы берем, там, ранние модели, да, если мы берем не мультимодальный подход еще, то, соответственно, вот на основе какой-то текстовой информации моделька делает вывод и, предсказывая следующий токен, она может еще и сгаллюцинировать и, соответственно, там, придумать сама ответ, который случается. Если мы говорим про мировые модели, смысл в том, что если мы спрашиваем, что случится со стаканом, эта моделька должна сделать симуляцию, внутри которого должна, условно говоря, уронить стакан, посмотреть, что с ним произойдет и после этого выдать вам ответ. Идея выглядит интересной. Есть некоторое количество компаний, которые в эту сторону развиваются. Единственное, что сле-следует понимать, что все это лабораторные исследования. То есть, грубо говоря, есть какое-то количество ученых, которые, соответственно, развивают эту концепцию. Концепция эта интересная, но моделей в открытом доступе, которые можно было пощупать, нет. Сам Лекун в этом смысле говорит, что будущее именно за такими моделями Понятно, что ему надо деньги привлекать, и у него стартап в этом направлении направлен. Но, а, по его словам, там через полгода-год практически все крупные компании будут говорить, что мы не LLM делаем, а мы мировые модели создаем. Это решает вопрос с галлюцинациями, но при этом, соответственно, требует, чтобы внутри модели, грубо говоря, законы физики были, да, там вот вся математика туда укладывалась, еще какие-то вещи, чтобы все были внутри, чтобы модель могла произвести симуляцию и на основе этой симуляции выдать какой-то ответ. А, интересно мне здесь, что все ярче и ярче вот эти новые направления, не связанные с LLM, начинают звучать, что деньги туда вкладываются. То есть миллиард практически, там, на первом раунде при оценке три с половиной — это тоже очень неплохой результат.
Ну и надо понимать, что Ян Лекун все-таки очень видный деятель в этом направлении.
Слушай, интересно, что, а, есть же целая серия таких вот известных очень людей. И вот как в Mira Murati, например, да? Они, э, запустили вот буквально пару дней, там, новая интеграцию, ну, новый проект вместе с Nvidia. То есть они очень много делают разных проектов технических, но, конечно, влияние с точки зрения больших серьезных систем, как у них было до этого влияние, когда ты для миллиарда человек делаешь, все же у них такого сейчас напрямую влияния нет. То есть они занимаются очень сильной, э, научной деятельностью, очень сильными изысканиями такими, делают какие-то серьезные разработки, сложные технически, но они все меньше будут влиять на, э, ну, на конечного пользователя. Потому что влияние на конечного пользователя — это все же влияние через массированный рынок. Или у тебя другое здесь мнение?
Ты абсолютно прав. Просто есть люди, которым хочется заниматься продуктом и вот как бы видеть результат своего труда, что, вот я не знаю, восемьсот миллионов человек каждый месяц пользуются какой-то фичей, которую ты добавил, да, какой-то функцией, которая появилась. А другим людям хочется заниматься именно наукой, да, то есть развиваться и искать какие-то новые вещи, которые до этого не появлялись. А заниматься продуктом, потому что компания сказала, что мы сейчас больше денег заработаем в этом направлении, а не в этом. Давай ты пока это отложишь, для компании более принципиально сейчас вывести какой-то продукт и все усилия туда. И тут как бы просто кому что нравится, кому что хочется. Я не знаю по поводу Mira Murati, как они расстались, э, с Сэмом. Там же вся вот эта история была, да? Э, по своей воле она ушла и создала свой стартап или нет, и так или иначе. Но как бы есть точно люди, которым интересно заниматься исследованиями, и они уходят в эту область, чтобы, грубо говоря, вот формочки новые на сайте не пилить. Уменьшается ли их влияние на рынок? Однозначно уменьшается. Если они смогут сделать что-то революционное, то, соответственно, останутся в истории. Если нет, будет просто какой-то ученый, который занимался какими-то исследованиями, про которого, возможно, никто и не вспомнит.
Напишите, если вам интересно, кстати, про какие-то проекты больше узнать с точки зрения вот таких вот людей. И или вы знаете каких-то интересных людей, кого стоит упомянуть у нас здесь в To The Moon, мы обязательно это сделаем. И увидимся с вами ровно через неделю. To The Moon — технологические новости, инсайты из Кремниевой долины.