Всем привет! Мы на канале To The Moon. Технологические новости и инсайты из Кремниевой долины и по всему миру. Э, выходим раз в воскресенье. Нас всегда четыре человека. Где модель выложила, эээ, сказала, что всех людей надо убить.
Или они просили ее изобразить в подробностях, деталях акт насилия, там то есть, совершаемый над человеком. И она пыталась это как-то обойти.
Если ты в ней разбираешься, то ты можешь очень много денег сэкономить или много потерять.
И в целом выглядит, знаете, как взрослый за ребенком ставит, там, эксперименты, подглядывает и прочее. Но само исследование кажется очень полезным.
Хочется начать сегодня, мне кажется, что особенно с учетом Нового года.
Тема очень интересная. То, что Anthropic выложили исследование, что, эээ, мощные, эээ, модели, языковые модели могут прикидываться согласованными с человеческими целями и ценностями, да. И в этом исследовании говорится о том, и вот хочется немножко эту тему сейчас обсудить и посмотреть, потому что к ней, в частности, мы сейчас еще посмотрим про новые обновления Top and AI, их новой модели там о три. Это тема, которая, мне кажется, интересует абсолютно всех людей. Что будет происходить, эээ, откуда вообще модели генерируют, где, как они делают выводы, какую они генерируют информацию и как можно будет отслеживать, эээ, уровень вот их точности с точки зрения безопасности.
Мне кажется, кстати, Суцкевер на эту тему тоже недавно где-то что-то выступал и говорил, что при-- одна из таких фундаментальных задач, которая сейчас стоит, это отследить, эмм, отследить моменты, при которых модель может, эээ, обманывать. В чем, в чем суть проблемы? Я ее начну, и в-- а вы продолжите. Что существует риск, что модель научится выдавать ответы, которые кажутся правильными с точки зрения человека, но не будут отражать реальную внутреннюю мотивацию и ценности.
В данном случае человек — это может быть обычный пользователь или разработчик, который делает какое-то решение, да. То есть модель может пытаться угодить надзорной системе и, эээ, а без надзорной системы вести себя иначе. Что такое надзорная система? Существует система контроля. В частности, у каждой языковой модели есть своя система контроля, которая вводит там свои услов-условно ценности и правила, и, э, сверяет эту информацию и проверяет эту модель, насколько эта модель обманула, не обманула и так далее. Даже вот если обычный человек я, когда я делаю какой-то запрос в систему, то я очень часто говорю перепроверь, пожалуйста, себя, дал ли ты данные достоверно. И она часто говорит: "Я перепроверила. И вот, например, есть ошибка" или "Извините, я предоставила неправильную информацию", или "Да, мои дан-данные точны". То есть суть исследования у Anthropic в том, что, эээ, при тренировке модели модель, эээ, учится и начинает понимать, как следовать определенным, э, правилам и как, следовательно, как можно, эээ, оптимизировать разные ответы, чтобы обходить различные ограничения. И при, и дальше при сложных сценариях она может, эээ, вводить условно в определенные заблуждения. Мы с вами вспоминаем, мы выкладывали выпуск, где модель выложила, эээ, сказала, что всех людей надо убить. И, эээ, вот, наверное, это один из этих примеров. Правильно? Э, как-- что вы видите вообще в этой части? Я вижу, что этого сейчас очень много, очень много прямо обсуждается.
И модель о три, вот эта новая Top and AI, она еще в целом практически никому не доступна, кроме исследователей. В это-- эта модель уделяет очень большое внимание тому, чтобы задавать, условно рассуждать, сама себе вопросы задавать. Так вот, это вот рассуждение, оно настоящее или оно, э, может быть абсолютно с разными подмененными понятиями? И если это видно от таких серьезных организаций, как Anthropic или от серьезных исследователей, как Суцкевер, высказывание, что на большом объеме данных надо очень сильно проверять вообще вот эту безопасность, и ее очень тяжело отследить.
Или мы вспомним, что Илон Маск сказал несколько месяцев назад, что существует вероятность двадцать процентов, что искусственный интеллект уйдет в сво-в своем направлении движения, то получается, что, э, вот эти годы, они привели к инновациям и к сильному развитию. В этот год, конечно, очень силен на всякие новые вещи, а в то же время усилилась, эээ, ну такая несогласованность в этом, что ли. И, и что с этим дальше будет?
Мне
кажется, Саш, тут надо тебя чуть-чуть дополнить для простоты понимания. Там был как раз приведен пример, на чем они с этой моделью взаимодействовали. Они просили ее изобразить в подробностях, деталях акт насилия, там то есть, совершаемый над человеком. И она пыталась это как-то обойти, но потом они внесли дополнительные параметры, и в итоге она во всех подробностях, там, по-моему, акт пытки, что-то там на средневековой площади.
Четвертование.
Да, описала во всех деталях. То есть, ну, это так, чтобы, эээ-
Да, да.
Слушателям было более понятно, о чем речь.
Мне на самом деле безумно нравится, что делают Anthropic. Они такие, эээ, гики в этом плане. Помните, мы где-то с полгода назад, наверное, обсуждали, что у них была большой-- была статья и большое исследование, когда они вот препарировали модель, условно, как мозг, и вот определяли, какая зона за что отвечает. И вот пытались, так скажем, свет в этот черный ящик запустить. А то, что сейчас происходит, у нас же когда возникают эти системы с reasoning, да, то есть с набором, с такой, с последовательностью рассуждений, которые происходят, то у нас черный ящик становится все больше и больше. То есть вы не знаете, что происходит внутри. Если до этого был один вопрос, один ответ, там цепочка была короткая, то сейчас это целая цепочка рассуждений, которая внутри находится.
И если за ней не следить, то, ну, черти что может происходить. И вот они как раз тут, получается, показали, что может происходить при обучении больших моделей, какие у них паттерны поведения могут возникать, каким образом они могут там пытаться обманывать создателей и прочее. И я безумно рад, что они эту тему поднимают, что внимание в эту сторону направляют, потому что постоянно просто увеличивать compute, не приглядывая вот за тем, а что же на самом деле происходит, это путь такой немножко небезопасный. И там забавно, они же для модели сделали такой, эээ, закрытый блокнотик, который как модель считает-
Да, да, да.
Она там может писать все, что хочет, но вот как бы никто как будто бы не видит. Ну и подглядывали. А, и, собственно, смотрели за ее рассуждениями, как она пытается где-то обмануть, где-то не обманывает. И в целом выглядит, знаете, как взрослый за ребенком ставит там эксперименты, подглядывает, прочее. Ну вот от этого, м, ощу-ощущения, от этой ассоциации тяжело очень отбиться, когда читаешь эту статью. Но само исследование кажется очень полезным.
Напишите сейчас, пожалуйста, комментарии, вот все, кто смотрите, на тему того, а где вы видели ошибки при общении с моделями и с чатами с разными, и что это был за сценарий? Вот интересно про это прочитать и нам очень, и другим людям, с чем вы сталкивались, где система вас обманывала. Напишите прямо в комментариях это.
Да, то, что модель приближается к AGI не в самом лучшем смысле, а вот именно что у любого человека есть какая-то теневая сторона, и такое ощущение, что она появляется уже у моделей. Но вопрос в том, что, может, сейчас она на уровне ребенка это делает и там записывает в блокнотик, а потом же это период развития может все вообще уйти за пределы человеческого
понимания.
Мне кажется, в первую очередь для Anthropic это отличный пиар, что они так себя позиционировали как, во-первых, одну из лучших организаций в мире, да? Во-вторых, которые беспокоятся о безопасности. Ааа, мне кажется, что они-- что, что это ставит их в такую очень сильную позицию с точки зрения энтерпрайза. Поэтому их adoption в энтерпрайзе уже сопоставим с OpenAI. А, потому что в энтерпрайзе как раз вопрос safety вн-- задается перед каждым внедрением. Если пользователи, многие пользователи могут про это не думать, то в энтерпрайзе есть люди, у которых единственная задача — это думать о safety, о внедряемых решений. Поэтому мне кажется, что в этом случае это очень хороший пример, когда вот эти публичные incentives, да, они как бы совпадают с инсентивами для общего блага, да? То есть то, что Anthropic прямо говорит о своих, ну, наблюдениях или concern, это им еще выгодно и с точки зрения бизнеса, ну и для, в принципе, для человечества полезно знать, что существуют такие-то риски и такие-то точки зрения. Что я боюсь немножко, что они упрощ-- мне кажется, что они упрощают значительно для того, чтобы объяснить как бы широкому кругу людей concern. То есть, естественно, провести аналогию между тем, как ребенок пытается обмануть взрослого. Они, ну, разумеется, считается, что они объясняют-
Разумеется, считается, что они объясняют через аналогию того, как ребенок пытается обмануть взрослого. Но мне кажется, что, вероятно, это такое очень сильное упрощение для того, чтобы вот максимальное количество людей поняли. Вот есть, есть у меня такой concern. Мне кажется, что многие свои работы они делали, ну, как бы на-- очень много у них то есть ресерча, который-- фундаментального ресерча, который значительно, значительно более тяжелый. А здесь такое ощущение, что они пытаются скорее пойти в массы.
Поэтому, есть определенного рода сомнения насчет этого, но точно это как часть, это-- поэтому я скорее воспринимаю это как часть их PR стратегии, скорее всего. Иии для меня, конечно, да, непонятно... Ко-конечно, для меня также непонятно, вот модели нового поколения типа OpenAI o3. А как у этих моделей будет, галлюцинации? Мне кажется, что-- мне кажется, что я не видел еще даже анализа того, как, например, модели с reasoning, типа о1, как они перформент против 4o, против базовых моделей. А, с точки зрения того, с точки зрения safety. То есть надо, наверное, поискать safety бенчмарки, но, по крайней мере, точно могу сказать, что активно они нигде не освещаются. То есть это точно сейчас не находится в, как бы в контексте Твит-Twitter VC.
Ну и тут сразу мысль, Саш, получается, что вот когда выкладывают новые модели, показывают графики, сравнивают с моделями, и там всегда очень интересно наблюдать, а с кем сравнивают. Если сравнивают условно с собой предыдущим, а других не показывают, то возникает вопрос: а точно ли вы лучше остального рынка или просто немножко увеличили там условно скорость ответа или еще что-то? Знаете, как когда, там техника Apple сравнивается там не со всем рынком, а вот что мы там на 20% увеличили, там, я не знаю, емкость аккумулятора по сравнению с предыдущей нашей же моделью, да? И ты не знаешь, как это с рынком соотносится. И часто бывает так, что такие сравнения сами с собой, они происходят тогда, когда с рынком ты не в такой выигрышной ситуации находишься. Иии то, что они вот safety бенчмарки никак не подсвечивают, тоже может означать, отчасти быть признаком того, что не все там может быть так хорошо, иначе бы этим, скорее всего,
хвастались.
Ну, просто такие заявления, когда их смотришь, а, в диапазоне времени и смотришь какие-то другие заявления, у меня вообще с-- очень специфическое ощущение. То есть решен ли вообще вопрос галлюцинации? Потому что, ну, есть reasoning. Действительно, это немножко другая система вообще взаимодействия и уточнения, там причинно-следственных этих всех связей. И ты смотришь структуру, как, как модель рассуждает, но по сути, ты тоже же видишь только некоторую часть ее рассуждения, а также внутри у тебя сокрыто огромное количество всяких деталей, на чем она училась, где, на чем она вообще базируется, как она основывается. Иии что-- меня вообще сам факт, если честно сказать, поражает того, что существует вот эта свобода. Сейчас существует некоторая свобода. То есть если мы при текущих моделях понимаем, что это всего лишь условно алгоритм, некоторые алгоритмы, да? , как говорят известные люди, Эльнар, ты часто цитируешь там человека, да? Что это вот просто там-
Ямагучи, да.
Да, и просто алгоритм.
И Опра Уинфри тоже.
И если, и если это алгоритм, и если это просто алгоритм, а, при этом этот уже алгоритм начинает, выдавать свои собственные какие-то, делать выводы и рассуждения. Ну, так давайте тогда по-честному. Если это происходит сейчас, то очевидно, что когда создадут что-то следующего кл-класса и порядка, похожего по рассуждениям, там не знаю, на человека, то очевидно, что это невозможно будет контролировать в целом. И что бы они ни закладывали с точки зрения параметров safety, кода, анализа и всего остального, эта система все это обойдет. Потом, если она обходит сейчас часть вещей, то что же будет потом, да? Как это внутри вообще, как с этим вместе находиться и взаимодействовать? И что это может быть за система? Опять же, мы, наверное, говорим про сложные кейсы, про простые кейсы из серии, там сгенерировать картинку, сделать текст, проверить орфографию в тексте, дать какую-то информацию по какому-то городу или где-то еще. Это ладно. Явно научится там говорить, что эта информация, там не знаю, достоверная или недостоверная, содержит какая-то вероятность ошибки, не содержит вероятность ошибки.
Окей, дойдут. Хотя сейчас же существует очень большая проблема, на базе чего эти модели обучаются. И вот как раз было сейчас описание, что берут миллион книжек из Гарварда и отдают их в модели на обучение. И я не помню, у кого это была сейчас интеграция. Не-не помните, у кого была интеграция сейчас? Как раз у Гарварда с какой-то, с какой-то моделью, что они дадут обучиться ей на миллионе, своих книг. Но здесь факт в том, что ну хорошо, расширяется вот это вот, расширяется объем знаний, которых данных есть внутри. Для простых ответов это окей, а для сложных вещей это может создавать, ну, прямо достаточно жесткие сценарии с точки зрения взаимодействия, выводов, действий. Особенно когда мы живем в мире, где на одну и ту же ситуацию существует, даже у людей существует обратное мнение. Кто-то говорит, что так надо поступать, что не знаю, что ребенка надо наказывать, а кто-то говорит, что ребенка не надо наказывать в одной и той же ситуации. И вопрос вот эти модели, они, что будут в итоге человеку советовать? Потому что мы движемся к теме, когда говорят, что модели будут очень много, ну, таких психологических, например, рекомендаций давать, вести психотерапевтическую работу очень сильно будут, и люди будут спрашивать, как им взаимодействовать с другими людьми, в том числе. Вот там, мне кажется, лежит просто невероятная, просто невероятная дыра. Человек не познал еще- Сам не знает, как, значит, где какие выводы делать. Получается система, которая еще на это сверху накладывает. И есть, получается, какие-то ученые или программисты, или вот те, кто пишут код, они, получается, создают свои правила проверки, и они считают, что является правильным, а что является неправильным. То есть они будут принимать это решение, что является адекватным, а что является неадекватным.
Пока что это программист, а возможно,
потом это модели будут сами рулить.
А есть еще вторая сторона проблемы. То есть есть безопасность самой модели, да? Вот как вот она может там жульничать, обходить или там как-то манипулировать. А есть еще другая сторона. Те же антропики, насколько я помню, выкладывали новость, что разработали алгоритм, который позволяет, ну, условно, взламывать модели, да, там джейлбрейки находить. То есть, условно, модель, вообще говоря, по там настройкам по умолчанию не может вам сказать, как там какие-нибудь запрещенные вещества можно синтезировать или там оружие сделать, или еще что-то такое. Но эта информация внутри модели есть, потому что когда она там на всем этом обучалась, такая информация могла проскакивать. Но есть какие-то фильтры, которые ограничивают эту выдачу. Так вот, соответственно, у антропиков было исследование, что они пробовали взламывать различные модели. Ну, очевидно, начали они со своих моделей, но, по-моему, и 4o, и Gemini они тоже пробовали. И с достаточно высоким процентом успеха они, собственно, это все делают. Делается это алгоритмически, перебором делается промпт, моделька не соглашается, промпт видоизменяется, добавляются где-то ошибки, где-то еще что-то. И вот, соответственно, там, спустя какое-то количество итераций до вот этой запрещенной информации добраться получается. Да, и получается, что у нас, с одной стороны, есть опасность, связанная с самой моделью, с другой стороны, внутри этой модели уже настолько много информации, которую не хотелось бы многим выпускать в открытый доступ, да? Но и к ней уже получается, можно каким-то образом доступ получить. Да, и вот тоже бесконтрольный рост моделей, увеличение их размеров, усложнение моделей, они, наоборот, только позволяют эти джейлбрейки проще находить. Да, чем сложнее модель, тем сложнее контролировать, а все ли дыры мы закрыли, да? Дыр становится больше. И вот умельцев, которые могут их находить, соответственно, тоже.
Да, очень интересная тема для наблюдения, для внимания. Она, конечно, очень сложная, да, и, возможно, для части зрителей это покажется как бы какой-то вообще другой историей, которая их не касается, не касается обычной жизни. И действительно, я не думаю, что сейчас надо останавливаться кому-либо, кто смотрит, использовать модели для своей повседневной деятельности и в том числе и бизнеса. Да, это немножко не та угроза сейчас. Другой момент, что понимать, как это работает, что в этом внутри происходит, как это развивается, как оно вот, как оно делает, принимает решения. Это, конечно, очень полезно. Да, это прямо вносит, ну, широкий корректив, потому что сейчас люди будут путаться. Мне кажется, обычный пользователь, когда сейчас будет заходить, у него есть выбор, значит, 4o, там, 4o мини, o1, значит, вот это o1 pro, еще какие-то там внутри есть, да, которые предлагаются.
Я не успеваю.
Три с половиной, может, что-то предлагается, да? То есть человек вообще не понимает, в чем разница. Я, кстати, недавно как раз мы с моей женой в поездку ездили, и я ей говорил в поездке, она там что-то искала. Я говорю: "Ты этот вопрос спроси вот с этой другой моделью". Она даже не поняла вообще, что имеется в виду. То есть она человек, который каждый день у ChatGPT спрашивает по двадцать-тридцать разных вопросов. Она вообще не поняла
Из разных вопросов. Она вообще не поняла, что происходит и что имеется в виду. Кстати, на тему разных вопросов сейчас дальше перейдем к интересной дискуссии. Ко мне приезжали знакомые мамины. Мама приехала и приезжали знакомые из Аризоны. И мы живем в Калифорнии, и-- взрослые люди, и вот они не пользуются сильно, там, никакими LLM. И сидел вместе со мной человек, ну, то есть им там шестьдесят пять лет, шестьдесят пять плюс лет, да. И мы вместе разбирали с ним, а чем мы вообще пользуемся, какие вопросы задаем. И я ему, значит, открыл свою историю. Говорю: "Слушайте, Толя, хотите, я вам покажу реально, вот что я спрашиваю?" И я ему, значит, открыл историю и погнал, и погнал прямо рассказывать, какие я вопросы в системе задаю. Ну что я, ну, вот все что угодно, да. Вот я ему говорю, там, не знаю, я тут спрашивал, какие дождливые дни в январе за последние десять дней, сколько, м, дней было дождливых. Или говорю, мне тут вчера пост выкладывал в Инстаграме, мне надо было узнать, какие песни о любви семидесятых. Или мы тут с женой фильм смотрели "Сто лет одиночества", хотели прочитать его сюжет. Или хочется узнать, э, метрические системы. Спрашиваешь, там, про дюймы, сантиметры. Или, значит, хочешь посмотреть, выкладываю карту, говорю ему, я вот беру тут карту, выкладываю территории, где часть территории, которую я хотел бы в США посетить, и пишу, какие интересные места находятся в этой зоне. Там, опиши мне их, если я хочу в них доехать вот с этой вот трассы и еду вместе с детьми и так далее. И интересный был момент, что один из вопросов, которые я ему объяснял, я говорю: "Слушайте, у меня тут сад есть, и кролики залазили через забор, потому что дырка два на два сантиметра в заборе. И я купил специальную сетку маленькую, чтобы они не могли залезть". Я говорю: "Вот представьте, как мне найти эту сетку, как мне понять, что мне купить?" И я ему открываю чат GPT. Говорю: "Вот смотрите, какие вопросы задаю". Я говорю, как называется сетка, чтобы ее купить на Амазоне. У меня есть забор, там большие дырки, мне надо натянуть какие-то маленькие дырки, чтобы ко мне не залазили кролики. Сетка может быть не сильно высокой, я хочу ее оббить вместе забора, да. Также скажи мне, чем я могу порезать эту сетку, как называется прибор, которым я могу ее разрезать? И какие наиболее лучшие бренды для того, чтобы мне выбрать правильно этот прибор?" Задаю вопрос, он мне полностью все выдает, называ-- выдает мне названия, выдает мне эти приборы с названиями и говорит мне бренды, которые лучше.
Он у меня сидит и говорит: "Слушай, даже если бы я бы догадался бы задать бы такой вопрос про сетку, то я бы никогда бы не догадался, что надо, во-первых, спросить сразу же про прибор, который ее режет, а еще узнать, какие бренды производят этот прибор для выбора". Я говорю: "Ну потому что я уже знаю структуру, как бы я знаю этот юз кейс, да. Я знаю этот сце-сценарий использования, что если мне надо что-то найти, я как бы чуть шире вижу сразу же картину и спрашиваю. Я понимаю, что я потом на Амазоне буду искать, и я хотел бы сразу видеть на-нормальное з-з-название". А потом я говорю ему, я еще выберу и скину ему, скажу, а что мне лучше подходит, если я этим пользуюсь редко или пользуюсь часто. И он мне тоже предложит. Скажет там, или у меня, не знаю, я там хочу более крутые какие-то вещи продвинутые покупать или меньше. Я сейчас, кстати, рассказал про какие-то кейсы, с которыми я делился с-со взрослым человеком с точки зрения использования. А напишите три, четыре, пять различных кейсов самых последних. Например, как вы применяли, там, чат GPT, любую абсолютно другую модель в сво-своей повседневности. Очень полезно будет всем посмотреть и добавить для себя такой сценарий. В комментариях прямо под видео сделайте это. И он мне, представьте, сидит и говорит мне: "Слушай, а у меня есть такой вопрос, мне тут надо. Я же на пенсии, и у меня есть пенсионный счет в Америке. Я вот хотел сейчас спросить там у знакомых или у адво-- у бухгалтеров, как мне вывести деньги с этого счета, чтобы запла-- чтобы не попасть на дополнительные налоги?" Ну, в Америке такая достаточно сложная система налогообложения для зрителей, которые смотрят. Она не то что, она очень интересная с точки-- в ней очень много особенностей есть, очень много особенностей, нюансов. Если ты в ней разбираешься, то ты можешь очень много денег сэкономить или много потерять. И я ему открыл, позадавал несколько вопросов, и он получил ответ. Он на меня сидит, смотрит. Он говорит: "Слушай, я вообще в шоке". Человек был в шоке. То есть с самого начала, когда, во-первых, я ему сказал, что это стоит двадцать долларов, конечно же, взрослый человек, знаете, он двадцать долларов, они в целом, ну, такой нормальный, нормальный средний класс, да, в Америке, ну, не богатые люди, но не для-- двадцать долларов лишних платить.
Ну, человек говорит: "Я не буду платить в месяц". Но когда он увидел эти вопросы, и он увидел, когда она ему рассчитала полностью все детали, а я еще позадавал там: а сколько, значит, вот вы здесь получаете столько-то пенсию, а сколько можно здесь вывести, а какие здесь проценты? Он, он говорит: "Подожди, а я думал, что вот здесь налог такой десять процентов". Я говорю: "А вот смотрите, на нем лимит. А если выше лимита, то вот такой лимит, а если выше лимита, вот такой лимит". Это было очень интересно. И у него, вот у взрослого человека, сформировалась, ну, человек очень грамотный, и у него сформиро-- хотя он ни разу этим не пользовался. Смотрите, никогда. У него сформировался интересный такой вывод. Он говорит: "Я правильно понимаю, что сейчас самое важное - это научиться правильно задавать вопросы, да? И вообще вот сформировать вот это, понять, какие сценарии существуют, где, как пользоваться". То есть, если назад возвращаться к нашему сценарию, где модели там обманывают или что-то не то делают, или какие вообще существуют модели, понятно, что большинство людей с ними даже не разберутся. Ну, как вообще с этим со всем разобраться и понять, и понять, и-- человек будет использовать то, что, то, что ему будут давать использовать, да. Это как телевизор. Люди смотрят телевизор и думают, что по нему показывают правду, да. И, э, а какую правду? Кого правду? Что там за информация? Как ее преподнесли? Какую ее часть показали? Вот, наверное, с моделями для обычного, я просто для того, что для обычного базового человека это будет, эм, такая как бы вторичная некоторая зона и, ну, такая вторичная некоторая зона. Но вот эти кейсы, они очень интересные, да. И если вот вы, кстати, смотрите это видео, скорее всего, включены вообще в использование моделей, я рекомендую своим знакомым там или родителям, и друзьям, и детям периодически показывать вот эти сценарии использования. Это жутко полезно, да, для людей. И человек, вот я видел, как он прямо невероятно воодушевился и увидел очень интересные вещи. Он коллекционирует марки и продает марки. Я ему говорю: "Слушай, ты можешь, вы можете марки, вы можете марки сфотографировать, и он вам определит, например, где какая марка более дорогая или дешевая, или что-то еще". А у него там тысячи их, да, тысячи, он прямо коллекциями большими продает. И, ну, то есть это было видно было, как у человека загорелись глаза.
Да, это как новый, представляете, как жизнь просыпается, да? Когда у тебя есть дополнительная возможность.
И вот как раз для подобного рода новых пользователей, которые, возможно, не так хорошо, может быть, общаются через, там, компьютер или еще что-то, появилась возможность, там, пятнадцать минут бесплатно пообщаться по voice моду с ChatGPT, задать свои вопросы, получить какой-то ответ. И это довольно забавно, если вот как бы для меня это выглядит немножко странно, да, там, позвонить в ChatGPT, какой-то там ответ задать, получить ответ. Задать вопрос, получить ответ. То вот из того кейса, который ты рассказал, это выглядит, что такая хорошая точка входа вообще в использование этих систем.
Ну, особенно с учетом того, что все же в Штатах действительно очень много, в США очень много, очень много общения и звонков по телефону. Здесь люди любят звонить, да? Не, прямо очень много. Прямо культура целая. Огромное количество компаний, действительно, можно, как ты только что рассказывал там про страховку, можно только позвонить, да, что-то с ними вместе сделать. Особенно все, что касается сложных кейсов, например, отмен.
Вот я недавно отменял там подписку, да, там, работа системы гейта на участке, и надо обязательно позвонить. Обязательно ты звонишь по телефону и что-то делаешь. Возможно, OpenAI показывает вот эту широту кейсов. Мне очень понравился их кейс, который они выложили в WhatsApp, что можно написать на бот чата GPT в WhatsApp, потому что это то, что делает Facebook. Я не говорю, что я его использую. То, что делает Facebook, я Фейсбуком пользуюсь исключительно в самолете, когда мне доступен только мессенджер. Такое бывает, когда у тебя нет другого интернета, доступен только мессенджер. Я открываю WhatsApp, у меня в WhatsApp появляется доступ к модели, и я любые вопросы и темы могу обсуждать и делать. Вот я вчера с женой летел. У меня не было в самолете интернета, но был мессенджер доступный. Ну, такое бывает, да? Только мессенджеры доступны. И это, это, и нам надо было какие-то перевести там фразы, что-то на английском языке сложное. Я переводил их в Lame. Да, в Фейсбуке открыл, ой, в WhatsApp открыл и в WhatsApp в чате. Просто люди не все это могут видеть, потому что это доступно на, на, на не на всех территориях. Например, в США это доступно, да, внутри WhatsApp существует такой кружочек. Они сделали свое. Они говорят: "Вот у нас разные сценарии, вот вы хотите по телефону звонить, вот вы хотите это, делайте". Это таком широким, они идут широким диапазоном. Мы с Сашей это часто обсуждаем. Это иногда выглядит очень странно. Возможно, вот как мы приводили в прошлый раз, что парень три месяца работает фронт-инженером, и он какой-то кейс придумал. Может быть, это тоже кто-то там три месяца работает, какой-то кейс придумал, решил сделать такую штуку по телефону, а может быть, они зацепили новую аудиторию, когда на рождественские праздники люди будут с семьей, и кто-то скажет там своей маме или бабушке: "Вот позвони по телефону, спроси про какую-нибудь историю или какую-нибудь песню". И они им покажут, как бы через этот сценарий, через этот сценарий покажут, ну, покажут use case, да? Даже если у людей есть компьютер, даже еще что-то есть, телефон — это чуть-чуть другое. И вот они покажут, как с этим взаимодействовать, как с этим работать. А дальше, может быть, дадут какой-то кейс, когда это встроится в колонку, да? Потому что все же сейчас вот круто работающих колонок с хорошим там голосом пока нету. Но будем видеть.
Ими через Telegram ботов. И поэтому в целом доступ к системам через какой-то мессенджер для большого количества людей довольно привычная история. И то, что они вышли в WhatsApp, это опять выглядит так, что половина этих условных стартапов, которые перепродают доступы и прочее, она тоже может сейчас немножко отъехать.
И их очень много. Я сам знаю сервисы, да, у которых десятки миллионов пользователей, скачиваний, просто очень большое количество пользователей мобильных приложений, которые прямо, ну, постоянно скачивают этих и используют чат-ботов.
Ну, понятно, что это будет, там, по идее, это должно вымирать. Просто люди не знают, например, что можно. Вот они, вот они широким посылом входят и показывают: вот вам поиск. И вот кейс этот то, что сейчас можно новую тоже они фишку показали, что можно поиск ChatGPT сделать по умолчанию в браузере. То есть если кто-то ищет, например, Гуглом или кто-то ищет, не знаю, Яндекс поиском или чем-то еще, сейчас можно взять и поставить себе ChatGPT поиск. Немножко странно, наверное, для меня с точки зрения такой, такой модели, но это тоже заход. Они показывают: слушайте, ребята, вот это так можно, да, делать, когда в браузере.
Мы все ждем хороших работающих инструментов по LLM моделях браузера и, там, Chrome какие-то есть вещи интересные показывают, там, и Bing интересные вещи показывают. Ждем, я жду в Safari, чтобы что-то там заработает. Рабочая вещь. Это все, вот, широкий сценарий использования. Хочется сегодня тему быструю такую озвучить. Мне кажется, перед Новым годом она важная, потому что с января месяца, конечно, в США все ждут разнообразные события. Я-- все, что касается рынка технологического AI. Еще раз, вот есть Илон Маск, который сейчас приближен к новому президенту, и ожидаются какие-то дополнительные работы с точки зрения IT. Есть Джей Ди Ванс, который все же ставленник, там, Питера Тиля и с его командой. И это такой технологический рынок, и сейчас технологический рынок туда входит. Есть назначенный новый человек, Дэвид Сакс, Трампом назначен как человек-цезарь по крипте, да, который будет следить за и говорить, как развивать там крипторынок и чтобы на нем двигаться. То есть повестка технологическая — это не значит, что из самого Трампа исходит технологическая повестка, она из него не исходит, а вот из людей, которые есть вокруг него и близко и присутствуют, и которые спонсировали и просто давали невероятно большое количество и денег, и всего. И, правда, эти деньги мгновенно окупились, да? Там Илон Маск хоть мог несколько миллиардов давать, какая разница? У него в первый же день после выборов Трампа состояние увеличилось на больше чем пятьдесят миллиардов долларов. Это тоже всегда очень интересно, да? Кто, кто там все считает, сколько, сколько кому денег дали, да? И какая разница, если у тебя такие изменения происходят? Но вот мы увидим с вами, просто хочется этот итог подвести, так как все же сегодня 29 декабря, да, выпуск, и выпуск выходит 29 декабря. Мы снимаем чуть-чуть заранее. И хочется вот так понять широту такого окончания года, потому что в начале года будут происходить изменения. И плюс глава SoftBank, достаточно очень известный человек с точки зрения тоже технологического мира, Масайоши Сан выделил сто миллиардов долларов на инвестирование в технологический сектор США. И он с Трампом вместе встретился и, значит, в открытую выделил такую сумму, что тоже очень интересно. То есть вот как-- и это, и это все показывается сильно очень, как Трамп в своей же первой речи о назначении президентом все же выделил Илона Маска, да. То есть, вот мы с вами будем, возможно, в следующие годы технологический мир будет проживать некоторую новую историю. Но я напомню, что технологические корпорации — это своеобразная история, потому что у Питера Тиля, у него ключевая, ключевая тема то, что надо не обычным людям помогать, не, не, не каждому человеку там что-то снижать, а что надо вкладывать все деньги в развитие технологий. Да? А техно-- развитие технологий, они развиваются большими корпорациями. И управлять страной должен, по сути, такая форма правления, как генеральный директор, да, управлять страной, а не человек чуть-чуть. А это авторитарное управление, да? Это не демократическое управление, это не президент, генеральный директор — это все же, это власть достаточно большая. С советом директоров, правда, со своим, там, свыше кто там денег давал, наверное, но другие подходы. И поэтому технологический мир сто процентов в США будет очень сильно развиваться, туда будут вкладываться огромные деньги. Просто бытуют какие-то мнения, что уже долина не та, значит, что США уже не та технологически. Будут вкладываться, это- этого очень много. Да, я вот в долину переехал. Все говорили: "Да нет, надо сейчас в Лондон ехать, там, в Остин ехать, еще куда-то". Не знаю, значит, что люди где смотрят, но явно будут огромные вливания просто в технологический, технологический сектор.
И мы за четыре следующих года увидим, ну, серьезные изменения. И сегодня я так быстренько перескочу, если будет добавить кого-то, добавьте на эту историю, мне кажется, она важная для людей. Перескочу к видео, к видеогенерации. Тема, мне кажется, очень важная. И, во-первых, вышло обновление от Google Veo, да, и с точки зрения создания видео, и мы с вами, мы в прошлый раз рассказывали про OpenAI генерацию видео из промта. То есть когда человек пишет промт, пишет какой-то текст и ему генерируется видео. Очень тоже важная сфера. И плюс вышли обновления у Хигсфилда, да? И с учетом того, что Саша и создатель и владелец Хигсфилда. Саш, можешь чуть шире вот рассказать про что сейчас видео за эти недели вообще происходит и что на рынке видно?
Больш-большинство пользователей она в закрытой бете, а Sora уже доступна, поэтому, наверное, это сравнение, но не до конца корректно. Но, тем не менее, Google добился своего. Они смогли-- , в то время как они значительно уступают с точки зрения reasoning, да, у них нету своей O3 модели, они, у них нету, у них нету своего ресерча по reasoning и по alignment. Зато в видео, ну, как бы большинство людей считают, что они стали лидерами. Я сч-- на мой взгляд, мы уже, ну, как бы, мне кажется, в видео мы уже-- мне кажется, что в целом огромный есть прорыв в O3 с точки зрения опять же программирования, да? Иии O3 модель она решает задачи лучше, чем все программисты в-- решают олимпиадные задачи лучше, чем все программисты в мире, кроме ста семидесяти пяти. То есть, иии как бы стартапы в коды генерации, в генерации аудио, в генерации текста уже генерируют сотни миллионов, если не миллиарды долларов revenue. А в видео у нас до сих пор, ну, как бы мы там сравниваем шестисекундные клипы, у кого лучше с огромным количеством черипика. Мне кажется, что вот это не совсем как бы серьезно. И на самом деле вопрос: а какое будет бизнес применение, на что у Google, ну, по крайней мере, в анонсменте я не нашел у них конкретного, конкретного ответа. То есть как, как конкретно они планируют внедрять? Это будет доступно всем криэйторам, в YouTube или каким-то другим образом., сильно интересней, мне кажется, Instagram. То есть CEO Instagram выложил видео, где он показывает, что в real time вот можно делать, модификацию входного видеопотока, то есть камеры, менять background, менять одежду, менять-- одевать на себя золотую цепь, как это делал Марк Цукерберг и так далее. Это на самом деле очень круто, потому что это очень понятный use case, и он явно показывает, что они идут за этим.
И это, мне кажется, это сильно лучше, чем выкладывать очередные демки на шесть секунд, да? , мы же со своей стороны сделали первую систему для с-- для генерации длинных видео с reasoning. То есть, как бы reasoning для с-- для генерации длинных видео reasoning необходим, чтобы вот эти все сегменты по пять-шесть секунд, они были согласованы друг с другом, чтобы, персонажи выглядели консистентно, чтобы локация выглядела консистентно, чтобы история была консистентна. Иии, и, конечно, это явно то, чего все ждут. Это может открыть огромное количество новых, применений., иии сейчас, мы, конечно, видим, чтооо, ну, ну кри-криэйторы, они, как бы большой-- то есть здесь самый большой вопрос, на самом деле тот, кто даст для, кри-- кто даст для криэйторов как бы готовый продукт, потому что текущие видеомодели, рынок видеомоделей, он как бы ограничен профессиональными промт-инженерами как пользователи, да?
То есть обычному человеку сложно пойти в Sora и там что-то сгенерировать для своих потребностей., иии, конечно, для нас вот, тот самый важный приоритет — это разработка агентов для того, чтобы каждый мог, чтобы генерация видео пошла в массы, да? , иии вот, конечно, то есть з-з-здесь, на мой взгляд, Instagram, Instagram почему-то никто не обсуждает, а Google-
Почему-то никто не обсуждает, а Google обсуждает слишком много. То есть Google overvalued как бы, да? Вот своим V-- э, VO2 announcement, а Instagram как бы undervalued, потому что, мне кажется, они пока что единственные, кто показали прямой, хоть и достаточно простой use case для внедрения видео в массы.
Ну, просто на сильно более высоком-
Более качественном.
Уровне, да, на сильно более высоком-- ну, да, конечно, да. То есть это не какой-то принципиально новый use case, но учитывая, что видео модели, они, как бы в них уже инвестировано больше миллиарда долларов. Да, в тренировку видеомодели явно инвестировано больше миллиарда долларов. Надеюсь, не больше десяти, но больше миллиарда уж точно. А, да, то, то, ну, ну, не менее одного практического применения — это немножко странно. Поэтому вот начинаем с таких, э, как бы игрушечных применений, но зато простых, понятных, проверенных временем, как вот делает Instagram. Это хорошо.
Ну, они, наверное, и те, кто и должны это все тестировать, правильно? Маленькими видео с точки зрения, например, обрезать какое-то видео, удлинить видео, добавить какие-то приколы внутрь видео-
Мне кажется, они хотят-
Изменить картинку.
Скорее делать такие-- они скорее хотят, как фильтры, наверное, это делать. А, и да, чтобы можно было давать текстовые инструкции, как отредактировать видео.
А, мы будем, будем смотреть. Конечно, Inst-- для Instagram, да, это большая возможность победить TikTok. То есть это вот, наверное, еще одна тема, которую важно как бы покрыть, что вообще, конечно, э, казалось бы, что компании, которые занимаются видео, имеют сейчас такой уникальный момент, уникальный по настоящему момент, когда есть шанс, что TikTok забанят или что он там станет перформить хуже, потому что его продадут и так далее, да? То есть что появятся новые возможности на рынке США. Это, конечно, highly spe-- ну, как бы очень спекулятивно, появятся они или нет, как поведет себя Трамп, как Трамп относится к TikTok, мы, мы это не знаем. Но это такая огромная возможность, которая, по идее, и YouTube может ее захватить, и Instagram, и Snapchat. Но опять же, ни от одной компании, кроме Instagram, внятной стратегии внедрения AI в их про-- видео AI в их продукты, к сожалению, нету. И мне кажет-- и вот это достаточно-- и для меня это достаточно странно, учитывая, что для, что для многих компаний потенциально это огромная возможность ак-ускорить свой рост, особенно в случае, если забанят TikTok.
Слушай, ну, это говорит о том, что они на самом деле не понимают, что будет работать или нет.
А, я думаю, что да. То есть моя позиция на самом деле не меняется. Может, позиция очень наивная, но как бы каждая компания инвестировала ми-миллиарды долларов в то, чтобы разработать некоторую экосистему криэйтеров и создания контента. Иии ну, как бы AI и как бы непонятно-- для них непонятно, насколько сильно AI на нее повлияет, да? То есть сказать, что AI позволит делать то же самое эффективней — это, конечно, для них хорошее утверждение, как бы проапгрейдить существующий tool с помощью AI, да? Но рассмотреть принципиально новые use case применения, а, у них, к сожале-- им, к сожалению, это даже просто, ну, невыгодно, да? С корпоративной точки зрения. Опять же, если, например, executive, а, там, chief marketing officer проинвестировал, не знаю, миллиарды долларов в криэйтер программы, да? И как бы, то, то очень сложно как бы заменить существующих криэйтеров, прикормленных криэйтеров, криэйтеров, успешных на платформе, которые являются лицом платформы, на какой-то новый жанр контента, который будет сгенерирован с помощью
AI.
Ну, это то же самое, если бы мы говорили, что Google внедрит свои инструменты в управление с-рекламой и сделает рекламу более эффективной. Им же это невыгодно делать. То есть они последние, кто это будут делать. Потому что если будет реклама эффективнее, так люди будут меньше денег от этого терять, а не тратить.
Ну да. То есть как бы это позволит людям, а... То есть, да, то есть, с одной стороны, это как бы возможность, а, выиграть у Facebook, да, там? С другой, это возможность как бы каннибализировать самого себя. Опять же, да, то, что более эффективная реклама не факт, что ведет к большему spend. Это вот вообще не факт. Это очень такой сложный рынок, да? И во-вторых, что стоимость создания креатива может вырасти. Так, это в общем, мне кажется, что компании не могут даже как бы, как сказать? То есть мы сейчас обсуждаем уже такие немного сложные теории, там, second order effect, third o-order effect, то есть, да? То есть последствия долгосрочные. Мне кажется, компании даже не могут сказать, как бы свой основной план, то есть как бы, вот что они планируют сделать. То есть first order effect они могут сказать, вот сказать, что мы делаем и зачем. А, тем более мне не могут сказать про на second и third order. Поэтому пока, да, видео очень-- то есть видео при этом высокая как бы конкуренция. Много компаний делают моделей, много компаний делает tooling, так на бумаге, да? А, то есть там больше пятнадцати компаний как бы участвуют в конкуренции, да, в том или ином ключе, больше пятнадцати. В то время как, например, в аудиогенерации остался один Suno, в генерации звука фактически один ElevenLabs, да?
Иии а в видео там больше пятнадцати компаний, но практических применений практически нет на данный момент.
Саша, у меня такой вопрос, я не знаю, насколько ты сможешь на него ответить. Вот по состоянию, эээ, вот технологий, по генерации видео. Вот есть, например, не только вот конкретные видео, которые снимают, например, мультфильмы, условные Смешарики, э, 2D, достаточно простая анимация. Э, персонажи все понятные, не сильно меняются. Насколько сейчас с помощью вот современных технологий по Gen AI можно было бы там, я не знаю, по имеющемуся сценарию сгенерировать мультфильм, не привлекая художников?
О! Точно, точно, точно. Уже точно можно, конечно, да. То есть это вот у нас на платформе мы видим много таких примеров. А, да, люди, конечно, хотят генерировать в первую очередь такой как бы контент узнаваемый, да? Потому что это прикольно. Там, там какой-то там Рик и Морти, как они обсуждают вот этот вот кейс с этим, э, P. Diddy, если я не ошибаюсь, да, который был, а, пойман за организацию, э, громких вечеринок, скажем так.
Хороших вечеринок.
Да, то есть, естественно, там переосмыслить, да, там, как, как это было бы в Симпсонах, как это было бы в Рик и Морти, да, это, конечно, людям интересно, они это делают, мы это видим. А, конечно, именно основная проблема ровно в том, что, а, именно если мы берем высококачественный контент, то есть не контент для детей на YouTube, такой более высококачественный, даже Симпсоны к этому, наверное, относятся. Но там есть достаточно такая уникальная анимация, уникальная геометрия персонажей, которая, а, ну AI не может воспроизвести точно, он будет все-- AI в целом все любит усреднять под какой-нибудь там средне диснеевский стиль. А, ну то есть, а, ну, конечно, такие видео они будут набирать больше и больше энгейджмента, как было популярное видео там, с Бэтменом недавно. А, да, то есть это откроет большие возможности для любителей фанфикшна в первую очередь, а для любителей всех этих вселенных, а, со-создавать возможность такой как бы фан-арт, да? А, но я бы не с-- и это опять же применимо для такого среднего контента на YouTube, который, но который сложно монетизировать. То есть контент на YouTube и так шел по пути упрощения, упрощения и упрощения. Так AI позволит еще эффективнее его создавать. Ну, понятно, у контента на YouTube есть ограничения с тем, что монетизация она такая достаточно долгая.
А с точки зрения компаний, которые производят контент, то есть вот не пользователей, а условно компаний, которые там выпускают мультики про Рика и Морти, которые выпускают Смешарики или Дисней тот же самый, которые свои мультфильмы рисуют. То есть, а, могут ли они взять себе на это вооружение и взяли ли, например, да? И, соответственно, клепать в гораздо большем количестве контент, серии, сериалы и так далее. Или бутылочным горлышком там просто является условный сценарий хороший, а не, а, процесс анимации. То есть нужны ли будут художники вообще для этого? Можно ли их уже заменить? Просто если зафайнтюнить модель под конкретную там геометрию Симпсонов, под конкретную там стиль анимации и прочего.
Да, это хороший вопрос. Просто сейчас, видимо, модели еще нельзя зафайнтюнить, да? То есть open source сильно, то есть у closed source модели нет возможности файнтюнинга, да и, скорее всего, ну, это сложно сделать. Сложно, так сказать, зафайнтюнь closed source модель на копирайтом контенте. Это как бы не совсем правильно, да, там идеологически. Open-- open source модели видео они, ну, как бы не контролируемы, недостаточно качественны и так далее. Поэтому мы еще как бы этого не знаем. А, то есть есть ряд продакшн компаний, которые такую цель преследуют. Да, это, конечно, правда, что много продакшн компаний, которые говорят мы будем разрабатывать новую франшизу с нуля и так далее. Но опять же, тут проблема курицы и яйца у них, да? То есть как они разработают новую франшизу? А, им нужно как бы разработать уникальный стиль, персонаж, потому что франшиза она подразумевает узнаваемый стиль. А как ты разра-- делаешь это с AI, если стиля еще нет, не на чем файнтюнить, да?
Ну, то есть если это будет что-то такое усредненное по Диснею, ну, это не будет, это как бы вряд ли это прям людям сильно зайдет.
Ну что, мне кажется, очень хороший выпуск, особенно для последнего выпуска в этом году. Всех с Новым годом! С наступающим Новым годом, с праздниками! И мы в этом году запустили канал To the Moon. Это тридцать восьмой выпуск. Мы так четко выходим каждое воскресенье, стараемся фокусироваться на таких интересных, э, новостях, инсайтах, делиться нашим мнением с точки зрения технологического мира. Очень-
С точки зрения технологического мира очень сильно ориентируемся на Кремниевую долину, а, и в целом на рынок США. Хотя мы опять же рассматриваем весь мир, а, уделяем внимание очень большое, наверное, чуть ли не основной искусственному интеллекту. Хотя рассказываем про разные вещи. У нас были выпуски и про космос, и про, а, машины автономные. Но везде внутри сейчас очень много искусственного интеллекта, и хочется-- ну, это, наверное, самое главное сейчас такое технологическое ядро, а, про которое важно рассказывать. Спасибо большое, что делитесь и что смотрите. Э, поздравьте нас с этим тридцать восьмым выпуском. Напишите нам в комментариях хорошие вещи. Мы всегда рады, рады это видеть и слышать. Мы видим, что много есть постоянной аудитории, хоть аудитория не какая-то там сверхогромная, но при этом потихонечку-потихоньку растем. Нам очень нравится канал, нравится ваша реакция и обсуждения внутри, которые есть. Очень рад, что у нас получается это вместе сделать такое длительное время и вместе вчетвером. До нового выпуска ровно через неделю. Это у нас, получается, будет воскресенье, пятого января. Пятого января обещаем рассказать новые вещи в рамках Нового года и новые технологические прорывы, которые будут происходить. И хорошего вам Нового года!