Всем привет! Э, мы на канале To The Moon. Каждое вс-воскресенье мы выходим. Технологические инсайты и новости из Кремниевой долины. Губернатор наложил вето на этот закон. Закон, который требовал очень серьезных тестов безопасности для мощного искусственного интеллекта.
И если бы этот закон приняли, то это привело бы к тому, что новым компаниям было бы сложно пробовать какие-то новые подходы, и это отбросило бы Америку назад. Да, то есть возможны галлюцинации, возможна потеря информации, но при этом процесс сжатия, он очень сильный. Как бы закон, который вводится для того, чтобы дать правоохранительным органам возможность, а, провести расследование, если им очень хочется. Но э-это не будет работать.
Мы видим, а, куча нерелевантной выдачи, необъективной вообще, неадекватная информация.
И сегодня, мне кажется, невероятно важная тема.
И в течение всего выпуска мы будем разбирать вещи, которые, э, часто скрываются или не видны, такие в прослойке и о которых есть какие-то политические заявления. Но каждому человеку важно понимать вообще, что происходит сейчас с точки зрения искусственного интеллекта, его развития и регулирования. Вот сегодня мы будем обсуждать связку искусственного интеллекта, именно регулирование его в разных странах, и это нам всем покажет вообще направление мышления и движения всего рынка. Крутая тема! Всем еще раз привет. А, и стартанем мы с губернатора Калифорнии. Э, считается, что Калифорния и в США это такой передовой штат с точки зрения законодательства в сфе-- в сфере искусственного интеллекта.
А, я не беру пример, э, передовой Европы, которая очень быстро внедряет законы, но они очень специфические. Они, мне кажется, направлены не на развитие искусственного интеллекта, а на очень сильное ограничение и сдерживание технологического мира. А здесь как раз таки очень много такой смеси, вроде как и развития, и сдерживания, и всего остального. Ну и плюс здесь находятся лидеры, э, мира по развитию искусственного интеллекта. Значит, губернатор, э, подписал восемнадцать законов, по одной информации восемнадцать, там, семнадцать, неважно, в части регулирования искусственного интеллекта. И самое интересное, что произошло, была очень долгая дискуссия на протяжении последних месяцев, наверное, да, это дискуссия последнего полугода, чтобы ввести и наложить жесткие ограничения на искусственный интеллект и ввести ответственность. И обсуждалась тема ответственности для крупных моделей и компаний. В начале там заявлялись цифры, по-моему, от тридцати миллионов долларов, которые вложили или сколько потом, сто миллионов долларов, которые вложили. Губернатор наложил вето на этот закон. Закон, который требовал тестов безопасности, очень серьезных тестов безопасности для мощного искусственного интеллекта.
Он сказал: "Нет, мы пока требовать от компаний, в которые вкладывают очень много денег, ничего не будем". Это, мне кажется, что говорит о том, что, эээ, дали зеленый свет. Развивайте, развивайте дальше, потому что, что разв-- что хотим получить, еще не знаем, да? Как выступила, э, забыл имя этой женщины, по-моему, она китаянка. На конференции в Сан-Франциско она сказала, ее почему-то назвали прародительницей. Э, и она сказала-
Фэй Фэй Ли? Фэй Фэй Ли. Ну, про нее, да, говорим?
Да, наверное. Э, да.
Да. Ну, просто там у нее есть книга. Да, у нее есть книга, и она профессор Стэнфорда. Это обычно как бы этого достаточно обычно для того, чтобы быть бабушкой или там дедушкой чего угодно.
Или богом ее назвали. Да, ее назвали богом.
Или богом, или богом, да.
Да, ее назвали богом и в искусственном интеллекте. Она сказала, что я сама не знаю, э, когда, что кто думает о том, когда употребляют какие-то слова, как AGI, например, потому что каждый под этим будет иметь что-то свое, а что имеют, непонятно. Я типа все учила, изучала по другим терминам и то, к чему мы идем.
Никто не знает, что это такое. Итак, про этот закон SB 1047, на который наложили вето и который на самом деле это очень сильно, очень серьезно могло повлиять на индустрию. Просто колоссально, да? Отсутствие этого закона просто и с новыми инвестициями для OpenAI в размере больше шести миллиардов долларов. Самые большие инвестиции вообще, которые возможны в стартапе. Это дает открытый свет такой. Что на технологическом рынке, Саша? Вот когда такой закон заблокировали. Что будет дальше происходить?
Ну, мне кажется, то есть это означает, что до сих-- мне кажется, что это, а, означает, что до сих пор будут инвестиции в компании, которые разрабатывают, а, передовые модели. Я предполагаю, что если бы закон приняли, то тогда многие бы побоялись, что новым компаниям будет-- было бы сложно войти в рынок, да? А, и в принципе, мне кажется, консенсус в том, что на трансформерах все не закончится. То есть просто увеличивать количество параметров GPT-4 не приведет к AGI, что бы это ни значило. Ну, в общем, это не путь к успеху. И если бы этот закон приняли, то это привело бы к тому, что новым компаниям было бы сложно пробовать какие-то новые подходы, и это отбросило бы Америку назад.
То есть, ну вот есть и есть как слухи, что в Китае сейчас как раз очень активно идут инвестиции в то, чтобы, а- Что ж, в то, чтобыыы исследовать state space модели. То есть как говорят, что это следующее, это заме-замена трансформеру.
Эти слухи, они на чем бази-- они на чем базируются?
Это как бы, это другая, значительно более сложная система того, как, как бы описывать мир. И это сильно более сложная система по сравнению, чем трансформеры., просто математическая модель, которая-- просто математическая модель, которая заложена внутри, сильно сложнее. И, да, и я читал отчеты, что в Китае много инвестиций, потому что, ну, вот они думают, что трансформерами мы не придем к AGI. Ну, то есть мне кажется, что стоимость того, чтобы начать исследование в state space моделях в районе начинается от пятидесяти миллионов долларов. А дальше, ну, вот просто в Китае не очень понятно, вот для них сколько это стоит, да? Если у них есть свои железки, например. А, ну и зарплаты сильно ниже, чем в Америке, то, то, возможно, это стоит ноль, да? То есть если условная либо Ba или там Tencent очень много своих железок, ну для них там про-проинвестировать своими железками в научные группы или в стартапы это прак-практически ноль стоит.
Да, да. Мне кажется, что есть там несколько стартапов, два-три стартапа, которые этим занимаются. Но я, но мне кажется, это очень пока спекулятивно. То есть мы на бенчмарках, на бенчмарках мы, а, к со-- к сожалению, пока что не видели, чтобы вот модели другого типа победи-побеждали трансформеры. Пока мы это не видели. Сейчас еще хайпует стартап, который называется Liquid AI. То, что у них вот Liquid foundational модель.
Что это значит? Для пользователя поясни, что такое Liquid foundational модель.
. То есть, э, просто, ну, они вот придумали, они придумали, как я понимаю, а, они придумалиии свою, свое семейство нейронных сетей просто. То есть я, я это привел просто как пример того, что на самом деле, э, это, ну, что еще пока как бы много такого хайпа, да? То есть вокруг альтернативы трансформерам. То есть, с одной стороны, есть сигналы, серьезные сигналы, что трансформеры не при-- ну просто скалирование трансформеров не приведет нас к AGI. С другой стороны, что конкретно приведет, какая конкретно альтернативная архитектура может к этому привести, еще пока
непонятно.
Можно вопрос от пользователей? В чем принципиальное отличие AI от AGI? Я вот пытаюсь понять и не совсем до конца понимаю.
А никто не понимает до конца, Таня.
Смотри, то есть сейчас, по сути, смотри, вот помни, вот мы сейчас там занимаемся генерацией видео, вот мы сейчас занимаемся генерацией видео, да? Иии, например, у нас задача генерировать, там, видео длиной час. А, допустим, в видео длиной час нужно что сделать? Ну, чтобы-- что значит, ну, мы хотим определить, что такое смотрибельное видео. Вот, вот к AGI мы сможем прийти и сказать: "Скажи, это видео смотрибельное или нет?" И он сам поймет, что такое смотрибельное, все распишет по пунктам и даст свою оценку. А сейчас нужно самому определить, что такое смотрибельное. Перевести это в достаточно технические задачи. Типа определить сначала всех персонажей, потом посмотри, как бы, как ча-- посмотри на все, как бы, появления персонажа в видео. Вот, типа, типа выглядит ли он консистентно или нет. Под-- тож-- и так далее, да? То есть сейчас нужно давать LLM в целом достаточно такие простые, понятные инструкции.
Простые, понятные инструкции. Они попробовали это, но они попробовали как бы заставить модель самостоятельно соображать с моделью GPT, эээ, с моделью О1, а, превью из О1 мини. Но там видно, что количество шагов, которые она делает, очень большое, там, типа восемьдесят. То есть это, соответственно, генерация занимает минуты. Вот. Иии это выглядит как костыль. То есть в случае с AGI выглядит так, что вот этот вот костыль, что ей надо сам-самой себе сделать восемьдесят запросов, такого уже не будет.
Интересно, как это сделано.
Ну и еще от AGI ожидается, что он будет с тобой общаться в ответ. То есть ты у него спрашиваешь: это видео, оно нормальное или нет? Он сам как бы начнет с тобой спрашивать, вот, сам начнет проактивно как бы выяснять, ну, как бы уровень абстракции, да? То есть что такое нормальное и бу-будет бо-более проактивную ро-роль играть.
То есть если надо что-то упоминать.
У него появляется какая-то субъективность, получается, или это все-таки будет-
Нет, это как раз обобщенное, но он будет пытаться, ну, ожидание от AGI, что он будет не просто как, эээ, что он, он сможет быть именно как бы как напарником. То есть он может вести диалог, он может, он может в-вносить свои предложения, а, с-свои пожелания.
Интересно.
У многих компаний свое определение AGI есть. Одно из самых таких, наверное, распространенных, которое часто звучит, это то, которое Сэм Альтман говорит, его OpenAI принят. Это то, что эта система, которая подавляющее большинство экономически значимых, эээ, действий выполняет на уровне или лучше, чем, эээ, специалист. Да, соответственно, ты вот сейчас ChatGPT условно может там переводить текст, там, с одного языка на другой или какие-то узкие задачи решать. А там предполагается, что мы вот весь спектр экономически значимых задач берем, и вот он, собственно, их может закрывать. Но опять же, повторюсь, это вот мы даже об этом сейчас немножко начинали говорить, что сколько компаний, сколько там человек, которые про AGI говорят, нету единого такого термина, которого бы все придерживались, потому что это вот только один из вариантов. Вот Саша другой привел, да? Их довольно большое количество. И пока еще специалисты не определились с тем, что именно такое AGI.
Да, интересно, потому что у нас где-то там тоже есть в запасах новость. Помнишь про это интервью с Опрой?
Take me to 2035.
I think it's hard to say where all this can go without sounding like a crazy person. Um.
Go ahead.
I really believe the technology is going to be that powerful. И, э, такое получается. Она как бы всегда в Америке транслирует общественное такое массовое мнение. И если прям вот совсем свести к одному предложению, то она говорила, что AI сейчас это как такой большой анализатор даты, да, то есть каких-то данных. А тут получается какая-то человеческая составляющая, да, если AI сравнить с AGI или
не совсем?
Не, они используют в терминах, они используют, понятно, в терминах в AGI, что якобы это интеллект, который работает на уровне человека, и что есть якобы следующая после AGI история, которая называется ASI, там, Artificial Super Intelligence, которая сможет превзойти человека и так далее. Но все это всего лишь слова, потому что, по идее, искусственным интеллектом всегда называли то, что мы видели в фильмах, в фильмах, когда там, значит, космос, куча там, блин, всего, суперкомпьютеры. Ну, то есть, вот, серьезные такие, очень серьезные вещи, да, это называлось искусственным интеллектом. Просто мне кажется, то, что произошло в две тысячи двадцать, э, каком уже? В двадцать третьем году, да? В две тысячи двадцать третьем году, когда весь мир поглотила, эээ, поглотили слова AI, а до эт-- а до две тысячи двадцать третьего года AI, мне кажется, это еще было проще, чем текущие модели. Правильно, Эльнар? Вот чему учили людей на факультетах, да, там? Учили, да, то, что учили там-
Собачек и котиков отличать друг от друга и трекинг объектов на видео.
И называли это AI, да? Сейчас AI мы это называют. Но придет время, когда, я думаю, что все же искусственный интеллект — это, э, это интеллект. Ну, это как, вот то же самое сейчас начинаем сравнивать. Это как бывает, человека с собакой сравнивают, да? Или там с тигром. Вот, эээ, придет время, и искусственный интеллект, по идее, по идее, если изобретут что-то серьезное, настоящее, да, настоящее, то будут называть, эээ, просто искусственным интеллектом и все. Пока это всего лишь некоторая терминология, особенно в будущем непонятная. Для обычных людей сейчас, мне кажется, очень непонятны, эээ, простые вещи, которые, которые происходят, и простые юзкейсы. И сегодня, я думаю, что меньше доля процента в мире вообще по-настоящему используют такие вещи, там, как ChatGPT, ну, в реальности и понимают, что это вообще такое, а не абстрактно, э, а не абстрактно где-то там допускают или пару сделал каких-то вопросов, или что-то еще задало.
То есть, м, и понимают вообще эти все юзкейсы настоящие.
Если еще немножко вот про аналогии и метафоры еще поговорить, то Андрей Карпатрый, надеюсь, я фамилию правильно называю, человек, который работал и в Tesla, и в OpenAI, там, по-моему, GPT-2 и, возможно, GPT-3 тоже он еще в процессе участвовал. У него есть, э, статьи и видео, в которых он объясняет, а что же такое GPT. Вот такими условно простыми словами. И там очень интересные есть аналогии. Вот говорит, вспомните, есть архиваторы, есть какой-то большой о-объем данных, вы его там Winrar, Winzip архивируете, как все мы когда-то делали. И вот объем у вас уменьшается, но вы можете разархивировать и получить тот же объем данных без потери. Да, то есть сколько заархивировали, столько разархивировали. А если мы говорим про трансформеры и вот про GPT, соответственно, там, Generative Pre-trained Transformers, да, то там получается гораздо больший объем можно сжать, но при этом на выходе у вас, соответственно, не абсолютно точно тот же самый объем получается, да? То есть возможны галлюцинации, возможна потеря информации, но при этом процесс сжатия он очень сильный. То есть берем весь интернет, условно говоря, там сколько-то петабайт это может быть, да, там, или еще больше, не знаю там сколько. И вы сжимаете это все в, там, миллиарды параметров, но все равно это несравнимо с тем изначальным объемом, который был. То есть, по сути, вы его заархивировали, а потом можете из него, собственно, информацию получать какими-то способами, да? То есть там тоже дополнительная работа, но так или иначе, то есть, по сути, это архив тех знаний, которые есть сейчас. А то, что при этом проявляются какие-то, такие тенденции к рассуждениям, это интересно, но как бы еще не факт, что трансформеры эту историю могут закрыть. И вот то, что Саша говорит, что ищут новые архитектуры, которые, возможно, чуть по-другому будут со всем этим работать, это вот, собственно, движение как раз в эту сторону, как я это вижу, опять же.
Да, это интересное движение.
То есть здесь, чтобы закрыть эту тему, на самом деле важно добавить, что есть как бы исследования. То есть стандартно вообще, вот, в машинном обучении исторически что смотрели? Что и-- что будет, если модель надо тренировать, там, говорить на ру-- на, например, испанском языке, да? Она вот только, она видела только испанский язык, а потом ей дать несколько примеров английского языка и ск-- говори-- и посмотреть, будет ли она обобщаться и говорить на английском. То есть это как бы ча-- так, так. Вот и модели, которые умеют так обобщаться, то есть на данные, которые они не видели просто по нескольким примерам, эти модели считались сильными. И трансформер с самого начала считался такой вот сильной моделью. И сейчас есть, ну, такие, скажем, искусственные примеры, пока игрушечные примеры, что когда, что, что, грубо говоря, эти модели, они могут разобраться и изучить новый язык программирования, который они не видели. А, но пока, но это пока только игрушечные примеры. То есть серьезных, как бы контраргументов тезису Карпатова пока, пока нету, только игрушечные примеры.
Супер! Продолжим по поводу законов. Вот мы сказали просто закон, что который не при-приняли и проговорили про то, что будет происходить. И Саша это в хорошую сторону сказал, что непринятие закона говорит о том, что дает возможность сильно рынку развиваться и в него будут вкладывать деньги и финансировать. Да, это очень важно. Вот большое финансирование может идти. Я чуть-чуть хочу поговорить про то, что принято, да, и есть некоторые зо-- как бы некоторые направления, наверное, законов, которые, утверждены и которым отдают сильное внимание. Большой закон, мы о нем, мне кажется, несколько раз упоминали., по крайней мере, эту тему очень серьезно обсуждали. Это права актеров и их цифровые реплики. Иии там есть интересный такой закон, з- за-- который запрещает использование цифровых реплик умерших без согласия наследников. И прямо ввели такой закон. У него там е-- AB 1836, и номер не имеет, к слову, сильного значения, но. И там же есть закон, который по актерам. Это усиливает требования к согласию актеров на использование цифровых копий. Иии это прямо, этому уделяют огромное серьезное внимание, да. Я насколько понимаю, там не только актеры, наверное, подпадают, там, наверное, и звезды какие-то. И вон де-деталь-- и, наверное, его будут расширять, да? И, будут, наверное, каких-то известных людей туда ставить, каких-то и политиков, и кучу всякого разного народа, абсолютно разных людей. И, по сути, наверное, постепенно идти к тому, чтобы не использовали, никакой, ...
Никакой, э, контент другого человека. Потому что интересно, что вынесли закон по согласию актеров. То есть, получается, реплику меня сделать можно или как? И с учетом того, что сейчас происходит в мире огромное количество скама и краж, когда подделывают голос, голос начали подделывать просто нереально. Мне тут пару дней назад друг прислал, как ему от знакомой пришло аудиосообщение. Там настолько крутой как бы чат, переписка в Телеграме голосом. И этот голос еще поясняет, полный, полная копия голоса человека. Отличить невозможно. И я своей жене сказал: "Ты скажи маме, чтобы они поставили все, вот, сильные секьюрити на Телеграм и на WhatsApp, потому что им в две секунды-- и те-- и себе тоже внимание. Потому что твоей маме, когда твоим голосом придет сообщение, она не сможет диагностировать, что это не ты, да? Ну, потому что голос абсолютно идеально подделывается сейчас. Вот, а, интересная тема, конечно, вот эта в сторону актеров. Посмотрим, как она до людей дойдет, как они смогут регулировать историю с людьми и как вообще это можно будет отследить.
Мне кажется, технически это сделать будет нереально сложно, нереально сложно. Ребята, вы кто нас смотрите, девушки, выложите, пожалуйста, сейчас в комментариях, напишите, что вы думаете по поводу вообще законодательства в AI. Как вы считаете, в рамках вашей страны, будет еще интересно, где вы находитесь, как это может не может влиять и в каких зонах. И вы считаете вообще в-вмешательство или невмешательство, присутствие политиков, а, и новых законов в AI это развивает отрасль или, наоборот, ее очень сильно сужает? И насколько вы видите, какие изменения идут? Напишите, пожалуйста. Это очень интересно, очень интересно.
Ты очень много всего сейчас сразу охватил.
Это такая очень интересная тема. А, немножко в эту сторону. Вот буквально недавно мы тут смотрели сериал, и, ну, там смотришь, я извиняюсь, выбираешь разные озвучки, да, там думаешь, вот в этой озвучке, в этой озвучке и все равно это как бы не голос оригинального актера, да? Потому что на языке, на котором фильм или сериал вышел, тебе смотреть, может быть некомфортно, да? Ладно, английский еще может быть, но какие-то другие языки уже там совсем непонятно. И тут возникла мысль: а ведь технически, особенно с тем, что сейчас показывает, там, а, Advanced Voice Mode у ChatGPT и прочее.
Hey, ChatGPT! I want to apologize to my grandma for being really late. Oh, that's sweet of you to think about apologizing. How about something like: "Grandma, I'm really sorry for being so late. I didn't mean to keep you waiting. Can I make it up to you?" Oh, um, she only speaks Mandarin. Got it. You could say: " 奶 奶 ， 对 不 起 ， 我 迟 到 了 。 我 不 是 故 意 让 您 等 这 么 久 的 。 我 可 以 怎 么 补 偿 您 呢?"
Можно сделать так, что на выходе фильм дублируется сразу на все популярные языки практически одновременно. Понятно, что там необходимо дорабатывать и так далее. Но вот этот закон, о котором ты говоришь, он как раз настраивает рельеф такой, э, дна, вот по которому все это будет двигаться, да? То есть без этого, собственно, у нас одно направление, с этим это уже какую-то юридическую форму обретает. Но вообще, мне кажется, что через несколько лет как бы фильм может выйти сразу или сериал на нескольких языках, если там такая договоренность будет.
Ну, эта тема точно будет влиять на людей. Вот это сто процентов. И она будет касаться, конечно, обычных людей. И как раз таки там ввели закон, обязательство, например, что если, эээ, соцсети содержат какую-то информацию, ложную информацию, то они требуют от соцсети удалять глубокие подделки, там, по жалобам пользователей. Ну, вот такие вещи будут происходить. Но есть вещи, которые более специфические. Вот принят закон по поводу прозрачности раскрытия данных, которые обязывают компании раскрывать информацию о данных для обучения искусственного интеллекта. Я вообще, кто эти-- как этим можно будет воспользоваться? То есть интересно, этим обычные люди смогут воспользоваться или этим смогут воспользоваться только какие-то специальные комиссии или ФБР, или вообще кто, кто сможет получить доступ к данным? Я представляю, я веду запросы, скажу: "Расскажите мне, пожалуйста, на основании каких данных вы были обучены, как я смогу это изучить, когда там, ээ, ты такое число, Ильдар, назвал, которое обычные люди никогда не воспримут, да? Там какое-то сотни тысяч нулей в этой информации, какое-то безумное количество. Как это вообще можно понять?
Вот когда вводят такой закон, что раскрывать информацию о данных для обучения ИИ, как обычные люди смогут это переварить?
Ну, я так понимаю, что это больше так кластерами будет дано, типа, условно взята там вся Википедия, переписка в Реддите, данные таки-- такой-то библиотеки, то есть все книги этой библиотеки, еще что-то такое.
Да, но мы с тобой прекрасно понимаем, что таких миллионы источников или десятки миллионов источников, да. Источников, мне кажется, эти, эти источники увеличиваются, они будут увеличиваться, да. Плюс, как будут отслеживать то, что уже сгенерировано искусственным интеллектом и не является источником, как то, что искусственно сгенерировано было за эти несколько лет искусственным интеллектом в Википедии и потом дальше в Википедии, оп-опять же, обучение в обратную сторону прошло. Как это покажу-- как это вообще возможно будет?
Саш, согласен. С моей взгляд, это как бы глупость. Это, то есть это как бы закон, который вводится для того, чтобы дать правоохранительным органам возможность, а, провести расследование, если им очень хочется. Но э-это не будет работать. Условно говоря, уже все, кому надо в мире, вот все, вот действительно уже все организации, кому хоть сколько-то нужен AI, уже натренировали свои модели. Эти модели уже знают очень много информации. То есть они как раз, они уже вот являют-- то есть, кстати, вот все поколение GPT 4 модели, которые уже все натренировали, кому надо в мире, это ж, как, э, Ильнар сказал, это вот эти вот архивы, да, информации. То есть они у них уже есть, и они могут всегда с-- то есть и даже и теперь э-эти архивы, они могут воспроизводить большое количество копирайтной информации. Например, книги. Был же лосс суд, а, против OpenAI, что они использовали, как бы, что они скачали книги пиратским образом. Но теперь OpenAI не должен-- OpenAI не будет, разумеется, этого раскрывать. Они напишут, чтооо, потому что уже у них есть GPT4, которая была дотренирована до этого закона, которая содержит уже эту информацию про эти все книги.
Да. И скажут, что, соответственно, это и есть наш архив. Мы обучились на GPT4.
Ну да.
Да, да, да, да, да.
Мы это пропустили.
Помните, мы как-то обсуждали?
Да, да. Да, да.
Мне кажется, важная тема вот еще с точки зрения законов и то, что касается всех людей, это введение водяных знаков, да, то, что вводят требование об обязательном использовании водяных знаков для контента, созданного искусственным интеллектом. Я еще раз, у меня в этом есть некоторый скепсис. Я не представляю вообще, что такое вот это слово "обязательно", как это будут контролировать. Люди-- если посмотреть на текущий поиск, который есть в, эээ, не знаю, у Гугла, да, или там есть у Яндекса, мы видим куча нерелевантной выдачи, необъективной вообще, неадекватная информация. И мало того, эта информация часто условно настоящая, а где-то ненастоящая, невозможно ее подтвердить и проверить. То с учетом того, что огромное количество информации сейчас генерируется с помощью ИИ, как опять же, вот это обязательство, наверное, оно будет влиять для каких-то исков и для каких-то деталей. Но как это будет использоваться? Мало того, как это технически использовать, насколько, к чему это будет приводить по водяным знакам? Э, это вопрос. Хотя в этом есть некоторый плюс, да? То есть, по идее, можно будет определить, там, это типа фейк, не фейк, выложен настоящий голос или нет. Например, есть закон, который запрещает, там, синтети-- не запрещает, а обязывает в маркетинге показывать, где использован. Причем интересно, закон такой обязывает раскрывать использование синтетических голосов в телемаркетинге. А, это значит, э, звонит мне телефон. Я думаю, что я говорю с продавцом, а он мне в самом начале говорит, что это говорит робот, да? Вот, и что это говорит не настоящий человек. Это точно будет так-
Какова вероятность, что ты продолжишь этот разговор?
А?
Какова вероятность, что ты продолжишь этот разговор?
Какова вероятность, что я-- Конечно! Какова вероятность, зачем мне тогда это использовать, да? То есть если накладывают-- это как на рекламе. Если наложить слишком много водяных знаков, то ты уже не рекламу читаешь, уже там эти водяные знаки есть. И, а если они не наложены, ну, хотя бы, хотя бы что-то там видно. А если они не наложены, как люди начнут это понимать? То есть, вот эти все вещи, конечно, они очень специфические. Мало того, кто-- в каких странах есть инструменты, интерфейсы отслеживания этого, кто будет это отслеживать? Вот в США вроде очень много всего отслеживают, а спама валит столько. Я вот периодически регистрирую бизнесы, и просто тебе сразу же лавинообразно начинает приходить спам. Причем они научились спам оборачивать, как будто тебе государственный документ пришел. Там где-нибудь есть маленькая какая-нибудь подписочка, и они тебе говорят: "Согласно такому-то закону, вы обязаны подать отчетность. Поэтому вот оплатите срочно двести долларов, и мы вам все сделаем". И ты сидишь. То есть если-- просто я в бизнесе очень давно, я на все это смотрю, думаю, что за ерунда? Но выглядит очень серьезно, очень по-настоящему, да, очень прямо. А для обычных людей это просто введение в заблуждение. Если такое введение в заблуждение не решено, то что же будут делать с настоящим искусственным интеллектом, да? Если не ловят мошенников, которые там от простых граждан перечисляют десятками тысяч долларов им на счет, то как будут ловить здесь? Мне кажется, здесь мы входим
Мне кажется, здесь мы входим в эру очень сильного технологического не контроля, ну, отсутствия контроля, то есть не присутствия контроля, отсутствия контроля.
Я так понимаю, что это пока такая добровольная история, да, что есть компании, которые берут на себя обязательства, что вот их модели будут снабжены там какими-то дополнительными данными. Это не гарантирует, что как-то получится определить, действительно, это сгенерировано или нет. Но вот там у нас что-то есть новость про Google, да, что она начинает помечать, ааа, сгенерированные фотографии. Но дальше написано, как начинает помечать. Если в метаданных к файлу написано, что это сгенерированный файл, она его пометит, если не написано, не пометит.
Да, логично.
То есть если кто-то отредактирует метаданные, то как бы сгенерированная фотка станет там не сгенерированной.
Но вот какое-то движение происходит. Но как бы все понимают, что обойти это пока, ну, очень легко.
Есть два закона, принятых, тоже важных для людей, принятых про образование. Один, он так, немножко странно они называются, но он вводит, э, ИИ-грамотность в школьную программу. То есть прямо на это есть некоторый акцент, что надо привносить грамотность для школьников с точки зрения искусственного интеллекта. И я уже рассказывал, мне интересно, э, у дочки такая реакция. Она вначале говорит: "Мне искусственный интеллект не нужен, значит, на шестнадцатом айфоне". Потом прошла неделя, она приходит, говорит: "Пап, как мне его включить? Я вижу, он у тебя включен". Я говорю: "У меня просто девелоперская, там бета-версия стоит. Да хочешь, я тебе поставлю, и ты тоже включишь, да?" Ну, то есть молодежь очень по-разному реагирует. С одной стороны, они как бы говорят, что это аккуратно надо с этим быть. Ну, конечно же, эра TikTok вот, Snapchat. Конечно же, они захотят все эти фишки разные иметь и будут их хотеть использовать. И второй закон создает рабочую группу по использованию искусственного интеллекта в образовании. Ну, такое немножко странное, странное, опять же, название. Якобы государство и в Калифорнии, в частности, говорит: "Давайте очень внимательно, э, развивать образование с точки зрения искусственного интеллекта". Тоже непонятно. Вообще, мне кажется, это пока просто микро рассуждения, которые не несут настоящей конкретики, да, настоящих деталей. Вот. Но внимание! Здесь же всегда интересно посмотреть, а к чему есть внимание с точки зрения государства, про что оно думает, на что оно смотрит.
Вот там есть большой блок, например, про здравоохранение, да. Огромное количество стартапов в этой части делается. И прямо, опять же, внимание к здравоохранению. То, что надо раскрывать информацию, если искусственный интеллект используется при взаимодействии с пациентом и требовать врачебный контроль. Вот. У меня, конечно, я, вы знаете, что хотел бы узнать? Я бы хотел, когда я к врачу прихожу, чтобы он мне не рассказал, что искусственный интеллект использует и на чем он обучен, а чтобы мне врач рассказал, а на чем он обучен. Почему? Почему мне врач рекомендует, значит, при, а, вирусной инфекции пить антибиотики? Вот где он учился, этот человек вообще, как его лишить, значит, всего, что у него есть, чтобы он на всю жизнь усвоил, что это делать не надо.
У меня иногда в Штатах возникает ощущение, что я уже с искусственным интеллектом общаюсь в плане здравоохранения, потому что реально никаких объяснений. Очень четкая процедура. Ты не можешь ничего дополнительно попросить, все определяет страховая компания. То есть, ну, не знаю, изменит ли это что-то. Для меня это прям такая болезнь.
Саша, насколько у тебя, насколько у тебя есть знакомые сейчас, которые вот в здравоохранении? У меня есть часть ребят, которые делают ИИ в здравоохранении, но я все это вижу поверхностно некоторые вещи, потому что область очень сильно регулируемая, и все якобы хотят там убрать страховки и сделать все проще для граждан. Но мне кажется, что с этой лавиной это триллионы долларов, это власть.
Да.
Это, это вообще, мне кажется, сумасшедший рисунок. Насколько вообще с этой темой могут, могут что-то работать? Или только государственные компании, какие-то крупные операторы постепенно что-то будут внедрять, а не факс, не по факсу, чтобы там что-то использовалось?
Да, я бы сказал так, что до сих пор вот разгадать этот любовный-- самое сложное в healthcare — это разгадать любовный треугольник. То есть если госпиталь, страховая компания и пациент, у каждого свои как бы системы incentives. Мне кажется, generative AI не помогают разгадать этот треугольник. То есть есть какие-то консьюмерские приложения, где AI может помочь, то есть для профилактических целей, но не более того. То есть я-- то есть будет, а, лучшие системы, которые там трекают здоровье, будут там системы, которые могут проактивно спрашивать, как ты себя чувствуешь и физически, и ментально, будут давать там хорошие советы и так далее. Такие системы появятся. И да, я знаю, там, может быть, одну-две сильные команды, кто, кто работает в этой сфере, но принципиально я не думаю, что generative AI поменяет здравоохранение в Америке.
Наверное, в крупных, я думаю, что и в Китае, и в России он тоже вряд ли что-то поменяет, потому что очень сильная регулируемость, и это могут внедрять только допущенные операторы. А в Штатах, мне кажется, с учетом того, что, вот как ты правильно сказал, у каждого свои фишки и свои приколы, и многие из них настолько древние вообще с точки зрения подходов. Мало того, они не заинтересованы в том, чтобы показывать информацию простую, прозрачную. То есть они не заинтересованы, чтобы у тебя на сорока страницах не были написаны или там на ста страницах твой insurance план, они просто пункты какие-то выделены. Зачем им это делать? Иначе ты сразу же поймешь и разгадаешь часть деталей, где тебе абсолютно бессмысленно, бессмысленно обслуживаться. Ведь есть четкие вещи, где, где известно, там эту-- эта вот тема здесь не работает. Это моей жене недавно тут одна знакомая рассказала, что она покупала страховку для собак на протяжении пятнадцати лет, и все пятнадцать лет, когда она хотел что-то сделать просто для собаки. Они говорили: "Это не по страховке". А когда случался emergency, экстренный момент, они говорили, что страховка именно этот тип emergency не покрывает.
Это не моя жена рассказывала? Нет, это просто наша история один в один.
Не, не.
Это и я могла рассказать.
Да, вот вот, да. По прошествии, по прошествии пятнадцати там лет, да.
Это ведь общая проблема.
Это общая проблема, потому что и женщина в школе рассказывала у нас здесь, в Стэнфорде, и, этот, и она-- они сказали, что просто мы по какому-то моменту просто поняли, что это бессмысленно. Зачем? Мы просто оплачиваем спокойно приемы, там какие-то МРТ, если надо еще что-то.
Ну да, только это десятки тысяч долларов, как бы спокойно можно за собаку оплатить.
Она те суммы, которые приводила ей в итоге, в итоге, то есть ты в итоге все равно попадаешь. То есть у тебя нету, итогового выигрыша. Если ты все вместе пересчитаешь, то итогового выигрыша нету, да? То есть ты, по сути, не туда попадаешь. Эти я просто к тому, что эти детали не описаны. То есть ты не понимаешь, что они произойдут. Есть некоторые общие-
Да, ты не можешь прогнозировать свои расходы.
Ты не можешь прогнозировать, да. Раньше, пятнадцать лет назад, ты покупал КАСКО, страховку на автомобиль в России, и тебе выплачивали полностью все. И на следующий год страховка не дорожала. В США, если ты уже очень давно, если у тебя есть хоть один страховой случай, у тебя сразу страховка дорожает автоматически. И вопрос становится следующим: а надо ли мне заявлять этот страховой случай или мне выгоднее самому отремонтировать?
Да, да, да.
Но в итоге за следующие пять-десять лет, а, не переплачивать за страховку. То есть вопрос всегда, что люди не понимают, что будет происходить в будущем, да, и как это повлияет на будущее. И мне кажется, что даже вот это понимание тех знакомых-- законов и их направленности, которые мы сейчас обсуждаем, они как раз таки для того, чтобы быть, ну, быть в адекватности восприятия, что на самом деле сейчас происходит с точки зрения искусственного интеллекта. Поэтому я всем все время рекомендую использовать разные программы ежедневно для абсолютно простой жизни.
То есть когда ты используешь их в простой жизни, ты, ну, ты прокачиваешься вообще новыми юзкейсами, которые, которые суперполезны, просто нереально полезны., Эльдар, ты сегодня говорил интересную одну штуку по поводу того, я не видел эту новость и вообще эту информацию, что OpenAI сказала, что перестаньте делать стартапы. Расскажи, пожалуйста, про нее.
Да, но там получается-
Интересно.
Да, там две новости в одной. В одной, что вот мы до этого обсуждали, что они привлекают финансы. И вот есть информация, что привлекли шесть и шесть миллиарда инвестиций, и теперь у них там стоимость или оценка сто пятьдесят семь миллиардов такая общая. А в целом они привлекли уже там больше девятнадцати, сейчас, секунду, нет, семнадцати девять миллиардов они в целом привлекли с момента основания. И вторая новость там же внутри была заложена, что они вроде как обратились к своим инвесторам с просьбой не инвестировать в конкурирующие компании. Ну, там, в Anthropic деньги не кидать, там еще в какие-то компании, к Маску деньги не направлять. И для меня это такой немножко шок. Типа, а так можно? Вам только что денег дали, а вы такие, а другим ни-ни. И вот мне интересно, а как вообще вот на инвест рынке? Вот, Саш Машрабов, ты, может быть, знаешь, это практика такая исключительная или многие компании, и это норма на рынке, как ты вообще думаешь?
Да, конечно, с удовольствием скажу. То есть в целом это нормально. Сейчас объясню. То есть, то есть, по сути, для хороших компаний, топовых компаний, не будем говорить, вот для компаний, которые лидеры в своей сфере, да? Для них капитал - это commodity в целом. То есть они-- они могут найти капитал. А вопрос по какой, по каким финансовым условиям? Но они могут найти капитал, и через-- и это будет инвестиция.
И через-- и это будет инвестиция или это будет займ, но в целом они всегда могут. И... так как это мы говорим только про топовые компании, то в целом инвесторы им обычно ничем помочь не могут уже. То есть, ну, я слабо себе могу представить, что кто-то расскажет Сэму Альтману, как строить компанию. И Сэм Альтман и так общается со всеми президентами стран лучше, лучше всех, да? То есть ему такая помощь не нужна. Иии инвесторы вот могут дать деньги, они могут помочь с коннекшенами. И вопрос как бы, как они-- и третий вопрос явля-- и третий аспект является самым важным непосредственно для Сэма Альтмана. Как они-- будут ли они дальше поддерживать Open AI и работают ли они с конкурентами или нет? Некоторые фирмы, вот некоторые, некоторые VC, ну, например, Menlo Ventures, которые инвестиру-- которые инвестировали в Fixwell, да, вот в стартап, которым я сейчас занимаюсь, они не инвестируют в конкурентов вот в целом. Если они инвестируют-- они инвестировали в Anthropic, в другие foundational текст модели они не инвестируют, не рассматривают. Бывают исключения из правила. Например, например, ну, я думаю, Lightspeed, Andreessen, все большие фонды, они часто, ну, как бы так как это большие фонды, то их часто воспринимают как ETF. Ну, вот те, кто дают им деньги, они дают, они как бы думают, что вот как бы ETF на generative AI в какой-то, в каком-то смысле просто в-- просто в private рынке, да? Иии, разумеется, большие фонды, как Andreessen, как Lightspeed, кто оперирует миллиардами долларов, и Thrive, и Coat туда подходят, и они, они часто инвестируют во всех конкурентов. И, ну, ну, это нормально, что Сэм просит. У него, я себе думаю, только одна маленькая просьба к инвесторам, чтобы они инвестировали в конкурентов. Вот он это и просит. Я думаю, что это компании менее успешные на более ранней стадии тоже часто такое просят. Часто спрашивают и выбирают инвесторов по принципу того, насколько вот они лояльны, грубо говоря.
Вот мне здесь интересно, а остальные компании, они из-за этого каким-то образом пострадают с точки зрения инвестиций или настолько много инвесторов на рынке, что в целом и Anthropic, и остальным тоже останутся где деньги брать? Я извиняюсь, если такой очень, эээ, дилетантский
вопрос, но-
Тут единственный вопрос, тут, тут, тут как бы понятно, есть еще, есть стратеги, которые дают, эээ, GPU, да? То есть Nvidia, они напрямую дает, есть Microsoft, Google, Amazon. Я думаю, что вот такие требования выдвигать стратегам — это как бы немножко странно, потому что стратегии играют в совершенно другую игру. А в целом, да, как бы большие инвесторы, они уже распределились между-- большие инвесторы, они уже распределились между текст foundational компаниями. То есть его запрос, я не думаю, что как-то сильно может повлиять в действительности на состояние дел. Я думаю, что этот запрос, я думаю, что просто кто-то захотел сделать новостной повод. Я не думаю, что есть какой-то большой фонд, который еще не инвестировал. Вот так вот, сейчас у него там три миллиарда завалялось. Ну, проинвестировать, да, в какую-то, в какую-то из этих компаний. То есть в смысле все эти компании подняли по каким-то нереальным оценкам уже. То есть там объем инвести-инвестирования уже там не один миллиард, а больше. Ну, ну, если серьезно инвестировать. И мне кажется, там таких фондов, в которых вот так вот есть потенциально миллиард или больше, мне кажется, таких фондов уже не осталось.
Да. Вот и в подтверждение твоих слов про Суцкевера мы уже недавно говорили, что он открыл свою компанию, и была информация, что он в первом же раунде привлек больше одного миллиарда инвестиций. Это, конечно, интересно. То есть раньше, э, у компании, у которой оценка миллиард, она становилась единорогом, а тут ты как бы стартап и сразу поднял денег, так что у тебя не оценка миллиард, а ты денег привлек миллиард. Это масштаб какой-то сумасшедший становится.
Да! Потому что я думаю, что все понимают, что как бы они начинают слишком поздно, и им поэтому нужно много денег. То есть ууу-- потому что количество даже сейчас у них количество инвестиций получается, как ты сказал, в восемнадцать раз меньше, чем у Open AI, и им, им очень сложно. То есть это нормально, когда есть какая-то другая бизнес-модель или другое, там другие модели.
Да, тогда можно начинать, тогда можно быть конкурентоспособным и начинать с маленьких, с меньших раундов. Но в случае с Суцкевером другого варианта просто нету.
Мне кажется, что вот еще я хотел просто добавить, что если есть такое заявление, я просто не очень понимаю, насколько часто такие заявления в открытую показывают, как Open AI показали не инвестировать. Это как бы как некоторый импульс другим фондам, что хватит тратить даже небольшие деньги, и вы уже типа туда не попадете в эту большую игру. Потому что в целом, кто находится в рынке AI, я, по-моему, приводил пример несколько месяцев назад своего близкого товарища, сильно очень в AI, именно инж-инженера, сантиста. Он говорил, что все, сам уже ничего не сделаешь, надо находиться только там, в топ-топ компаниях. Ну, то есть сделать что-то уже очень тяжело без доступа, я имею в виду без доступа к ресурсам, без доступа к сильному контактам. И поэтому сколько денег просажено, просто мне кажется, огромное количество денег просажено. Это не значит, что не будет отрасль развиваться. Я уверен, что будет развиваться еще больше, и денег будет еще больше. И людей, которые хотят инвестировать туда, будет еще больше. Я думаю, что людей, которые инвестируют-- ну, во-первых, огромное количество людей инвестируют даже в проекты, которые мы не видим, да, которые проходят не в фондах, а просто когда человек сидит в своей компании. Я сам знаю с десяток таких бизнесов, которые в своих компаниях поднимают какие-то типа внутренние софты и думают их куда-нибудь продать. И сколько я такого слышу, что еще из серии кто-то сделал какой-то типа прикольный софт для своей CRM-системы, которая в AI там что-то анализирует. Это инновация, охренеть, будем ее на весь мир продавать, да? Ну, этого очень мно-- это просто-- и этот рынок, мне кажется, гораздо больше, чем стартапов. Ну, то есть количество вот этих вот разных доработок, изменений. Ведь огромное количество компаний появилось, эээ, просто когда люди делали софт для себя лично, да, для своей личной компании. Таких компаний огромное количество, безумное просто. А не которые делали со стороны. Ну что, классный сегодня выпуск! Всем огромное спасибо. И, Саша, ждем твоего возвращения в долину завтра. Встречаемся завтра, да? Таня, встречаемся через три часа, через два часа на океане.
Два часа.
Вот. И нас онлайн. Вот, онлайн. Ну что, всем большое спасибо. To the Moon. Выходим раз в воскресенье. Нас всегда четыре человека. Технологические новости, инсайты из Кремниевой долины. Подписывайтесь на канал, вы этим очень сильно его поддерживаете и ставьте лайки. Это действительно сильно его развивает. И даже в комментариях, когда вы пишете просто слово "спасибо". А в целом, как я говорил в этом ролике, очень важно услышать также ваше мнение, что вы думаете по поводу всех законов и куда они будут двигаться, и каких законов еще не хватает, да? Было будет еще интересно посмотреть, каких законов не хватает. В следующем выпуске у нас очень интересная будет тема. Ждем вас ровно через недельку. Всем пока.