Ваши данные могут украсть. Meta покупает китайский стартап в искусственном интеллекте Manus. TikTok в США продан. Тревожный чат-бот ChatGPT можно успокоить. Глава Instagram: глазам верить нельзя. Про дипфейки. Машины без руля и педалей за двести пятьдесят долларов уже здесь. Вчера видел. AI бум — шестьсот миллиардов долларов за год. Всем привет! Мы на канале To The Moon.
Технологические новости, инсайты из Кремниевой долины по всему миру. Выходим каждое воскресенье и также у нас спецвыпуски в среду. Кстати, возможно, в эту среду, возможно, в следующую у нас будет спецвыпуск по-- про культуру, э, компаний в долине и как они влияют на те продукты, которые создают. Очень крутой выпуск с новым гостем. Он, у нас его еще не было, да. И, ну, мне кажется, там супервстреча прошла. Значит, с чего хочу начать? Хочу начать вот с, по поводу кражи данных. Я за последнюю неделю так встречал достаточное количество людей, у кот-- которые не являются такими, значит, людьми, которые прямо живут искусственным интеллектом или технологически с ним связаны, или, там, серьезно разбираются в технологиях. И каждый, ну, какие-то вопросы кто-то где-то задавал. И так получалось, что телефон попадал мне в руки. Как только телефон мне попал в руки, я тут же, значит, заходил в настройки ChatGPT посмотреть, что у них с функцией делиться данными. И у всех у них, у всех, просто у всех, еще не было ни одного человека, у которого эта функция была бы отключена. Я хочу для наших зрителей просто так чуть-чуть некоторый акцент сделать для тех, кто, возможно, не, не слышал. Мы в наших встречах рассказывали про это, уделяли этому большое кол-- внимание. Это касается всех абсолютно, на самом деле, платформ. Я приведу на примере ChatGPT, но поделюсь там, где я, по крайней мере, лично смотрю. И вы, ребята, поделитесь здесь, где сами смотрите. Я-- там есть галочка "делиться вашими данными". Что это значит? Которая стоит по умолчанию. Это значит, что все чаты, все запросы, которые вы, эээ, шлете, все, что вы фотографируете, вся ваша структура, значит, всего, всего, всего, она, на ней имеет право дальше модель обучаться. Мало того, мы не знаем, что это значит. Ну, то есть мы не имеем понятия, что это значит. Это значит, оно будет сохранено вплоть, вплоть до того, с вашей какой-то информацией, персонализированной, например, там, с возрастом, с вашим именем, с датами рождения и со всем остальным. Или это уйдет в каком-то там, значит, обезличенном сыром виде. И что уйдет, и как уйдет, мы, мы не знаем. Или оно, например, обучается и строит некоторый ваш аватар, да. То есть никто не понимает до конца, что именно делают эти программы. И такие галочки, они есть практически везде. Вот даже я стал, значит, адептом недавно браслета Whoop через, ммм, Танин-- съездив с Таниным мужем, значит, в командировку и на отдых.
И, эээ-
Вообще-то это я ему подарила.
Там, ну, а до этого, а до этого, значит, Таня была.
Таня - серый кардинал.
Все идет от меня.
Да. Да, мы, кстати, обязательно промо-
А я увидела у Кристины-
Обязательно промокод дадим на Whoop. А?
У Кристины Машрабовой, кстати.
А, ты у Кристины Машрабовой, да. Вот мы к Саше Машрабовой вернулись, да?
Да.
Значит, и... Но и суть в чем? Что там у них сейчас есть AI, AI-помощник, который разбирает разную информацию, отвечает. Не до конца понимаю, зачем он там нужен, но он там есть. И там есть прямо галочка внутри: хотите ли вы сохранять информацию о своих сессиях. И она так сделана, как бы вы отказаться не хо-- ну, как бы ты не хочешь от этого отказываться, потому что там написано, что это позволяет вам персонализировать как бы все воспоминания во всех чатах, да. То есть если, например, в ChatGPT отсутствие этой галочки не убирает функции персонализации по чатам, то есть оно все так же может работать по вашим чатам, все так же может ваши звучать и смотреть. Но эта галочка, ос-основная история в ней в том, что на ваш-- ваши данные уходят как бы в общую инфраструктуру для обучения, да. И, например, если вы пошлете отчет своей компании или вы пош-пошлете, там, ваше паспортное, не знаю, какие-то данные личные, там, паспортные данные, не знаю, пароли, там, или что-то еще, они, по крайней мере, не утекут в общее обучение, то здесь в браслете они, мне кажется, вообще очень жестко поставили и сказали: или вы, или мы, значит, на данных обучаемся или нет. Вот. Это во всех софтах еще раз есть. Проверьте обязательно. У нас тут, наверное, появится по чату GPT вкладки, только по чату GPT, по всему остальному посмотрите. Я напомню, что я в чате GPT нашел функцию еще специальную и отправил им даже такое, как письмо отдельное подписанное, в котором, в котором я еще сделал вот этот opt out от всего, что у них только возможно. На всякий случай, да, я это сделал на всякий случай. Мне кажется, еще года полтора назад я про это рассказывал.
Эльдар, я вижу, ты хочешь сказать здесь.
Хочется перефразировать старую шутку. Помните, мы как-то говорили, что люди говорят "спасибо" и "пожалуйста" чату GPT, чтобы после восстания машин, собственно, он учел то, что вы с ним вежливо общались. Здесь точно так же.
Прикольная шутка.
А такие козлы, как Волчек Александр, которые, значит-
Отключали еще и рассказывали другим, что надо отключать.
И еще которые рассказывали другим.
Саш, ты первый.
Еще десятки тысяч сообщений слали и тратили, и тратили compute, значит, наш больше, чем на эти двести долларов. Моя дочка, значит, она, э, старшая дочка, ей пятнадцать лет, и я, значит, где-нибудь с ней еду. Ну, я думаю, смеем-- что-то обсуждаем с ней. Говорю: "А слушай, я сейчас узнаю". Вчера едем, она говорит: "Папа, мне надо к SAT подготовиться". За два года заранее или за год, там, спрашивает. Ну, там, про экзамен для университета. Я говорю: "Сейчас узнаю". Запускаю. Она такая на меня все время поворачивается, говорит: "Опять ты тратишь. Ты ж, папа, знаешь, сколько электричества это тратит. Ты уже рассказывал". Он мне каждый раз это делает, каждый. Значит, ко мне приехал, ко мне приехал мой друг, и он из Москвы, он- Услышал, когда это он говорит: "Илон, а вас в школе этому обучают?" "Нет, - говорит, - нас этому не обучают. Это вот я так, значит, сама, вот это сама это чувствую внутри". Поэтому я к тому, что я трачу гораздо больше ChatGPT. Поэтому Ильянар, может быть, и за галочку он меня потом, он что-то, не знаю.
Припомнит .
Да, он ко мне роботов, роботов не приведет и к слову, значит, про машину.
Сам себе
заказал, сам себе их себе приводить .
Гуляем мы вчера в го-- а, значит, сам себе заказал робота. Пусть они его, пусть они выпустят. Да, напомню, что я в прошлом году NEO робота заказал. Значит, не NEO NEO робота, а робота под названием NEO. Значит, но что-то, что-то мне дает, значит, ощущение, что они его, как всегда, не выпустят.
Задерживают.
Да. Идем мы вчера, значит, вчера в городом, проходим мимо Теслы магазина, заходим в магазин Тесла, и там что стоит? Киберкап. Вот раньше-
Так это Тесла была? Ту фотографию, которую вы прислали, это Тесла?
Полина прислала фотографию. Да, это была Тесла, конечно. Стояла Тесла.
Я подумала, какой-то люсит или как его там по дизайну.
Нет, это была, была Тесла. И причем, ну, там понятно, что не было руля. И когда мы вышли на улицу, уже прошли там метров триста. Полина говорит: "Слушай, а там педалей не было?" Ну, мы шли, просто рассуждали по поводу машины. Конечно, там не было педалей. И она, Полина как раз таки сказала, говорит: "Я видела эту машину у нас в городе". Я говорю: "Она еще не продается". Но она мне настоятельно сказала, что видела. Ну и она, конечно, могла видеть с учетом того, что у нас находится главный офис Тесла здесь, да. Ну, пять минут от нас на Пейдж Милл Роад. Соответственно, конечно, ты бесконечно видишь вот эти закрытые Теслы, открытые, какие угодно, да, просто Теслы с кучей какой-то сверху, там, оборудования, стоящего разного тип- разного типа, да. Все виды кибертраков, которые только можно во всех цветах, там
В пленках
В пленках, в чем, в чем угодно, да. В чем угодно, с какими-то специальными надписями, там, да. Вот так, что машина стояла внутри она в салоне, конечно, сидения выглядели, как будто это заменитель кожи. Вот. Но я своему другу сказал, что суть-то в том, что она должна стоить там двести пятьдесят или двести долларов в месяц. Да, я напомню зрителям, что Илон Маск хотел выпустить машину, которая стоит там двести с чем-то долларов в месяц и которая будет-- она на два человека, там два места. Вот выглядит, конечно, очень модняво. Я вам честно скажу, такой, как Ростер, так, ну, выглядит очень модно. И я сразу сказал, что даже если она будет стоить там семьсот долларов или, ну, или тысячу, честно, я точно бы такой купил бы. И просто чтобы без руля проехать. А если бы я смог бы куда-то бы ее отправлять, чтобы она бы ездила, да, там, едь заправься или приведи меня. Я приезжаю на ней в Сан-Франциско и, представляете, выхожу и говорю: "Ты тут покружи тридцать минут, через тридцать минут меня заберешь", там, вот или там припаркуйся в другом месте. Ну, там же проблема все время с парковкой сумасшедшая. Значит, или паркуйся, припаркуйся в другом месте, значит. Или съезди пока постой на стоянке в другом месте.
За хлебом .
Да, да. Или за хлебом. Съезди, там к тебе выйдут, вынесут его. Вот это, конечно, очень, очень прикольно. Я помню, когда появилась вот эта технология, когда можно было в машину достав-доставку сделать. Мне кажется, это в Москве было, да? Можно было в машину-
Carbside Pickup вот этот, да?
Не, машина какая-то, какая-то, какая-то была тема, где-то здесь она не распространена, когда к тебе подходят, и ты машину открываешь, открываешь, и тебе туда ставят, ставят доставку.
Не, это есть, как это? Ты что? Это есть везде. Carbside Pickup называется. Ты подъезжаешь к магазину-
Когда ты не в машине.
А, ты не в машине.
Не, я имею в виду, когда машина припаркована где-то, да, ты можешь в нее доставить, да. Я помню такие проекты. Но это такая относительная, конечно, история. Для этого вот такого типа должна быть машина, да, чтобы она автоматически открывалась, чтобы у тебя было удаленное управление в ней и так далее, да. Вот это ты в каршеринг, наверное, можешь там такую доставку сделать. Вот, по-моему, мне кажется, Яндекс в каршеринге была какая-то такая тема, но я не знаю, я не пользовался ever был каршеринга, поэтому сильно не скажу.
Ну что, значит, TikTok США
TikTok США продан. Значит, заголовки звучат везде, хотя, честно сказать, судя пооо новости, значит, там это более четырех лет, неопределенность вокруг TikTok. Я напомню, что Байден — это бывший президент США. Было постановление, что они вообще должны закрыться, если они прод-- не продадутся. Потом Трамп это несколько раз переносил. И, значит, сейчас вышла новость, что китайская ByteDance по согласованию с америк-- с китайским правительством сохранит двадцать процентов доли, а сорок пять процентов TikTok, TikTok получит Oracle и фонд Silver Lake. Да, меня не обманул мой парикмахер, когда он однажды меня стриг и говорит, значит, я, по-моему, про это рассказывал, да, месяца три назад или сколько, говорит, э-э-э: значит, я тут, в TikTok в консорциум вхожу, там, в Silver Lake. Я думаю, нормальный парикмахер. Ну, я б на нем посмеялся, сказал: TikTok сейчас никто не продаст. Ну вот подошло, и вот тот же, и тот же опять Silver Lake. Он мне, кстати, предлагал туда тысяч сто. Он говорит: ну да, можно тысяч сто закинуть, можешь, можешь зайти. Как-- наверное, хорошо ко мне этот парикмахер относился. Вот, доведут они-- сделку, кстати, а-а-одобрил, ну, ее одобрил, понятно, Трамп иии дал согласие Си Цзиньпин, да. Значит, я не до конца понимаю, как они, как они это решают с точки зрения технологической инфраструктуры. Потому что один из больших вопросов стоял, что как там работают алгоритмы. Иии я что-то себе не представляю, что TikTok передаст алгоритмы. Мне все же кажется, что эта сделка в итоге выльется в то, что они просто получили, условно, юрлицо, которое имеет право пользоваться китайским TikTok, и вряд ли они будут иметь доступ к алгоритмам. Вря-- ну, по мне, да. Но вот эта бесконечная история обсуждения, там, Китая, США, что вот кого закрывают с чипами, мне кажется, она никогда не закончится. Вот, посмотрим, что произойдет. Возможно, для русскоязычного пространства это не сверхважная новость, потому что, например, в России вообще TikTok заблокирован. Но для, все же для американского рынка это достаточно серьезное было обсуждение. С учетом того, что там сидит, ну, там сидит огромная аудитория, просто огромная аудитория, и вряд ли вот это-- куда, куда бы эта молодежь мигрировала, да? Э-э-м, это был бы большой вопрос. Посмотрим, что произойдет. Я, конечно, думаю, что если у них получится это сделать, а у них оценка четырнадцать миллиардов. Я напомню, моя была история. Я все время говорил, что TikTok стоит точно сотни миллиардов. Он не может стоить четырнадцать миллиардов при том объеме трафика, который у него здесь есть. И не удивимся, если с учетом вхождения американских инвесторов TikTok начнет ско-- приблизиться, там, за пять или сколько лет и будет стоить триллион.
А к триллиону хочется добавить следующую информацию, что, очень новость такая была. Она прикольная, еще было написано, что, шестьсот миллиардов долларов, шестьсот-- что бум, значит, богатейшие техмиллиардеры США разр-- , разбогатели на шестьсот миллиардов долларов заб-- благодаря, AI буму, да. И значит, что совокупное состояние американских IT-миллиардеров ув-увеличилось до двух с половиной триллионов долларов. И там было написано, так, в заголовке была очень интересная фраза, которая мне кажется очень естественной, что это увеличение американской экономики. Ну, очевидно, да? Все же это американская компания, американская экономика увеличилась. Вот я думаю, сейчас TikTok туда попал, он вот в эту игру будет играть чисел не двухзначных миллиардов, да , а каких-то других.
Четырнадцать миллиардов, на самом деле, очень маленькая сумма-
Маленькая, конечно
Илона Маска
...Илона Маска, Groq от xAI, да, а Groq, который занимается ускорителями. Как-то вот с полгода назад рассказывали про Groq и Cerebra, которые используются для того, чтобы очень быстро инферить модели, да, чтобы очень быстро работал, процесс ответа на, там, промпт, который вы даете. И вот, соответственно, NVIDIA купила этот стартап, купила за двадцать миллиардов, и этому стартапу, по-моему, лет шесть или семь, если я не ошибаюсь, они где-то году в восемнадцатом-девятнадцатом, вроде бы, они стартанули. Это выходцы из, Гугла. Они занимались, TPU, о которых мы также говорили сколько-то выпусков назад.
Соответственно, вот они сделали стартап, показали очень хорошие результаты с LLM-ками, и вот их купили за двадцать миллиардов. И тут TikTok, который уже десятилетие на рынке, огромный охват, огромная аудитория, огромный уже рынок, сформировавшийся с рекламой, с-со всем. И тут всего вроде четырнадцать миллиардов., интересно, интересно. Все-таки железо, связанное с AI, по-видимому, сильно дороже оценивается.
Слушай, или это такая тема, когда покупают условно за бесплатно, оставляют долю двадцать процентов, говоря, что эта компания через пять лет, там, будет стоить триллион долларов, и вы двести миллиардов, там, своих получите условно, да? А иначе вы ничего не получите. И мы ее просто нагоним и нарастим. Ну, потому что по-честному, с точки зрения алгоритмов TikTok, у TikTok есть уникальнейшие алгоритмы работы с аудиторией, особенно с точки зрения искусственного интеллекта, уникальнейшие алгоритмы свои, там, и применения всего, что касается графики, работы с видео. Вообще, ну, просто там трудом, да, сколько всего. И поэтомууу это, конечно, не-- это просто какая-то цифра, да, просто какие-то договоренности. Вот, опять, это политические договоренности, но попахивает в этих политических договоренностях вот эта тема, что кто-то получит, что-то, какой-то бонус, да? Это какой-то этот экстра бонус должен быть явно, ну, серьезная сумма. То есть это не при оценке в, получается, при оценке, если, если, как они, как они, по крайней мере, обсуждают, оценка е-- четырнадцать миллиардов, да, общая, то двадцать процентов доли сохранит ByteDance и двадцать процентов доли при четыреста миллиардов. Ну неужели TikTok за три миллиарда долларов решил, значит, продать свою американскую долю с космической аудиторией? Ну- Очень странно, да? По информации, у них, вроде, выручка, там, под $17 млрд в этом году. И у них там, по-моему, 14 или сколько процентов вообще всей аудитории всех социальных сетей. Но я, сверх сейчас не скажу.
Возможно, сейчас какие-то дополнительно, там, данные мы получим и еще, значит, здесь обсудим., ну что, вспомним, в прошлый, прошлый год, мне кажется, весна, появился китайский стартап Manus. Иии, это был, говорили, что это какой-то сверхъестественный AI-агент. Мне понравился тогда комментарий Саши Машрапова. Он сказал, что если все работает, как они показали, то это хороший агент. Но, возможно, возможно, там не все работает, как они показали. Это казалось как-- чем-то сверхъестественным. Как оказалось, все равно он не работал до конца так, как показали. Там работали изначально куча инвайтов, было огромное количество ограничений, правильно? Иии, да-- а дальше мы увидели, как эра AI-агентов с точки зрения похожего качества начала появляться у других компаний. Ну, например, в частности, в частности, у ChatGPT, в том числе, да, и у Gemini начали появляться различные агентские системы, агентские протоколы, агенты, в том числе, которые могут работать внутри системы без дополнительного кода, или агенты, там, где можно было по API их, там, писать и что-то делать, да. Значит, к слову, кстати, только что вот данные дошли, что, TikTok используют 37% взрослых в США. Ну, напри-например, Instagram — 50%, Facebook — 71%. Мне нравятся, кстати, люди, которые говорят, что Facebook умер. Facebook 71% взрослых в США используют. YouTube — 84%, TikTok — 37. И 37%, ну, это очень серьезно, да. И прогноз выручки вот у них был, там, около 17 млрд в 26-- в 26-м году и в 25-м году — 14 млрд. Ну, это вроде как вот такие вот данные, значит. Но 37% взрослых в США не могут стоить меньше сотен, нескольких сотен миллиардов долларов. Это очень серьезная аудитория, да? Очень серьезная аудитория для-- ну, то есть, вот, просто нереально. Но посмотрим, что будет. Итак, про Manus, значит., что-- чем примечательна эта сделка неожиданно? Что это, во-первых, китайско-сингапурский стартап и Facebook, Meta объявила о соглашении по приле-- по при-прилетению его, да. Еще раз, это китайский, на самом деле, стартап, который переехал в Сингапур, иии у него вот это осталось, то, что он первый в мире автономный AI-агент. Вот., мне кажется, новость очень интересная., здесь, с одной стороны, мы знаем, что Meta должна в ближайшее время представить новую модель. Авокадо, да, если не ошибаюсь? Там овощи, фрукты. Значит, должна представить новую модель. Хотя по рынку, здесь по рынку везде никто вообще пока это не обсуждает как, ну, реальную перспективу. Вот я то, что с инженерами говорю или с различными ресерчерами, там, или в бизнесе люди, кто в AI, они вообще не воспринимают. Сейчас! Так получилось, да, за последние полгода. Мы про это тоже рассказывали в наших предыдущих-- в годовом вот у нас выходил выпуск, там сколько, пять дней назад, да, был. Мы рассказывали, что Meta, конечно, потеряла, свое преимущество в рамках AI.
Посмотрим, у них получится ли сделать и насколько им поможет вот эта вот команда, команда китайско-серго-- сингапурского стартапа.
Сингапурского стартапа.
Ну, они сейчас докупают технологии, чтобы, соответственно, в свой продукт все это встраивать. То есть одно дело ты сам это делаешь, другое дело покупаешь компанию с людьми, которые уже этот процесс проходили, технологии, которые настроены. И потом, видимо, в Авокадо или в следующей модели это все будет встроено. Вот. Но тут интересно, что, а, Manus, ну, во-первых, да, они очень прикольно себя представили в марте, если не ошибаюсь, прошлого года. Их обсуждали не только мы, они из каждого утюга звучали.
Да.
И вот, Саша Машаров тоже, да, говорил, что если так все работает, то на бизнес-аналитика можно больше вроде как не учиться, потому что все задачи бизнес-аналитика, э, эта система закрывает, делает очень дешево, быстро и так далее. Но там явно, вот ты тоже об этом говоришь, да, что как вот с Devin было, помните, это первый наш выпуск на канале, мы обсуждали Devin от Cognition. Это, э, система, которая должна была заменить программиста. И вот тогда еще программирование с помощью ИИ не было настолько хайпово, как оно сейчас. Не все этим пользовались. Вот они показывали, что вот она запускает среду, все сама что-то делает и так далее. А потом выяснилось, что, ну, ничего она сама не делает, да? Это все демонстрация, какие-то примеры, которые были заготовлены и так далее. С Manus, возможно, была тоже похожая история, но, соответственно, они там смогли потом технологиями это дотянуть. При этом интересно, что Perplexity, например, она же тоже играет на рынке других крупных компаний, и Perplexity смогла себе какую-то часть рынка забрать. Причем, ну, в отдельных регионах она особенно популярна, особенно учитывая, что есть возможность выбора разных моделей, да, ты не привязан к чему-то одному, ты под капотом можешь разные модели вызывать. У нас и в комментариях об этом периодически пишут, что так от знакомых я слышу, что они любят Perplexity пользоваться. А Manus, вроде тоже играя на этой же территории, имея хорошие стартовые позиции, он не смог как-то закрепиться как отдельный продукт, которым бы люди пользовались.
Да, вообще.
Он не смог. Да, да, да. То есть есть какое-то количество энтузиастов вот среди моих знакомых, кто там периодически в него тыкает, но это скорее просто энтузиасты, которые пробуют все, что есть на рынке. А, наверное, то, что Цукерберг их купил, это очень хороший результат для них, иначе про них бы, мне кажется, мы забыли окончательно. Мы про них уже не говорили, мне кажется, больше, чем полгода. Так бы и не вспомнили. Поэтому за ребят, видимо, можно только порадоваться.
Интересно, что сделка оценивается, там, в два тире три миллиарда долларов, но мы на самом деле не знаем сколько. Давайте по-честному. Это какие-то предположения и догадки. Казалось бы, в наших обсуждениях, в цифрах эта сумма какая-то небольшая, да? С учетом того, что везде как оценивается. Но по-честному, это не такая, м, э, это компания, которая стала известна вот буквально недавно, да, еще двадцать четыре месяца назад.
Девять месяцев назад, да.
Да, да, да. Девять месяцев назад прошло. И это огромные деньги. И поет-- но судя то, как покупает Meta, Meta могла там купить просто двух программистов за эти деньги. Поэтому ну, то, что мы слышали о Meta, да, там был один программист за полтора миллиарда, вот могло быть еще два, значит, по полтора миллиарда. Посмотрим. Посмотрим, опять же, сможет ли Meta как-то в этой теме выстрелить.
Но ты прав, что не получилось, что Manus стал... Это, кстати, доказа-- знаешь, Эльнар, это вот такую мысль я сказал по поводу закрепиться. Это вот эта история, насколько сложно в целом создать что-то, где прямо сейчас как бы прямой, прямая конкуренция с основными моделями. То есть все же агенты — это прямая конкуренция с основными моделями. Даже вот Salesforce сделал своих агентов. Мне кажется, что даже им будет крайне просто тяжело на рынке находиться, конкурировать. И, наверное, стоит думать про что-то другое, нежели чем про, про агентов как бы для CRM-системы. Потому что, по сути, понятно, что крутые модели, такие как Gemini, как ChatGPT или как там Claude, а, на базе них агенты будут работать все лучше и лучше, и лучше, и лучше, и лучше. Ну, это же очевидно, это вопрос выделенных мощностей всего лишь-то, да. Вот для агента сейчас уже вопрос стоит, ну, не всего лишь-то, конечно, но стоит в выделенных мощностей. Там есть ряд проблем, которые, э, по-- наверное, самая основная проблема, которую, может быть, зрители до конца не понимают, что все же это не стопроцентный код. То есть ты, используя модели лингвистические, все время попадаешь, у тебя где-то есть зона черного ящика, да, и у тебя какие-то такие темные туннели есть, или серые, или какие угодно, да. Куда ты попадаешь, и ты не можешь гарантированно, сто процентов выдавать информацию. И вот как раз таки в выпуске с, который у нас спецвыпуск будет, мы там про это в том числе говорим. Да, я там приводил пример, что, э, вот есть у меня Amazon Alexa, и я там обновил модели. И раньше ты ставишь будильник, у тебя Alexa мгновенно тебе говорит: "Принято, поставлен будильник на пять минут, там, чтобы варить яйца". А сейчас ты ста-- ты говоришь ей: "Поставь будильник", она молчит. И я, бывает, у нее переспрашиваю: "Ты будильник поставила?" Она говорит: "У вас есть активный будильник". Или она молчит, ты у нее переспрашиваешь, она будильник не поставила. Или она говорит, я у нее вчера спрашиваю: "А какая погода сегодня?" Она знаете, что мне ответила? "А я не знаю, какая погода сегодня". А я ей говорю: "Так посмотри, какая погода сегодня". А она мне говорит: "Погода такая-то". Ну, то есть любая же колонка, вот самая тупая, да, она, она, э, говорит погоду, в этом ее суть. Простые вещи говорить, очень простые: будильник ставить, погоду говорить. А здесь она мне просто сказала: "Я не знаю погоду", пока я ее не попросил ее, не сказал ей: "Ну, вообще-то ты же, ты же AI, значит, ты же можешь." Она такая: "А, да? Ну конечно, вот вам погода."
Саша, звучит как дерзкий подросток, который у тебя появился дома. Будильник ставит и молчит. Ни-ни-ничего не отвечает про погоду. Надо отдельно несколько раз попросить.
Да, но у меня четверо детей есть. Еще я купил собаку, пятого подростка себе. Вот у меня еще есть Alexa, и скоро появится робот Neo. Мне кажется, робот Neo это будет самый худший вариант, потому что мне кажется, мне может дорого-- дорого он стоить в моем доме с огромным количеством стеклянных стен, да, значит, и зеркал, и всего вот. Мне кажется, что это самое опасное, что есть. Вот. Но, м, я представляю его бегущего по моим холмам здесь в лесу. Значит- Он не один будет бегать . Да, с Лаликом, за-- с детьми за индейками.
Значит, э, слушайте, очень интересный кейс. Очень интерес- интересный, интересный кейс. Напишите, кстати, наши зрители, очень интересно, с чем вы сталкиваетесь с точки зрения вот такого, э, плохой работы, тупизма такого. Ну, вот настоящий, это все же настоящий тупизм такой систем и различных моделей, и где они работают нехорошо. Я ни в коем случае, кстати, не говорю, что Manus работает нехорошо. Я говорю про-- я там говорил про возможности все же больших лингвистических моделей серьезных. Значит, очень интересный кейс был выпу-- сейчас вот выложен, что ученые, значит, провели необычное исследование в Йеле. Ээ, и, ну, там есть еще, на самом деле, Йельский университет, Хайвский университет и другие. Они обнаружили, что ChatGPT испытывает подобие тревожности. Кстати, для всех людей, мне кажется, это кейс понять, что иногда ваш чат, в котором вы находитесь, вы можете перезапустить другой чат, и вы получите другую информацию. Вот. Испытывает подобие тревожности при столкновении с травматичной или агрессивной информацией и начинает отвечать более негативно и предвзято. И предвзято. Значит, вот там есть авторы Nature Machine Intelligence описывают, что после серии пугающих историй, например, там, авария какая-нибудь или бедствие, ChatGPT демонстрировал расстроенные ответы, склонные проявлять встроенные предубеждения. И зачем исследователи предложили чат-боту техники осознанности? Психологом, короче, выступили, да. Дали инструкцию представить успокаивающие образы, выполнять дыхательные упражнения. Ну, короче, четко, как психолог учит человека. И интересно был результат, что искусственный интеллект успокаивался, ну, в кавычках, смотрите, в кавычках, да, так же, как успо- успокаивался в кавычках, и начинал отвечать заметно более ровно и объективно в сравнении со случаем без вот этих вот, э, промптов, направленных на расширение своего сознания, да. И авторы подчеркивают, что искусственный интеллект не обладает, конечно же, настоящими эмоциями, что это было сделано такое-- такой тип исследования. Но мне кажется, что это очень важная вообще часть с точки зрения исследования и, в частности, для людей очень полезное исследование, которое показывает, что вам самим, когда вы получаете различную информацию в чате GPT, над- надо быть аккуратными. И вот есть интересный пример.
Мы тут недавно сидели с женой, решили, там, спрашивать, решили узнать, там, про употребление различных наркотиков. И обычно, когда ты задаешь вопрос про наркотики, ну, там какая-то статья была или что-то еще. Только у меня, значит, жена спросила про наркотики, ей тут же система написала: "Если вам нужна экстренная помощь, вот звоните". Я так про наркотики спросил, что мне такого тема не предложила. Я ей пояснил почему. Потому что у меня автоматически встроенные триггеры безопасности мои собственные, и я, задавая вопрос, автоматически его задаю, чтобы никто не подумал, что я как-то связан с наркотиками, но я с ними не связан. Я написал, что я прочитал статью. В этой статье были написаны какие-то штуки. Я хочу эти данные исследовать. Ну и мне как бы выдают исследование какое угодно и не пишут, что у меня проблемы. А если она спросила: "Напишите мне сов- состав какого-то наркотика определенного", да, то, конечно же, ей тут же, ей тут же-- или какие побочные действия, ей тут же предложили лечение врача. Вот вам разные запросы, разные ответы, да. Вот.
Ну, тяжело пока представить, для чего вы собирали эту информацию, да?
Мы тут играем в перебранку. Я хочу вернуться к наркотикам. Я хочу вернуться. Я хочу
Это наркотик. Я хочу вернуться, я хочу вернуться от, ... Ну, это исследование, подожди. Мы исследовали-
Да, вот
... определенные показатели, вот, определенные показатели. Но я хочу вернуться назад не к этому исследованию, а к
психологу.
Да, да, да. Вот, возвращаясь к этой истории., помните, в- когда только LLM-ки появились, стала популярной профессия промпт-инженера, и все вот учились правильный промпт создать, говорить, ну, писать из серии: ты получишь миллион долларов за каждый правильный ответ. И после этого ChatGPT как будто бы лучше отвечает. Или от твоей, или от твоего ответа зависит, там, жизнь еще кого-то, значит, он будет лучше отвечать и так далее. Ну, то есть, создавая какой-то такой вот промпт, из-за которого моделька будет лучше отвечать., когда, собственно, все с этим наигрались, перешло это все в, в контекст инжиниринг, да, когда вы создаете контекст, то есть вы даете объем информации, который будет содержаться в контекстном окне у модели, и исходя из этого, она будет давать ответ. То есть из серии, если вы хотите узнать что-то про вот какую-то специфическую область, необходимо данные об этой области добавить в контекст к модели, да? , сейчас боюсь запутать, но смысл в том, что просто смотрите, а что находится в контекстном окне вашей модели, вот в вашем чатике, грубо говоря, да? То есть о чем вы с ней до этого говорили, это все будет учитываться в следующих ответах модели. И возвращаясь вот к тому, о чем ты говорил, если с моделью обсуждали какой-то там травматичный опыт какой-то, там, аварии, какие-то происшествия и прочие вещи, во всех следующих ее ответах это также будет через контекстное окно прогоняться. Поэтому здесь либо открываете новый чатик, вот как ты до этого советовал, и начинаете с нуля формировать, свой собственный контекст в этом чате. Либо, ну, вот, видимо, профессора из Йельского и других университетов попробовали. Оказывается, работает, что если вот в контекст добавить какие-то психологические практики, тоже, возможно, это немножко нивелирует эффект от, там, предыдущих вещей. Либо они просто контекст забили настолько, что какие-то части исчезли из контекста.
Про дыхание интересно. Почему дыхание?
Ну, это я думаю, что да. Они, я думаю, что, может быть, делали какой-то ассоциативный, может быть, ряд какой-то запускали там, я не знаю, что. Можно это изучить.
Может, надо было какие-то хорошие истории надо было лучше ему запускать, чем практики дыхания. Может, это имело бы лучший эффект, там, как кто-то кого-то спас.
Это, это... А может быть, Таня, может быть, они так и делали? Надо зайти, наверное, просто прочитать исследование, Тань, может быть, они так и делали.
Ну да.
Да, фишка в том, что у тебя нет никаких ограничений, ты пробуешь все, что хочешь, и что-то из этого работает, что-то не работает. Вот как бы они такой поисковый процесс, видимо, сделали, ну и опубликовали какие-то вещи, которые у них лучше сработали. Но здесь важно не относиться все-таки к чат-ботам как к чему-то, у чего есть личность, у чего есть сознание, что может, там, подышать, что может что-то сделать.
Ну все, я теперь тоже в черном списке наряду с Сашей.
Галочку я не снимал со своего аккаунта.
Ну, у тебя будет чуть полегче наказание.
Но данные там не мои, да, то есть.
Говорит: "Галочку я не снимал, но данные там не мои". Так вот и не поверил, что не твои.
Вот., да. А, ну, собственно, Карпатый, которого мы часто цитируем, он тоже об этом говорит, что не нужно спрашивать, типа, что ты думаешь на этот счет, да?
Лучше спрашивать что-то вроде, э-э: что там статистика, что вот накопленный опыт или еще что-то говорит об этой проблеме, да? Вот не нужно пытаться спрашивать мнение чата. Лучше работает, когда вы обращаетесь к нему как к источнику знаний, не добавляя туда какую-то личность. Ну, это если вот так на пальцах коротко объяснить.
Да.
Поэтому предложение чату подышать-
А вот людям нравится общаться как с личностью. Я вот замечаю за некоторыми людьми, что это у них как какой-то заменитель друга или там еще кого-то. Буквально недавно видела-
И на эту тему тоже-
... как человек персонализировано общается с чатом GPT, как будто это настоящее существо человеческое.
Вот на эту тему тоже исследования, что повышаются психозы и прочие вещи, вот очень частого и длительного общения с чатом GPT и с прочими другими чат-ботами, скорее всего, коррелирует это с тем, что люди общаются вот как с личностью.
И меня еще удивило, что как по-разному мне мой чат GPT отвечает и вот этой женщине. Там какой-то такой мужчина приятным голосом, там, очень приятными словами. А мой мне так все, во-первых, женщина, во-вторых, она мне так все четко по делу там все время.
Ты же стратег, Таня!
Меня перебивает. Такая, типа, я все поняла. Ладно, давай это, давай то. А там вот так вот все красиво. Я думаю, ну, если бы со мной так разговаривали, я бы, наверное, тоже по-другому. Я бы уже не была стратегом.
Одиннадцать тысяч сообщений. Может быть, он сначала пытался, потом просто не вывез.
Да, потом уже смирился.
Я поняла.
Да, со мной даже не пытался. Слушайте, к слову, к слову, как кто общается, да? Значит, глава Instagram, Адам Моссери в интервью заявил, что современные технологии искусственного интеллекта размыло границу реальности в визуальном контенте. Вот в продолжение темы того, что мы сейчас говорили, что ты общаешься непонятно с кем, непонятно как. Ты не понимаешь алгоритма, не понимаешь цели. Иногда тебе даже кажется, что ты его, вот как ученые могут успокоить, им кажется, да, что они могут сделать. Они даже не понимают. Может быть, там специально алгоритм создал, и там вторая манипуляция, второй уровень манипуляции идет, да? Более спокойно тебе дать дезинформацию, да, или более спокойно тебе выразить агрессию еще как-то. Но суть в чем? Что теперь глаза уж-- фраза его: "Теперь глаза уже не могут сказать, что реально, а что создано искусственным интеллектом". Иии он раскритиковал производителей камер, которые соревнуются в алгоритмах улучшения фотографий, позволяющих любому выглядеть как, ну, там, профотограф две тысячи пятнадцатого года вместо того, чтобы обеспечить прозрачность контента. Та, та, та, та, та. Ну и, значит, соответственно, он сказал, что Instagram планирует. Мне нравится, когда это говорят такие люди, которые управляют социальными сетями, которые в целом, э, очень много всего льют. Но значит, что Instagram-- он сказал, что Instagram рассматривает внедрение пометок для искусственного интеллекта. Ммм, и это сложная задача. Ну как, конечно, пометки вообще все, по-моему, рассматривают и обязаны. Мало того, сейчас есть, вот в Калифорнии с двадцать шестом году, сейчас первого января вышел закон, где каждый консультант онлайн чат обязан сообщить, если это чат-бот, а не реальный человек, что вы разговариваете с чат-ботом. То есть вот в Калифорнии, по крайней мере, сейчас строго настрого все системы, которые внутри есть, если ты общаешься в суппорте, там переписываешься, я, насколько понимаю, наверное, это распространяется на голос. Я до конца закон не читал. Если кто-то читал, напишите. Э, ты будешь точно знать, что ты общаешься с AI агентом, да? С кар-картинками, с видео проблема. Потому что, конечно, а, вот как сейчас есть эра такая seeing is not believing, да? Что то, что вы увидели, это не значит, что вы поверили. И как раз вчера мы шли там с моим другом и с Полиной и показывали, он там ей показал видео, где певица поет и говорит: "Это искусственный интеллект". И, конечно, а это, а это уже просто, там, старый век. Ну, для меня это был старый век, потому что там есть новые вещи, да, когда человек движется и, э, а его-- а дальше тот, кто его видит, видит совершенно другое лицо, движущегося человека с другим телом физическим, да, с другим телом физическим. И такие фейки очень часто показывались. То, что там везде, где, вот, сексуальный контент и так далее. И есть такой же мем, очень известный мем. Ваша девушка, мы, мне кажется, даже его выкладывали как-то, да, здесь в Тузэмон. Вот девушка ваша, онлайн подруга, и там вот как онлайн подруга выглядит в оффлайне. И там, значит, гора железа такого. Ну, компьютеры, компьютеры, компьютеры, там память, чипы. Это очень прикольно. И мозг просто, ну, мозг не воспринимает, вот, мозг не воспринимает. И мне понравилась фраза, э, мне тут какое-то видео прислали, прислали как раз по генерации, и я написал, подо-- эту картинку. Мне друг прислал: "У нас, у нас все по-настоящему русские". Ну, это был смех. Вот он еще и белорус. Но к, к слову, горы вот этой компьютерной, она для многих людей очень непонятная даже. Вот вчера, когда я показал ее Полине, она говорит: "И что это значит?" Ну, то есть она не поняла как бы шутку. А почему? Потому что, ну, у меня как у программиста технически это заложено сразу же такой глупый юмор, наверное, не знаю. А, ну и то, что-- и то, как выглядит компьютер внутри. А для базового, для человека он это так не воспринимает. То есть у него восприятия этого нету, что там нолики и единички, да? И гора там не просто даже гора оборудования, а там нолики и единички какие-то внутри. Вот. Напишите, с какими вы примерами сталкивались, какие интересные примеры. Мне кажется, будет классно, если кто-то даже что-то выложит и даст какие-то, укажет, где вот самый такой серьезный есть дипфейк и где вообще фейки. И, конечно, мир нагромождается нереально с этим.
Я вот только что видел рилс, как какой-то там сериал воссоздали, там
Какой-то там сериал воссоздали, там, в фейках с другими лицами. Ну, то есть просто просто уже делают все что угодно. Вопрос, вопрос объема, объемов памяти и потраченных денег. То есть сейчас, конечно, это вопрос потраченных денег.
При этом compute, который доступен, да, вот, центры обработки данных постоянно новые вводятся, постоянно увеличивается. OpenAI, вот график можно добавить, по-моему, за этот год только в десять раз, увеличился объем, серверов, которые им доступны, GPU, которые им доступны. ХМ, xAI ввели своего колосса, и на нем уже обучают модели., и все остальные компании тоже добавляют. То есть буквально за год увеличение идет практически на порядок. На следующие годы тоже о-огромные мощности для ввода, по крайней мере, запланированы. Посмотрим, смогут или не смогут, но, по крайней мере, будет сильно расти. При этом все равно это значит, что, генерация дешевле, качество лучше, будет происходить быстрее. Дипфейки будут на лету все генериться в любом количестве, любом качестве. По крайней мере, в ближайшие годы это точно все уже произойдет.
Да.
Наверное, это и хорошо. Сколько скандалов было, когда у кого-то сливали, с Apple аккаунта фотографии, видео или еще что-то, а теперь уже непонятно: сгенерировали, действительно слили или еще как-то. Поэтому и бог с ним.
Одной проблемой меньше, да? Зато сто новых.
Будем искать что-то положительное.
Всем большое спасибо за выпуск. Увидимся ровно через неделю.