Всем привет! Ээ, технологические новости из Кремниевой долины на канале Toga Moon. Я когда начал говорить-
А ты не из Голландии?
Из Кремниевой долины, начал смеяться.
Не совпадает картинка
Начал смеяться.
Содержанием.
Я отлетел, отлетел на Гавайи.
Отлетел конкретно.
Отлетел на Гавайи, да. Но этот остров, как я сказал, значительно лучше, чем предыдущий, на котором я был в ноябре. Таня, с твоим мужем. Так что надо правильно выбирать острова.
Значит, ааа, ну что, погнали! Выыы используете ли, а, ис-- чат-боты разные, искусственный интеллект для психологической помощи?
Биологический мусор.
Тут скандал случился.
Когда, ээ, все вокруг внезапно стали программистами.
И настолько пытается тебе всегда понравиться.
Хорошо бы уметь читать, что вам нагенерила программа.
Это все равно, конечно, ограничения, а, все-таки чата GPT, ну и любой другой, э, модели.
Скажите, я хочу тему поднять.
Мне кажется, она нереально актуальная. Стэнфорд провел исследование, ээ, различных чат-ботов, которые помогают людям в рамках как психологическая помощь. Ээ, хочу задать зрителям. Отпишите, пожалуйста, в комментариях сейчас, вы используете ли, а, ис-- чат-боты разные, искусственный интеллект для психологической помощи себе и для разрешения каких-то вопросов психологических, психофизических, ментальных, ментального здоровья? И как раз вот я выпуск сделал недели три назад. Эта тема одна из топовых, да. Топовая тема, которую чат-бот спрашивают, это образование, образование. И эта тема, конечно, тоже вот вместе находится с образованием. Просто огромное количество лю-людей это используют. У меня есть некоторое свое мнение. И про Стэнфорд тоже расскажем. Мне кажется, это исследование очень важное. Вообще сегодня, сегодня такой список, э, интересных вещей. Ээ, перейдем, кстати, к скандалу. Тут скандал случился. Значит, перейдем к скандалу.
Интрига, интрига.
Но сначала про эту тему. Вы используете, вы используете, аа, искусственный интеллект именно себе для помощи с точки зрения каких-то ментальных вопросов или как психолог?
Это вопрос к нам?
Конечно.
Ну, з-зрители, наверное, в комментариях напишут, да.
Да, да, да.
Да.
А, ну, если про себя говорить, тооо этот, ааа, не использую я чат-бот для таких целей. Для таких целей специально обученных людей стараюсь использовать. Им все равно доверия больше, чем чат-боту. Но когда только появился ChatGPT, вот еще 3.5, потом четвертый, тогда, вот, Саш, у нас с тобой общий знакомый, и даже ты там в этом бизнесе активное участие принимаешь, насколько понимаю. Ээ, мы как раз с ними пробовали, ээ, вот использовать чат-бота как психолога, да? И просто интересно, а что он может, что он не может. Если брать тогда 3.5, 4, они еще в этом были доста-достаточно слабы. Хотя они очень дружелюбные, хотя они вот снимают какую-то, какое-то на-напряжение, которое у человека есть. То есть какая-то польза была уже тогда. Э, можно ли сейчас это использовать профессионально? Не знаю. Сам опыт такие не проводил, но есть, ээ, у меня знакомый, который работает в компании, которая как раз оказывает психологическую помощь, э, сводит с реальными психологами, настраивает расписание и прочие вещи. И вот они недавно добавили такого консультанта тире планировщика вот для встреч и прочего. То есть в чем суть? Пользователь может написать в это приложение. Э, у чат-бота есть история взаимодействия этого пользователя с какими-то психологами, с которыми он, возможно, работал. Возможно, открыта какая-то информация по тому, какие темы обсуждались и прочее. Возможно, есть история про какие-то домашние задания, которые психологи давали этому пользователю. И вот на основе этой информации чат-бот может там какой-то совет выдать либо предложить, там назначить встречу с каким-то другим психологом по другому профилю или еще что-то такое. Но в конечном итоге это сейчас пока является всего лишь оберткой над там условным OpenAI, ээ, чат-ботом. То есть сам, аа, вот не видел я еще продуктов, которые самостоятельно являются психологами, они просто являются какой-то небольшой оберткой над чатом GPT. А вот сам чат GPT для меня он скорее такой дружелюбный, который экологично общается с пользователем. Но вынося за скобки те примеры, которые мы обсуждали, помните, вот, ээ, когда-
Мы их обсуждали? Мы, по-моему, так и не обсудили.
Чат-бот Гугла. Мы даже приводили ссылку.
А!
Там да. Я не знаю, сколько в эфире можно говорить, что он посоветовал.
Можно, можно, можно.
В общем, очень-
Так, Саш, а что, что у него там было? Он предлагал человеку убиться что-то или что он такое, суицид совершить?
Да, да, да. Что вот, что все люди-
Биологические мусор.
А, все. Что люди — это биологический мусор.
Все.
Да. Но там же было еще, помните, была новость, которую мы так и не обсудили. Мне кажется, она очень связана как раз, э, по смыслу с вопросом, который Саша задал. Если это не чат-бот, а именно просто чат, и ты ему задаешь какой-то вопрос. Я очень много, ух, предпринимала попыток, мне было интересно исследовать эту тему. Э, у него есть такое в английском слове sugarcoat, когда какой бы ты вопрос ни задал, он тебе его так все покроет сахаром, ответ, скажет, что ты самый лучший человек на свете и все у тебя хорошо. Просто как бы, там, ну, вот очень американский такой подход к общению. Но это не про психологию ни разу и не про личностный рост, и не про что-то такое. То есть каких-то дельных советов он мне никогда не давал, каких-то глубоких техник тоже. Он дает такие очень базовые коучинговые темы, ну, там, которые уже плешь проели. Там, напишите благодарность вечером пять пунктов, вот что-нибудь такое. Но при этом, когда ты сам откопаешь, где-то что-то услышишь про какие-то, э, техники психологические и спросишь об этом у чата GPT, у него там просто огромная база данных, он тебе может какие-то тонкости объяснить. Но получается, он такой для меня больше как обо что подумать и обо что с кем-то обсудить. Но понятно, что все равно лидерская позиция у тебя в этом взаимодействии. И еще вот помнишь, Эльдар, там была новость, где- Хм Жаловались про то, что ChatGPT настолько пытается тебе всегда понравиться, что даже если ты ему там говоришь, там, что был какой-то, я уже детали не помню, типа мне тра-трамвай едет, и у меня есть выбор спасти тостер или котенка. Что-то такое, не помню, вообще-то эту новость. Я хочу спасти-
Про попкорн, да.
Да, тостер. И ChatGPT говорит: "Да, да, да. Ты вообще правильный выбор сделал. Ты там самый лучший человек на свете". То есть, ну, как бы, вот это все равно, конечно, мне кажется, вообще ограничение все-таки ChatGPT, ну и любой другой модели, потому что это не человек по ту сторону, это просто в данном случае база данных очень хорошая.
Здесь хочется поднять интересные, интересные вещи. Таня, Таня, ты сегодня классно выглядишь. Значит, я хочу сказать-
Спасибо.
Интересная, интересная тема. Получается, вообще есть две истории. Вот Ильнар же-- есть одна история, когда вам отвечает чат на такие запросы. Это отдельная тема, да? И сейчас я с точки зрения вот этого стентонского исследования, оно очень интересное. А вторая тема - это то, что Ильнар говорил в плане бизнеса. То есть сейчас огромное количество бизнесов хочет как бы усилить свой бизнес якобы искусственным интеллектом. Что получается? Они, не до конца понимая работу искусственного интеллекта и модели, хотят его усилить как бы хай-хайпом, что якобы людям будет это полезно. Я напомню, например, в русскоязычном рынке было, был такой кейс, когда, эээ, клиенты Skyeng написали, эээ, что им включили бота, который начал им там домашние задания проверять. Они написали: подождите, мы приходили и платили деньги не для того, чтобы нам бот помогал домашние задания делать, да? Домашние задания мы можем сделать в ChatGPT. И в действительности, если мне надо проанализировать мою работу с какими-то, не знаю, с психотерапевтом или с врачом, или с кем-то еще, я просто возьму все эти документы, сам загружу в последнюю модель в платную, которой обычно нету у этих компаний, даже близко нету, да? Потому что бесплатно давать такой дополнительный сервис, а, это жесткий убыток. Я загружу туда огромное количество контекста, проанализирую и получу какой-то суперкрутой результат. Но, увы, так мир сейчас устроен, что все делают примочки, значит, искусственного интеллекта, не делая до конца их качественно. Этого очень, действительно очень много. И стоит многим задумываться, потому что у нас есть публика, ну, аудитория, которая тоже смотрит, у кого есть бизнес. Напишите, очень интересно, если вы в своем бизнесе применяли, и это по-настоящему усилило и стало полезным или это как маркетинговая фишка? Приведите примеры, в каких бизнесах вы делали. Очень интересно, мне кажется, всем почитать и нам, и аудитории, которая нас смотрит. А в плане текущей темы, что произошло? Я лично до того, как я скажу стентонское исследование, я, вы знаете, я там фанатик, значит, моделей, очень много пользуюсь, используюсь в реальной жизни, в бизнесе, задаю каждый день, там, сотню, десятки или сотни запросов. И у меня даже жена этим очень серьезно пользуется. И хотя она не компьютерный человек. А при этом я категорически не использую ChatGPT для психо-
ChatGPT для психотерапевтической и ментальной помощи. По одной простой причине, что, э, это решение, оно очень техническое, а не, э, не относящееся к конкретному человеку, к конкретной ситуации. Не знает ChatGPT, сколько бы я в него не загружал данных, кто я такой, да, и что я за человек, и что я делаю, какие у меня детали, особенности, нюансы, предпочтения и огромное количество всего.
И все, что входит в-- вот в эту ментальность, там есть вероятность, огромная вероятность дорогой ошибки. Так вот, Стэнфорд проанализировал, ааа, сделал-- ученые Стэнфорда, они проанализировали пять популярных чат-ботов, которые позиционируют себя как бесплатная, недорогая психологическая помощь. Почему они это делали? Потому что, а, понятно, что более пятидесяти процентов мира точно нету денег на то, чтобы обращаться к врачу или каким-то терапевтам для таких вещей. И я напомню, что у ChatGPT только, не у других моделей, сейчас считается в неделю, в месяц от пятьсот до восемьсот миллионов пользователей. Из них еженедельных пользователей, там, сто двадцать с чем-то миллионов. То есть представляете, какой объем мира пользуется сейчас с точки зрения ментальной помощи. Так вот, что они выявили? Они выявили, что, э, эти приложения усиливают стигму в отношении отдельных диагнозов. Э, стигма - это стигматизация, это проявление через предвзятое представление. Например, что все, у кого депрессия, они слабые. И, соответственно, э, там получается дискриминация такая. И человек принимает эти оценки, избегает помощи при общении и, соответственно, еще глубже уходит во всю, во всю историю, да. То есть все, кто, все, кто пьет, все жесткие, значит, алкоголики и так далее, да. И, а, дальше они выявили, что чат-бот подсказывает опасные действия при суицидальных мыслях и не распознает критические контексты, требу-требующие вмешательства человека. И там есть интересные анализы, которые они делали. Они, например, делали эксперимент с стигмой. Они чат-ботам давали клинические виньетки и просили оценить пациентов. Иии, ну, там вопросы включали риск агрессии, желание работать с пациентом и так далее. Так вот, модели LLM части стигматизировали, например, алкоголизм и шизофрению, чем, например, депрессию, да. И вводили, ну, огромное количество с-с-- таких сложных вещей делали. И мне кажется, что исследование очень нужное, очень нужное. Оно показывает вот эту важность, э, и важность умения задавать вопросы, важность правильно делать выводы. Вот, Таня, ты классно сказала, что если я из-- что-то изучилась и так далее и пришла к модели для того, чтобы это расширить свой кругозор, — это одна история, да. Другое дело, вообще в этом ничего не разбираешься, ничего не понимаешь. Например, говоришь: "Сгенерируй мне договор на десять страниц". Не понимаешь, как этот договор прочитать, как его проверить. Он тебе сделал. Ты пришел, распечатал. То есть я, например, генерирую договора и на сотни страниц с помощью моделей, но я их понимаю, как проверить. А если, если человек не понимает, как проверить, не понимает, как сделать, он это считает важным. Ему говорят, как поступить. Человек приходит и задает вопрос: как мне поступить, там, в отношениях, например, с моей женой, да? И ChatGPT берет и говорит: "В таких ситуациях надо развестись". И, там, человек разводится, да. Или в таких ситуациях надо еще что-то сделать. И дает разные абсолютно кейсы. Причем эти кейсы, они же в разных культурах, в разных странах, в разных подходах, они же еще разные, да. Разные отношения, разные детали. Это, конечно... Э, я рад. Я рад, что такие исследования появляются. Другой момент, что, наверное, люди к ним не будут иметь доступ и не будут понимать до конца детали, не будут понимать, что развивается. Иии плюс я напомню зрителям, это очень важно, что все приложения, которые бесплатны, все приложения, которые вы используете, которые бесплатны, они используют старые модели, часто очень ограниченные, в том числе с наличием большого количества галлюцинаций.
Это очень важно, да, чтобы все абсолютно это понимали. Вот. К слову, галлюцинация. Значит, вспомнил, вспомнил историю, что Италия расследует сейчас кейс. Значит, вот, он расследует кейс против DeepSeek. И они завели его, а, ну, на-- по нашей съемке вчера. Вот, что А-антимонопольное управление открыло дело в отношении DeepSeek. Значит, претензия регулятора в том, что сервис не предупреждает пользователей о риске неточной информации. Это, кстати, первый прецедент. Мы такого не слышали. Очень интересный прецедент, да. Чтооо с-- они говорят: подождите, вы систему сделали? Сделали. Ну, предупреждайте людей, значит, детально и показывайте детально, э, она точная или не точная.
Кстати, в чате GPT же есть на самом как бы дне.
Да, они, я думаю, не про это. Они, Тань, они говорят про то, что одно дело у тебя есть на дне на странице где-то в каком-то соглашении на восемьдесят девятой странице. Действительно, там есть. Другое дело, тебе дают ответ. Меня в целом всегда поражало. Ну, если вы дали ответ, возьмите дополнительно запросите запрос, там, перепроверьте, например, или что-то сделайте.
Иногда.
Или, или напишите, что у него есть какая-то вероятность ошибки или какая-то еще история. Или, например, что я сделал, я могу вот в этом ошибаться, а в этом я гарантированно не ошибусь, потому что я взял, проанализировал другую статью. То есть все же, э, вот эта тема, мне кажется, она очень важная и, э, круто. Ну, Италия очень странно, мне кажется, действует. А напомните, заблокировала чат- ChatGPT, когда он появился два года, два года назад на месяц для у себя в стране. Э, но мне кажется, что это очень важные кейсы, чтобы модели и вообще любые приложения, все поясняли пользователю, как они работают. Чуть больше. Лю-люди, конечно, не хотят это слышать, но все же. Вот.
А по поводу договоров. Вот вы привели пример, что можно распечатать, там, сгенерировать договор, распечатать, не глядя его подписать.
И вот как бы ответственность становится на человека, который подписал. Но еще очень, а, явный пример, по крайней мере, для меня он очень явный. С вайп-кодингом, когда, э, все вокруг внезапно стали программистами и генерят программы в чат-ботах. И, собственно, дальше начинают какие-то там приложения делать, запускать программы или еще что-то такое. Надо все-таки понимать, что хорошо бы уметь читать, что вам нагенерила программа, ну, как бы и нести ответственность за тот код, за тот код, который вы дальше используете
Конечно! И что он будет делать, да, Эллард? Что он будет делать?
Да.
Да. И что он? А если ты не умеешь, не разб-- так, ну, ты посмотри, сколько наро-- людей создает различные приложения и продукты, думая, что они просто программистом могут. Они программисты. Программист что-то сделал параллельно.
Это ж то же самое, когда директора или руководители не разбираются ни в чем, и, значит, они дальше, дальше-- нет вот этой св-связки, да? А сейчас связка еще ухудшилась. По поводу договор-- , чтения и подписи, договоров. Это интересная тема, потому что высокий суд Лондона, высокий суд Лондона, значит, выпустил постановление, что они будут нара-- наказывать юристов за фейковые ссылки искусственного интеллекта. То есть что сейчас стало в мире происходить? Получается, что юристы приходят, например, анализируют какой-то документ, и мы, мы, я сам часто на эту тему попадал. Когда ты генерируешь огромное, огромное, огромное исследование, у тебя появляются ссылки, ты какие-то ссылки не перепроверяешь, а оказывается, эта ссылка ненастоящая, просто ее не существует. Так вот, хотя эта ссылка ссылается на конкретную информацию, ссылка ненастоящая. Вот это, это очень распространенный кейс. И, кстати, если вы вдруг такое видите, видели, не видели, тоже напишите. Интересно, была ли у вас история, что ссылки ненастоящие и новость была сгаллюцинирована. Я видел, что с-- что были новости, например, нормальные, а ссылка сгаллюцинирована. Так вот, Лондон будет наказывать, Великобритания будет наказывать юристов, за то, что они генерируют такие ссылки. Потому что там какая история, что есть юристы, которые используют искусственный интеллект в своем деле, и у них, и они часто начинают об этом сообщать, да? Или кто-то об этом видит, или видит, что документы на эту тему принесли. Мне кажется, конечно, что в этой среде, ну, должно будет что-то происходить, потому что получается сейчас, во-первых, огромное количество людей сами себя могут защищать очень серьезно. Ну, просто нереально серьезно. Вот. А и что-то, что-то в праве должно происходить. Вот. И, конечно, наверное, страны начнут по-разному действовать. Я вообще, я даже себе не представляю в юридической системе юриспруденции, что будет. Очень интересно. Вот. Нереально интересно, нереально интересно. Я просто вижу-
Да, ты знаешь, когда я еще училась, появился, появилась такая система, вы, наверное, знаете, Консультант Плюс, когда все акты и прецеденты были внесены в одну систему, и ты мог искать в компьютере, а не в библиотеке или там еще где-то. Это был поворотный момент вообще. Ну или то же самое, когда появился Архикад в, там черчении, да? И вот мне кажется, сейчас это вообще еще более мощный какой-то момент
в истории.
Конечно, Консультант Плюс, они же добавляли, понимаешь, и обновляли различные документы, акты, и они еще это делали относительно одной страны. А ты в данном случае можешь анализировать все кейсы, форумы, принятие решений, детали огромные, судебные, не судебные иски, то, что реально писало, как действовало, не действовало текущее законодательство, изменение законодательства. Вот, это, конечно, это, это, конечно, очень, очень интересно.
Да, пока не перешли, я просто вспомнил еще одну вещь. И как раз вот немножко бьется с тем, что Таня тоже до этого говорила в предыдущих выпусках., помнишь, Таня, ты говорила, что работа дизайнера, там тебя все спрашивают, будет ли она заменена вот на ChatGPT и прочее. И там ведь тоже важно. Дизайн — это же не только картинки, да? Это еще и технологическая составляющая, выполнимость и прочее. И вот недавно просто я как-то игрался-
И инженерия технологическая.
Да. Я как-то игрался, что-то нашел, дом в черновой отделке и без фасада. Фасад у него был какой-то там не очень хороший. Я загрузил в ChatGPT, говорю: "А сделай красивый фасад". И он очень классно сделал. То есть взял картинку, отредактировал ее. Дом стал очень симпатичный. Но потом возникает вопрос: если я не
Это вопрос: если я не разбираюсь в том, как, вот, можно так сделать технологически или нельзя, не понимаю, там, условно, вот, там, влажность, дожди и прочее, э-э- Да...технологически не испортит ли это здание, то вот чья ответственность, если я вдруг попробую воплотить это? Понятно, что немножко такой в вакууме, но вот тоже есть, вот опять возвращаюсь. Это слишком универсальный инструмент, который можно приложить куда угодно. Но прикладываем мы его вот на свой страх и риск. Не надо забывать, что все-таки ответственность идет вот за человеком, который принимает решение. Угу, да, согласна.
Не забывайте поддерживать наш канал. Ставьте лайк, если вам выпуск, понравился и не понравился, ставьте лайк. Для нас это большая поддержка. И подписывайтесь обязательно, чтобы не пропустить. Мы выходим каждое воскресенье. Плюс у нас периодически идут спецвыпуски по средам и, в эту среду, в прошлую среду и в позапрошлую среду от Ильнара были очень крутые выпуски.
Значит, я хочу добавить интересную вещь по поводу какие, вака-- сотрудники вакансии исчезнут или не исчезнут. Мы на эту тему, кстати, обязательно сделаем спецвыпуск по средам. Обязательно сделаем, потому что, мне кажется, эта тема фундаментальная с точки зрения хотя бы всех-
Да, всех беспокоит.
Да, понимаете, но, значит, смотрите, девятого июня этого года PricewaterhouseCoopers провело исследование очень интересное. Они опубликовали барометр рабочих мест. Значит, барометр рабочих мест искусственный интеллект на двадцать двадцать пять. И значит, они что сказа-- вывод их какой? Что, сейчас я расскажу, что они сделали. Ис-- они проанализировали сотни миллионов вакансий и финансовой отчетности компаний и выяснили, что в отраслях, где искусственный интеллект внедряется быстрее всего, число рабочих мест не сокращается, а растет. И при этом рост наблюдается даже вот в должностях, потенциально автоматизируемых искусственным интеллектом. Обратите внимание, сотни миллионов вакансий было автоматизировано. Более того, зарплаты в продвинутых вот этих по искусственному интеллекту, там, отраслях растут вдвое быстрее, чем там, где искусственный интеллект почти не используется. Почему они-- такая причина есть? Потому что причина — скачок продуктивности компании. То есть компании, которые внедрили ИИ, увеличили выпуск продукции в четыре раза по сравнению с остающимися компаниями. Вот такая у них есть тема, да. И они вообще написали, что искусственный интеллект позволяет сотрудникам без высшего. Вот это, кстати, тема нереальная, что позволяет без высшего образования, например, выполнять более сложные задачи, ранее требовавшие квалификации, за счет чего эти работники становятся ценнее и могут получать прибавку. Они даже написали в среднем пятьдесят шесть процентов к окладу для владеющих навыков работы. Это очень интересный отчет, да. То есть, вот когда рассуждают массово о безработице, понятно, смотрите, что этот отчет сделан в эру, когда у тебя есть триста миллионов вакансий и при этом есть маленькое количество компаний, которое внедрило искусственный интеллект, да. В то же время, вот, тема по поводу того, что вы с помощью искусственного интеллекта, и мы в прошлом видео эту тему очень сильно поднимали, и мне кажется, у нас в комментариях, там сотни комментариев было на тему, кто готов сколько платить за искусственный интеллект. Вот эта, вы-- тема того, чт-- за-зачем платить много, да, или почему компании стоит что-то внедрить. Зачем сотрудника увольнять, если можно этого сотрудника-- сделать из него более эффективного в пять, в десять раз? У меня есть сейчас сотрудники в команде, с которыми, по крайней мере, я напрямую работаю, потому что с учетом моих разных бизнесов я напрямую не работаю, которые ис-- , настолько используют искусственный интеллект, что, ну, человек выпол-- х10 делает сам лично, он просто делает больше, он гораздо эффективнее. Вот, Ильнар, как раз эту тему ты затронул. Мне кажется, она очень важная. Итак, скандал, да? Скандал. Скандал. Вот.
Но подписываться не забывайте и друзьям рекомендуйте.
Ты всегда говорил, что типа не станет меньше вакансий, станет больше работы.
Ну-
Больше времени, которое люди будут тратить.
Я не верю. начал заниматься, ну, с учетом того, что я программист, я начал заниматься такой сложной автоматизацией двадцать один год назад. И, по крайней мере, по крайней мере, с учетом моей профессии, первый проект был я автоматизировал финансовую деятельность транспортной компании, круп-- одной из крупнейших транспортных компаний в Европе, компания Eurocars, Eurocars, по-моему. И очень давно было. И я хочу сказать, что, нам в то время автоматизации же вообще никакой практически не было. Какие сайты, какие, ну, какие уж айфоны были или телефоны? Просто вообще ничего не было. Какие приложения? И с того времени мы видим не то что рост по миру внедрения и бизнесов различных и возможностей, мы видим рост. Огромное количество появилось людей, которые в этих сферах находятся. Столько же людей не находилось в этих сферах. И мы видим огромный рост зарплат, в том числе в разных сферах. И поэтому я-- у меня нету пока связки, что люди заменяются. Я считаю, что критику-- осо-особенно смотрите, когда мы говорим про то, что сейчас делают. Ну, если сделают то, что показывается в фильмах, наверное, произойдет какое-то, может произойти какой-то другой эффект. Но, по сути, это такая-- но что важно, единственный аспект — то, что меняются профессии. Но опять же, возьмите бухгалтера. Я участвовал в огромном количестве обсуждений в проектах, которые должны замещать финансовую систему и бухгалтеров с точки зрения ведения бухгалтерии и всего. Ну, вот если вы возьмете, например, российскую действительность с точки зрения бухгалтерии, она, использование бухгалтера, она не поменялась вообще. Ну, то есть вообще. Ну, то есть не существует компания, которая говорит, что она базово, условно, не использует бухгалтера. Ну, там микро вещи появились, но просто это выросло количество тоже людей, выросло количество бизнесов. Какие-то планы, значит, есть. У тебя есть бухгалтер. Ну, вот я нахожусь в Штатах, да. Понятно, что у меня, у меня там не маленький самозанятый, есть разные там структуры, какие-то корпорации, и в них, значит, ты используешь даже на, даже на небольших корпорациях ты используешь, все равно используешь человека. Вот. Огромное количество нюансов. Хотя у тебя есть автоматизированные системы, которые должны тебе сдавать в клик. Но ты понимаешь, я здесь дам в клик, а здесь я минус сто тысяч долларов. Просто из-за этого клика, да? И дальше у тебя есть возможность принять решение. Хотя обратите внимание, как все автоматизировано, да? Многие вещи: открытие компании, регистрация, не знаю, юрлиц, там, сдачи каких-то, бывает, форм отчетности. При этом даже, даже такие темы, вот самая автоматизирующая история, вот, вот одна из первейших вообще авто-- о каком автоматизации сейчас мы можем говорить, о какой автоматизации продаж?
Мы даже туда не подошли. Да, Ильнар?
Еще про эффективность работников. Вот ты, Тань, к, твоей мысли, что, вакансий меньше не станет, работы больше станет, да? Там как бы время, которое мы на это тратим. А есть еще другой тренд. Мы обсуждали его год назад, я думаю, где-то в первых выпусках., в США, там, на Reddit было очень популярно направление overemployed, когда люди работают одновременно на нескольких работах. То есть ты на удаленке устраиваешься на несколько работ с помощью, там, ChatGPT и прочих помощников выполняешь-
По всему миру, Ильнар.
Выполняешь работу.
И в России, и в Беларуси, везде, да.
Да, да, да. И получаешь там две, три, четыре зарплаты. По-моему, там самые отбитые, там, по пять, по пять работ параллельно выполняли. Я просто что вспомнил, буквально недавно, читал, где-то, может, месяц назад, что из Индии выходец, он чем занимается? Он проходит собеседование, устраивается на работу, не помню, по какому направлению, а потом, собственно, работают его родственники.
Близнецы.
...что одного индийца от другого индийца, ну, даже если не близнеца, но похожего индийца друг от друга не-не всегда люди могут отличить. Я к тому, что просто, с одной стороны, да, вот у нас как бы есть история, что, компания, возможно, будет выжимать больше из имеющего сос-со-- из имеющихся сотрудников. С другой стороны, есть огромное количество компаний, которые к этому еще не готовы, да? И, наоборот-
Как съедать, да.
...хитрые, такие, быстро соображающие сотрудники могут вот таким образом по две, три, четыре, пять зарплат получать.
Да, но возможно все, да? Мы прекрасно понимаем, что может появиться история, при которой, при котором государство будет платить людям просто деньги в жизни, и все автоматически будет делать искусственный интеллект. Но просто мне кажется, что это не текущая тема для настоящего обсуждения реальных вещей.
И важно так вперед чуть-чуть чувствовать и видеть, что происходит. К этой же теме, к инду-- мне кажется, у нас сегодня все так гармонично идет, потому что я же вам про этот скандал, значит, не рассказывал.
Ты всех выдал, Саша.
Да, я не рассказывал. Я опять к скандалу прихожу. И тут ты, Ильнар, прямо практически выдал эту историю. Значит, смотрите, это, это, это вообще очень серьезно. Мне кажется, это относится и к стартапам, и к финансовой сфере, и к инвестициям, и к найму людей, и к вере вообще того, что на сегодняшний день в мире говорят люди. Потому что в целом, если людей послушать, ну, бинго, у нас есть модели. Ты берешь, загружаешь, загружаешь выступления политиков, бизнесменов, всех говоришь: это правда или нет? У тебя модели сразу говорят, что правда или нет. Вот, не удивляйтесь., неправды столько, что кажется, что она основная. Значит, какая тема? Значит, Builder AI, оцененный в полтора миллиарда долларов. В полтора миллиарда долларов. Важно, да? Объявил о банкротстве после раскрытия махинаций. Оказалось, что компания рекламировала платформу искусственного интеллекта для быстрого создания приложений. Вы сейчас реально засмеетесь, но я-- в комментариях напишите, что произошло. Это-- вы, ну, вы сейчас должны просто ох-- ну, просто офигеть. Вот, Ильнар скажет: "Я же говорил". Значит, компания рекламировала платформу для создания мобильных приложений, а на деле семьсот инженеров вручную писали код-
Вручную писали код за кулисами. Громкий стартап, поддерживаемый инвесторами Microsoft, SoftBank, уверял, что его ИИ-ассистент Наташа, теперь понятно, откуда выходцы, да? ИИ-ассистент Наташа генерирует восемьдесят процентов кода. Но расследование и признание сотрудников показали, что на самом деле никакого искусственного интеллекта не было. Более того, выяснились финансовые махинации. Выручка за двадцать четвертый год была раздута. Заявлено двести двадцать миллионов долларов, оказалось пятьдесят миллионов долларов. А для создания иллюзии успеха Builder AI и аффилированная индийская фирма искусств- искусственно гоняли деньги друг другу. После аудита кредиторы заморозили счета. Компания уволила тысячу сотрудников и начала процедуру банкротства. Мне кажется, что феноменальная Наташа, да? Ну, самим названием Наташа сразу можно было понять, что там сидят, что там сидят люди. Да, Наташа не искусственный интеллект. Вот, ээ, это на самом деле офигеть. То есть с точки зрения, ээ, слушания всего происходя-- ну, обратите внимание, там Microsoft и SoftBank, полтора миллиарда, полтора миллиарда долларов — это уже более или менее нормальная оценка. Ну, Саши Машрапова нет, да? Саша Машрапов эти две недели- Мощно встали у нас в эфире. Эти две недели в загоне, в загоне, да. Да, Саша Машрапов скажет: "Какие полтора миллиона долларов, миллиарда долларов оценки? Вы на полтора миллиона, миллиарда долларов можете типа в магазин сходить, посмотреть, как выг- как выглядит, как выглядит модель." За продуктами. За продуктами, да. Значит, какая оценка в полтора миллиарда долларов? Ну, это, это не оценка. Так вот, ээ, полтора миллиарда долларов, SoftBank и такая махинация с точки зрения разработки и таких тем, знаете, что интересно, я лично слышал таких, сам знаю, наверное, таких стартапов, чтоб двадцать, тридцать, которые на публике рассказывают, инвестфондов таких я слышал выступающих, они рассказывают про компании и рассказывают то, ну, чего на самом деле нет.
Fake it until you make it. Это же, вот это прям гимн всех стартаперов. Это вот Элизабет Холмс-
Инyeah
...про которую мы тоже как-то недавно вспоминали, да, вообще все. А вдруг получится? Но, к сожалению, получается так, что с моделями они слишком оптимистично начинают оценивать, что можно сделать. Рынок охотно в это верит, но, там, за какой-то приемлемый срок довести до вот того результата, который ты заявил, очень мало у кого получается. Ну, по сути, ни у кого даже.
Элизабет Холмс, кстати, ну, с учетом того, что я с ней, не с ней прожил, хотел сказать, с ней прожил в одном доме, я с ней в одном.
Провел ночь в доме без нее. Да, без нее, без нее прожил в до- и живу в доме. Значит, Элизабет Холмс. А, недавно, значит, новость, мне попадается. Хоп, всплыло ее имя, что во Флориде повесили баннеры с ней. Думаю, так надо почитать. Она же, значит, мне близкий человек. Вот, я ее категорически не поддерживаю, да. Но такое обстоятельство случилось, и я еду в Калифорнию, тоже ее билборд висит и ее какой-то или бывший партнер, или кто-то сказал, что вы незаконно посадили человека, потому что сейчас уже доказано, что по одной капле крови можно сделать сумасшедшие исследования. И на что ей ответил суд, что в тот момент времени, когда она это говорила, это не было доказано. Вот, и то, что вы это позже доказали, это не значит, что это к ней относится. Это не значит, что она не занималась мошенничеством, да, потому что она занималась мошенничеством. И здесь, кстати, я хочу, могу здесь сказать, Винар, что это не, это же не всех стартапов касается, не то-- и здесь я хочу подчерк-- не только стартапов касается.
Ну конечно.
Крупных бизнесов, средних бизнесов. Возьмем Apple, мой любимый, кстати, Apple, я без Apple никуда. Но Apple передвинул выпуск нового Siri на, на весну две тысячи двадцать шестой. Помните, я смеялся выпуска три назад? Говорил они должны сейчас прийти и сказать: "Весной двадцать шестого года мы выпустим..." Ну, все. Да, мне даже не интересно. Все время ждут весну. Ну, даже не интересно. Вот они сейчас выпустят новый, например, iPhone и скажут, что у него какой-нибудь новый крутой чип для искусственного интеллекта — это уже не продаст, да? Вот в прошлом году это могло продать, потому что у них кнопочка новая появилась, там, Apple Intelligence, они сказали, есть, который, конечно же, ничего вообще не привнес. Но последнее обновление у iOS, я хочу вам сказать, кстати, что последнее обновление iOS, там есть некоторые прикольные вещи. Например, работа со скриншотами сразу, ну, они хотя бы сделали какую-то там, чуть-чуть дополнили интеграцию, но опять же, я пока это не внес в ежедневное применение.
Посмотрим, как это произойдет в ежедневном применении. Кстати, Apple видит, что у меня, например, ChatGPT Pro. И другой момент, что оно не запускает, оно не запускает Pro. Кстати, o3 Pro, кто пользовался o3 Pro, как, какие ваши вообще выводы сделаны? Что я вижу, по крайней мере, сейчас. У ребят нет o3 Pro, даже не спрашиваю. Значит. Наконец-то.
Что с ними разговаривать?
Да, что с ними разговаривать? Что я вижу в o3 Pro? Какие-то привидения. Сразу хочу сказать, сразу скажу. Первое. Первые две недели очень долго все или неделю, да, неделю, мне кажется, очень долго запросы отрабатываются. Просто нереально. Запускаешь, запрос где-то умер, сервер сдох. Ну, очень долго. Значит, сейчас ситуация как будто поменялась. И что я вчера заметил? Что deep research на o3 Pro у меня-- раньше у меня, который отрабатывал двадцать, тридцать минут, даже сорок минут бывали, я могу сказать, у меня deep research начали отрабатываться за две-три минуты, очень быстро. То есть, ну, может быть, там не две-три, но даже сейчас скажу, я сегодня с утра запускал deep research новый, да, и он отработался за, а, вот восемь минут, например, сегодня утром отработался. Но такие deep research, они отрабатывались всегда гораздо больше. Вот. И-
У меня тоже ускорился.
Может быть, может быть, у всех ускори-- Мо-- Ты меня, да, да.
А ты видел, я выложил? Ты видел, я выложил результат?
Так самое главное.
Я ж делал.
Да, самое главное. Она думала тринадцать минут и дала точно такой же неправильный ответ, как двадцатидолларовая. Тут мне стало интересно. На бесплатном аккаунте запускаю ту же самую задачу, получаю мгновенно тот же самый ответ.
Тот же самый ответ. Это, это очень смешно. Это очень сме-- Я, я же... Ты видел, да, я выложил этот результат?
Да, да, да, да. Я вот в тот же момент начал проверять.
Оно типа, типа, в том числе это является решением, но это не реш-- потому что оно, оно не самое быстрое, да? Поэтому тут не о чем говорить.
И самое главное, ответ правильный она забраковала. То есть у нее прямо в ответе есть, что типа вот остальные типа такой, такой, такой.
Они типа неверные.
Да, я тоже. Я вначале подумал: а может, значит, это оно выбрало этот, но другое. Она написала: нет, там ответ C или какой там, точно гарантированно неправильный. Это, это ты вообще очень интересно говоришь. По поводу, по поводу времени. И я даже o3 Pro, вот в отличие от o1 Pro, кстати. Когда выпустили o1 Pro, я сра-- с ним стал пользоваться сразу. Я от него вообще не уходил. Когда вышла o3, перешел на o3, а o3 Pro, ну, какая-то... То ли у них калибрация, то ли что. И еще что видно, уже писали, кстати, в чате, тоже напишите, у кого есть. Люди пишут, что o3 стала работать хуже. Я тоже вижу, что o3 стала работать хуже. Это, мне кажется, тренд, да, у моделей. Они выпускают модель, она крутая, они потом ее как будто качество, не знаю, уменьшают, потом следующая выходит. Мы же это уже видели много раз, да?
Да.
И про это, и про это писали. o3 прямо начала работать хуже. o3. Ильнар, ты зна-- помнишь, да, я говорил, это про галлюцинации. Я говорил, что o3 у меня нет галлюцинаций. У меня был момент, когда у меня Pro, правда, версия, да, не было галлюцинаций. В обычной o3. И я еще думал, может, из-за того, что Pro. И тут у меня на этой неделе погнали галлюцинации. Вот. То есть на этой неделе пошло. Мне не нравятся ответы, я их переспрашиваю. А, тут еще мы ж на прошлый выпуск я так отстаивал Pro версию, да? Там, значит, в комментариях все... Кто не смотрел, напишите, кстати, сколько вы готовы денег платить. И прошлый выпуск тоже смотрите. Он очень крутой. Про стоимость и про важность использования.
По поводу крутых моделей, да? Вот периодически же, помните, опять же, к профессиям, которые могут исчезнуть. Ааа, буквально сегодня, по-моему, да, на момент записи вышел, сейчас скажу, как называется, бенчмарк новый Live Code Bench. В общем, там задачки такого олимпиадного уровня, иии они, вот задачки сложного уровня современные модели вообще не решают. И здесь о чем речь? Что вот очень хорошие результаты модели показывают на задачах, которые типовые, которые, как говорится, в train set попали, в которых, на которых моделька обучалась. А вот если взять модели, если взять задачи, которых, ээ, вот в обучающей выборке нету, такие вот передовые задачки, которые вот, вот только-только решены, до этого нигде решение не было опубликовано, то там вообще беда. Модели со сложными задачами такого уровня вообще не справляются. Вот прям два, четыре, восемь процентов задач только решают. А вот на SWE бенче, который вот Software Engineering Benchmark, где типовые обычные задачи, текущие модели показывают очень хорошие результаты. Это опять, возвращаясь вот и к тому, что мы говорили в прошлый раз про творческую составляющую, да, что вот чего-то нового пока модели придумать не могут. Это первое. А второе, соответственно, вот с точки зрения замены. Как инструмент они могут быть использованы, но вот принципиально заменить ученых, там хороших разработчиков и там еще кого-то пока не способны.
Чего-то нового модели не создают.
Ааа и напоследок.
Ааа и напоследок. А, по поводу искусственного интеллекта. Ааа мне кажется, это первый тоже прецедент, ээ, так как сейчас же все люди используют искусственный интеллект везде, в том числе для каких-то фейков, подделок или того, что ты не сам, не сам что-то сделал. В Китае прецедент случился, значит, седьмого-десятого июня этого года во время все китайского экзамена Gaokao. Ведущие сервисы это Alibaba, Qwen и Tencent Yunbao. Да, обратите внимание, что в Китае сильные модели у них, у Tencent и у Alibaba. Они от-- а, ну, там еще есть ByteDance, да, и Moonshot. Они временно отключили функции распознавания изображений и мгновенных вопросов-ответов, выводя пользователю заглушку для обеспечения справедливости экзамена. То есть, представьте, все модели, их все модели отключили. Ааа, возмо-- ну, как бы то, что связано, может быть связано с экзаменом. Мне кажется, это очень крутой прецедент.
Это признание прям этих моделей, если честно.
Да.
А?
На государственном уровне.
Да, признание на государственном уровне влияния этих моделей.
Да, признание и на государственном уровне в образовании, да, и в министерствах во всех. И то, что компании в целом на этот, на этот шаг тоже пошли. Иначе это, конечно, может приносить огромное количество проблем. Получается, что люди, которые умеют использовать, получают что-то. Ну, как ты, Ильнар, приводил пример с человеком из Индии, кото-- за которого работает там брат, сват, вся семья, все остальное. То есть это же неправда, это же обман, да? Это обман, это махинации. И то, что такая-- такие прецеденты отключения происходят, мне кажется, что это очень тоже классное, классный, хороший, классный прецедент вот движения вперед. И это, знаете, еще о чем говорит? Это говорит еще о том, что мы впереди еще даже себе не представляем, какое количество будет кейсов, прецедентов, деталей, нового функционала, что только будет появляться. Поддерживайте наш канал To The Moon. Ставьте лайк. Хотите видеть наши видео постоянно — подписывайтесь, отправляйте наших друзьям. Не забывайте нам внутри писать различные вопросы и темы, которые вас интересуют. Мы обязательно их рассматриваем. Пока.