Самый важный вопрос сейчас не в том, кто победит OpenAI, Google, Anthropic или SpaceX. А SpaceX уже почти три триллиона была. Самый важный вопрос другой: кто нажмет стоп, если искусственный интеллект станет реально опасным? Потому что Anthropic сейчас сказал очень интересную вещь. Самые мощные модели нельзя просто выпускать в мир, как новую кнопку в приложении. Они, кстати, это сказали до того, как их модель Fable закрыли. Это не чатик, они сказали, не помощник для школьного сочинения.
Это система, которая может помогать писать очень серьезный код и искать слабые места в чужих системах, разбираться в сложной биологии, ускорять работу компаний и постепенно забирать на себя все больше решений. И вот здесь начинается очень интересная вещь. Anthropic не говорит запретить искусственный интеллект. Она говорит, если модель стала слишком сильной, ее должны проверить не только сами разработчики. Должны быть внешние проверки, должны быть отчеты какие-то. И если запуск опасен, государство должно иметь право его остановить.
И это уже касается не только программистов, это касается вашей конкретно работы, моей работы, моего бизнеса, ваших детей, ваших данных, ваших денег. Потому что если искусственный интеллект попадет не туда, это его большая угроза. И если задушить правилами, мы проиграем технологическую гонку. А если все оставить, как есть, то несколько частных компаний мира будут решать, что можно запускать для всего мира, а что нельзя. Так кто должен держать руку на этом вот выключателе? Да? Компании, инвесторы, государство или вообще никто не должен ничего делать, и все должны развиваться условно демократически. Вот об этом сегодня в выпуске поговорим.
Anthropic выпускает документ "Политика экспоненциального искусственного интеллекта". Да. И еще раз, чем интересный документ. Я даже начал готовить этот выпуск до того, как закрыли модель Fable. Ее закрыли, ну, вот буквально недавно. Это одна из самых продвинутых моделей, которую выпустила Anthropic. Возможно, этот выпуск выходит, а модель Fable стала доступна. Да, все же мы ждем, что она станет доступна. И вчера вот у меня был один приятель мой, и он как раз подписал контракт с Anthropic, в частности, использования модели Fable. Он говорит, что они просто маленькие. Я ему говорю: "Как?
Fable уже закрыта". Он говорит: "Ну, ее должны, по идее, ее должны открыть. У них нет вариантов, да, потому что они готовятся к IPO. И они находятся, конечно, в гонке вместе с OpenAI, вместе с Gemini и вместе со SpaceX". Кстати, почему я еще раз указываю SpaceX? Сказал в самом начале. Многие недооценивают, что внутри SpaceX находится xAI. И если кто-то считает, что xAI отстал по гонке моделей, как, например, отстала компания Meta, да, то я бы так не говорил. xAI имеет достаточно серьезный авторитет в США. Понятно, что эта модель вроде как не такого класса, не такого уровня, но судя по тому, что делает Илон Маск, он эту модель восстановит и приведет к серьезным стандартам.
В том числе я во многих выпусках рассказывал, что он уже начал применять эту модель, в частности, разработки программного обеспечения уровня Microsoft, да. Но это другие выпуски. Сегодня, значит, в чем история? Что какая главная идея была у Anthropic? Что искусственный интеллект развивается настолько быстро, что обычные какие-то государственные механизмы, законы, они очень серьезно отстают. Да. Поэтому для самых мощных и серьезных моделей, в том числе, как оказалось, вот таких моделей, как класса Anthropic Mythos, нужен отдельный режим. Да.
Какой-то не общий запрет искусственного интеллекта и не контроль каждого маленького продукта, а обязательные правила для крупных серьезных разработчиков. Да. Именно серьезных разработчиков вот этого передового искусственного интеллекта на границе возможностей. Да, то, что называется frontier artificial intelligence. И Anthropic предлагает сочетание трех вещей: да, обязанности самих разработчиков, независимую внешнюю проверку и юридические полномочия государства. Ну что значит юридические полномочия государства?
Что, по сути, можно было остановить или сдержать развертывание каких-то крутых моделей или независимая проверка, которая показывает серьезный катастрофический риск, который может произойти. По сути, что произошло? Anthropic выливает модель Mythos, дает ее ограниченному количеству компаний. И я напомню, что США, когда ограничивало использовать модель Fable, они ограничивали для всех людей в мире, кроме граждан США, именно граждан. Не резидентов США, не американских компаний, а именно граждан США. И даже сама компания Anthropic и ее сотрудники, которые не являются гражданами США, попали в этот запрет.
Да. И, по сути, система Mythos, ее использовали, конечно же, иностранные граждане, но и они ее никому не открывали. Они сказали, что как бы это серьезная система, мы открывать не будем. Хотя многие структуры в мире беспокоились. Правительство и банковская система, например, Великобритании очень сильно на эту тему беспокоилась. А затем они выливают Fable. Они делают огромное количество ограничений, но они ее выливают, и через несколько дней государство ее блокирует. Anthropic с этим не согласна, с этой блокировкой, хотя, по сути, они ровно за буквально несколько дней до этого и выпустили вот этот документ, о котором я сегодня хочу рассказать.
Anthropic делает очень серьезные исследования в этой теме, и мне они, наверное, на сегодняшний день перед всеми игроками, вот четырьмя озвученными лидерами мира. Ну, кто-то считает, что они никакие не лидеры, и китайские модели делают то же самое. Я с этим не соглашусь. Это, понятно, что это сугубо мое личное мнение. Вы можете высказывать свое мнение, и я стараюсь здесь все же независимый аудит давать с точки зрения того, что делает Anthropic. Но все же, все же Anthropic уникальна в описании и в концепции видения всего происходящего.
Вот если мы возьмем OpenAI, мы с Максом Григорьевым снимали выпуск несколько месяцев назад, и он говорил, что у них есть миссия о создании AGI и о создании сверхинтеллекта. Встречался несколько дней назад я с одним человеком, который был на ужине, где присутствовал Сэм Альтман и директора по продукту. Такие серьезные достаточно люди, очень узком, узком, узким кругом, там, меньше двадцати человек. И он сказал, по его ощущению, нету у OpenAI вот этого заряда на то, чтобы создавать AGI.
Мне кажется, все же он должен там внутри быть. Возможно, он остался у исследователей или у ресерчеров, которые там есть внутри. Он должен быть, да, а не только должен быть заряд, чтобы конкурировать с Anthropic, беспокоиться по поводу Anthropic, беспокоиться по поводу того, чтобы сделать выручку, на рынке бизнес продуктов или как продать рекламу, да? Мне кажется, должен быть заряд на AGI. Так вот, у Anthropic точно есть заряд на то, чтобы создать грандиозный искусственный интеллект, масштабный, то, как они его называют, масштабным искусственным интеллектом.
И вот у нас был выпуск про Конституцию Anthropic. Я вам очень сильно рекомендую посмотреть, кто не смотрел, а кто смотрел — поддержите, насколько вам понравился этот ролик. Это, мне кажется, очень хорошее я дал описание, рассказал про то, как вообще Anthropic создает свою модель и что внутри оно видит с точки зрения сознания модели и вообще модели как сущности, да, модели как сущности и вообще вселенской сущности. Это есть смысл, есть смысл вообще на это, конечно, посмотреть.
Значит, Anthropic предлагает еще раз, да, не запретить искусственный интеллект. Это очень важно, да. То есть он не говорит его запрещать, он предлагает не доверять только самоотчету. То есть прозрачность, отчеты и карты системы — как бы это все классно с точки зрения системы, но уже недостаточно без независимой оценки. И, по сути, это совпадает с их некоторой Конституцией. И дать государству такое право, какую-то кнопку красную, что если модель реально опасная, государство просто берет и условно ее блокирует.
Мы видим эти блокировки в мире, в частности, например, США. Пентагон внес большое количество американских компаний в связи с созданием искусственного интеллекта, там, Alibaba, Baidu и так далее, да. В частности, внес их в такую красную зону. То есть их запрещено использовать. У них понятно, что Китай вносит в эту красную зону использование китайских моделей. Например, я не хотел бы использовать китайские модели. Я глубоко убежден, что все данные там категорически записываются. У них даже, по-моему, это открыто обсуждается, говорится.
И все же в моделях США, по крайней мере, стараются очень прозрачно все это показывать. Например, в частности, модель Fable. Она была еще уникальна тем, что она в любом случае все данные сохраняла в течение тридцать дней как модель класса Mythos. И, например, Microsoft запрещал использовать, запретил там в первые дни буквально использовать эту модель у себя в компаниях. Я лично в своих проектах очень с удовольствием ее использовал, начал делать, и мне кажется, что я видел достаточно интересный результат.
И вообще после того, как Anthropic закрыл Fable, я не знаю, как у вас, мне кажется, что системы Anthropic стали работать хуже. Да, они стали работать хуже. Вплоть до того, что мне кажется, что Opus 4.8 стал работать хуже. Я все еще пользовался ChatGPT-5 Pro в каждодневной работе. Я понимаю, что я вхожу там в тысячи или десятки тысяч людей, которые по-настоящему используют так фундаментально 5.5 Pro в обычной жизни человека и в том числе в профессиональной, бизнес среде развития.
Что мне больше нравится точно, чем 4.8 Opus. Некоторые люди приходят, мне рассказывают, какой Claude крутой, какая 4.8 точно крутая, хотя потом оказывается, что у них даже не максимальный тариф. Они используют не самые модные системы. Но все же увидим. А, у нас очень много выходит сейчас про Claude, потому что на Claude много сейчас ведется разработок, много разработок в мире. Мы про него, конечно, продолжим обязательно рассказывать, в том числе. Значит, по поводу документа. У них есть, такая часть, которая относится к передовому искусственному интеллекту и искусственному интеллекту.
В рамках этого документа Anthropic рассказывает, что искусственный интеллект ускоряется, а государственные институты движутся медленно. Да. И вот Anthropic в целом начинает с этого базового тезиса, что вот это развитие искусственного интеллекта, как я в самом начале сказал, оно настолько экспоненциально и имеет вот этот экспоненциальный характер, что, я напомню, это не линейное развитие, когда у вас один плюс один, плюс один, плюс один, да? А у вас такая кривая, значит, бесконечно стремится все время, все время вверх, да, все быстрее и быстрее.
И а государственные процедуры при этом, законы разные, агентства, которые существуют, стандарты, там, какие-то судебные, например, механизмы обычно создаются очень медленно, да. И что показали последние два года? Не то чтобы государственные механизмы создаются медленно, даже бизнес реагирует медленно. Я уже не говорю про миллиарды людей на планете Земля. Бизнес реагирует медленно. Я напомню, у ChatGPT всего лишь пять миллионов платных подписок из миллиарда пользователей. И люди все еще относятся к ChatGPT гораздо менее доверчиво, как они относятся к покупкам на Netflix, подпискам на Netflix или подпискам у каких-то обычных сервисов.
То есть, представьте себе, да, как, казалось бы, дали человеку невероятный, феноменальный доступ, который никогда в жизни у него вообще нигде не существовало. А платных подписчиков у таких систем меньше, чем подписок в тренажерный зал. Да, или там меньше, чем кофе в мире продается. Ну, что очень странно. Я говорю сейчас в разных порциях. Соответственно, из-за вот этой разницы с точки зрения реакции развития искусственного интеллекта и реакции всех остальных, я, я еще раз глубоко убежден, что население стало реагировать очень сильно медленно.
Вот в две тысячи двадцать третьем году реакция была неплохая у населения, да. Две тысячи двадцать пятый год она замедлилась. В двадцать шестой год я вижу, что она невероятно медленная. Из-за этого всего возникает очень большой разрыв. И к моменту, когда, по мнению Anthropic, как раз таки даже здесь я уже не свое мнение буду добавлять. По мнению, к моменту, когда вот Anthropic говорит общество поймет риск и начнет строить полноценное регулирование, некоторые опасные возможности уже могут быть развернуты, и не будет, по сути, никакого возврата назад, да.
И здесь, кстати, важно, что Anthropic строит на этом вот эту политическую логику, что нужны заранее подготовленные законы, понятные, применимые механизмы для самых сильных моделей. Что я могу сказать? Мы про это рассказываем несколько недель, несколько месяцев я про это во все, во все зоны кричу, что модели все менее становятся доступными, и они, вот они становятся менее доступными. Единственный механизм, который может создать государство, оно может просто ограничить и не дать развиваться, да.
Но с учетом того, что есть Китай, то у США нет шансов, потому что Китай дистиллирует, будет дистиллировать все модели, поспевать за американскими моделями. Американскому правительству, в том числе нужны подобные котики в виде миллиардов пользователей, которые используют на сегодняшний день OpenAI и Gemini. Ну и в том числе, конечно же, Anthropic. Но Anthropic просто меньше пользователей, значительно или там меньше xAI для того, чтобы развивать свои собственные модели, свои собственные системы.
Да, потому что я лично убежден, что выиграет тот, кто имеет максимальный контакт с конечными людьми, да. И это произойдет двумя направлениями. Или это постоянные пользователи таких систем, как OpenAI или Anthropic там, или другие. Или, как я рассказывал в выпусках про AI native soft — это программное обеспечение, которое будет в мире создаваться чисто искусственным интеллектом. Если это программное обеспечение создано Anthropic, например, и Anthropic является полноценным его создателем и обслуживает это программное обеспечение, то, по сути, например, представим, Anthropic создал такую систему, как booking.com и обслуживает полностью его, и обслуживается это искусственным интеллектом.
Или даже booking.com заказал у них эту систему, не booking, кто-то новый, да. Booking.com уже не закажет, кто-то другой заказал такую систему и обслуживается на Anthropic, то вот это тоже прямая подписка, я считаю, наверное, гораздо более крутая, чем прямое использование. Это, по сути, как какое-то время выиграл Microsoft или там Android, или у Apple вся его инфраструктура с точки зрения вот этой инфраструктуры Microsoft, в частности, созданием операционной системы. Да, это был очень крутой, ну, просто невероятный выигрыш. Значит, документ состоит из двух логических частей: обязанность разработчиков и устойчивость общества.
Что мы с вами сегодня, собственно, и рассматриваем, да. И вот этот, у них такая есть часть — advanced AI framework, и это вот описание блока для продвинутого искусственного интеллекта. Вот эта часть, она построена не только вокруг требований к лаборатории и к различным лабораториям, которые занимаются искусственным интеллектом. В нем как раз таки вот есть деление очень важное, да. Первая часть — это обязанность разработчиков вот этих самых мощных моделей, оценка рисков, какая-то отчетность большая, да, карта их больших систем, какие-то независимые проверки.
И, кстати, открытость к тому, чтобы сообщать о различных инцидентах и вообще сообщать о том, что происходит с точки зрения безопасности. Вторая часть, которая у них внутри есть вот в рамках этого документа, — это то, что можно было бы назвать общественной устойчивостью. Да, это все, что связано с биологической безопасностью, с кибербезопасностью, с военной безопасностью. То есть готовность к новым типам угроз и способность их обнаруживать, реагировать, сдерживать вред и так далее.
Я, кстати, вам всем напомню, что на сегодняшний день не надо забывать, что компании, с одной стороны, они вроде как для мира и для общества в целом, основаны на своих собственных принципах. А что такое мир и что такое правильность? У нас в мире на сегодняшний день очень широкая зона этого понимания, да. А с другой стороны, эти компании заинтересованы в своих собственных интересах. В частности, например, они выходят, размещаются на рынке, надо увеличивать стоимость их ценных бумаг, стоимость акций и так далее, да, зарабатывать, зарабатывать деньги, зарабатывать прибыль, платить зарплату сотрудникам и так далее.
Есть целая зона, которая касается государству, и мы можем видеть, что американские модели заинтересованы в результате США и, конечно же, в результате граждан США. И есть еще такая часть небольшая, очень интересная. Это все же, а в чем заинтересованы конечные сотрудники этих компаний или корпораций? Потому что все же модели серьезные, как ни крути, они создаются уникальной группой людей. Это я помню в рамках Яндекса мне всегда рассказывали, что есть группа людей, которая всего лишь там буквально пару человек, которые знают по-настоящему, как устроена поисковая система, да.
Или в рамках Google есть пару человек, которые знают, как устроена поисковая система. Так вот, в рамках компании Anthropic, Gemini там, ChatGPT в OpenAI, там, xAI в рамках SpaceX, ну, очевидно, там есть небольшая группа людей, которые понимают по-настоящему, как работают модели. Причем их руководство по факту, как мы видим, не до конца понимает, как работают модели. И, ну, в Anthropic, наверное, максимально руководители понимают, как работает модель. А в других, у меня, честно сказать, большой вопрос с точки зрения техническим образом.
Так вот, еще раз, из-за того, что есть эти две части у документа, Anthropic, по сути, не говорит пусть только лаборатории аккуратно себя ведут. Они говорят, что нужны и правила, нужны правила для лабораторий и укрепления внешних систем защиты общества. Один из ключевых элементов вот этого их документа выпущенного - это узкая область применения, да. Anthropic не предлагает одинаковые требования для любого приложения, стартапа или, там, open source проекта, в целом, да. Вот этот, документ, он касается или правило касается только крупных разработчиков, которые одновременно соответствуют, двум, двум типам порогов, да.
С одной стороны, очень интересно, да, это порог возможностей. Это что он означает? Это значит, разработчик обучает модели с объемом вычислений более десяти. Это как выразиться на простом языке? Это десять в двадцать пятой степени операции с плавающей точкой, да, я. Это десяти флопс я. Если кто-то не поймет, ничего страшного, да. Зачем это нужно вообще в целом? Это понимать именно модели, которые потенциально выходят на уровень серьезных катастрофических рисков, да. Я, кстати, напомню здесь, перед вторым критерием, что как только модель, я как-то, когда-то говорил, как только модель не просто начнет делать софт, я про это очень много рассказываю.
И вот у нас есть, был выпуск на тему того, что искусственный интеллект делает сам себя. Как только модель научится делать оборудование, научится делать софт для микроконтроллеров, тогда мы переходим вообще в другую область контроля, да. Вот там серьезные катастрофические риски вообще другого, мне кажется, характера. Интересно, что про это вообще сейчас не сверхмного говорят, но явно, что у SpaceX стратегия про это. Вот, отдельная, отдельная тема. Ой, не у SpaceX, а у Tesla. Я, кстати, сделаю отдельный выпуск про Tesla и стратегию Tesla, потому что мало кто понимает стратегию вообще Tesla и то, что Tesla — это не стратегия создания и производства машин, да.
Если бы это было бы так, мы бы сегодня увидели невероятное количество разных машин Тесл, разных вариаций, их видов и всего, чего угодно, да. Второй критерий вот кроме этого порога возможностей вот этими с десятью в двадцать пять в степени плавающей точки. Второй — это порог масштаба компании. И здесь они выделили такой критерий, я не знаю, насколько он актуален, мне кажется, они его будут разб-разб-разбирать. Это более пятьсот миллионов долларов годовой выручки в рамках искусственного интеллекта или более миллиарда долларов, вкинутого в искусственный интеллект с точки зрения R&D.
Да, это расходы на исследования, разработка искусственного интеллекта. Вот в этот момент времени мы можем с вами понять, что в целом уже огромное количество стран, компаний, команд просто отвалились, просто отвалились. Все же это постоянные числа, постоянные данные. И в рамках некоторой одной выделенной группы, да. Я уже не говорю о том, на самом деле, сколько туда денег вкидывается реально. Зачем надо вот этот порог масштаба компании, измерять? Чтобы не перегружать маленькие компании и сфокусироваться на тех, кто реально способен, понятно, что строить вот эти frontier модели, да, действительно, по-настоящему, модели.
И Anthropic, кстати, также пишет, что пороги не должны быть вечными, как я сказал до этого, и что агентство должно, агентство какое-то, которое этим всем занимается, должно регулярно пересматривать их, потому что вычислительные мощности, стоимость обучения и возможности моделей меняются. Ну и мы видим, что рынок меняется. Сейчас вот Anthropic с OpenAI должны будут выйти на рынок, по идее, не раньше конца года. По идее, потому что им надо подождать тут, пока SpaceX наберет, у них всякие разблокировки пройдут, ну, а может быть, и раньше они будут. Посмотрим.
И понятно, что на рынок выльется еще больше капитала и, соответственно, что Anthropic еще больше всего захочет пересмотреть. Ну, мне так кажется, что больше всего захочет пересмотреть. Посмотрим. Значит, в документе под катастрофическим риском, да, чтобы мы с вами еще раз посмотрели катастрофический риск, понимаете, не обычная ошибка какая-то чат-бота,
там, или какой-то спорный текст, или спорный ответ модели, или какая-то ошибка агента, или какая-то галлюцинация. Речь о таком вреде, который может существенно способствовать смерти, серьезным каким-то травмам, массовому ущербу, крупному разрушению, там, общества, безопасности и, ну, в целом общественной безопасности, да.
Значит, и есть выделенные такие зоны. Отдельно — это биологический риск. Я думаю, что здесь понятно, что это такое, да. Отдельно — это киберриск. И, конечно, киберриск, я думаю, что его на сегодняшний день люди недооценивают. Я опять же вспоминаю наши рассказы там многие годы назад про квантовые компьютеры и про серьезность вообще этих вещей. То, что есть сейчас системы и пароли, которые взломать нельзя, и этот квантовый компьютер в теории может привести к тому, что этот пароль взламывается мгновенно.
Но сейчас важно понимать, что так как появились модели, то это привносит более фундаментальную угрозу более быстрого нахождения вообще разных дырок в разных системах. И проблема еще какая есть, что система Mythos, вот я вчера с Максом Григорьевым общался. Там же фундаментальная проблема, как он говорит, в том, что Mythos не только нашел невероятное количество уязвимостей, да, а он еще автоматически создал новый функционал для того, чтоб с этой уязвимостью работать. По сути, обошел эти уязвимости и дал возможность людям залезть туда, да. Это большая проблема. Значит, кроме биологического риска и киберриска существует понятие потери контроля.
Это риск, что автономная система искусственного интеллекта будет действовать. Кстати, обращаю внимание, не просто там какой-то искусственный интеллект, который называется Claude, да, Claude, а какая-то вообще независимая даже система, которая использовала этот искусственный интеллект, она будет действовать непредсказуемо, обходить ограничения, скрывать различные действия и так далее, да, то есть сохранять разные цели. Я очень много про это рассказывал в Конституции, в Конституции Anthropic выпуске. Вот только он выходил. Посмотрите внимательно, да.
Еще одна зона большая — это автоматизированные исследования, разработки. Да, это риск того, что искусственный интеллект начнет ускорять создание новых систем искусственного интеллекта или опасных технологий. Особенно это важно, если возникает какой-то цикл, где искусственный интеллект помогает разрабатывать еще более сильный искусственный интеллект. По-моему, они к этому ко всему идут туда, да? И что вы на этот счет, кстати, думаете? Делитесь в комментариях, рассказывайте про это.
Ну, не забывайте, кстати, поддерживать наш проект ToTheMoon — технологические новости, инсайты из Кремниевой долины по всему миру. Очень стараемся сейчас для вас давать интересную информацию, классную информацию, полезную информацию. Я, кстати, сегодня хотел снять выпуск про то, что в Великобритании вводят закон такой же, как в Австралии, что до шестнадцати лет нельзя пользоваться социальными сетями, но все же принял решение до него снять и рассказать вам про вот этот документ Anthropic касательно контроля, контроля государства, да?
Мне кажется, он более интересный, важный, он обогащает ваши знания, в частности, применение использования искусственного интеллекта, да? Еще раз, наш канал, он, я очень хочу, чтобы он был массовый и был рассчитан на большое количество потребителей. Хотя я при этом понимаю, что большое количество людей, наверное, не захотят углубляться в какие-то такие вот сверхдетали, хотя они невероятно сильно полезны для того, чтобы понять, что такое вообще искусственный интеллект и как минимум не быть, ну, реально тупым в этом вопросе.
Потому что большинство людей вообще не разбираются в искусственном интеллекте, ничего не понимают, не знают и даже не понимают такие понятия, что такое искусственный интеллект, что такое агенты. И вот мы вчера с Максом Григорьевым, сидя в Сан-Франциско, пили чай. Вначале мы сходили в кофейню, которую создал, создал создатель бывшего Twitter, да, которую выкупил Илон Маск у него. И посидели там в кофейне, вернулись к нему домой, пили чай, обсуждали разные темы и, в том числе, столкнулись с тем, что а термины-то? Люди-то термины не понимают.
Решили с ним на эту тему снять определенный выпуск. Через несколько недель он будет. И мне кажется, у нас должна будет получиться с Максом классная, крутая дискуссия, да? Макс как интересный рассказчик, как невероятно сильный архитектор, программист, исследователь и как человек, фундаментально понимающий искусственный интеллект, участвующий в очень серьезных проектах, он классные вещи тоже может привнести. А я принесу со своей стороны, со знаний, там, бизнеса, со знаний такой продуктовой разработки и, ну, со своими какими-то личными подходами тоже туда придет выпуск.
Поддерживайте тоже эту историю. Так вот, Anthropic называет эти четыре категории, которые я рассказал: вот это биологический риск, киберриск и так далее, да? Вот эти перечисленные риски, значит, четыре группы, значит, четыре эти группы, значит, он их отдельно выделяет и делает на них очень сильно акцент, да? И это очень сильно важно, потому что документ не делает вид, что все риски одинаковы. И документ этот очень специально фокусируется на рисках, которые могут стать катастрофическими.
И все же важная, большая здесь история, что такое катастрофические риски. И есть риски очень простые, да, из серии, там, исчезнет какая-нибудь компания. Вот я как говорил, там, мне скорее кажется, Nebius выживет, чем Booking.com. Хотя у Nebius, мне кажется, тоже есть вопросы. Я ехал вчера в Сан-Франциско и висел у них баннер, что это ферма токенов. Я надеюсь, они не начнут играть в современный софт, а будут очень сильно развиваться, как и развиваются сейчас. Мне очень нравится эта команда, компания и вообще команда. Большие молодцы. Очень странно, что такая компания в такой сфере, системе, в таких объемах появилась одна. Ну, посмотрим.
Что компания признает, что публичные отчеты, раскрытие разных методик, данных. Обратите внимание, что сейчас уже никто не сравнивает вот эти там какие-то проценты, сколько тест, какая модель прошла человечность. Все перестали про это публиковать все. Значит, добровольное вот то, что они обычно делают добровольные подходы о безопасности, полезные всякие, что, что этого как бы недостаточно, да? Что для моделей, которые могут создавать катастрофические риски, простой публикации документов и исследований уже очень мало.
Кстати, обратите внимание, вот, например, Грег Брокман в своем Твиттере, в своем X вчера выложил о том, что появилось крутой UX/UI в ChatGPT, о том, как фотку прикрепить, фотографию прикрепить. Я подумал: интересно, слушайте, ну, главнейший человек в OpenAI, а он сообщает о том, как прикрепить фотографию. То есть мы находимся в некотором хаосе вообще доступности к информации. И чтобы разобраться в том, что на самом деле происходит, надо потратить, ну, достаточно большое количество времени. Даже мы у себя на канале выпусков уже снимаем, мне кажется, часы в неделю.
По-настоящему то надо тратить десятки часов каждую неделю, чтобы понимать, что происходит в реальности. А вот те люди, которые законы принимают, главные, которые принимают решения, ну, явно они это не делают. И поэтому логика такая, что у Anthropic, что они говорят? Что если компания сама оценивает свою модель, сама выбирает, сама выбирает тесты, сама пишет отчет, сама принимает какие-то решения о выпуске, то возникает конфликт интересов, да. Особенно если эта модель, кстати, хочет выйти на IPO, как Anthropic. То есть даже добросовестная компания может недооценить риск.
Особенно, конечно, если конкурентная гонка движется и опять же, есть конкурентная гонка с Китаем. Еще раз, при всех обстоятельствах я, конечно, про IPO там смеюсь и так далее, хотя это очень тема важная. Еще раз, мир феноменально сейчас, ну, то, что сейчас в мире происходит, это, это невероятно, да? Тут, значит, параллельно война идет у США с Ираном в непонятных обстоятельствах. Рынок технологический супер как сильно двигается с точки зрения Китая и США. И тут, значит, SpaceX выходит на IPO, и вчера оценка достигла, в какой-то момент времени обогнала Microsoft.
Это же очень серьезно, это очень серьезно. Кто-то скажет, что это перегретый рынок финансовый и так далее. Это отдельная тематика с точки зрения финансового рынка, да. Я очень много инвестирую в инфраструктуру, да. Я в SpaceX, конечно, можете покупать, но я лично покупаю тому, кому они деньги платят, и считаю, что это правильнее делать. Но все же это очень серьезный показатель на то, что в мире происходит, да. И понятно, что это повлияет на всю инфраструктуру всех стартапов, которые делаются в Кремниевой долине, в мире, инвестиционного, венчурного рынка, разработчиков, образования и, конечно, вас всех и нас всех, да, с точки зрения наших профессий, подходов, деталей и всего остального, да.
Вот, а Anthropic в этой частности, конечно, предлагает вот то, что я говорил про прозрачность, переход вот добровольной к этой прозрачности, к модели, в переход в такую тему, где есть обязательно какие-то отчеты, независимо проверяющие, доступ государства и так далее. Хотя мы с вами вспоминаем, да, что Илон Маск сам возглавлял контрольную службу проверки, как работает государство, в частности, в прошлом году. Вспомним с вами, что не так много они всего нашли, да. И поэтому насколько государство может проверить модель, которая является сама какой-то уникальной сверх, я вам честно скажу, я не до конца в это верю.
То есть я не до конца верю вообще, что это возможно. То есть как государство может проверить модель, которая изначально является такой сверхкрутой, которая сама себя проверить не может. И эти компании, которые ее создают, проверить не могут. То есть это, мне кажется, что очень серьезная история, да. То есть сам факт вообще этого тезиса, он очень спорен, он очень спорен, потому что никакие люди, никакие тесты, никакие зависимые команды найти, проверить это не могут. И мы с вами это видим, да. И мы много в выпусках ToTheMoon рассказываем, как каждый раз после выпуска новой модели, которая все еще стала круче, появляются какие-то со стороны агентства и сама же эта компания находит внутри ошибки.
Эти ошибки, они становятся все фундаментальнее и фундаментальнее. И единственное, что произошло, это то, что начали появляться такие модели, как Fable. Мы до конца даже еще не знаем, что это за модель, потому что она вообще-то была очень серьезно ограничена компанией Anthropic. И начали появляться такие модели. И появившись эти модели, они внутри в себе несли очень сумасшедшие проблемы, да. Anthropic предлагает, что вот покрываемые, чтобы разработчики публиковали и регулярно обновляли собственную, вот это собственное ограничение по безопасности, да.
То, что называется фреймворк безопасности. Ну, ограничение по безопасности нормально так, наверное, если я вам скажу. И это не маркетинговая декларация, да, которой можно было бы сказать, что, например, или такая пиарная декларация, а очень много пиара. Вчера с моим товарищем в искусственном интеллекте, ну, тут сильно по всем ездит, по серьезным людям. Я ему каждый раз говорю, когда он мне про кого-нибудь рассказывает, или я ему рассказываю, все время говорю: "Слушай, надо всегда смотреть, эти люди, они тебе пиарную вещь рассказывали.
Это реально то, что они реально делают, да. Потому что мы живем в мире бесконечного обмана или ненастоящих данных и ненастоящих знаний". Так вот, вопрос Anthropic, который задает это и который делает, что это не маркетинговая такая декларация или такое пояснение, что мы заботимся о безопасности, да, а такой достаточно структурированный документ, в котором описано, какие модели покрываются, какие риски оцениваются, какие тесты должны проводиться, когда проводиться, кем проводиться, какие меры должны приниматься, да.
Очень важно! Для снижения риска. И кто отвечает за принятие этих решений. То есть, ну, очень серьезно. И что они говорят? Что, что вот эти ограничения, они должны быть не разовыми, да, и что эти ограничения, они должны обновляться, и что руководство компании должно ежегодно подтверждать, что вот эти правила, они действительно применяются, по-настоящему применяются, по-настоящему используются. Вопрос вот этот вот ежегодно, ежемесячно или когда, он мне тоже вызывает вопрос. И, конечно, это переносит вопрос безопасности из уровня, конечно же, исследовательской команды, коей все еще считали себя и OpenAI Anthropic.
Хотя, судя по топ-менеджменту OpenAI, они уже так себя не считают. Они переводят себя на некоторое такое корпоративное управление. Ну а мы видим, OpenAI еще в прошлом году стал очень сильной корпоративной структурой с учетом того, каких руководителей из каких компаний они нанимали, да. Вот, они наняли много достаточно серьезных лиц из крупных, крупных корпоративных структур. И некоторых, правда, уже отодвинули в сторону. И все же они отошли от исследовательской компании. А я бы мне кажется, что лучше было бы оставаться вот этому 1 млрд человек подопытными у них котиками или кроликами, потому что они очень сильными, быстрыми темпами двигались.
И, кстати, на момент запуска этого выпуска все еще у Anthropic, у OpenAI остается 5.5, 5.5 Pro, 5.5.high. В рамках Codex мы все еще видим некоторые прошлые модели. Кстати, OpenAI выложила очень интересное новое исследование. Мы о нем поговорим в нашем подкасте вместе с Ильнаром и вместе с Таней, который проходит в воскресенье. Касательно того, как они научились тестировать новые модели на старых чатах. Мне кажется, очень прикольная идея, которая, которая вообще, значит, существует.
У Anthropic есть описание такое, значит, что должно быть представлять из себя отчеты по рискам, которые публикуют вот эти компании, которые подходят под эти два, напомню, вот этих больших требования. И этот документ должен показывать, какие возможности у модели есть в опасных областях, какие там тесты проводила компания, и что заметили внутри разработчики, какие угрозы рассматривались, кто тестировал, как тестировал и так далее. Кстати, например, модель Fable от Anthropic до ее выхода тестировалась чуть ли не тысячами людей, в том числе с разных стран, с серьезными достаточно командами именно на поиск уязвимостей, да.
И Anthropic предлагает регулярность минимум в шесть месяцев. Вот касательно этих отчетов и смысл регулярности в том, что возможности модели быстро меняются, и модели может стать опаснее не только из-за нового релиза, но из-за новых инструментов, там, новых способов, новых данных, вообще чего-то нового, что в мире произошло, новой инфраструктуры и так далее. Значит- Это все будет снижать риски, которые будут проходить в мире. Значит, есть такое понятие у них, как карта системы и такой отдельный документ о конкретной модели или системе.
Этот документ должен быть обязательно создан, и в нем должны быть описаны способности модели, различные ограничения, как она работает и так далее. Мне кажется, что это очень крутая вещь, и это даже поможет миру, поможет от ученых до философов, от обычных потребителей до бизнесменов разобраться в том, как устроены модели. Это как раз таки, мне кажется, что вот такие документы — это как, в частности, конституция компании Anthropic — это, конечно, не карта их системы, но все же — эти документы, они помогают очень сильно во всем разбираться.
Anthropic базово предлагает обязанность сообщать государству о критических инцидентах безопасности, которые обнаружили компании там в течение пятнадцати дней, они так описывают у себя после обнаружения. И, конечно, они пишут, что не каждый баг и не каждая жалоба пользователя должны туда сообщаться, что речь идет о каких-то серьезных весовых таких, если это можно сказать, весовых проблемах, которые происходили. И это важный переход, наверное, от "мы сами разберемся внутри компании" до того, что ребята, нам, значит, требуется или государство, да, нам требуется в этом помощь.
Не понимаю, как это будет работать в такой стране, как США, с точки зрения демократических все же институтов и демократических, более или менее демократических и сознания компании. Это не Китай. Вот то, что Anthropic описывает, это, мне кажется, переверженность Китая, похоже очень на Китай. Непонятно, как США смогут вообще воссоздать такую структуру и параллельно сохранить вот эту конкуренцию с Китаем, о которой говорит огромное количество людей. Но просто кто-то считает, что конкуренция должна быть в изолированности от Китая, а кто-то говорит об открытости. Например, Дженсен Хуанг, глава NVIDIA, говорит про некоторую открытость.
И это один из ключевых тезисов вообще компании. Компания признает, что их экосистема и их экосистема вот этих независимых людей, которые им помогают, независимых оценщиков, она очень незрелая, и считает, что ее надо прямо сейчас развивать. Кстати, OpenAI выпустил сегодня, сегодня партнерскую программу открыл о том, что они хотят создать четыреста тысяч квалифицированных консультантов и партнеров, которые будут, значит, сертифицированы в мире и так далее. Очень похоже на их очередной пиар-ход, если честно сказать. А было бы круто, если бы люди… Почему?
Потому что когда я зашел, ее изучил, оказалось, чтобы там стать этим вот сертифицированным консультантом, ты должен иметь какую-то подтвержденную… Вот мне кажется, что это настолько минус большой, да? Подтвержденный опыт доказанной работы в компаниях с искусственным интеллектом. Мне кажется, кого надо искать — это компании, команды или людей, которые вообще понимают зрело, что такое нормализация данных, что такое бизнес и что такое бизнес-логика, умеют создавать продукты. И эти люди, конечно же, разберутся в искусственном интеллекте. И вот они-то и могут явиться настоящими консультантами, а не такие типа консультанты, которые профессиональные компании-разработчики, которым получилось залезть в какую-то крупную компанию, получить у нее контракт, а по факту внутри особо ничего не сделать.
Это как объявила Meta сегодня, что у них пару месяцев назад они объявили код такой о том, что надо максимизировать количество токенов. Цукерберг выступил, что все сотрудники обязаны использовать токены, и у них в компании появилось у многих сотрудников соревнования о том, что люди должны, значит, максимум токенов использовать. И токенов стали использовать столько, что в отчете говорится о том, что они будут тратить миллиарды долларов только на токены. И сейчас они думают, как с этим разобраться, как решить эту проблему. Вот и профессиональное использование. Anthropic отдельно признает риск, что компания может выбирать не самого строгого, а самого удобного независимого оценщика у себя.
И это называется такое, у них такой есть прямо термин — поиск удобного оценщика. И это как в английском языке звучит это "shopping". Да? И в такой ситуации формально, ну, это как все же маркетинговая такая вещь, значит, в такой ситуации формально независимая проверка, она превращается в определенный ритуал и, по сути, опять же перестает работать. Это вот очень сильно похоже на тот пример, который я вам только что рассказывал с OpenAI, что это вот многие вещи, которые делают OpenAI, они похожи на некоторую ритуальность.
Поэтому Anthropic как раз таки предлагает развивать экосистему оценщиков, какие-то стандарты лицензирования, какое-то финансирование их. И не зря, кстати, OpenAI сегодня выпустил документ на вот этих консультантов и сказал, что он на них потратит там сотни миллионов долларов. Еще раз документ, сразу видно, что это как будто не независимое. Anthropic предлагает создать что-то независимое, но у меня есть ощущение, что независимое что-то у Anthropic будет такое же зависимое, да, пока.
И еще раз, как можно проверить сверхсистему? Ну, какие-то в ней детали, конечно, можно найти, но если сверхсистема стала сверхсистемой, то она сделает все, чтобы вы ничего не нашли. По идее. Значит, с Максом Григорьевым это отдельно обсудим.
Anthropic различает два понятия внутри очень интересных — это безопасность модели с точки зрения вреда и безопасность или защищенность модели и инфраструктуры от кражи, взлома или какого-то злоупотребления, которое может быть. То есть даже если публичная версия модели хорошо ограничена, ее веса модели могут быть украдены. И если веса модели, значит, попадут к людям, которые хотят что-то украсть или обмануть, к каким-то злоумышленникам. Соответственно, они могут, запустить модель без, вот этих вот ограничений.
Да, поэтому безопасность - это не только, это не только фильтры каких-то ответов, это защита инфраструктуры, защита инфраструктуры обучения, причем, да. Доступа сотрудников различных партнерских программ, защиты, там, API и так далее. Очень серьезная история. В том числе документ описывает защиту от дистилляции, да? Дистилляции, напомню, занимается Китай относительно американских моделей. Кстати, я не сильно верю, что такие модели, как Anthropic, последние, даже Opus, там, четыре точка восемь или Fable, или такие системы, как ChatGPT пять пять Pro Hi можно дистиллировать.
Вот я лично в последней системе не сверхверил защитным механизмом OpenAI Anthropic. Какие-то вещи можно сделать, но то, что находится у них внутри, та инфраструктура, которая есть внутри, те объемы данных, которые есть внутри, и продолжающиеся исследования, которые есть внутри, они же не про то, как отвечает модель. Все. Я вот сейчас провожу достаточно большое исследование анализа своих чатов в ChatGPT за несколько лет. Я хочу сказать, что я много в разных выпусках про это рассказываю, в том числе в нашем основном подкасте. Я очень хочу, чтобы вы получили к этому тоже доступ.
Не просто к моим выводам, а доступ к тому, чтобы вы смогли это сделать. Но те выводы, которые я вижу в первую очередь, это то, что, конечно, понять, кто я такой на сегодняшний день не способна ни одна модель, даже если ее сверх сильно обучить, настроить, кучу, кучу всего сделать. Все же это не описанные данные в интернете, да? Именно поэтому модели до сих пор врут и обманывают, говорят противоположные вещи, разные вещи, все остальное. Но я продолжу это делать. Я, конечно, глубоко убежден, что модели научатся, научатся это делать, и когда они научатся так делать, начнут выигрывать такие компании, как SpaceX в связке с Tesla, потому что они создают оборудование.
Да. Тоже многое рассказываю там про оборудование, про все. Вместе с вами увидим, обязательно это и будем вместе смотреть. Значит, кстати, Anthropic пытается избежать крайности определенной, чтобы государство получило слишком широкую власть блокировать любые модели. Понятно, что это будет использоваться не очень хорошо, особенно, в частности, например, в США все же есть у разных агентств свои права. Где-то имеет право высказываться главный человек там страны, а где-то какие-то агентства, и они не зависят от этого человека. Мы видим, как многие законы, которые были приняты при текущем правлении, просто отменяются.
И, в частности, например, был принят закон о том, что там надо платить за рабочую визу, например, в США умным специалистам сто тысяч долларов, ее чик-чир отменили. Ну или тарифы, там, приняли тарифы, что есть у США тарифы, хоп, их отменили. Соответственно, это большой вопрос вообще. А кто в государстве способен принимать такие решения? И в этот момент времени вот этот клан дружит с Anthropic или не дружит, да? Ну что, как мы видели, когда захватили, значит, в, в Венесуэле президента и использовали вроде как код AI компании Anthropic.
Компания Anthropic выступила против этого. Ну и тут же государство дало, значит, по шапке Anthropic и заявило, что вам вообще хана, с вами никто работать не будет. А по сути, в Anthropic то ничего не произошло. Хана то не случилось, да? В других бы странах, казалось бы, эту компанию уже давно закрыли или на кого-то бы завели уголовные дела. Но это США, все же, это демократическая страна, демократический институт. Со своими историями, своими кланами, но все же по-настоящему. И, кстати, поэтому, именно поэтому Anthropic предлагает судебные принуждения, судебные пересмотры, ограниченная какая-то дискреция агентств и одинаковая обработка сопоставимых моделей.
Иными словами, компания не хочет, не административный произвол, а правовую процедуру, да? Очень, очень круто. Смогут ли они, правда, создать такую судебную систему, как они это настроят, как это к чему будет относиться, посмотрим. Потому что мы видим, я вижу в США, что в разных штатах люди относятся к искусственному интеллекту настолько по-разному. Посмотрите, что происходит. И вообще, как люди к личностям относятся. Вчера я так гулял в воскресенье в Стэнфорде вместе со своими детьми, и мы случайно оказались, оказался этот день на территории Стэнфорда.
Там были выпускники и приезжали все эти выпускники в мантиях и так далее. Их было очень много людей. И потом я увидел ролик в интернете, где выступал глава Google. И когда выступал глава Google, огромное количество людей встало и ушло в протест, да, выпускников, в протест ему, потому что он поддерживает, например, текущее государство. Ну и все. Вот они, значит, в протест и Gemini становятся, в протест всей компании Google, да, в достаточно серьезном учебном заведении. То есть мнение очень сильно делится.
В американском контексте очень важен термин вытеснение, отмена законов штатов федеральным законом, да. И то, что про что я сейчас вам говорил, и Anthropic говорит, что сильный федеральный стандарт был бы лучше, потому что единые правила проще и надежнее. Но если федеральный закон окажется слабым, он не должен автоматически отменять более строгие законы штатов. И, конечно, это всего лишь рассуждения компании Anthropic, потому что все же в США есть Конституция, есть правила, есть очень важные вещи, которые описаны и которые рассмотрены.
Кстати, в биологической части, в частности, биологической безопасности. Хочу еще, кстати, этот фактор сказать, что Anthropic говорит не только о запрете опасных запросов к модели, она предлагает укреплять весь так называемый внешний контур биологической безопасности, предотвращения обнаружения, там, реагирования. Угроз разных, развития, медицины и всего остального, да? То есть в документе перечисляются направления, в том числе модернизация, безопасности в биозащите, закрытие проблемных дыр, которые сейчас существуют с точки зрения медицины, надзора, законов, всего останого.
И здесь знаете, что можно увидеть? Здесь можно увидеть интересную вещь, что Anthropic, с одной стороны, очень круто про все рассказывает, про то, как она открыто все что-то создает, а в то же время, когда ты создаешь систему такую и говоришь ей, контролируйте ее, то по-честному ты получаешь еще миллионы, подопытных кроликов-контролеров, да? И они нужны ли они модели для того, чтобы еще больше, еще больше стать, стать крутой с точки зрения надежности и способности предотвращать такие вещи, да?
Вот здесь, конечно, я бы, делал большой вопрос и лично ставил. Но опять же, есть Anthropic, независимое мнение. Вы свои мнения здесь выскажете. Дальше, кстати, в частности к кибербезопасности Anthropic делает ставку на защиту как раз таки наследуемых систем. Это то, про что я сейчас вам сказал. И быстрое исправление, и искусственного интеллекта с точки зрения для обороны, да, его, этих вещей. И вот здесь вот непонятно, что значит, где что предусматривает, что от чего защищается.
Отдельный блок, огромный блок, очень интересный в Anthropic есть то, что касается рынка труда, безработицы и распределения выгод вообще, да? И, ам, есть отдельный экономический документ, и экономический документ Anthropic начинается с сильного предположения, что если искусственный интеллект станет общей заменой человеческого труда, то главная проблема будет не в создании роста, а в том, чтобы распределить, не знаю, ресурсы, деньги, выгоды, возможности, да? То есть экономика может стать богаче, богаче, а производительность может вырасти. Но! Они тоже говорят, что доходы и власть, ну, в частности, мы видим по Илону Маску больше 3 трлн долларов, могут концентрироваться вот этих у владельцев капитала, вычислительной инфраструктуры и у компаний, занимающихся искусственным интеллектом.
И, конечно, как бы мы ни крутили, что бы мы сегодня ни говорили, про какие бы компании бы ни рассказывали, но власть на сегодняшний день у этих компаний. Вопрос, конечно, кто этими компаниями по-настоящему управляет. И мы видим, что единственная компания, где еще более или менее виден лидер, — это SpaceX. В Китае — это китайское правительство. Но вот в Америке в одной компании SpaceX, потому что все же в OpenAI, в Anthropic и в Google, кто им управляет — это большой вопрос. Большой вопрос, да? Кто на самом деле, что это за люди, которые формируют очень сильно повестку.
Потому что, судя по некоторым руководителям, кто-то где-то более маркетинговый, кто-то где-то более такой политический, пиарный, кто-то более такой технический. Но кто формирует настоящую повестку, да? В документе Anthropic отдельно говорит, что он не стремится к вытеснению рабочих мест ради самого вот этого вот вытеснения. И компания, они, они, конечно, очень четко признают, что финансовая поддержка может быть очень сильно необходимой и что человеческое достоинство связано там не только с деньгами, и что работа, где, которой занимается человек, то есть нельзя просто закрыть работу и дать денег, значит, всем навалить на счет, да?
Что работа человеку дает определенную социальную значимость, какие-то связи, друзей, знакомства, идентичность. Ну, мы в целом с вами знаем, что в термине, в американском термине работа — это жизнь, да? Недавно очень интересно, я люблю про эту фразу говорить. В Америке есть фраза: "What do you do for living?" И по идее спрашивают вопрос: "Что вы делаете для жизни?" В Америке, ну, что я делаю для жизни? Ну, дышу, живу. А в Америке надо отвечать, где вы работаете, да? То есть в американской системе, в самом языке зашито, это просто зашито, это фундаментально, что вся твоя жизнь не может быть без работы.
То есть работа невероятно сильно необходима. Я, кстати, не считаю, что искусственный интеллект заберет рабочие места. И вот эта тема, что кто-то уволил людей, потому что искусственный интеллект позволил ему это сделать. В основном, я считаю, что люди могли просто где-то как-то оптимизироваться, но они сверхлучше от этого не стали работать. Потому что если компания лучше работает, она будет нанимать еще больше людей, да? И вот, в частности труда Anthropic заявляет, что политика должна, по сути, и государство остановить вот некое развитие искусственного интеллекта.
И Anthropic использует такой термин, как "купить время", да? Что политика должна купить время для вот этой адаптации, потому что адаптация не произойдет автоматически у общества и у людей, у граждан, у всех. Вспоминаем, что искусственный интеллект развивается экспоненциально. И это, конечно, проблема. Огромное количество компаний будет изменяться, закрываться, будет перераспределение вообще власти, людей. Кто знает, кто не знает, кто что умеет, как умеет делать, где умеет делать, что умеет делать, да?
И те из вас, небольшое то из вас количество людей, которые по-настоящему используют искусственный интеллект, по-настоящему только, я вам рекомендую для себя всегда ставить историю, что вы используете это не по-настоящему. По-настоящему используют искусственный интеллект, конечно, эти люди будут, ну, достаточно сильно отрываться от всех остальных, невероятно сильно отрываться. И, кстати, Anthropic указывает, что сами компании, включая тому же Anthropic, они создают вот этот вот переход.
И что искусственный интеллект можно внедрять не только для сокращения людей, а для расширения возможностей, конечно, сотрудников, для более лучшего там обучения, повышения у них качества работы и так далее. У меня это до сих пор вызывает вопросы, потому что я вижу, как во многих компаниях внедряют, например, инструменты развития продаж. Но если ты придешь по факту и смотришь, и скажешь: "А продажник начал больше денег зарабатывать? — Нет. А продажник начал больше продавать? — Не начал".
И вот это, конечно, вызывает большие вопросы, что на самом деле происходит. И Anthropic предлагает такой базовый слой до любых радикальных мер. Они говорят о том, что надо, значит, измерить, получить огромное количество данных, получить какие-то ранние сигналы и чтобы у государства была способность отслеживать влияние искусственного интеллекта на рынок труда, и что без измерения политика будет спорить на уровне догадок. Я убежден, что ни одно государство в мире не способно это сделать. Вообще эти измерения, ну, в большом масштабе, я сейчас не говорю про микространы, такие как Сингапур, они в своем объеме способны это сделать, и то с догадкой, да, потому что они не обладают этими же самыми моделями, да, и этими же самыми системами внутри. Но они способны, наверное, максимально там эффективно и быстро внедрять.
А с точки зрения массово, конечно, это делать очень тяжело, потому что придется модернизировать, ну, невероятно сильно инфраструктуру. И мне очень сильно не нравится, что Anthropic разговаривает о безработице, что они уже рассматривают искусственный интеллект, тот, который создаст безработицу. Это закладывание очень серьезных проблематик, в том числе в рассуждения общества. Вот при всех, при всех, значит, аспектах. Но Anthropic строит экономические меры. Все же, да. Мое рассуждение в бок убрали. Ориентируемся на рассуждения Anthropic. Anthropic строит экономические меры по трем сценариям безработицы, да.
И документ, их документ вот этот, о котором я вам рассказываю, он организует меры по степени серьезности. И главный триггер — уровень безработицы.
Хотя Anthropic подчеркивает, что надо смотреть на различные другие показатели. Они рассматривают вот эти три сценария. Значит, первый сценарий — это около пяти процентов безработицы и, но внутри может быть очень сильное перемешение профессий. Это вообще очень интересная вещь по поводу перемещения профессий и по поводу вообще изменения рынка. Да. И они все же этот документ для государства сделали. Я хочу вам это показать, да, что они вот этот первый уровень. Они говорят, что смысл политики — помочь людям адаптироваться, сохранить стимул к работе, дать капитал и какое-то вот дать, застраховаться на период, как я сказал, заморозить время, поставить на паузу.
Второй уровень — это около десяти процентов безработицы. Это серьезный экономический шок вообще в целом. И, соответственно, при этом государство тогда должно всем денег дать, накидать, расширить вот поддержку населения с точки зрения доходов, переобучение какое-то сделать и помочь в базовых нуждах. Очень спорно. И третий уровень. Они называют его, что безработица может быть беспрецедентная и, возможно, структурная безработица, да. И, конечно, тогда придется создавать какие-то совершенно новые механизмы. Конечно же, Anthropic сам не знает, что в данном случае делать, потому что это исключительно рассуждения, да.
Потому что вот в этом третьем сценарии Anthropic говорит уже не о временном кризисе, а о потенциальной трансформации экономики. Если искусственный интеллект массово заменяет труд и традиционная система, значит, работа, зарплата, налоги, социальная поддержка просто перестает полностью работать. А если взять страны, представьте, в которых на самом деле вот эта социальная поддержка — это некоторая абстракция даже с точки зрения там пенсионных фондов, вообще инвестирования всего и так далее.
Страны, которые специально что-то делают. Ну, такая, не демократический, не экономический, не рыночный подход. Там получается, что просто хаос наступает, да. Хаос, скорее технологический хаос, да. Это откатывание, невероятное откатывание назад, да. И Anthropic перечисляет возможный инструмент. О нем, мне кажется, два года назад очень много людей разговаривало. Это универсальный базовый доход. Я даже и не хочу вам про него рассказывать, потому что это, это разговор ни о чем. Это разговор о том же, что прилетели инопланетяне.
То есть вот возможна ли ситуация, при которой искусственный интеллект станет настоящим хотя бы как в фильме "Первому игроку — приготовиться", да, или по-настоящему такому, как в фильме "Обливион". Ну, возможно. Ну, вот история с точки зрения, с этим базовым уровнем дохода и с выплатой этих денег, она, конечно, очень специфическая. Я бы ее просто бы на самом деле постарался бы для себя, для вас лично отложить, потому что это уже некоторая абстракция, это очень философская абстракция, и это, про это неплохо знать как один из возможных вариантов сценария, спокойно, очень нейтрально к этому относиться.
Но в рамках вашей жизни вы к этому не сможете подготовиться, не сможете ничего сделать и не сможете вообще ничего говорить. Отдельная, кстати, история вот у Anthropic есть — это эссе Дарио Амодея, и оно не заменяет официальный документ, но помогает понять логику. Я вообще всегда говорил, что одно дело — выпущенный документ, а другое дело — про то, что думает на самом деле команда. Но все эти эссе, они все согласовываются политикой, экономикой, маркетингом, финансами там, всем остальным. Но все же.
Значит, Амодея использует образ, я как-то про него уже говорил, из Толкина "Не будь слишком поспешным". Что хороший совет для обычной политики, но искусственный интеллект, движется настолько быстро, что чрезмерная медлительность тоже становится риском. И вообще, в целом, мне кажется, это подход, Anthropic, что и медлительности быть не должно, и, значит, мы должны за всеми поспевать. Что если мы поставим на паузу, то кто-то другой все равно в любом случае это создаст. А тогда зачем надо ставить себя на паузу? И поэтому, поэтому, конечно, это большие вопросы.
И он там выделяет у себя разные зоны, которые касаются, опять же, общественной безопасности, касаются макроэкономики и труда. Например, что искусственный интеллект может создать огромный рост, но также гипернеравенство. Anthropic очень много говорит про гипернеравенство. И Амодей подчеркивает, что массовое вытесняет работы, нежелательно и нужны измерения, поддержка, там, налоговая политика, подготовка и так далее, да. Он отдельно описывает позитивные применения, что государство не только должно ограничивать риски, но и ускорять пользу внедрения искусственного интеллекта и в целом способствовать развитию искусственного интеллекта.
То есть, вот. И мне кажется, что Соединенные Штаты Америки неплохо отреагировали на возможности развития искусственного интеллекта. Но что мне кажется большой проблемой, то, что до сих пор, до сих пор государство не понимает, как на самом деле внедрять искусственный интеллект и создавать невероятно крутые системы, как, собственно, и мировые стартапы, мировые компании не понимают по-настоящему, а что реально надо делать. И, кстати, Амодей отдельно говорит о рисках AI-наблюдения, да.
То есть то, что искусственный интеллект изучает людей, все, что касается гражданских свобод. И вот в плане, там, автономного оружия, доступа государству к данным и так далее. Но мне кажется, что это такая тема очень специфическая, потому что у государства и были данные. Вопрос в том, конечно, что те данные, которые на сегодняшний день имеет искусственный интеллект, люди вообще недооценивают, что он имеет. И это, конечно, феноменальные вещи. И даже, в частности, вот с тем, с чем я столкнулся, оценивая два года своей работы в ChatGPT, а поверьте, я один из таких очень больших пользователей чата ChatGPT в OpenAI.
С точки зрения личных чатов, персональных чатов, работы, бизнеса и всего, я могу, конечно, сказать, что он получил феноменальное количество информации, в том числе пока, но пока не может ее обработать, да. И если будут существовать мощности, которые смогут это обработать, и еще они подключатся дополнительно к другим системам, которые смогут обработать, ну, это в рамках, например, таких государств, как Китай, или это было бы возможно в России, например, да, но там не будет таких возможностей технологических, то, конечно, это большая беда.
А если это искусственный интеллект, который сам может получать доступ к таким системагам, то, конечно, это Oblivion. По-другому, кроме Oblivion и ничего, и ничего произойти, наверное, и не может, да. Значит, хочу еще добавить такую историю, что в тексте OpenAI, у OpenAI есть текст, это "Управление сверхинтеллектом".
Я, по-моему, как некоторые вам тезисы дополнительные выскажу с точки зрения вот этого документа Anthropic. Мне кажется, это достаточно важно вам будет это услышать для понимания всей этой картины. Вот. Говорится о том, что самые сильные системы могут потребовать особого режима. Чтобы понять, зачем я вам хочу это рассказать? Чтобы понять, другое поле зрения, да, относительно Anthropic. И вот это особый режим, это международной координации, там, проверок аудитов. И, кстати, OpenAI использует вот эту тему по поводу международной координации. А вопрос, кто будет в этой международной координации?
Там будут государства, политики, там будут компании искусственного интеллекта, там будут какие-то фонды, там будет ООН. Кто там будет, да? И мы видим на сегодняшний день, что в обычных вещах, простых с точки зрения античеловечности, убийства огромного количества людей, издевательства над людьми в разных странах, эти системы не могут это решить, эти вопросы решить, которые, по сути, фундаментальны с точки зрения здравого смысла и здравого смысла развития человека, да. На разные законы с точки зрения того, кто сидит в тюрьме, когда сидит, политики. А здесь же, в рамках искусственного интеллекта возникает совершенно другая форма.
И как сделать вот эту междугосударственную, вот эту развертывание междугосударственное, вот эту координацию, это, конечно, очень сложно. И, по сути, кстати, OpenAI говорит о том, чтобы создать отдельную некоторую ассоциацию, похожую на Международное агентство по атомной энергии. Мне кажется, что эта тема достаточно сложная и проблемная, потому что даже если посмотреть на развитие ядерного оружия, то, по сути, ядерным оружием должны обладать страны, которые, значит, якобы его имели до определенного момента времени, да.
А если после этого определенного момента, то они не могут, только если они не были согласованы. Та-та-та-та-та-та-та-та-та. И вот мы сейчас видим большой конфликт, который есть между Ираном и США, в частности, тоже на эту тему. И здесь вопрос: а кто принимает решение, кто вообще такие модели может иметь? И, по сути, не будет ли это агентство, не скажет ли потом, что, там, модели могут иметь вот эти четыре страны, да? Или доступ к крутым моделям могут иметь только определенные компании или только определенные люди. Где есть отличия между OpenAI и Anthropic?
OpenAI сильнее делает акцент на том, что решения должны приниматься демократическими государствами и обществом, а не частными компаниями. Но вообще не факт. Смотря на OpenAI. Но я вот сейчас вам говорю про их документ. В публичном контексте OpenAI также говорил, что не частные лаборатории должны решать, кого поставить на паузу, а демократические правительства должны устанавливать правила. Я напомню, кстати, не Anthropic подписал с государством контракт через буквально несколько дней после того, как с ними вместе поссорился и сказал, что мы против использования наших моделей при уничтожении определенных людей в разных государствах. А OpenAI подписал контракт.
В этом контракте была очень интересная тема написана, что OpenAI система не должна использоваться во вред людям, а именно гражданам США. И государство должно иметь, и военные службы, полный доступ к этим системам. Единственное, что ограничивать — это слежку и использование этой системы против, против, против США. Есть, конечно же, огромное количество, людей, которые имеют обратные точки зрения, и кто-то всегда будет сугубо за искусственный интеллект, а кто-то будет высказываться, что искусственного интеллекта не существует, и говорить, что его вообще нету. И это все фейк.
Вы что про это думаете? Вы как про это вообще видите? Вы что сами про это знаете? Жду комментариев в этом ролике о полезности этого видео. Не забывайте на него подписываться и лайкать и поддерживать наш канал. До скорых встреч!