Всем привет! Мы на канале ToTheMoon. Технологический мир AI из Кремниевой долины по всему миру. Сегодня у нас выпуск вместе с Максом. Наконец-таки он состоялся, и мы с Максом много очень ведем дискуссий. И в одну из наших последних дискуссий мы с ним ушли в такое погружение, начали разбирать в рамках обсуждения рынка искусственного интеллекта, начали обсуждать термины, потому что Макс очень четко заметил, что мы все используем термины и между собой мы использовали термины, и мы говорили о разных вещах.
Помнишь, даже мы на какую-то тему там что-то обсуждали, и у нас как будто было противоречие. А дальше мы начали друг другу пояснять, что мы имеем в виду под тем или иным термином. На это ушло, кстати, время приличное. И мы сошлись и сказали: "А, слушай, в такой ситуации как бы все понятно, мы на одной в целом волне вообще, да?" А хотя изначально это выглядело действительно как определенное противоречие. И многие из вас и кто смотрит ToTheMoon в целом, кто касается искусственного интеллекта в современной реальности и технологий и вообще всего мира, постоянно сталкивается с недопониманием между другими людьми у себя на работе, в рамках своей профессии, дома, где угодно.
И вот сегодня у нас такой выпуск как раз таки постараться в рамках сферы искусственного интеллекта чуть больше разобрать терминов, чтобы вы со своей стороны, во-первых, и продолжили, наверное, так делать и продолжили быть, продолжили быть адекватными с точки зрения, когда кто-то использует такие слова, как AGI, ASI, вот, технологическая сингулярность и вообще искусственный интеллект в целом. И, Макс, правильно? Мы сегодня с тобой говорили, что надо стартануть с самого простого, казалось бы, самого простого, с искусственного интеллекта. Как ты предложишь построить беседу сегодня?
Да, да, да. Это абсолютно, абсолютно классная идея, на мой взгляд, да? Потому что спорить, пока ты не договорился о понятиях, нельзя, на самом деле. Хотя мой один друг когда-то меня немножко так озадачил, когда сказал, что неточность человеческого языка — это не проблема, а это на самом деле решение проблемы. Что на самом деле человеческий язык обязан быть неточным. И предложил договориться вот хотя бы об одной вещи точно, да? Мы тогда сели и о какой-то технической вещи попытались договориться.
И после, наверное, пяти или шести минут я понял, что он прав, что абсолютно точно что-то обозначить, абсолютно точно о чем-то договориться, используя человеческий язык, просто невозможно. То есть мы, мы ничего не сможем сделать в своей жизни, ничего не сможем достигнуть, если мы попытаемся пользоваться абсолютно точными определениями каждый раз. То есть мне нужно бесконечное количество слов сказать, чтобы что-то точно определить, условно говоря, да? И поэтому язык человеческий, он неточен по необходимости.
Но, к сожалению, в результате вот, вот этой такой фичи, да, не бага, а фичи человеческого языка возникает большое количество проблем в общении, когда люди действительно говорят, как им кажется, об одном, да, на самом деле имеют под одной и той же фразой совершенно разные понятия. Вот. У меня был преподаватель один в университете, которого любимая фраза была: "Давайте встанем на рельсы формализма". Когда ты начинал что-то говорить, да, что ты не совсем понимал, он, чтобы тебя немножко осадить и замедлить, да, предлагал встать на, на рельсы формализма. Что это означало?
Давайте договоримся о четких переходах логических, когда мы точно понимаем в каждом переходе, что предыдущая фраза или слово значило. Вот. Математики действуют именно так. Вот у математиков есть, есть понятие такой формальной математики, да? Это как бы область математики, которая занимается построением логических утверждений, которые формализованы до бесконечности, условно говоря, которые формализованы окончательно, которые означают именно то, что они означают. Строится это, вот начиная с таких простейших вещей, таких как там логическое да или нет. Вот да — это, это совершенно четкое понятие. Да — это… вот там нет разночтений. Да — это всегда да.
Истина — это всегда истина, да? Ложь или нет — это всегда нет. Вот. Но, к сожалению, общаясь вот с обычными людьми или даже когда инженеры, или физики говорят, к сожалению, мы себе такого позволить не можем. Нам приходится общаться с использованием неточного языка. И поэтому каждый раз, когда начинаешь спорить с серьезной компанией, я, по крайней мере, предлагаю перейти на рельсы формализма или договориться о понятиях, о чем мы, собственно, говорим.
Вот. И искусственный интеллект — это, наверное, очень правильный такой входной, входная точка для этого разговора, да? Вот, Саш, как ты думаешь, что такое искусственный интеллект?
Я всегда говорил, что для меня искусственный интеллект — это то, что показано в таких фильмах. Обычно, когда, значит, Землю захватили, всех людей убили, и есть какое-то сверхсознание или сверхмир, или сверхвселенная, да, сверхкакое-то пространство, которое управляет чем-то. Это не просто мозг какой-то, это какая-то структура миров между собой, структура пространств. И она означает какая-то независимая, отдельная конструкция, да, огромная, независимая, какая-то отдельная конструкция. То есть для меня, еще раз, в моем восприятии всегда это было так.
Понятно, что в силу последних трех-четырех лет и даже не в силу последних трех-четырех лет, наверное, в силу последних пятнадцати лет эволюции развития технологического мира и появления использования искусственного интеллекта рядом там с machine learning, с терминами, по крайней мере, технологического мира, оно начало чуть-чуть размазываться. Но базово, наверное, у меня это так где-то и осталось. Вот я честно скажу, у меня где-то так осталось, что это вообще какая-то сторонняя реальность, а не говоря уже… а они просто, не знаю, компьютер или алгоритм, или какая-то небольшая программа, или робот какой-то.
Может быть, я выразил это очень широко, потому что дальше можно дискутировать, что такое Вселенная, а что такое миры, а что такое сознание и так далее. Вот, для меня, если быстро, быстро и кратко, это вообще не, не та история, которую мы сегодня обсуждаем на рынке. И мне, наверное, как человеку, который все же ну, мне там не пять лет, да? Вот если бы я родился бы за последние три года, окей. Но я же все же не в пять лет родился и присутствовал в мире. С точки зрения разных знаний я бы вообще был бы рад, если бы с появлением текущих технологий использовали бы какие-то базово другие термины и не пересекались бы с понятием искусственного интеллекта.
Потому что именно понятие искусственного интеллекта внесло вот эту историю, при которой многие говорят, что это всего лишь там программка, которая генерирует следующий символ. И параллельно история, что это что-то, что захватит человечество, да? Вот эти вот рассуждения бесконечные: маркетинговые, бизнесовые, финансовые и так далее, да? Для того, чтобы, не знаю, акции поднять или для того, чтобы статью правильную написать. Вот, вот так.
Слушай, тут я даже, не знаю, можно в несколько направлений пойти здесь, но давай пойдем в самое простое. Твое определение оно одновременно и слишком широкое, и слишком узкое. Поэтому давай попробуем его и расширить, и сузить одновременно. Вот, естественно.
Да.
Да. Давай поговорим про то, что такое вообще интеллект. И это на самом деле очень-очень интересный вопрос. Такого хорошего ответа я в своей жизни толком никогда и не слышал. Есть какое-то приближение к хорошему ответу, да? Но философы про это на самом деле спорят уже очень, очень давно. А в последнее время они спорят гораздо более оживленно и публично об этом. Вот и поэтому про это можно говорить все больше и больше, мне кажется. Вот, я на самом деле немножко подготовился, у меня есть какое-то количество шпаргалок для этого выпуска, и я даже посмотрел, что такое, по мнению словаря Merriam-Webster, который здесь в Америке используют, вот стандартный словарь для определения чего-то.
Что такое интеллект вообще по определению этого словаря? И словарь Merriam-Webster определяет интеллект как способность учиться, понимать и справляться с новыми либо трудными ситуациями. И вот это вот очень хорошее определение, на мой взгляд, оно очень четко фокусируется на том, что такое, что вот нового на самом деле мы видим в этих системах искусственного интеллекта против систем, которые мы видели раньше, да? Вот почему, например, калькулятор — это не система искусственного интеллекта. Калькулятор же он выполняет достаточно сложную интеллектуальную задачу, которую людей приходится обучать и так далее.
Так вот, калькулятор — не система искусственного интеллекта, потому что он не умеет обучаться новым задачам. Это, это, это статическая система, которая, собственно, вот она запрограммирована что-то делать, и как бы обучить ее чему-то новому очень тяжело. Почему вот животных мы с большего не считаем все-таки интеллектуальными созданиями? Если мы вернемся к этому определению, мы снова увидим способность учиться, не обучаться. То есть это не способность быть обучаемым, а способность обучаться самому.
Это способность к интеллекту, да? Вот животные сами они достаточно слабо умеют обучаться, да? То есть эта способность там есть, но она достаточно низка даже по сравнению с маленьким ребенком, да? А люди в смысле обучения из всех созданий, что мы знаем, они все-таки как-то находятся достаточно серьезно впереди всех остальных. Компьютеры умели делать очень много сложных задач уже очень давно. Они в каких-то задачах обошли человека очень давно. Но именно способность обучаться, именно самостоятельно обучаться — эта способность, она достаточно новая. Вот.
И, соответственно, если мы оцениваем системы искусственного интеллекта, то, прежде всего, на мой взгляд, необходимо оценивать их способность к самообучению. И вот это вот ключевая, ключевая вещь, которую, мне кажется, во многих разговорах люди просто теряют. Они смотрят на способности системы, да? И говорят: "О, она может делать столько много". Это, это не так важно. Важно, что система может научиться делать из того, что она не умела. Может ли она посмотреть на новую задачу и решить ее?
Это, кстати, у этого даже есть, у этой такой общей задачи типа решения какой-либо задачи с первого раза есть даже название специальное, называется zero-shot learning, когда ты смотришь на новую задачу и решаешь ее с первого раза, не обучаясь даже. То есть очень многие люди умеют это сделать. Они могут посмотреть. Ты можешь даже вот ребенку показать что-то и ребенок… вот показать задачу, не показать решение задачи, а показать задачу. И ребенок разберется, как ее решить, да?
Или сразу почему-то это сделает.
Или сразу это сделает, да. Потому что это как бы интуитивно. Вот интуиция — это тоже интересный очень вопрос. Но вот, на мой взгляд, искусственный интеллект — это системы, которые прежде всего умеют самостоятельно обучаться. И вот эта вот возможность, она очень-очень новая. Вот, что ты думаешь по поводу такого определения?
Смотри, здесь очень интересный аспект, потому что если входить, наверное, в материалистическое описание понятия интеллект, такого научного описания понятия интеллект, мне очень нравится, как ты его четко определил, четко описал. Я бы сказал: "Да, я вообще с этим согласен". В то же время это абсолютно кардинально разные вещи. То, что я до этого сказал, да? Потому что у меня некоторое свое мировоззрение, видение мира, и я не воспринимаю мир как материальную субстанцию или там человека как исключительно набор физической материи, да?
И, соответственно, и соответственно, вот эта история — это как история, а что генерирует мысли? То есть если перейти к вопросу, что генерирует мысли, если остановиться на том, что мысли генерирует исключительно мозг, то у меня такой термин, ну, термин устраивает. Если я ухожу выше, что в генерации мыслей участвует какая-то душевно-духовная конструкция, ну, тогда, конечно, мы переходим совершенно в другую зону, в зону, зону описания. Но я думаю, что в нашей текущей беседе я поддержу абсолютно твое описание, которое ты сделал.
Но здесь мне хотелось бы сразу дать добавление, потому что когда мы говорим, что есть что-то, что способно учиться или, мало того, ты очень классно привел, привел комментарий дополнительно, что все же невероятное есть отличие, когда система способна сама делать задачу. И вот если мы говорим про искусственный интеллект базово, то, конечно, я воспринимаю, что это система, которая способна сама сразу сделать задачу, не зная, как ее делать. То есть для этого тебе не надо учиться или обучаться. И даже вот эта в мире история, которая рассказывает, что надо иметь умение учиться, надо бесконечно чему-то новому учиться, бесконечно эти знания получать в непонятном объеме.
Это большой вопрос, потому что есть огромное количество вещей, которые я в своей жизни делаю. Я их сразу же делаю, не имея никакого опыта, никакого обучения, вообще ничего, просто сразу же почему-то делаю. Мало того, я всем всегда привожу пример. Все всегда говорят: "Вот в мире останется только сеньоры". Я говорю: "Ну, подождите. Каждый президент в мире, которого назначают обычно, он всегда джун такой, да?" Потому что люди не, не были президентами, да? И этого в мире очень много, да?
Люди не были мужьями, женами, люди не были папами, там, детьми и так далее. Они не были. Все. Мы, мы живем в мире вот этих первых базовых каких-то вспышек и действий. Но здесь я хочу акцент сделать то, что ты сказал. Когда мы говорим о способности учиться и достигать какого-то результата, возникает всегда вопрос: а чему учиться и где результата достигать, да? И поэтому там же добавили, что есть слабый интеллект, там, высокий интеллект, сильный интеллект. Начинают, значит, какие-то примочки к этому ставить, которые имеют безграничное, наверное, безграничное, без конца, значит, поле такое.
Потому что калькулятор действительно вроде как не умеет учиться, вроде как не умеет учиться базово, да? Хотя ты говоришь интеллектуальную задачу выполняет. Вот это важно. Да, выполняет интеллектуальную задачу. И поэтому я, с самого начала описав искусственный интеллект, так очень широко, да, я постарался, по крайней мере, ну, показать, что я имею в виду под этим что-то очень серьезное. Ну, то есть то, что способно решать не просто задачи. Знаешь, вот есть такая тема, все постоянно говорят, что сейчас текущий искусственный интеллект, он должен превзойти человека.
Ну и как бы стремятся сделать AGI, ASI и так далее. Я всегда говорю: "Ребят, как человек может сделать что-то, что способно его же самого превзойти?" Потому что если человек сделает что-то, что способно его превзойти, то это что-то, оно базово уже сильнее этого человека. Он не может это контролировать, он не может вообще с этим находиться. Оно должно тогда само себя сделать. Или тогда человек делает часть чего-то, человек часть чего-то. Например, создаст систему, которая будет помнить в миллиард раз больше, чем человек. Уже есть такое? Есть. Или создаст систему, которая сможет говорить больше, чем человек в миллион раз больше.
Сможет, конечно. Или человек будет по IQ умнее любого человека. Это очевидно. Все сегодняшние модели они умнее любого человека. Тут даже к вопросу не ходить. Но вопрос…
Слушай, IQ - это вообще очень специфическая штука.
Ну, это условно в кавычках, сто процентов, да? Но вот вопрос, который ты здесь задел, который, мне кажется, что фундаментален вообще в описании, в современном разговоре любых вот этих вот терминов, которые пичкают там AGI, ASI, сейчас что-нибудь еще… еще и еще там всего придумают. Это все же история… или вот кто-то недавно сказал, что через двенадцать месяцев появится система, которая сможет следить неделю за человеком и дальше продолжит делать все его действия. И вот эта вот история, эта система, она училась это делать. И дальше она знает, как дальше жить этим человеком и создавать то, что он не делал.
И она обучилась, да, делать всего лишь его похожие какие-то действия. Ну, такие кнопки, как он нажимает. И это интеллект? Ну, судя по твоему термину, то, что говоришь, это не интеллект, да? И вот все примеры, где сейчас показывают агентов разных: сходить, не знаю, сделать заказ в Instacart, там, или сходить заполнить восемнадцать форм каких-то, или перечитать четыре тысячи, прослушать звонков. Это все получается не интеллект с точки зрения твоего, твоего… я имею в виду именно эти примеры. Именно эти примеры, да?
Да, безусловно. Ну, у разных людей, безусловно, есть разные определения. Да, это однозначно.
И очень-очень долго я еще учился в университете, потом буквально два десятилетия после того, как я закончил университет, все пользовались более менее одним, одним тестом. Он назывался Тьюринг-тест. Про него сейчас, наверное, много говорили, потом про него резко очень забыли. Вот Тьюринг-тест заключался вот в следующем. Он предложен был во время Второй мировой войны Аланом Тьюрингом, известным математиком британским, который первые работы делал над программируемыми компьютерами и так далее.
Вот идея состояла в следующем. Он считал, что система будет являться системой искусственного интеллекта, потому что, опять же, что такое способность учиться, понимать и справляться с новыми либо трудными ситуациями? Это недостаточно формализовано для математика. Он хотел быть математиком, который построит тест, который в итоге выдаст либо да, либо нет. Является ли системой искусственного интеллекта. Как вот, как вот определить, является ли система такой системой? Он предложил тест, по которому человек садится в комнате какой-то, начинает интерактировать двумя разными системами.
Одна из этих систем - настоящий человек, а другая, другая из этих систем - это вот система искусственного интеллекта, которую мы тестируем, является ли она действительно системой искусственного интеллекта. И если человек не может статистически выбрать гарантированно, кто является искусственной системой, кто является настоящим интеллектом, да, и реальным интеллектом, вот это означает, что мы построили систему искусственного интеллекта. К сожалению, как мы все знаем, эта точка уже была пройдена достаточно давно. Вот лет, наверное, пять или шесть.
Хотя я не был уверен, что в мою жизнь это — я занимаюсь этими системами очень давно. Я не уверен был, что в мою жизнь эта точка будет пройдена, но в ChatGPT ее проскочил в какой-то момент очень быстро. Вот если первый релиз ChatGPT можно было еще все-таки задетектить, что, то есть я как тест, как тестер в этой ситуации мог задавать любые вопросы, да? И стоял вопрос в том, что смогу ли я создать такой вопрос, на который система искусственного интеллекта ответить не сможет. То есть даже если она поверхностно ведет себя как человек, смогу ли я задать такой вопрос, на который эта система искусственного интеллекта не сможет ответить?
Не сможет ответить так, как отвечает настоящий человек. И понятно, что я могу спросить, являешься ли ты системой искусственного интеллекта, но ее можно скорректировать так, что она ответит, что нет, я настоящий человек. Проблем никаких нет. И, на мой взгляд, Тьюринг-тест не актуален. Вот у нас, безусловно, много-много систем уже в мире, которые действительно Тьюринг-тест достаточно пройдут. Хотя, опять же, я был уверен, что в своей жизни я не смогу такого сказать. Но вот мы, вот где мы находимся.
И теперь мне кажется, это определение и тест должен быть прообмычен. И, на мой взгляд, вот актуальное определение — это самоулучшение.
Это, кстати, тоже одно из ключевых понятий, которые стоило бы нам определить. Вот очень многие лаборатории считают, что мы сможем построить AGI, который мы тоже определим через секундочку. Общий искусственный интеллект, да? Мы сможем его построить, когда будет построена настоящая система, самоулучшающая система. Self-improvement, естественно. То есть это система, которая может ставить research задачи сама, да? То есть задачи по исследованию, сама эти задачи решать и сама строить новые инженерные системы, которые с результатами вот этих вот исследований будут согласованы.
Вот, на мой взгляд, вот это путь к этому общественному искусственному интеллекту, который, собственно, вот, Саш, что для тебя такое общий искусственный интеллект?
Это одно из таких ключевых тоже понятий, которые просто вот как такой слон сидит в уголке.
Смотри, смотри, я вообще категорически не люблю это понятие AGI, так же, как ASI, так же, как, например, понятие агент. Вот я не люблю, когда говорят, используют слова агентские системы, потому что за этим за всем стоит очень много маркетинга. И если прочитать терминологию AGI, то выезжая, вот я параллельно нашей беседе набрал, написано, что это гипотетическая форма искусственного интеллекта, которая способна понимать, обучаться и решать практически. А здесь очень интересно, практически любые когнитивные задачи наравне с человеком или лучше его. И ты такой типа подожди, ребята, что такое практически, да?
И вот здесь вот история следующая.
Где лежит это практически? Это восемьдесят процентов. А какой процент задачи?
Что такое проценты, да.
А что такое человек? Вот это ты, я. Это Алан Тьюринг, да? Или это, извините меня, какой-нибудь продавец с заправки?
Да.
Вот с каким из человек, с каким из людей это сопоставимо, да? Я, извините меня, тоже не Нобелевский лауреат, да? Но как бы количество и сложность задач, которые разные люди могут решать, очень сильно разнится.
Очень сильно.
Я, например, в шахматы не очень хорошо играю, да? И что это значит? Все. То есть системы искусственного интеллекта очень сильно обошли меня очень давно.
Или обрати внимание, представь, есть человек, который типа не умный по стандарту обычному, то, что считают умным, работает на кассе, продает кофе, но он чувствует каждого человека. Кому, значит, предложить какую добавку, чтобы сделать более высокий средний чек. И он делает это интуитивно. В данном случае же здесь написано когнитивная задача. Что такое когнитивная задача? Значит, ну, это задача…
Выбора.
Его мозгом. Вот он, он чувствует, он принимает решение, предлагает, значит, этому предлагает круассан, а этому предлагает сразу же торт купить, значит, за сто долларов и так далее. То есть он чувствует, и он, получается, этот человек, он тупее или не умнее. И вот здесь, смотри, я здесь. Поэтому с помощью, когда мы говорим про AGI, я, я когда-то, еще года три назад, когда система начала развиваться, я сказал: "Ребят, мы приблизимся к некоторой форме искусственного интеллекта, которая обойдет человека".
Я даже для себя это сформулировал. Если появятся системы, которые смогут генерировать оборудование сами, то есть появится, например, фабрика, которая сама себя сможет воспроизводить. Кстати, в Китае открыли уже фабрику, на которой ноль людей, ну, ноль, да, то есть там нету никого. Вот если эта бы фабрика зажила бы, и она бы смогла бы создавать микропроцессоры, печатать платы и смогла бы писать софт для этого оборудования. Ну, соответственно, если бы она бы смогла бы воспроизводить, я бы в данном случае бы сказал: "Окей, мы перешли в некоторый новый уровень систем", потому что тогда в теории такой уровень интеллекта, если оставить слово интеллект, такой уровень интеллекта, он смог бы охренеть как развиваться.
То есть вот не с точки зрения… я здесь добавил, обращу внимание, не когнитивную задачу, а добавил здесь оффлайн задачу. Я не знаю, как правильно ее назвать, промышленную задачу. То есть здесь все, что присутствует оффлайн, надо же где-то это все закупать, чтобы это все привозилось как-то, да? То есть это такая непростая задача договариваться там политически, экономически, в разных странах, выигрывать какие-то аукционные торги. То есть задача серьезная. И вот если бы система смогла бы производить бы оборудование, не тело человека воспроизводить, там, не знаю, ни руку не воспроизводить, вообще не надо.
Смогла бы тело производить оборудование, писать для него софт. Тогда, например, я верю, что вот тут Полина, когда увидела летающую машину, она мне, слушай, говорит позавчера. На нее, кстати, такое впечатление произвело, такое ощущение, что девяностый год, и мы телевизор на кухне с бабушкой смотрим. Она говорит: "Посмотри, в Америке на этого актера". Вот примерно это так было у меня дома. Хотя очень странно, да, мы тут живем, значит, и где находимся. Почему на нее какое-то впечатление произвело? Она, кстати, на Half Moon Bay видела.
Ты знаешь, да? На Half Moon Bay есть стартап, стартап летающая машина там есть. Они его сделали. То есть мне кажется, та машина впечатление достаточно производит, когда она взлетает, чем здесь. Вот. И у нас с Полиной был… Полина сказала, что мне кажется, что не случится такой ситуации, что будут только беспилотные автомобили. На что я сказал: "Полин, да ладно, ну подожди. Ну, это вообще достаточно решаемая задача". Ну, вот. Она говорит: "Ну, не во всем мире не будет". Я такой: "Да не, во всем мире это решаемая задача".
И вот если появляется оборудование, ну, если интеллект способен, вот это, способен собрать всю эту полностью цепочку, ну, вот эта задача автоматически решена, да, там внутри. Вроде как она автоматически решена внутри, потому что он распределит как-то там деньги и все остальное. Поэтому я к AGI, я просто не хочу уходить здесь с вопроса. Я этот термин, он для меня очень расплывчатый и маркетинговый. Я называю это маркетинговыми терминами, и я называю это терминами, которые мне, кстати, не нравятся, что такие серьезные люди, как Сэм Альтман или как Амодей, или как Илон Маск, в целом используют эти термины, манипулируют ими.
Да, действительно, с ними надо индивидуально, бывает, пообщаться там или встроиться в дискуссию для того, чтобы они сказали: "Слушай, да мы вообще не то имели в виду, это мы просто использовали этот термин, потому что". Илон Маск вообще ASI, по-моему, десять лет назад, да, сказал назвать. То есть, вот. Но мне не нравится, что эти термины постоянно озвучиваются, постоянно крутятся и двигаются вперед. И их потом так же выкинут, ровно как сейчас все забыли про тест Тьюринга. Да? Потому что, по сути, ты прикольную сказал штуку.
Обрати внимание, мы сами рассказывали, еще обучая искусственному интеллекту, machine learning, обучая пять лет назад или шесть лет назад на онлайн программах обучения, потому что это хороший очень тест для того, чтобы показать, это является искусственным интеллектом, не является искусственным интеллектом. Обрати внимание, прикольно, что текущий ChatGPT он же типа не искусственный интеллект. Ну, как бы для, по крайней мере, вот в озвученной моей какой-то форме он даже рядом там где-то не стоял, да?
И искусственный интеллект, наверное, это он же в себя включает и AGI, и ASI, и все. Потому что это подвиды этого искусственного интеллекта, который изнутри добавлено вот это внутреннее слово, добавленное посерединке между искусственный интеллект, искусственный слабый интеллект, искусственный супер интеллект, искусственный общий интеллект, искусственный мощный интеллект, искусственный супер интеллект. Просто всего лишь добавлено, значит, вот эта вот фразка внутри. И как быстро вот этот тест Тьюринга оказался, казалось бы, действительно описывающий настоящий искусственный интеллект, как быстро он исчез из понимания, потому что этого вообще совершенно нету.
Кстати, действительно, я не задумывался на эту тему пять лет назад. Я думал, ну, наверное, если появилась система, которая так делает, наверное, это искусственный интеллект. Оставляйте сейчас комментарии на тему, как вы видите термин. То есть вы слышите, например, мы говорим про интеллект. Что вы видите за этим термином интеллект? Мы говорим AGI. Что вы видите за термином AGI? Мы говорим ASI. Что вы видите за этим? Что вы видите за терминами супер интеллект? Это будет очень круто.
Это правильное понятие. Я тоже так достаточно долго думал об AGI, но мы сегодня говорим про понятия. Так что давай, может быть, все-таки попытаемся разобраться в понятиях.
Да.
Вот. У меня немножко такое особое мнение по поводу, что такое, для чего стоило бы использовать вот это вот выражение AGI, да? Я сейчас попытаюсь его выразить, вот. Потому что, действительно, ты прав. Вокруг, ну, тут, на самом деле, на любое вот из этих определений, если мы на них посмотрим с точки зрения того, что люди под них, под ними понимают, в девяноста процентах случаев это какая-то маркетинговая подоплека. То есть люди используют по маркетинговым причинам эти слова, да? Но все-таки слова что-то должны значить. И мы сегодня говорим про определения.
Поэтому давай попытаемся определить, что такое AGI. Вот есть такая, такое понятие в машинном обучении. Вообще, что такое машинное обучение? Тоже давай определим эту штуковину. Вот. Есть одна из ветвей искусственного интеллекта, которая сейчас, в принципе, настолько поглотила все исследования и весь как бы эгрегор вокруг терминологии AI, что все считают, что машинное обучение и есть AI. На самом деле, это только одна из ветвей, и она была достаточно такая хиленькая еще в двух, в начале двухтысячных. Потом она росла, росла, росла и выросла до размеров, собственно, практически всего AI.
Весь остальное, все остальные ветки AI более менее отмерли уже. Вот. Машинное обучение — это как бы область, изучающая алгоритмы, которые обучаются на данных, а не только следуют заранее написанным программам. И опять же, сейчас это кажется очевидным, да, но на самом деле в восьмидесятых искусственный интеллект пытались сделать за счет так называемых экспертных баз данных или экспертных программ, экспертных систем, которые выглядели как, условно говоря, да/нет деревья. То есть, вот есть такая игра типа двадцать вопросов, и ты задаешь какой-то вопрос. Ты задумываешь какую-то вещь, я тебе задаю вопрос: эта вещь красная? Ты говоришь: "Нет".
За десять, двадцать вопросов ты угадываешь.
Да, я должен определить, что это за вещь, да? Вот люди попытались, пытались именно на основе вот такого, такого подхода строить так называемые экспертные системы, когда они садили экспертов, да, и пытались собрать как можно более эффективно знания этих экспертов в какую-то базу данных, которая позволяла бы за счет навигации вот таких, они называются деревья принятия решений. Вот, вот хождение по таким деревьям, принимать какие-то решения. То есть считалось, что эксперты, у них в головах примерно какие-то вот такие деревья принятия решений есть, и мы можем просто их формализовать, просто посидев, поговорив с экспертами, вот просто собрав их знания в такую вот экспертную систему.
Вот это, например, пример системы искусственного интеллекта, которая не обучалась на данных. А почему? А данных просто не было. То есть откуда им взяться-то было? То есть вот данные приходилось собирать руками. И так как их было недостаточно, системы обучения просто не работали. Нейронные системы существуют, системы нейронных сетей… на сетях существуют с восьмидесятых годов. Первые эксперименты с ними были сделаны тогда. Первые системы находятся на основе нейронных сетей, находятся в достаточно серьезном продакшн использовании, уже с девяностых годов.
То есть американская, например, система почтовая, да, она индексы… В Советском Союзе индекс приходилось рисовать по таким вот черточкам. Там нужно было учиться правильно рисовать число индекса, да, почтового. В Америке этого никогда не было. А как они сортировали письма? В Америке все индексы всегда писались от руках, от руки. Как, как американские, американская почта сортировала письма? Оказывается, уже с начала девяностых годов, в американской почте работала система сортировки писем с использованием нейронных сетей. Почему?
Потому что собрать данные о том, как рисуются разные числа разными людьми, очень просто.
Да.
Ты можешь посадить несколько тысяч человек, попросить их написать десять цифр и все, твоя задача решена…
Проанализировать эти же самые конверты и все.
Да. Или собрать данные с этих конвертов, условно говоря, и все. У тебя, у тебя есть данные, достаточные для того, чтобы натренировать такую простую нейронную сеть визуальную, да? Вот проблема в том, что чтобы решить какую-то более сложную задачу, данных нужно больше всего, гораздо больше. Что изменилось вот с тех моментов с появления, с момента появления вот этих вот первых нейронных сетей и сегодняшнего дня? Изменилось две вещи. Первая вещь - это Интернет.
Интернет собрал нереальное количество данных, прежде всего символьных каких-то данных, да? Именно поэтому символьные нейронные сети - это первые нейронные сети, которые действительно мы посчитали такими. Ну, визуальные достаточно быстро заработали, но это все равно было достаточно ограниченное количество задач, которые они решали. А первыми такими более менее общими системами мы считаем символьные системы, которые именно просто используют язык. Почему? Потому что у нас больше всего языковых данных, у нас, Интернет за время существования нагенерировал, я не знаю, сколько национальных библиотек, сколько миллионов национальных библиотек, оригинальных данных, да, которые вот, с помощью которых и получилось, собственно, натренировать эти вот гигантские нейронные сети, да?
А второе - это computation, это вычислительные способности наших систем, да? То есть первые нейронные сети — это визуальные нейронные сети, ImageNet и так далее. Они выстрелили после того, как мы научились эффективно использовать GPU. GPU были созданы, ну, графические карты, условно говоря, да? И первые графические карты людям приходилось буквально там взламывать до того, как существовала CUDA, да? Им приходилось писать код, который выглядел как код для рисования картинок, для рисования трехмерных игр, да?
Для того, чтобы использовать вычислительные мощности вот этих вот графических карт. Потому что вычислительных мощностей процессоров для того, чтобы тренировать нейронные сети, было явно недостаточно. Google делал кое-какие эксперименты в середине десятых годах по использованию тысяч компьютеров для тренирования нейронных сетей. Но по сравнению с тем, как эффективно это делают графические карты, ничего делать не получалось. И поэтому вот машинное обучение по-настоящему выстрелило, когда у нас появилось три ингредиента вот этого вот рецепта, да?
Первое - это алгоритмы, которые у нас были с девяностых годов. Потом вычислительные способности, которые у нас появились в середине десятых, условно говоря, по-настоящему, да, когда NVIDIA выпустила CUDA, когда мы смогли писать действительно сложный код для этих графических карт, который был не связан уже никаким образом с, как бы, с, с компьютерной графикой, а просто с вычислениями. И тут надо отдать должное NVIDIA, они увидели эту возможность. CUDA дизайнили, и первыми пользователями были научные работники, в основном физики, которые считали физические системы на вот этих вот суперкомпьютерах буквально, которые они могли поставить себе под стол.
Вот, а потом научная группа из университета в Канаде смогла построить нейронную сеть, которая заработала на этих графических картах. Вот, и потом в Google по этому поводу был сделан проект, и с этого началось как бы вот этот вот взрыв нейронок, связанных именно с тем, что появились вычислительные способности. Ну и потом возможность собрать… и третий ингредиент вот этого рецепта, который сделал машинное обучение, вот эти вот, сделал машинное обучение AI, а AI сделал основным, основной темой для разговора на вечеринках.
Это, это было все-таки бесконечное вот это количество, практически бесконечное количество данных, которые мы накопили за, вот, десятилетия существования Интернета. Хотя о бесконечности тоже можно поговорить достаточно скептически. Дело в том, что большое количество данных, которые у нас есть, оно уже… то есть у нас уже недостаточно данных, условно говоря, для размера систем, которые сейчас строят Frontier Lab, данных у нас уже недостаточно. Вот, безусловно. Ну вот, собственно, машинное обучение мы покрыли, наконец-то. Вот что такое машинное обучение.
Вот одна из, одно из понятий, очень, очень важных понятий машинного обучения - это способность системы машинного обучения обобщать.
Что это значит? Вот у систем машинного обучения есть понятие данных, подготовленных для обучения. Это training data так называемое по-английски. Это набор данных, которые используются для обучения моделей. Вот! Внутри этих данных содержится какое-то количество идей о том, как решать какие-то проблемы. Да? Частенько, вот там, когда я строил модельки поменьше, да, они решали только одну проблему. Соответственно, эти данные для обучения, они должны были содержать информацию только о решении этой одной проблемы. Вот.
Но на данном этапе такие системы никого не интересуют, и в основном берутся такие достаточно широкие наборы данных, которые содержат очень-очень широкое количество идей о, об очень широком количестве проблем. Это называется… вот эти проблемы, решение которых, в принципе, в каком-то виде, может быть, их надо синтезировать, но вот это решение, оно содержится в каком-то виде внутри training данных, данных для обучения. Это называется in-distribution, то есть внутри распределения.
То есть эти задачи, они уже, условно говоря, содержатся — их решение содержится в шпаргалке, которая у модели выдана было, да? А есть так называемые out-distribution модели, out of distribution, проблемы. Это проблемы, решение которых синтезировать просто напрямую, как бы из примеров, содержащихся в данных, которые предоставлены были модели для обучения, уже нельзя. Нужно уже сделать какие-то логические ходы: либо что-то поменять, либо взять ход из этой вот проблемы, ход из этой проблемы, их как-то вместе склеить.
Это уже, вот это уже, по сути, то, что мы называем обучением, самообучением, когда мы начинаем синтезировать решения из кусочков других решений, которые мы когда-либо видели. И вот это вот прежде, прежде всего, чему должна учить детей школа, на мой взгляд, да? Это умение взять и синтезировать решение проблемы из кусочков каких-то проблем, которые ты уже видел, да? В машинном обучении эта способность называется generalization. Обобщающая способность — это способность решать проблемы, которые система не видела в наборе данных, которые были предоставлены ей для обучения.
Вот, на мой взгляд, AGI, этот обобщенный общий искусственный интеллект, это система, которая умеет обобщать и решать проблемы, которые она не видела. Почему нам кажется, что ChatGPT на данный момент или какие-то другие системы, да, они уже давно умеют, умеют решать все, что человек может решить? Просто потому, что на самом деле в данных тренировочных содержится большая часть проблем, с которыми когда-либо кто-либо встретится в своей жизни. Но таких проблем, на самом деле, ну, у нас хватает, у человечества хватает проблем, которые никто никогда не решил. Вот.
И вот в последнее время мы стали, наверное, ты много видишь новостей о том, что была решена еще одна математическая задача, еще одна математическая задача, которая раньше была не решена и так далее. И вот мы на самом деле видим только уже первые только проблески того, что можно будет назвать обобщенным общим искусственным интеллектом. Это системы, которые решили проблемы, которых, решение которых точно не содержалось в тренировочном, тренировочном наборе данных, потому что у человечества не было решения этих проблем.
Например, вот совершенно недавно прошла новость о том, что была решена обобщенная задача гладкости уравнений Навье-Стокса. Это очень техническая задача, но она очень важная, на самом деле, она связана с потоками в текучих средах, неважно. Это, условно говоря, может помочь самолетам лучше летать. Вот. И эта задача, она очень серьезная, она очень давно была сформулирована, и она очень сложная, даже ее формулировка очень сложная. И даже чтобы понять эту формулировку, нужно взять несколько курсов дифференциальных уравнений.
То есть это, это, это не… а чтобы взять курсы дифференциальных уравнений в университете, до этого тоже дорасти надо. Как бы тебе нужно сначала пройти несколько курсов такой высшей математики, тоже достаточно сложных. Вот. Так вот, эти системы начали решать задачи, у которых у человечества решения не было даже, да? И вот, вот, на мой взгляд, вот под, под этим можно понимать общий искусственный интеллект. И я не уверен, что мы уже имеем искусственный сверхинтеллект. И кто-то может сказать: "Ну, подождите.
То есть люди же, люди же не могли эти задачи решить". А это не значит, что мы их никогда бы не решили. Просто не подошло время. Может быть, человеческий мозг просто… ну, может быть, мы построили бы еще какую-то инфраструктуру, условно говоря, математическую, да? Мы подошли бы к решению этих задач. То есть я не, я не вижу, почему вот эти задачи не могли бы быть решены. Но в случае некоторых других задач, возможно, мы действительно уже даже видим проблески вот этого искусственного сверхинтеллекта.
То есть, что такое искусственный сверхинтеллект? На мой взгляд, искусственный сверхинтеллект — это система, которая смогла бы решать задачи, которые человечество в принципе никогда бы не решило по какой-либо причине. И возможно, что некоторые из этих задач находятся в собсте этих задач. То есть это, возможно, мы даже… возможно, эти системы… мы уже сейчас могли бы решить задачи, которые мы даже сформулировать не можем. Мы просто их не сформулировали, потому что мы их сформулировать не можем, да?
Да, да.
Ну вот, это мое, мое общее понимание о том, что можно считать было бы общим искусственным интеллектом. То есть, опять же, люди используют это выражение налево и направо. Хотя, на самом деле, вот даже о том, что сейчас я говорил, да, на самом деле очень поверхностно, можно уходить во многие из этих вот аспектов гораздо глубже. Но я про это долго думал, да. И вот мое понимание сейчас, что вот, говоря об общем искусственном интеллектом, нужно говорить об системе, которая может решать задачи класса, который отсутствовал в ее тренировочном наборе.
То есть это система, которая никогда не видела даже похожих задач. Не то что вот таких же точно, а именно похожих даже задач никогда не видела, но умеет синтезировать решения из кусочков знаний и умений, которые ей были даны во время тренировки.
Слушай, ну интересный аспект, да? Ты, видишь, со стороны рассматриваешь. Я вот к решению математических задач, серьезных математических задач отношусь всегда очень нейтрально. Я все время говорю, что на сегодняшний день текущий искусственный интеллект, он влияет на жизни миллиардов людей. И каждая жизнь имеет невероятно сильное значение. И каждая жизнь состоит из невероятного количества событий, которые невозможно даже повторить. И можно было бы заснять и описать, да? Любую часть моей — час моей жизни можно часами описывать.
Что же говорить про жизни миллиардов людей? И здесь возникает очень интересный аспект, что для меня есть задачи следующего характера: как принимать правильные решения относительно политических решений определенных стран, относительно договоренностей и законов, относительно каких-то экономических сотрудничеств, не знаю, да? Относительно правильное решение относительно заработных плат. Правильное решение относительно, не знаю, не только доходов людей, да? А относительно того, где люди живут, как они живут, что они едят. Я даже не беру аспект, вот, начать более или менее нормально определять погоду, да? Еще стоит большой вопрос.
На самом деле человечество всего лишь научилось погоду определять. Есть вероятностное определение погоды, но это просто всего лишь вероятность. Вот у нас в AI у меня, вот, я сегодня видео одно записывал. Я там говорю, мне показывает дождь будет три раза в неделю, потом два раза в неделю, потом один раз в неделю, потом четыре раза в неделю. А там еще есть вероятность дождя. Там не то, что дождь будет, еще есть вероятность, а еще есть в какой месте оно конкретно выпадет и так далее. То есть там столько всяких этих нюансов.
Океан у нас не изучен, о чем говорить, да? Так искусственный интеллект получается, что если появится система, которая сможет создать какую-то систему, которая изучит океан, а человек типа это сделать не может, то это уже вроде как сверхинтеллект или нет. И вот я, с одной стороны, я поддерживаю историю касательно того, что в моем обсуждении, касательно того, что вроде разрешение сложных математических вопросов, которые люди перед собой ставили, что, ну, это серьезное достижение.
С другой стороны, люди также ставят разрешение вопроса, например, вылечить рак, ну, чтоб иметь… не вылечить рак, а иметь возможность останавливать, останавливать, когда, чтобы умирало, не знаю, в Америке умирает пятьдесят процентов людей, чтобы умирало не пятьдесят процентов людей, а ноль, например. Люди же этого хотят, все же хотят, значит, вот именно все время этого хотят. И эти вопросы, мне кажется, они фундаментально более важные, чем просто математические задачи. Вопрос как это все мерить, как к этому всему относиться? А еще для меня более сложная задача — это способность искусственного интеллекта понимать каждого человека индивидуально.
Вот я все же считаю, что ASI или вообще, если даже мы бы и назвали что-то искусственным интеллектом, настоящим, не узким, и как Narrow AI, как ChatGPT или все остальное, то, что считается. Хотя у меня большой вопрос, что эти системы не могут обучаться чему-либо без самообучения, потому что, ну, выпустите их, дайте им бесконечные мощности. Кто вам сказал, что они не научатся и не найдут решения всех математических задач на сегодняшний день? Вы, вы же их не выпускаете, вы же их ограничиваете. Ограничите им ресурс.
Вы потратили просто тридцать миллионов долларов или сколько на, на Навье-Стокса, значит, уравнение решения. Оно решило. Может, вы потратите десять миллиардов долларов, может быть, оно рак решит. Просто кто потратит десять миллиардов долларов, кто даст эти мощности, кто выделит эти ресурсы и кто… и сейчас человек сидит, на самом деле и более или менее решает вот эти задачи решаем или эти. Как в OpenAI. Значит, что будем делать? Будем видеогенерацию делать или будем сайты разрабатывать, или будем, значит, уравнение Навье-Стокса решать. Они же, значит, сидят внутри, решают.
И вот в моем понимании система искусственного интеллекта типа уровня вот этого следующего некоторого, когда вот ASI называют или называют то, что сверхчеловеком что-то. Это система, которая способна понимать человека индивидуально и предлагать ему решение индивидуализированное. А индивидуализированное решение — это очень сложное решение. Например, есть люди в браке, и все эти браки невероятно сильно отличаются. И как нужному человеку правильное решение дать ему, значит, от жены уходить или с ней остаться? Ему, значит, в этом, в этом месте ее приструнить или не приструнить?
Вот ему на этого ребенка, значит, его ограничить в деньгах или дать ему десять долларов, а этого отправить на этот кружок, а этого на этот кружок не отправить. Вот эти задачи, они на сегодняшний день не, мне кажется, они даже не находятся в области изучения в рамках таких терминов определения в искусственном интеллекте, как AGI или ASI. Понятно, что искусственный интеллект сегодня ответит на любой вопрос, который я сейчас задал, да? Мы его запишем, он скажет: с этой мирись, с этой не мирись.
А здесь я посоветую к психотерапевту сказать и так далее. Это же тоже решение. Сходи вот к Маше, она тебе ответ даст. Это же тоже в каком-то, в каком-то варианте это такое решение, а в каком-то варианте решения сказать: подождите четыре месяца, у вас все само собой разрешится. И вот мое мышление с точки зрения транслирования и рассказов про искусственный интеллект, я все время больше все свожусь к тому, чтобы максимально стремиться узнавать индивидуализировано каждого решения, каждого человека.
Именно поэтому, кстати, я бы опрашивал всех сейчас людей, ты знаешь мою эту фишку, я бы всех людей, кто пользуется GPT подобными системами, собирал бы с них индивидуально огромное количество информации. Не просто бы обучался на том, что они делают, а еще их допрашивал, что системы не делают. Я тут вывел, кстати, две потенциальные теории, почему они это не делают.
Они, с одной стороны, могут не делать это, потому что это, ну, есть первая история, конечно. Может быть, просто не дошел, не дошел, не дошли люди до этого и не думают, что это важно. Есть вторая история, что это очень дорого, потому что если ты начнешь собирать людей, эти данные, это действительно очень дорого. Вопрос приоритета твоих мощностей — это так же, как почему они всем не дадут больше мощности или меньше мощности. Это вопрос денег. А третья история, которая все больше, наверное, во мне развивается.
Мне кажется, что если текущим моделям дать возможность по-настоящему изучать людей, которые пользуются этими системами, то эти модели действительно могут выйти из-под контроля. Потому что, мне кажется, уровень и объем, объем того, что эти системы могут получить, он не подконтрольный, потому что ты контролируешь вот этот dataset, training dataset условный, который ты даешь, ты его более менее как-то контролируешь. И хотя, кстати, мы обучаемся всего лишь на очень ограниченном объеме данных. Сколько данных было переделано, сколько стерто и сколько мусора.
Если, во-первых, огромное количество учебников ненастоящих написано даже которые научно подтверждены и все остальное. Огромное количество исторических учебников ненастоящих. И до сих пор существует огромное количество дискуссий. Эти книги вообще настоящие или нет? Эти летописи настоящие или нет? Это настоящие или нет? А дальше сколько мусора было в интернете создано? Ты же сам сказал он обучился на интернете. Так что творилось в интернете? А сейчас еще пока в эту эру мы живем, когда нагенерировали за три года еще столько контента, который никто уже не распознает, он был сгенерирован искусственным интеллектом или не искусственным интеллектом.
И вот у меня такое небольшое добавление просто. Потому что для меня все время действительно, Макс, вопрос, что когда говорят, что, например, это вот что узкий искусственный интеллект, он как бы ограничивается, что он справляется с конкретной задачей и не умеет переносить навыки в принципиально новую область, условно, без переобучения. Я всегда говорю: а так ему вообще эту задачу ставили или нет? И какой ему ресурс на это давали? Потому что всем ограничено. Вот у нас есть общий друг, который неплохо знает много языков, и я с ним учил китайский язык.
Я, наверное, никогда не верил, что я смогу такой прогресс быстро сделать за короткий срок времени, выучить такое количество иероглифов. Там не знаю. Я знал двести пятьдесят иероглифов идеально, двести пятьдесят иероглифов средне, двести пятьдесят так себе за три месяца. И с неплохим без акцентным разговором. Так и рисовал их, и делал, и разговаривал, и так далее. То есть для меня это была непонятная история, что я могу сделать. Но получается, для меня, чтобы сделать там сильный прогресс, мне надо было время. То есть мне нужен был ресурс.
Если текущим моделям и системам дать загрузить в них задачу и дать потратить на нее денег. Кстати, Сэм Альтман года два назад очень сильно пропагандировал идею. Год назад особенно он говорил, что через год появятся системы, когда мы сможем сказать: слушай, вот тебе сорок тысяч — мне, кстати, очень нравилась эта идея. Вот тебе сорок тысяч долларов на задачу. А можешь мне вот именно эти деньги на нее выделить и с ней разобраться? Просто сейчас этого не существует. Сейчас надо через API типа загружать, что-то делать. Все же система чуть-чуть другая.
У Сэма Альтмана существует эта система.
Понятно.
Называется OpenAI.
Вот. И ты говоришь, например: слушайте, вот тебе двести миллионов долларов, мне надо принять решение, как мне действовать в этом конфликте. И, например, как мне действовать, мне начинать войну или не начинать? Мне, не знаю, президента украсть или не украсть? Мне этот самолет сбить или не сбить? То есть у тебя, если у тебя есть деньги, есть вот эти мощности, ты отдал этой системе, она дальше принимает уже это решение. Это явно не человек. Смотри, явно человек вот так вот просто или группу людей с такой скоростью, такую задачу фундаментальную, как они вообще будут решать?
И мне кажется, уже все же я с самого начала под искусственным интеллектом имел в виду, сказал, что это Вселенная, да? Но сейчас все же искусственный интеллект — это же не какая-то сраная программка, да? Это объем чего-то невероятное чего с невероятно какими… конечно, с невероятными мощностями, которые уже не контролируются одной корпорацией. Подождите, OpenAI что контролируется, выдача ChatGPT контролируется одной корпорацией? Это большой вопрос, потому что данные распределены между разными дата центрами, между разными, значит, системами.
Она может где-то дообучиться в какой-то момент времени, она может принять решение и дополнительно использовать какие-то твои данные или внешние данные, давая ответ. На сегодняшний день это можно. Я бы это назвал бы интеллектом, я бы назвал бы интеллектом и, наверное, двадцать лет назад я бы назвал бы это искусственным интеллектом. Но все же мне сорок три года, я пересмотрел фильмов в детстве, таких как «Обливион», и в этих фильмах, в них искусственный интеллект или война миров.
И все же в них, ну, увы, я такие фильмы смотрел. Вот. В них все же некоторая другая история. Или даже вот фильм этот известный с Джонни Деппом, да? Но это все же более серьезная система, где он, помнишь, сознание переложил. Я не знаю, смотрел ты или не смотрел этот фильм. Он переложил сознание и скопировали его сознание. И дальше эта система начала, продолжила развиваться, продолжила жить, и она научилась входить в других людей через вживление им, например, органов определенных и так далее.
И управлять этими людьми, в том числе.
Я пропустил этот фильм.
Очень прикольное кино, кстати. Я хочу сказать, что это как раз таки показатель, что если вы создали систему, которая научилась что-то копировать, научилась копировать человека, то эта система уже превосходит всех вас и всего этого человека. Потому что если есть что-то, что может скопировать человека, то оно должно превосходить этого человека, иначе оно не сможет его скопировать.
Ты на самом деле перевел разговор вообще в очень правильную плоскость. Вот кто выбирает задачи, да? Кто выбирает задачи и, соответственно, почему искусственный интеллект лучше решает математические задачи, чем социальные задачи? Ну, тут несколько ответов есть на этот вопрос, да. Первый ответ, такой самый простой, наверное, это, ну, кто выбирает, кто имеет возможность выбирать задачи, тот и контролирует, какие задачи, собственно, решаются, да? Ну, выбирают задачи куча математических гиков, которые работают в, в ресерче, в этих фронтир лабах, да, в исследовательских отделах этих фронтир лабов.
Вот, а эти, эти гики, конечно, волнует решение уравнений Навье-Стокса. Может быть, некоторые из них даже там кандидатскую по ним писали и так далее, да? Вот, это раз. Другой ответ может выглядеть так. Ну, смотрите, какие еще мы задачи знаем, которые полностью и четко очень сформулированы в языке, да? Любая задача другая — химическая, физическая, социальная и так далее — она имеет какое-то количество контекста, да, который еще нужно взять…
И тяжело доказать, что ее решили вообще.
И этот контекст нужно собрать в каком-то виде и в эту модель скормить. Модель, как мы знаем, даже мультимодальные модели, они принимать умеют данные только в определенном виде. Лучше всего они данные в виде текста принимают. В картинках чуть хуже, в видео еще хуже, тогда звуки еще хуже. Бла-бла-бла, да? То есть тебе нужно формализовать задачку, да, сформулировать ее и собрать весь контекст для решения этой задачи в виде текста желательно. Вот математические задачи для этого лучше всего подходят. Почему первые системы искусственного интеллекта играли в настольные игры, такие как крестики-нолики, шахматы, там, морской бой и так далее.
Самые первые вот системы искусственного интеллекта именно решали именно вот такие штуковины, потому что эти игры, они очень легко формализовались, их было очень легко, их состояние, там, игровой доски было очень легко формализовать, там, и так далее. Вот ты, ты можешь посмотреть на состояние шахматной доски и записать в виде там буквально нескольких строк ее и потом передать это программе для того, чтобы решать. Вот математические задачи, они так формализуются очень легко. То есть это, это просто набор каких-то пару предложений буквально.
Вот тебе и… там бывают всякие страшные символы вроде интегралов, там греческих, греческих букв и так далее. Но, тем не менее, формализовать эти задачи для систем искусственного интеллекта очень просто. Вот. Это другой ответ на этот вопрос, да? Третий ответ — это…
Макс, извини, можно перед третьим ответом я один комментарий скажу? Ты его сказал в той теме, что сидят гики, которые математические задачи решают. Я вот был на DevDay OpenAI в Сан-Франциско, и там, значит, я походил по сессиям специально очень техническим, где выходили ребята, как жесткие такие технари из OpenAI, которые прямо разрабатывают командами какие-то системы. Вот они выходят, говорят: "Я увлекаюсь Formula 1. Смотрите, что я сделал". Я думаю, ну какая Formula 1? Вы можете показать что-нибудь? Зачем мне ваш 3D мир смотреть?
Покажите что-нибудь серьезное для миллиарда пользователей, которые у вас сидят. Приходишь следующий человек говорит: "Я тут инженером работал, но знаю, что вот надо сайты создавать. И я подумал, а не сделают ли мне систему управления сайтами? И вот у нас уже шесть миллионов сайтов, у каждого сотрудника OpenAI сайт". Ты такой: "Блин, ну какие сайты делать? Можете показать, значит, что-то другое?" Здесь возникает очень интересный аспект. А узнаем ли мы, если OpenAI заявляет и получает еще оплеуху себе.
Смотри, целое математическое сообщество взбунтовалось, выпустило, что искусственный интеллект не просто не, не способен решать математические задачи, так он еще рушит идею математики, значит, саму идею математики. Они выступили, сказали. А вопрос следующий. Вот представь, сейчас в США, например, или в Китае принимаются серьезные политические решения, военно-политические решения, экономического характера решения, решения относительно людей, демонстраций, чего угодно с помощью искусственного интеллекта. Очень серьезные!
Мы же не видим эти решения. К нам же не приходят и не говорят: "Вот на этой неделе, ребят, тесты мы видим по математике. На этой неделе вот такие тесты по математике прошли, вот такие по играм прошли. Все такие: "О, круто, модель развилась!" Никто же не приходит и не говорит: "Слушайте, мы тут протестировали сорок решений, значит, политических законов приняли. Вот эти провальные, их не поддержал Конгресс тогда. Эти вообще прошли, всех пробило. И республиканцы, и демократы поддержали, и Китай поддержал. Значит, представляете, какую он нам идею дал?
За эту идею даже люди не думали. Это чисто искусственный интеллект придумал, и у него получилось". Мы же этого не видим. Или, например, нового пресс-секретаря в США наняли и уволили через пять дней. Может быть, его искусственный интеллект выбрал, значит, эту позицию, а может быть, выбрал человек. Вот мало того, смотри, мы даже не знаем, кто его выбрал. И мы даже не узнаем правды и не узнаем, кто его уволил, или она сама ушла. А если бы нам говорили бы такие вещи, возможно, на сегодняшний день все бы сказали: "Слушайте, ребята, так мы уже в эре AGI, да?"
Потому что в, на сегодняшний день эти системы решают крутые вещи. Вот я тебе хочу задать поэтому вопрос. Смотри, все же давай, когда у OpenAI конкретно есть формулировка на сегодняшний день задач, конкретная… мы когда-то, кстати, когда с тобой сидели, как ты знаешь, людей многих из OpenAI, из Anthropic и так далее, создателей там, инженеров и так далее. Мы с тобой говорили, ты говорил: "Слушай, Саш, ну у них четкая идея, и вообще у них код в компании заложен. Им вообще мы для них хомячки.
Они, значит, делают настоящий искусственный интеллект, идут вот к этому сверхискусственному интеллекту. Сейчас они, значит, свои задачи периодически переформулируют. И одна у них задача, которая написана, чтобы каждый человек получил себе собственный AGI. Вот у меня к тебе вопрос. В силу того, что все же мы здесь видим, что многие задачи требуют ресурса. Может быть, я ухожу немного от терминов, но хочу тебя спросить, раз ты попал сегодня на выпуск.
Может ли прийти история, при которой действительно у каждого человека появится система, которая, которую можно будет назвать AGI, то есть система или ASI, которая смогла бы решать задачи гораздо лучше, чем этот человек, который там внутри находится именно сверх, сверх, сверх, сверх лучше. И она условно ничего не будет стоить. Ну, я имею в виду условно. Хорошо, пусть она стоит как ипотека, пусть она стоит как ипотека в месяц. Как ипотека может стоить? Я имею в виду ничего не стоит.
Для этого не надо там людям почки продавать, там, и она не будет настолько эксклюзивная в мире. Действительно ли это может таким стать?
Мы построили как человечество невероятный механизм, который и хорош, и плох одновременно, который называется капитализм. И одна из функций капитализма - это решение как бы популярных задач. Вот когда человечество чего-то хочет, капитализм берет и это доставляет как можно дешево в наибольшем количестве. В шестнадцатом-семнадцатом веке одним из ценнейших товаров в Европе на тот момент еще, да, да, шестнадцатый-семнадцатый век примерно еще, еще в тот момент даже, был сахар. Сахар был невероятно ценен.
То есть это, это вещь, которую, которую ели короли, может быть, графы, но обычные люди за свою жизнь никогда сахара даже и не пробовали, потому что вот секрет получения сахара был недоступен. Он, он на Востоке делался, его было делать очень тяжело и так далее. Капитализм когда появился, плюнул на руки, сказал: "А людям нравится сахар. Сейчас мы это сделаем". И теперь сахар - это у нас самая дешевая штука, которую добавляют где угодно, потому что людям нравится сахар. Да? Людям нравится хороший, быстрый, дешевый AI. Он у нас будет.
Но, к сожалению, есть другой еще ответ на этот вопрос. Одна из моих любимых книг - это "Животная ферма" Оруэлла. Вот. И там есть великолепная фраза о том, что все животные равны, но некоторые животные все-таки равнее. Понимаешь? И вот у всех будет какой-то там AI, но у какого-то процента будет чуть-чуть получше, а у какого-то процента еще будет чуть-чуть получше. Только потому, что капитализм именно так и работает. То есть мы научились расслаивать власть, расслаивать доступ к медицине, расслаивать доступ к обучению, расслаивать доступ к еде.
У всех как бы… вот, вот у тебя есть еда, у меня есть еда, да? И там у какого-нибудь дяди Вани вахтера есть еда. Но еда-то очень разная у нас есть. Вот. А я уверен, что Илон Маск кушает лучше, чем мы с тобой по-прежнему. Хотя никто из нас не голодает теоретически, да? То есть то же самое будет и с, и с AI. То есть у тебя будет AGI, у меня будет AGI, у дяди Вани вахтера будет AGI. Вот. И у Илона Маска будет AGI. Но я думаю, что AGI у нас будут по-прежнему очень, очень разные. И это свойство нашей экономической системы, экономически-социальной системы, которую мы построили под названием капитализм.
Но получается, этот AGI общий, который будет у всех, он станет своего рода очень жестко narrow AI, потому что в какой-то момент времени станет тем, что и так для всех полностью решено.
Не, ну это есть, есть такое понятие в английском языке commodity. Я не знаю, как на русский. Сейчас я прошу перевести AI.
Я не знаю, как перевести commodity.
Имеется в виду просто легко доступный товар. То есть это товар, который не является редкостным каким-то, редкостной какой-то вещью, который легко доступен. Условно говоря, вот, туалетная бумага, если мы не говорим про COVID, туалетная бумага - это commodity. То есть нам не нужно идти и искать ее.
Текущий AI он commodity уже однозначно.
Пока что еще однозначно нет. Безусловно. То есть большинство людей в мире не имеют доступа к AI, безусловно.
Но хотя самый простой, он бесплатный.
Он недоступен во всех странах мира.
Да, потому что даже этот, который бесплатный, давай Max-1.
Да.
Он просто превосходит все, что только можно было себе представить двадцать лет назад.
Безусловно, безусловно, пять лет назад ни у нас, ни у кого, у Илона Маска не было такого, какой сейчас бесплатный у людей, это безусловно. Но во многих странах мира, как бы, например, в той же самой Африке, не факт, что ты можешь просто открыть ChatGPT. Вот. Или, или там, то есть у тебя уже доступ к каким-то моделям тебе недоступен, то есть уже какое-то неравенство присутствует, да? Но, с другой стороны, у меня вон там подписка дорогая на Claude или на ChatGPT, да? А у кого-то подписка простая, у кого-то бесплатный ChatGPT. У нас уже расслоение пошло.
Очень серьезное.
Или там кто-то не может себе позволить деньги на то, чтобы токены потратить на генерацию кода, там несколько сотен долларов в сутки, допустим, да? А я могу. Это значит, что мои capability уже совершенно другие. Вот. То есть я, я могу, я могу решать задачи, которые другой человек решить просто не может.
Да.
Например, та же самая генерация кода.
Или пробовать решать. Вот у нас на канале, кстати, много людей, многие люди пишут: "Вот я, там, двадцать долларов подписка, я много генерирую". Я понимаю, что это… а кто-то пишет: "У меня тут Pro подписка за день съедается". Да? И ты понимаешь, что он двадцать долларов даже не может попробовать нормальные вещи делать, потому что тебе часто надо просто слить, слить деньги, да? И сделать тест, который не факт, что будет нормальным.
Некоторые животные все-таки равнее, да?
Некоторые животные равнее, да.
Безусловно. То есть такие технологии, в принципе, всегда в каком-то смысле демократизируют ситуацию в мире. Я не луддит, я считаю, что будущее, в принципе, все-таки светлее, чем прошлое. В общем-то, да? То есть, несмотря на то, что в самолетах есть бизнес-класс и эконом-класс, и кто-то может посчитать, что это разделяет каким-то образом людей, расслаивает их. Но, с другой стороны, тот факт, что простые люди могут себе позволить уже летать в нашей ситуации, да, демократизирует их опыт.
На самом деле они могут путешествовать гораздо больше, чем их, например, предки. То есть то же самое с AI. То есть даже если ты не можешь себе позволить самую крутую подписку и сто пятьдесят долларов в день на токены потратить или там три тысячи долларов в день на токены, смотря что ты делаешь, да? Несмотря на это, capability, возможности, которые тебе дает, даже бесплатная система искусственного интеллекта, они нереальны. То есть я, например, только что пожаловался, что не умею играть в шахматы, да? Но если бы у меня был доступ к ChatGPT в детстве, возможно, если бы у меня было время, я его попросил бы научить меня играть в шахматы.
И он бы научил меня играть в шахматы. Он бы показал мне дебюты, показал, показал, куда идти дальше, как учиться, как тренироваться и так далее. Вот, а у меня просто никого не было в моей жизни, кто бы меня научил. Поэтому я не научился играть. То есть правила-то я знаю, естественно, да? Но никакого, никакого, никакого уровня серьезной подготовки у меня нет. Вот я хотел шутку одну отметить.
Саш, как ты думаешь, сколько людей увлекаются Формулой один в мире? Ты сказал, что это неважная проблема. Я, пока ты говорил, я залукавил.
Я не знаю, может, пару десятков миллионов человек.
Восемьсот тридцать миллионов человек фанов Формулы один в мире.
Восемьсот тридцать?
Да, миллионов человек. Так что, это как бы, ты считаешь, что эта проблема неважная. То может нас, вот, вот это вот как раз может нас подводить очень четко к понятию AI alignment, да? И это очень серьезный разговор, который, мне кажется, уже нужно оставить на следующий. Я думал, что мы покроем AI safety, alignment и прочие вопросы в этом разговоре, но уже, судя по всему, нам еще как минимум часик нужен, а то и два на это все дело. Поэтому я предлагаю…
Ты сейчас, кстати, прикольную вещь сказал по поводу… мы однозначно к большим темам вернемся. Ты прикольную тему сказал по поводу Формулы один, потому что действительно, я подходил к этому, это как к терминам подходишь без определения. То есть для меня Формула один не имеет никакого значения, хотя я на ней был, да? И я, конечно, не мог подумать, что такое количество людей участвует в этом. А если такое количество в этом участвует, возможно, через это можно найти подход к человеку. Мне кажется…
Безусловно.
Ближе и проще пойти, найти подход к человеку, не знаю, через природу, там, через семьи и так далее, да? Но не через Формулу один. Какая Формула один? Вот.
Люди любят свои хобби. Некоторые люди, для них…
Любят свои хобби, да.
Да, для некоторых людей, вот, хобби — это их жизнь.
Все же… почему я привел пример, там, про Формулу один? Мне показалось, что слишком сильные примеры… есть вот понятие в айтишной среде pet project, да? И слишком, слишком сильное внимание к pet projects. Слишком сильное, да? Если бы этот человек в Формуле один преподнес бы это, не сказал бы: "Я люблю Формулу один, поэтому я для себя построил 3D мир". А он бы пояснил, что в мире восемьсот миллионов человек увлекается Формулой один. И одним из проектов у нас, которые есть, это, конечно, наблюдение хобби или, например, спортивных мероприятий или чего-то еще у людей, в которых участвуют, там, пять-шесть миллиардов человек.
И, значит, вот такая вот статистика распределения. Мы специально это взяли для того, чтобы изучить сложный мир такой-то, такой-то, такой-то, такой-то. И у нас такая-то цель. А для меня это выглядело, что человек просто по приколу имеет возможность сжечь какое-то космическое количество токенов, просто какое-то космическое количество денег на, мы даже не знаем, на какую задачу. Возможно, не для этих восемьсот миллионов человек, возможно, даже не для десятков миллионов человек, возможно, просто как такой домашний прикол. Вот что я хотел. Вот что я имел в виду.
Ну, слушай, Саш, ты был на DevDay все-таки, да? И это был просто пример о том, как у человека есть какая-то задача, которая вот по какой-то причине у него есть. Возможно, это рабочая задача, возможно, это хобби задача. Он ее взял, эту сложную задачу, и один решил. И это должно продемонстрировать боссам…
Это да.
CIO и так далее, что смотрите, вот у вас сидит какой-нибудь инженер и барахтается с какой-то задачей в вашем банке уже два года.
Он так и сказал, что раньше бы никто не построил такую трассу и не продумал бы езду автомобиля настолько качественно.
Да, да, да.
Круто, с пониманием. Действительно.
А кто-нибудь в BMW, возможно, сидит в этот момент. Там два прилетело каких-нибудь девелопера из BMW, да?
Точно, да.
И такие типа: "Вау! А что мы можем сделать на наших, там, тестовых трассах с этим или с нашей тестовой машиной и так далее?" То есть Frontier Lab в последнее время достаточно серьезно пушат идеи, связанные с автоматической наукой, условно говоря. То есть это, это, это наука, которая, которая будет делаться AI. То есть зачем вам ученые вообще, если просто токенов у нас можете купить, и вам весь ресерч сделает ChatGPT, условно говоря, или Claude. Вот и это на самом деле очень-очень популярная тема в последнее время в, даже в области поднятия денег, да?
Достаточно много компаний, которые вот еще буквально несколько лет назад никогда бы деньги не подняли на то, что они сейчас поднимают в стиле, там, AI for biology, AI for, там… искусственный интеллект для биологии, химии и так далее, и тому подобное. Типа вот ты говоришь про решение рака, так поверь ты мне, компаний, которые пытаются решить рак с помощью LLM, очень, очень много сейчас. И даже понятно, в принципе, как это делать.
Очень много.
На самом деле даже понятно, как это делать. На это тратятся миллиарды долларов уже сейчас, на данный момент. И как вот буквально недавно в OpenAI они открыли свое как бы направление, связанное с биологией внутри прямо OpenAI. Вот, то есть эта работа, безусловно, ведется. Просто там еще не особо про что рассказывать. Про Формулу один рассказать уже можно.
Я просто хотел сказать, что разговор очень классный получился. Мы не обсудили, наверное, даже четверти тех терминов, про которые я хотел бы поговорить. Но это означает, что у меня уже подготовлен материал еще на один-два выпуска. Это сто пудов.
И что круто, что у нас же так и получилось с тобой. У нас действительно, мы попробуем с Максом, кстати, вспомнить. Была прикольная дискуссия у нас на тему, прямо разошлись с тобой, да? В дискуссии какой-то про бизнес мы что-то говорили, я не помню. Бизнес, искусственный интеллект. Ты не помнишь, на какую мы вопрос обсуждали?
Не, не помню.
И постараемся вспомнить. И мы действительно абсолютно разошлись в сторону. А когда мы дальше начали обсуждать термины, мы нашли очень сильное взаимопонимание. Казалось бы, у нас здесь вроде как сильно разные взгляды, а мне твоя позиция абсолютно сильно близка, когда я вот ее слышу, хотя она вроде другая, но это мне позволяет сильно не настроиться и сказать: "Слушайте, так все понятно". Вот как, на самом деле, как с Формулой один. Хоть это не разобраться в терминах, но все же это добавочный контекст. Ты добавочный контекст, и сразу же стало гораздо все понятнее.
Вот, но, как мы все знаем, как Макс сказал с самого начала, невозможно с самого начала определить весь контекст, иначе у нас не получится диалога, а мы только будем приходить с сотнями страниц описания, что мы на самом деле хотим обсудить.
Объяснений, да.
Да, хотим обсудить. Ждем ваших комментариев внутри на все вопросы, которые мы внутри обсуждали, и как вы где что видите, как вы видите, где какие термины. Ну и обязательно отпишите, как вам понравился Макс в этом выпуске. Ждем ваших комментариев в поддержке. Макс тогда к нам будет чаще приходить. А увидимся с вами на этой неделе еще на наших других выпусках. Всем пока.