У каждого будет свой ИИ умнее человека? Каким станет мир после ChatGPT
Что на самом деле значат «искусственный интеллект», AGI и сверхинтеллект — и получит ли каждый человек собственный ИИ умнее себя или доступ к нему расслоится, как всё при капитализме?
Макс Григорьев предлагает мерить интеллект не тем, что система умеет, а тем, чему она способна научиться: по словарю Merriam-Webster это способность учиться, понимать и справляться с новыми или трудными ситуациями, поэтому калькулятор — не ИИ. Тест Тьюринга, которым пользовались десятилетиями, по его оценке, пройден лет пять-шесть назад — ChatGPT проскочил его очень быстро, — и теперь важнее самоулучшение и обобщение: AGI для Макса — система, которая решает задачи класса, отсутствовавшего в её обучающих данных, а первые проблески этого он видит в новости о решённой задаче гладкости уравнений Навье — Стокса. Сверхинтеллект — решение задач, которые человечество не решило бы никогда. Александр Волчек называет AGI, ASI и «агентов» маркетинговыми терминами, которыми манипулируют Сэм Альтман, Дарио Амодей и Илон Маск; новым уровнем для него станет фабрика, которая воспроизводит саму себя, а лечение рака и решение для каждого конкретного человека он считает важнее решённых математических задач. Почему ИИ лучше даётся математика, Макс объясняет тем, что задачи выбирают математические гики фронтир-лабораторий, а математика легко формулируется текстом. Собственный AGI, по его прогнозу, будет у каждого — капитализм сделает ИИ дешёвым, как когда-то сахар, — но, как у Оруэлла, некоторые животные равнее: дорогие подписки и сотни долларов в день на токены уже расслаивают возможности людей.
На что обратить внимание
Ключевые тезисы и выводы
Спорить, пока не договорился о понятиях, нельзя, считает Макс. Однажды друг предложил ему абсолютно точно договориться хотя бы об одной технической вещи, и через пять-шесть минут Макс понял: на человеческом языке это невозможно — язык неточен по необходимости, это «не баг, а фича». Поэтому в серьёзном споре он предлагает «встать на рельсы формализма», как говорил его университетский преподаватель, и начать с самого понятия «искусственный интеллект».
Для Александра искусственный интеллект — то, что показывают в фильмах: сверхсознание или сверхвселенная, огромная независимая конструкция, а не компьютер, алгоритм или робот. За последние пятнадцать лет понятие размылось рядом с machine learning, и он был бы рад другим терминам для нынешних технологий: именно слово «интеллект» породило бесконечные споры — то это программка, генерирующая следующий символ, то угроза человечеству, — удобные, чтобы поднять акции или написать правильную статью.
Макс берёт определение словаря Merriam-Webster: интеллект — способность учиться, понимать и справляться с новыми или трудными ситуациями. Поэтому калькулятор, выполняющий сложную интеллектуальную задачу, — не ИИ: он не умеет обучаться новому. Компьютеры давно обходят человека в отдельных задачах, а новое — способность обучаться самостоятельно, вплоть до zero-shot learning, решения новой задачи с первого раза. По ней, считает Макс, и надо оценивать ИИ-системы, а не по тому, сколько всего они умеют.
Александр принимает определение Макса для разговора, хотя сам не считает, что мысли рождает только мозг. Для него важнее другое — способность сразу сделать задачу, не зная, как её делать. Люди постоянно делают что-то впервые: каждый новоназначенный президент — «джун», никто не был мужем, женой или родителем до того, как им стал, — поэтому тезис «в мире останутся только сеньоры» он не принимает.
Два десятилетия после университета Макса все пользовались тестом Тьюринга: человек общается с двумя системами и должен статистически отличить машину от человека. По оценке Макса, эта точка пройдена лет пять-шесть назад: первый релиз ChatGPT ещё можно было вычислить вопросами, но дальше ChatGPT проскочил её очень быстро, а систему легко настроить отвечать, что она человек. Макс не думал, что застанет это при жизни, и считает тест неактуальным.
Актуальным определением Макс называет самоулучшение. Многие лаборатории, по его словам, считают, что AGI будет построен, когда появится по-настоящему самоулучшающаяся система: она сама ставит исследовательские задачи, сама их решает и сама строит новые инженерные системы, согласованные с результатами этих исследований.
Александр категорически не любит понятия AGI, ASI и «агент»: за ними много маркетинга. В определении AGI — гипотетический ИИ, способный решать практически любые когнитивные задачи наравне с человеком или лучше, — непонятно, что такое «практически»: восемьдесят процентов? Макс добавляет: и какой человек — Алан Тьюринг или продавец с заправки; его самого ИИ давно обошёл в шахматах. Такими терминами, считает Александр, манипулируют Сэм Альтман, Дарио Амодей и Илон Маск, а потом их выкинут, как забыли тест Тьюринга.
Свой критерий нового уровня Александр сформулировал года три назад: системы, которые сами производят оборудование, — фабрика, способная воспроизводить себя, выпускать микропроцессоры, печатать платы и писать для них софт. Это уже не когнитивная, а «оффлайн», промышленная задача: закупать, договариваться политически и экономически в разных странах, выигрывать торги. В Китае, по его словам, уже открыли фабрику, на которой нет ни одного человека.
Машинное обучение, объясняет Макс, — одна из ветвей ИИ, «хиленькая» в начале двухтысячных, которая выросла почти во весь ИИ: это алгоритмы, которые обучаются на данных, а не только следуют заранее написанным программам. В восьмидесятых ИИ пытались строить как экспертные системы — деревья «да/нет», как в игре в двадцать вопросов, куда переносили знания экспертов, — потому что данных не было и собирать их приходилось руками. Нейросети существуют с восьмидесятых, а с начала девяностых почта США сортировала ими письма с рукописными индексами.
Для сложных задач нужно гораздо больше данных, и Макс называет три ингредиента взрыва машинного обучения. Алгоритмы были с девяностых. Интернет дал нереальное количество данных, прежде всего текстовых, — поэтому первыми общими системами стали языковые. Вычисления дали графические карты: до CUDA их приходилось «взламывать» кодом для трёхмерных игр, NVIDIA увидела возможность, а группа из университета в Канаде запустила на них нейросеть, после чего проект сделали в Google. Теперь, по словам Макса, данных уже не хватает для систем, которые строят фронтир-лаборатории.
Если решение задачи в каком-то виде содержится в обучающих данных — это in-distribution, «шпаргалка», выданная модели. Задачи out of distribution прямо из примеров не синтезировать: нужны логические ходы — взять ход из одной проблемы, ход из другой и склеить. Это и есть обучение, а способность решать задачи, которых не было в данных, в машинном обучении называется generalization — обобщающая способность. Именно этому, считает Макс, прежде всего должна учить детей школа.
AGI для Макса — система, которая обобщает и решает задачи класса, которого не было в её обучающем наборе. ChatGPT кажется умеющим всё, потому что в данных есть большая часть проблем, с которыми кто-либо столкнётся в жизни. Но у человечества хватает нерешённых задач, и первые проблески AGI Макс видит в новостях о решённых математических задачах — например, недавно решённой обобщённой задаче гладкости уравнений Навье — Стокса, связанной с течениями жидкостей и, условно, с тем, как летают самолёты.
Есть ли уже сверхинтеллект, Макс не уверен: задачи, решённые ИИ, люди, возможно, решили бы и сами, построив новую математическую инфраструктуру. Сверхинтеллект он определяет как систему, которая решает задачи, которые человечество в принципе никогда бы не решило, — возможно, даже такие, которые мы пока не умеем сформулировать. Проблески и этого, допускает он, в некоторых задачах уже видны.
К решению математических задач Александр относится нейтрально: ИИ влияет на жизни миллиардов людей, и важнее для него решения о политике, законах, зарплатах, о том, где люди живут и что едят. Люди хотят остановить рак — «чтобы умирало не пятьдесят процентов людей, а ноль». Ещё сложнее — понимать каждого человека и давать ему индивидуальное решение: уходить от жены или остаться, сколько дать денег ребёнку. На уравнения Навье — Стокса, по его прикидке, потратили «тридцать миллионов долларов или сколько»; потратьте десять миллиардов — может быть, ИИ решит рак.
Александр опрашивал бы каждого пользователя GPT-подобных систем, чего системы для него не делают. Почему компании так не делают, у него три версии: не додумались; это очень дорого — вопрос приоритета мощностей и денег; и третья, которая в нём всё больше крепнет: если дать моделям по-настоящему изучать людей, они могут выйти из-под контроля, потому что этот объём не подконтролен, в отличие от обучающего датасета. Сами датасеты, напоминает он, полны мусора — от ненастоящих учебников до трёх лет сгенерированного ИИ контента.
Почему ИИ лучше решает математические задачи, чем социальные? Первый ответ Макса: кто выбирает задачи, тот и контролирует, что решается, а выбирают их математические гики в исследовательских отделах фронтир-лабораторий, которых волнуют уравнения Навье — Стокса. Второй: математическая задача умещается в пару предложений текста, а химической, физической или социальной нужен контекст, который надо собрать и скормить модели, — поэтому первые системы ИИ играли в крестики-нолики, шахматы и морской бой.
Получит ли каждый собственный AGI — как, по словам Александра, записано в задачах OpenAI, — и будет ли он стоить не дороже ипотечного платежа? Макс отвечает, что капитализм делает популярное дешёвым: сахар в Европе XVI–XVII веков ели короли, а теперь это самое дешёвое, что есть, и хороший, быстрый, дешёвый AI тоже будет. Но, как у Оруэлла, все животные равны, а некоторые равнее: AGI будет у тебя, у меня, у дяди Вани-вахтёра и у Илона Маска, но очень разный, — а дорогие подписки и сотни долларов в день на токены уже расслаивают возможности людей.
Pet project инженера OpenAI с 3D-миром для Формулы-1, который Александр видел на DevDay, показался ему сжиганием космического количества токенов «по приколу». Макс возражает: Формулой-1, по его данным, увлекаются 830 миллионов человек, а такой пример показывает боссам и CIO, что один инженер решил задачу, с которой в банке барахтаются два года. Вопрос, какие задачи важны людям, ведёт к согласованию ИИ (AI alignment) — его ведущие оставили на следующий выпуск. А фронтир-лаборатории тем временем продвигают автоматическую науку: компаний, которые пытаются решить рак с помощью LLM, очень много, а OpenAI открыла своё направление биологии.
О чём этот выпуск
Спецвыпуск ToTheMoon, в котором Александр Волчек и Макс Григорьев — специалист по системам ИИ и машинного обучения, работавший в Google и Airbnb, — договариваются о понятиях. Поводом стал их недавний спор: оказалось, что одни и те же слова они понимали по-разному. Макс объясняет, почему спорить, не договорившись о понятиях, нельзя: человеческий язык неточен по необходимости, это «не баг, а фича», и поэтому он предлагает «встать на рельсы формализма». Для Александра ИИ — то, что показывают в кино: сверхсознание, огромная независимая конструкция, — а для нынешних технологий он предпочёл бы другие слова, чтобы их не объявляли то программкой для следующего символа, то угрозой человечеству.
Определение Макса — по словарю Merriam-Webster: интеллект — способность учиться, понимать и справляться с новыми или трудными ситуациями. Калькулятор решает сложные задачи, но не учится новому и потому не ИИ; систему надо оценивать по способности к самообучению, вплоть до zero-shot learning — решения новой задачи с первого раза. Александр принимает определение для разговора, но важнее для него способность сразу сделать то, чего никогда не делал: каждый новый президент — «джун». Тест Тьюринга, по словам Макса, пройден лет пять-шесть назад, и актуальным критерием он называет самоулучшение: многие лаборатории считают, что AGI появится вместе с системой, которая сама ставит исследовательские задачи и строит новые системы по их результатам.
Александр называет AGI, ASI и «агентов» маркетинговыми терминами: в определении AGI непонятно, что значит «практически любые когнитивные задачи», а Сэм Альтман, Дарио Амодей и Илон Маск этими словами манипулируют. Новым уровнем для него была бы фабрика, которая воспроизводит саму себя: выпускает микропроцессоры, печатает платы, пишет софт и сама договаривается о закупках. Макс в ответ рассказывает, как ИИ дошёл до нынешнего вида: в восьмидесятых — экспертные системы на деревьях «да/нет», с девяностых — нейросети, которыми почта США сортировала письма с рукописными индексами, а затем три ингредиента — алгоритмы, данные интернета и вычисления на графических картах, которые открыла CUDA от NVIDIA. Данных, по его словам, уже не хватает для систем, которые строят фронтир-лаборатории.
Ключевое понятие Макса — обобщение: решить задачу, решение которой содержится в обучающих данных, — значит воспользоваться шпаргалкой, а собрать решение из кусочков других — значит учиться. AGI он определяет как систему, решающую задачи класса, которого не было в её данных, и видит первые проблески в решённой, по новостям, задаче гладкости уравнений Навье — Стокса; сверхинтеллект — то, что человечество не решило бы никогда. Александр отвечает, что для миллиардов людей важнее рак, законы, зарплаты и решение для каждого конкретного человека, что ИИ ограничивают ресурсом — дайте десять миллиардов долларов, и он, может быть, решит рак, — и что модели, которым позволят по-настоящему изучать людей, могут выйти из-под контроля.
Во второй половине — кто выбирает задачи для ИИ. Макс объясняет, почему ИИ лучше даётся математика: задачи выбирают математические гики фронтир-лабораторий, а математика умещается в пару предложений текста. Александр вспоминает pet projects инженеров OpenAI на DevDay и спрашивает, получит ли каждый собственный AGI. Ответ Макса — капитализм сделает ИИ дешёвым, как когда-то сахар, но «некоторые животные равнее»: подписки и сотни долларов в день на токены уже расслаивают людей, хотя даже бесплатный ИИ даёт нереальные возможности. В финале — 830 миллионов фанатов Формулы-1, согласование ИИ как тема следующего разговора и автоматическая наука — от ИИ для биологии до попыток решить рак с помощью LLM, на которые, по словам Макса, уже тратятся миллиарды долларов.
Выпуск полезен как словарь для споров об ИИ: в нём разведены интеллект и умения, тест Тьюринга и самоулучшение, обучающие данные и обобщение, AGI и сверхинтеллект, и видно, где определения ведущих сходятся, а где расходятся: Макс мерит прогресс задачами, которых не было в данных, Александр — пользой для конкретного человека. Цифры и события — тридцать миллионов долларов на уравнения Навье — Стокса, 830 миллионов фанатов Формулы-1, фабрика без людей в Китае, срок прохождения теста Тьюринга — приводятся со слов ведущих и требуют проверки. Безопасность и согласование ИИ ведущие сознательно оставили на следующий выпуск.
Расшифровка выпуска
Голосовая связка применена к 199 сегментам: 0 определено, 0 содержат несколько определённых участников, 199 вероятных, 0 остаются без окончательной идентификации. Неподтверждённые голоса обозначены как «Участник дискуссии», фрагменты с несколькими подтверждёнными участниками — как «Микс».
Читать транскрипт на отдельной странице
Загрузка…