Илон Маск и Сэм Альтман: AGI уже близко. 20% шанс на ИИ-апокалипсис. AI воюет Голливудом
Что именно должно появиться, чтобы обещание AGI перестало быть расплывчатым прогнозом и стало проверяемым событием?
Собрать проверяемое определение AGI: какие способности должны появиться, в каких задачах они должны повторяться и где всё ещё требуется человеческий контроль.
На что обратить внимание
Ключевые тезисы и выводы
Рабочий вывод из сцены «Когда руководители OpenAI, xAI и Anthropic говорят, что сильный ИИ появится в ближайшие годы, это звучит» состоит в том, что каждый вкладывает в термин своё: для одного AGI — модель, выполняющая большую часть интеллектуальной работы, для другого — экономическая система, заменяющая человека в задачах, для третьего — мощный инструмент без претензии на сознание.
Сцена «Artificial AI отменяется, встречайте Powerful AI!» подводит к рабочему выводу: глава Anthropic считает термин AGI перегруженным и предлагает говорить о «мощном ИИ» — инструменте без претензии на человеческое сознание; попутно выяснилось, что домен powerful.ai уже выставлен почти за четыреста тысяч долларов.
Граница применимости в сцене «Покупочки OpenAI» определяется так: OpenAI купила домен chat.com — годом ранее покупатель заплатил за него пятнадцать миллионов долларов, а теперь конвертировал сделку в долю; по слухам, речь идёт примерно о двадцати миллионах, точная сумма не раскрыта.
Для решения, обсуждаемого в сцене «AGI будет в следующем году», важен критерий: Альтман обещает AGI уже в следующем году, Маск в отдельном интервью говорит о системе, которая сможет делать всё, что умеет человек, и называет 2028–2029 годы — разнобой чисел сам по себе показывает, что проверяемого определения пока нет.
Для сцены «20% шанс ИИ сойти с ума» решающим становится следующее: это не обязательно противоречие — одна и та же способность делает систему полезной и опасной, но процент создаёт ощущение точности там, где нет общепринятой методики измерения.
Сцена «Чем обусловлен скачок в области ИИ и реален ли шанс на выход из под контроля» подводит к рабочему выводу: масштабирование выходит на плато — рост сетей в десять и сто раз уже не даёт прежнего эффекта, поэтому ставка смещается на время рассуждения моделей вроде o1; если прирост мал, рынку выгоднее дорабатывать существующие модели, чем строить монструозные кластеры.
В контексте «Что будет вместо «Сильного» ИИ?» действует этот критерий: участники ждут первых прорывов в кодогенерации — именно над ней хотят работать лучшие исследователи, а агент, покупающий авиабилеты через интерфейс, будет лишь побочным продуктом; в computer use верят инвесторы, но уверенности, что это случится, у собеседников нет.
Сцена «Что ВЫ думаете про Сильный Искусственный интеллект?» подводит к рабочему выводу: ведущие выносят вопрос зрителям — появится ли AGI и какими будут первые кейсы, напишите в комментариях; сама постановка вопроса показывает, что готового ответа нет и у отрасли.
Оценивать тему «Появление ИИ сравнимо с созданием интернета?» нужно с учётом того, что интернет создал инфраструктуру, а ИИ сразу входит в чужие профессии и решения; вместо ожидания магической даты полезнее смотреть, какие операции модель выполняет без контроля, сколько это стоит и кто отвечает за ошибку.
О чём этот выпуск
Сэм Альтман говорит о близком AGI, Илон Маск одновременно обещает роботизацию и оценивает риск потери контроля, а Дарио Амодей предпочитает более осторожный термин «мощный ИИ». За громкими сроками скрывается реальный вопрос: дают ли масштабирование и reasoning качественно новую систему или только более дорогую версию прежней.
Когда руководители OpenAI, xAI и Anthropic говорят, что сильный ИИ появится в ближайшие годы, это звучит как согласованный прогноз отрасли. Но каждый вкладывает в термин своё содержание.
Для одного AGI — модель, способная выполнять большую часть интеллектуальной работы; для другого — экономическая система, которая заменяет человека в задачах; для третьего — достаточно мощный инструмент без претензии на человеческое сознание.
Илон Маск одновременно обещает, что роботы смогут делать почти всё, что делает человек, и говорит о двадцатипроцентном риске выхода ИИ из-под контроля. Это не обязательно противоречие: одна и та же способность делает систему полезной и опасной. Но процент создаёт ощущение точности там, где нет общепринятой методики измерения.
Главный технический вопрос — продолжается ли прежний рост качества. Модели reasoning вроде o1 тратят больше вычислений на рассуждение, но масштабирование резко повышает энергопотребление и стоимость. Если улучшение становится небольшим, рынку выгоднее дорабатывать существующие модели и строить вокруг них продукты, чем бесконечно увеличивать кластер.
Практические применения уже видны. Агент Devin автоматизирует часть программирования, Suno помогает музыкантам делать черновики, Runway меняет производство видео. Голливуд сопротивляется не абстрактному AGI, а конкретной возможности дешевле создавать кадры, музыку и варианты сценария. При этом профессионалы часто используют ИИ как инструмент, а затем переигрывают или пересобирают результат.
Поэтому сравнение с появлением интернета уместно только частично. Интернет создал инфраструктуру, а ИИ сразу входит в чужие профессии и решения. До «замены всего» ещё далеко, но рынок уже меняется. И вместо ожидания одной магической даты полезнее смотреть, какие операции модель выполняет без контроля, сколько это стоит и кто отвечает за ошибку.
До «замены всего» ещё далеко, но рынок уже меняется. Поэтому и вместо ожидания одной магической даты полезнее смотреть, какие операции модель выполняет без контроля, сколько это стоит и кто отвечает за ошибку.
Расшифровка выпуска
Голосовая связка применена к 100 сегментам: 64 определено, 6 содержат несколько определённых участников, 25 вероятных, 5 остаются без окончательной идентификации. Неподтверждённые голоса обозначены как «Участник дискуссии», фрагменты с несколькими подтверждёнными участниками — как «Микс».
Читать транскрипт на отдельной странице
Загрузка…