Что скрывает Сэм Альтман: можно ли доверять людям, которые обещают изменить мир?
Насколько можно доверять людям, которые обещают решить проблемы человечества и одновременно получают всё больше власти, — и понимают ли создатели искусственного интеллекта, что они на самом деле делают?
OpenAI готовится дать каждому персональный AGI, а Сэм Альтман за месяц перешёл от «ИИ надо сдерживать» к тому, что человечеству придётся смириться с плохими вещами. Фильм «Искусственный» раскладывает вопрос доверия на четыре уровня: научная мечта сталкивается с желанием победить; предупреждение об опасности одновременно рекламирует мощь системы; правда для Суцкевера — принцип, а для Альтмана — то, что приспосабливается к обстоятельствам; «искусственным» можно назвать и публичный образ самого Альтмана. Илон Маск говорит о вероятности в десятки процентов, что ИИ приведёт к краху человечества, а системы класса Mythos доступны лишь избранным компаниям, — поэтому заявления лидеров стоит проверять причинами, следствиями и деталями.
На что обратить внимание
Ключевые тезисы и выводы
Эти слова принадлежат Саймону Ричу, сценаристу фильма «Искусственный» об OpenAI, Сэме Альтмане, Илье Суцкевере и увольнении Альтмана. По словам Александра, премьера прошла пятого октября в Нью-Йорке, в конце декабря фильм выйдет в части кинотеатров США, а массово — с 2027 года. Рич хотел привлечь внимание к тому, куда движется создание ИИ; получилось ли, Александр не знает.
Главный вопрос фильма — насколько можно доверять людям, которые обещают решить проблемы человечества и одновременно получают всё больше власти. Большинство не хочет думать об этом применительно к себе: людей больше волнует, как выбрать профессию и заработать. А гонка остаётся — с ИИ делают пятнадцать задач вместо трёх, результат прежний, и хочется уже пятьдесят.
В конце сентября OpenAI назвала среди трёх пунктов будущего персональный AGI для каждого — не инструмент для крупных компаний и не чат. Получить AGI, по словам Александра, — всё равно что получить правительство, экономики и бизнесы, которые работают на вашу жизнь, как разница между одним кафе и Starbucks. И такой AGI будет у вашей жены или мужа, родителей и детей.
Сэм Альтман считает, что мы уже в технологической сингулярности. В сгенерированном видео в X он приходит к Дженсену Хуангу, сидящему на троне в стиле «Игры престолов», со словами «Мы, кажется, достигли AGI» и слышит: «Вы уже три года так говорите», — а приготовленный торт тем временем сгнил. AGI, по сути, выпускают каждый год или каждый месяц.
Если AGI создан, что должно измениться в мире, и понимают ли его создатели, что делают? Самым здравомыслящим Александр считает Илона Маска — хотя вопросов к нему огромное количество: тот хотя бы забрасывает вперёд большие тренды. Главы OpenAI и Anthropic, а тем более Google и Meta, по его мнению, рассуждают в микрозонах — не потому, что они неумные, а из-за того, что готовы заявлять открыто.
Первый уровень фильма — научная мечта сталкивается с желанием победить, то есть с властью. Месяц назад Альтман говорил, что ИИ надо сдерживать, а потом — что человечеству придётся смириться с плохими вещами, не уточняя какими. А партнёр Александра напомнил: весь сегодняшний ИИ — «самый простой тупой искусственный интеллект, который будет в будущем».
В фильме Суцкевер верит в огромные возможности технологий, но постепенно начинает видеть опасность, а Альтман всё сильнее связывает будущее компании с собственным руководством. Отсюда конфликт, после которого компанию на время возглавила Мира Мурати, а все говорили, что OpenAI конец и команду переманил Цукерберг.
Сегодня у OpenAI больше всех еженедельных и ежедневных пользователей и времени в системе: на DevDay Альтман назвал, по памяти Александра, около 1,2–1,25 миллиарда. Это серьёзно для компании, у которой есть только ChatGPT и Codex — ни поиска, ни почты, ни хранилища файлов, а Microsoft при большом партнёрстве сдерживает её использование. Apple впустила ChatGPT, потом перешла на Gemini, но Siri ищет очень плохо.
Сделать серьёзные системы — это не только деньги, технологии и крутые команды, но и то, что происходит внутри. Какой была бы OpenAI, если бы Суцкевер и Мурати остались, если бы Anthropic не отделилась, если бы Маск интегрировал OpenAI в SpaceX и Tesla? А на DevDay у Александра возник вопрос: почему Альтман читает всё с монитора и не говорит с разработчиками в открытую?
Второй уровень фильма — разговор о безопасности тоже может служить интересам бизнеса. Предупреждение о невероятной опасности системы одновременно подчёркивает её невероятную мощь. Нам постоянно говорят, что ИИ надо ограничивать, а система не останавливается в развитии: «Еще никто и никогда ничего не останавливал», — и предсказания создателей постоянно нарушаются.
Илон Маск говорит о вероятности в десятки процентов, что ИИ приведёт к краху человечества. Запускать такую систему, считает Александр, можно было бы при вероятности в одну миллионную или тысячную, но не в десятки процентов. Китайцы называют этот нарратив способом американцев тормозить остальных, а Италия когда-то заблокировала ChatGPT — сегодня же модели проникли везде.
Третий уровень фильма — правда становится инструментом управления: для Суцкевера она принцип, для Альтмана — то, что приспосабливается к обстоятельствам. Все, кто сопротивлялся, всё равно покупают мощности. Ильнар когда-то сказал, что Anthropic «начал давать заднюю»: обещала не работать с определёнными странами, а уже брала у них деньги.
Системы класса Mythos от Anthropic, по словам Александра, начали делать первые серьёзные взломы в мире, и доступ к ним дали лишь определённым компаниям по согласованию с правительством США. Обычные люди на бесплатных и дешёвых тарифах даже близко не имеют доступа к серьёзным моделям, а в ChatGPT Pro за пятьсот долларов даже режим Extra High отвечает мгновенно, — поэтому в платные модели стоит инвестировать.
Четвёртый уровень — двойной смысл названия: «искусственным» можно прочитать и тщательно созданный публичный образ Альтмана, его убедительность и способность формировать согласие в обществе. Люди доверяют тем, кто стоит за деньгами, но эти люди пять лет назад не знали, где мы окажемся, и постоянно меняют сроки, — поэтому разбираться в правде, причинах и следствиях приходится самим.
В США решили убрать слово «искусственный», и это, по словам Александра, не случайно: Маск давно говорит о суперинтеллекте. До ИИ из фильмов вроде Oblivion нам далеко, но называть ИИ тупым кодом неверно — это огромная инфраструктура и часть сознания общества. В нём нет духовно-душевной системы человека, но он серьёзнее операционной системы: ОС так и не стала частью общества, а Apple можно заменить.
О чём этот выпуск
Выпуск ToTheMoon начинается с фразы «Последняя попытка предупредить человечество» — словами сценариста Саймона Рича о фильме «Искусственный». Фильм — про OpenAI, Сэма Альтмана, Илью Суцкевера и время, когда Альтмана сняли с должности генерального директора; премьера, по словам Александра Волчека, прошла пятого октября в Нью-Йорке, в части кинотеатров США картина выйдет в конце декабря, а массово — с 2027 года. Задача выпуска не анонс, а главный вопрос фильма: насколько можно доверять людям, которые обещают решить проблемы человечества и одновременно получают всё больше власти.
Люди, замечает Александр, не хотят думать об этом применительно к себе: им интереснее, как выбрать профессию и заработать в эпоху ИИ. А гонка остаётся: человек с ИИ делает не три задачи в день, а пятнадцать, результат прежний — и хочется уже пятьдесят.
В конце сентября OpenAI назвала будущее, к которому готовится, — в том числе персональный AGI для каждого. Это, по словам Александра, не бот и не агент, а как если бы у человека появились правительство, экономики и бизнесы, работающие на его жизнь, — и такой AGI будет у жены, родителей и детей. Сэм Альтман считает, что мы уже в технологической сингулярности, а сеть смеётся над ним видео, где Дженсен Хуанг отвечает на «мы, кажется, достигли AGI»: «Вы уже три года так говорите».
Если AGI создан, что должно измениться в мире? Самым здравомыслящим Александр считает Илона Маска, который хотя бы забрасывает вперёд большие тренды, а главы OpenAI и Anthropic, тем более Google и Meta, по его мнению, рассуждают в микрозонах.
Первый уровень фильма — научная мечта против желания победить, то есть власть. Альтман месяц назад призывал сдерживать ИИ, а потом сказал, что человечеству придётся смириться с плохими вещами. В фильме Суцкевер постепенно видит опасность, а Альтман связывает будущее компании с собственным руководством. После его увольнения все хоронили OpenAI, а сегодня у неё больше всех пользователей — на DevDay Альтман назвал около 1,2–1,25 миллиарда, — хотя у компании нет ни поиска, ни почты, ни хранилища файлов. Apple, впустив ChatGPT, перешла на Gemini, но Siri, по словам Александра, по-прежнему ищет очень плохо.
Второй уровень — разговоры о безопасности работают на бизнес: предупреждение об опасности подчёркивает и мощь системы. Илон Маск говорит о вероятности краха человечества в десятки процентов, хотя допустимой Александр считал бы одну миллионную или тысячную. Китайцы называют этот нарратив способом американцев тормозить остальных, а Италия когда-то заблокировала ChatGPT — сегодня модели проникли везде, и остановить их уже некому.
Третий уровень — правда как инструмент управления: для Суцкевера она принцип, для Альтмана — то, что приспосабливается к обстоятельствам. Все, кто сопротивлялся, всё равно покупают мощности: Anthropic, по воспоминанию Ильнара, начала «давать заднюю». Системы класса Mythos доступны лишь компаниям по согласованию с правительством США, а серьёзные модели — только в дорогих тарифах вроде ChatGPT Pro за пятьсот долларов, поэтому в платные модели стоит инвестировать.
Четвёртый уровень — двойной смысл названия: «искусственным» можно назвать и тщательно созданный публичный образ Альтмана. В финале Александр призывает разбираться в правде самим, ведь лидеры ИИ пять лет назад не знали, где мы окажемся, и постоянно меняют сроки, и объясняет, почему ИИ — не тупой код и не человек, а часть общества, серьёзнее операционной системы.
Фильм здесь — линза, а не предмет: выпуск о доверии к людям, которые строят искусственный интеллект, и о том, как власть, страх и правда работают на их компании. Самые резкие оценки — что главы OpenAI и Anthropic рассуждают в микрозонах, что Apple в полной проблеме, что Альтман читает с монитора, — это позиция ведущего, а цифры вроде 1,2–1,25 миллиарда пользователей и «десятков процентов» Маска приведены по памяти. Сильнее всего звучит призыв не верить на слово ни создателям ИИ, ни самому каналу, а разбираться в причинах, следствиях и деталях.
Расшифровка выпуска
Голосовая связка применена к 53 сегментам: 53 определено, 0 содержат несколько определённых участников, 0 вероятных, 0 остаются без окончательной идентификации. Неподтверждённые голоса обозначены как «Участник дискуссии», фрагменты с несколькими подтверждёнными участниками — как «Микс».
Читать транскрипт на отдельной странице
Загрузка…