США vs Китай: две машины судьбы строят AI для управления миром
Если ни США, ни Китай не остановятся и строят из искусственного интеллекта машины для управления миром, что остаётся человеку — как отличать правду от манипуляции, где зарабатывать деньги и на какую базу опираться, когда система думает быстрее него?
Дэниел Кокотайло, бывший исследователь OpenAI, описывает две системы: центр силы США — частные AI-компании, чипы, капитал и Пентагон, Китая — государство, партия, данные и контроль, и ни одна из них не остановится. Самая глубокая опасность в его картине — не злой ИИ, а исчезновение человеческого масштаба: человек перестаёт спрашивать, что истина, и спрашивает, что система считает оптимальным. Ведущий подкрепляет это цифрами и кейсами: в исследовании GPT-4.5 приняли за человека в 73% случаев, Higgsfield показал в Каннах полнометражный фильм от ИИ, а Claude, разбирая код Codex, предложил переписать всю архитектуру самому. Татьяна Цветкова держит свою линию: манипуляцию надо считать данностью, ценность вещи — в истории и душе, а классическое образование остаётся базой, на которую ложатся любые курсы. Итог спора о деньгах и работе — выигрывает не тот, кто «умеет пользоваться AI», а тот, кто по-настоящему хочет разобраться в задаче.
На что обратить внимание
Ключевые тезисы и выводы
Энциклика ставит ИИ в традицию социальной доктрины церкви: достоинство человека, власть, концентрация контроля. Ведущий цитирует слова о «новой Вавилонской башне» и о том, что ИИ должен быть «освобождён от логик доминирования, исключения или смерти», — и отвечает, что это уже не остановить и на происходящее такие призывы не влияют. Татьяна Цветкова добавляет, что ставить недостижимые идеалы — суть религии, а правда между апокалипсисом и идиллией где-то посередине.
На этой неделе Сэм Альтман сказал, что думал, что к этому моменту будет устранено больше рабочих мест начального уровня среди офисных специалистов, и что не может представить, что отдаст человеческую часть взаимодействия ИИ. Ведущий называет это брехнёй: OpenAI выиграла суд у Илона Маска и готовится к IPO, нужна правильная риторика. Такой же хаос на уровне государства — законопроект Трампа о доступе политиков к моделям за девяносто дней до выпуска на этой неделе уже развернули.
Дэниел Кокотайло, бывший исследователь OpenAI, говорит, что люди, владеющие AI-компаниями, и правительства их стран никогда не остановятся, чтобы не внедрить ИИ в своих интересах. Ведущий добавляет: OpenAI будет блокировать страны не из-за санкций и GDPR, а из-за выгоды, потому что компании стоимостью в триллионы — это компании страны. Лидеров два, США и Китай; Европа, которой глава Mistral даёт два года, по мнению ведущего, уже проиграла.
В США центр силы — частные AI-компании, облака, чипы, капитал и Пентагон, в Китае — государство, партия, индустрия, данные и контроль. Логика США — быстрее изобрести, внедрить и монетизировать, Китая — быстрее строить государство, производство и стратегию; в военной сфере ИИ для одних — ускоритель командования, для других — часть мобилизационной системы. Слабость США — разрыв между корпоративным интересом и общественным контролем, Китая — жёсткость и самообман централизованных данных, откуда ведущий выводит тему ложных зависимостей: от браслета Whoop, хвалящего кофе на ночь, до законов, принятых по ложным выводам ИИ.
Главная фраза Кокотайло: опасность не в злом ИИ, а в том, что ИИ думает быстрее человека, планирует глубже, знает общество лучше и создаёт тексты, видео и идеологии страха и надежды. Человек теряет не работу, а внутреннюю позицию субъекта: он уже не спрашивает, что истина, а спрашивает, что система считает оптимальным. Это переход от мудрости к оптимизации, и две «машины судьбы» — США и Китай — строят системы для управления миром.
В исследовании, о котором писал Tech Explorer, в одной из версий эксперимента старую модель GPT-4.5 определяли как человека в 73% случаев. Эссе, которое племянник ведущего сам написал для поступления в Стэнфорд, машина сочла написанным роботом, а тексты, полностью написанные ИИ, сегодня проходят как человеческие. Сама модель оценивает вероятность своего обнаружения в 12%, но для текста, по мнению ведущего, это не вероятность, а невозможность определить.
Higgsfield Александра Машрабова показал в Каннах полнометражный фильм примерно на девяносто минут, снятый ИИ, со сценарием от серьёзного режиссёра и сценаристов. Ведущему «нет разницы», кто написал текст, — важно, настоящий ли он по смыслу и логике и нет ли манипуляции; handmade на ярмарках он считает такой же условностью. Татьяна отвечает, что манипуляцию надо считать данностью, ИИ уже знает, что ей понравится, а подвеску за две тысячи долларов она купит только с историей — в вещи от машины нет души.
Оффер человека, сделавшего сто агентов, ведущему неинтересен: знание пунктов меню, десять тысяч открытых чатов и настроенный API — не ценность. Внедряя автоматизацию с 2002–2003 года, он видел, как люди переквалифицировались на другой труд, и считает, что выигрывать будет тот, кто по-настоящему хочет понять, что нужно клиенту и компании и какие показатели сделать. Из тысячи компаний, обещающих улучшить отдел продаж, достойное предложит одна, а те, кто учит «зарабатывать с OpenAI или на Amazon», — обманщики.
Одни говорят о массовых вытеснениях, другие — что это прогретая управленческая риторика; операционный директор, «не видящий эффективности ИИ», для ведущего такой же популист. Дженсен Хуанг напоминает, что генеративный ИИ в реальной продуктивности появился недавно и странно списывать на него увольнения, начавшиеся раньше, — «подгоняются факты», резюмирует Таня. Ведущий уверен, что работа будет меняться и многие исчезнут из своих ролей, и особенно уязвимы фанатики бизнеса, готовые уходить в минус, но не признавать, что бизнеса больше нет.
Управляя с 2020 года компанией в России, ведущий вместе с Ильнаром Шафигуллиным строил IT-программы для сотен тысяч учеников и всё время спрашивал, как можно стать программистом за шесть месяцев: из двадцати директоров на первом собрании никто не разбирался в DevOps. Хайп «через девяносто дней две тысячи долларов в месяц» приходится держать в балансе с математикой, алгоритмизацией и широким кругозором. Татьяна поддерживает классическое образование: пять лет университета выстраивают связи в голове, и после них даже курс про запуск Instagram видишь структурно.
Серия исследований этой недели напомнила, что LLM-судьи ненадёжны при оценке сложных исследовательских агентов и текут чувствительными атрибутами. Появилось понятие ответа, который правильный, но для вас ненужный: Сундар Пичаи признал, что ИИ-поиск Google может интерпретировать вопрос слишком уверенно, при этом AI Mode превысил миллиард еженедельных пользователей. Когда одна модель оценивает другую, это та же ошибка, что у человека, который судит другого, не разобравшись, кто перед ним, — как ChatGPT, посоветовавший ведущему три мероприятия на субботу.
Загрузив большое ядро, написанное в Codex, в Claude, ведущий получил по одному проекту кучу ошибок в архитектуре и предложение: «Раз Codex создал такую лажу, вначале я всё создам, а потом Codex мелкие вещи подправит», — Anthropic гнёт свою линию. Второй чат на двух других репозиториях предложил продолжать в Codex и без такого нарратива согласился с отказом. Claude написал, что «следы Codex» видны сразу, а ведущий выводит: мыслить надо не агентами, а софтом, созданным ИИ, и код скоро перестанет нас волновать — как Таню не интересует код в Figma или Archicad.
О чём этот выпуск
Воскресный подкаст ToTheMoon с Александром Волчеком и Татьяной Цветковой. Повод — неделя, на которой об искусственном интеллекте говорили как о системе влияния: Папа Римский — о власти и концентрации контроля, Сэм Альтман — о рабочих местах, бывший исследователь OpenAI Дэниел Кокотайло — о том, что США и Китай строят из ИИ две «машины судьбы».
Первый блок — энциклика папы, где ИИ рассматривается как достояние человечества и ставится в традицию социальной доктрины церкви: достоинство человека, власть, концентрация контроля. Ведущий цитирует фразы о «новой Вавилонской башне» и о том, что ИИ должен быть «разоружён», и признаётся, что видит в них популизм: это уже не остановить, и на происходящее такие слова не влияют. Татьяна отвечает, что ставить недостижимые идеалы — суть религии, а правда, как всегда, между апокалипсисом и идиллией; она же предполагает, что сама потребность зарабатывать деньги может уйти, и отрезвляет примером — ChatGPT Pro час переформатировал файл и перепутал все картинки.
Дальше — слова, за которые никто не отвечает: Альтман «рад, что ошибся» насчёт офисных рабочих мест, и ведущий видит в этом риторику перед IPO; законопроект Трампа о доступе политиков к моделям за девяносто дней до выпуска на этой неделе уже развернули; лагеря вокруг Китая — Anthropic против Дженсена Хуанга и Nvidia — бесконечно двигаются. На этом фоне Кокотайло говорит, что владельцы AI-компаний и правительства не остановятся ни при каких условиях; ведущий добавляет, что OpenAI будет блокировать страны из-за выгоды, а не из-за GDPR, что компании стоимостью в триллионы — это компании страны и что Европа, которой глава Mistral даёт два года, уже проиграла. Между делом — ручка ChatGPT Pro Since 24, одна из десяти тысяч.
Центральная часть — две машины судьбы. Центр силы США: частные AI-компании, облака, чипы, капитал и Пентагон; Китая: государство, партия, индустрия, данные и контроль. Логика США — быстрее изобрести, внедрить и монетизировать, Китая — быстрее строить государство и контроль; слабость первых — разрыв между корпоративным интересом и общественным контролем, вторых — жёсткость и самообман централизованных данных. Отсюда разговор о ложных зависимостях — от браслета Whoop, который хвалит кофе на ночь, до законов, которые примут по ложным выводам ИИ, — и главная фраза Кокотайло: опасность не в злом ИИ, а в исчезновении человеческого масштаба, когда человек спрашивает не что истина, а что система считает оптимальным.
Тест Тьюринга стал бытовой проблемой: в исследовании GPT-4.5 принимали за человека в 73% случаев, эссе племянника ведущего детектор счёл написанным роботом, а тексты ИИ проходят как человеческие. Higgsfield Александра Машрабова показал в Каннах полнометражный фильм, снятый ИИ, и ведущему уже «нет разницы», кто автор, — важно, настоящий ли смысл и нет ли манипуляции; handmade на ярмарках он считает такой же условностью. Татьяна возражает: манипуляцию надо считать данностью, ИИ уже знает, что ей понравится, а вещь без истории и души — как табуретка рядом со стулом — не резонирует с человеком.
Спор о деньгах ведущий начинает с оффера человека, сделавшего сто агентов, и заканчивает выводом: выигрывает не тот, кто умеет пользоваться системами, а тот, кто хочет разобраться в задаче клиента; те, кто учит «зарабатывать с OpenAI или на Amazon», — обманщики. В споре о рабочих местах он сталкивает директоров, «не видящих эффективности», с Дженсеном Хуангом, который не даёт списывать старые увольнения на ИИ, и с Meta, которая бесконечно увольняет и нанимает. Отсюда — образование: опыт компании в России, где вместе с Ильнаром Шафигуллиным строились программы для сотен тысяч учеников, вопрос «как стать программистом за шесть месяцев», хайп «через девяносто дней две тысячи долларов» и защита фундаментальной базы; Татьяна поддерживает классическое образование из собственного опыта.
Закрывают выпуск два кейса. Серия исследований напомнила, что нельзя поручать одному AI проверять другой: LLM-судьи ненадёжны на сложных исследовательских агентах и текут чувствительными атрибутами, а «правильный, но не для вас» ответ — как признал Сундар Пичаи о поиске Google — обычное дело при миллиарде еженедельных пользователей AI Mode. И история Claude против Codex: загруженное ядро Claude «обхаял по полной» и предложил переписать архитектуру сам — Anthropic гнёт свою линию, — а второй чат такого нарратива не показал. Вывод ведущего: мыслить надо не агентами, а софтом, созданным ИИ, и код скоро перестанет нас волновать.
Выпуск полезен тем, что связывает высокие слова — папы, Альтмана, Кокотайло — с бытовыми проверками: браслетом, ручкой, эссе племянника, кодом двух репозиториев. Из этого складывается одна рамка: машины судьбы строят государства и триллионные компании, а человеку остаётся не соревноваться с ними в знании AI, а держать собственный масштаб — понимать задачу, отличать смысл от манипуляции и опираться на фундаментальную базу.
Главная рамка выпуска — не спор о том, прав ли Папа Римский или Кокотайло, а перенос их слов на бытовой уровень: ведущий проверяет «машины судьбы» на браслете Whoop, на эссе племянника, на ручке ChatGPT и на двух репозиториях, которые Claude оценил по-разному. Из этого следует практический вывод: пока государства и триллионные компании строят системы для управления миром, человеку важно сохранять собственный масштаб — понимать задачу, отличать смысл от манипуляции и опираться на фундаментальную базу, а не на знание пунктов меню.
Расшифровка выпуска
Голосовая связка применена к 143 сегментам: 0 определено, 0 содержат несколько определённых участников, 143 вероятных, 0 остаются без окончательной идентификации. Неподтверждённые голоса обозначены как «Участник дискуссии», фрагменты с несколькими подтверждёнными участниками — как «Микс».
Читать транскрипт на отдельной странице
Загрузка…