AI Safety: что можно доверять ИИ, а что нельзя. 5 уровней ваших данных и где проходит граница

Почта и раньше хранилась в облаке, банки видели транзакции, телефоны хранили переписки, но искусственный интеллект добавляет новый слой — он может всё это понять. Систему, которую можно научить понимать человека, можно научить и влиять на него: не рекламой кроссовок, а советом, аргументом и формулировкой, меняющей решение. Поэтому разговор идёт не о паранойе, а о взрослой работе с ИИ — что ему доверять, что нет и где границы.

Есть страны, где записываются все телефонные звонки — в России это закон Яровой, — и записи лежат несколько лет, удалить их нельзя. Раньше для анализа один человек должен был прослушать звонки или искать по транскрибации упоминания людей и действий. Сегодня вывод о том, рассуждал ли человек на определённые темы, занимает меньше секунды, и дело уже не в скорости, а в том, что система может воспользоваться тем, кто вы такой.

ChatGPT базово обучается на данных пользователя, но даже с отключённым обучением все чаты продолжают храниться, а удалённый чат удаляется тридцать дней, а не сразу. Человек обычно решает удалить данные, когда появляется угроза, — а значит, угроза уже существует, и данные ещё тридцать дней, а может быть, и дольше остаются доступны. Удалить чаты по определённой теме не дают ни ChatGPT, ни Gemini, ни Anthropic; сам ведущий чаты не удаляет и осознанно меняет конфиденциальность на качество работы системы.

Каждый запрос теперь попадает в модель, которая рассуждает, и внутри неё есть блок безопасности: защита от дистилляции — Китай запускает десятки тысяч ботов, чтобы обучать свои модели на ответах американских, — законы стран и внутренние правила компаний. OpenAI, Anthropic, xAI и Gemini различаются по стилю и качеству ответов, и ответ зависит от страны, IP-адреса, регистрации аккаунта, предыдущих чатов, языка и промта. Американские компании договорились не рассказывать, как делать бомбы и химическое оружие, но в остальном чату приходится выбирать, что отвечать людям в странах с разными законами.

Сначала запрос проверяют автоматизированные модераторы, потом человек. В кейсе с убийством в Канаде запросы убийцы в ChatGPT ушли на проверку сотрудникам OpenAI, и те отказались передавать их правоохранительным органам. Расшаренные чаты ChatGPT целиком попадали в интернет, а Google прямо пишет, что проверенные чаты могут храниться до трёх лет, хотя обычные удаляются через восемнадцать месяцев. Разговор с адвокатом или врачом в Америке нельзя вынести на общее рассмотрение, а разговор с ChatGPT или Gemini — можно.

Реклама кроссовок — слабый уровень; настоящее влияние начинается там, где система знает, чего вы боитесь, что для вас важно и где у вас деньги. Даже после удаления чатов система уже обучилась тому, кто вы: она видит слабости, мечты, конфликты, кто на вас влияет и где у вас слабая позиция. Раньше влияние стоило дорого — нужен был психолог, продавец, политтехнолог, — теперь его можно масштабировать, и, отдавая данные, вы отдаёте карту того, как с вами разговаривать.

OpenAI и Google с Gemini действуют в рамках законов США: AGI, к которому они стремятся, не должен использоваться против граждан США, но может — для защиты страны, а значит, и против граждан других стран в случае войны. В Китае все системы проходят через государственную систему контроля, которую строили десятилетиями: ещё пять лет назад политически отрицательное сообщение в WeChat вызывало уведомление о нарушении закона, а камеры фиксируют даже мусор в неположенном месте. Системы, создаваемые в Иране, России или Китае, полностью под контролем, и на их данных чаты могут обучаться бесконечно.

Лидеров по моделям два — США и Китай, но у США феноменальный отрыв. У одного ChatGPT миллиард еженедельных пользователей, во всём Китае суммарно шестьсот миллионов, у Gemini больше восьмисот миллионов ежемесячных, а у Google в поиске миллиард. Денег и инфраструктуры в США в десятки раз больше: Anthropic, xAI и OpenAI готовят размещение на бирже, xAI — через SpaceX Илона Маска, а Goldman Sachs ждёт роста рынка инфраструктуры AI до более чем семи триллионов долларов за пять лет.

Системы всё лучше диагностируют попытки обойти санкции и ограничения доступа — не из-за санкций, а потому что OpenAI и Anthropic не заинтересованы в использовании своих систем на внешних рынках и работают в интересах определённых людей, кланов и государства. В Европе жёсткая регуляция и права пользователей, но магического исчезновения данных нет; Павел Дуров, Apple и Илон Маск говорят, что Европа требует делиться данными, чтобы управлять людьми, — и ведущий с этим согласен. Данные живут в правовом мире, а не в вакууме, и разбираться нужно в правилах своей страны.

Зелёный — общие вопросы вроде болезни цветка или выбора крупы; жёлтый — личные мысли, планы и черновики, которые ведущий называет фундаментом настоящего AGI; оранжевый — работа, договоры, код и клиентские данные. Красный — финансы, медицина, налоги, паспорта и юридические конфликты; чёрный — пароли, приватные ключи и чужие персональные данные без права на них, которые в обычный чат отдавать надо очень аккуратно. Ведущему странно, что мир ставит рабочие данные выше мыслей человека.

У ведущего записаны тысячи часов собственных мыслей за десять с лишним лет, и они кажутся ему важнее показателей крови, холестерина или УЗИ, хотя мир считает медицинские данные более чувствительными. Свои налоговые декларации он спокойно загружает в ChatGPT — там нет номера социального страхования, — но не призывает других повторять. Новый модуль GPT Finance, по его мнению, сделан ради доступа к финансам пользователя, а это гораздо менее важная информация, чем мысли: именно через них на человека смогут влиять в реально большом объёме.