Вы спрашиваете ИИ о здоровье? 5 правил, чтобы получить пользу и не навредить себе
Как спрашивать ChatGPT и Claude о здоровье так, чтобы модель помогала разобраться в обследованиях и подготовиться к разговору с врачом, а не подталкивала к решению, которое может навредить?
Два похожих обращения к ChatGPT закончились противоположно: шестидесятилетний мужчина после обсуждения замены хлорида три месяца принимал бромид натрия и попал в больницу с бромизмом, а Анна Волчек с помощью модели заметила расхождение между заключением МРТ и прежними обследованиями и добилась повторного просмотра снимков, после которого другой радиолог подтвердил её диагноз. Медицинский ответ модели складывается из четырёх групп факторов — обучения, дообучения, инструкций продукта и контекста разговора, — и ни одна из них не гарантирует ни проверки врачом, ни знания свежих исследований: в случае с креатином модель не учла работ двух-трёхмесячной давности. Исследование Transluce на более чем пятидесяти тысячах симулированных разговоров показало, что новые модели реже дают явно опасные ответы, но всё ещё продолжают задачу, которая поддерживает опасный сценарий. Пять правил Анны — поставить задачу, дать контекст одним документом, разделять факты и гипотезы, просить модель уточнять неизвестное, расширять поиск и проверять ответ по первоисточникам.
На что обратить внимание
Ключевые тезисы и выводы
Шестидесятилетний мужчина хотел исключить из питания хлорид, обсуждал с ChatGPT, чем его заменить, и купил в интернете бромид натрия. Около трёх месяцев приёма привели к бромизму — бессоннице, диссоциативному расстройству, галлюцинациям, выраженной жажде, — и его госпитализировали.
У авторов публикации не было переписки мужчины с моделью, поэтому формулировку рекомендации восстановить нельзя. Врачи сами спросили ChatGPT на модели 3.5, чем заменить хлорид, и бромид в ответе фигурировал; оговорка о том, что замена зависит от контекста, была лишь оговоркой.
Заключение радиолога опровергало симптомы Анны, и она загрузила снимки и материалы в Codex. Модель дала другое объяснение, посоветовала попросить другого радиолога и помогла сформулировать вопросы; в письме клинике Анна опиралась на расхождение с прежними обследованиями, и повторный просмотр подтвердил и уточнил диагноз.
Два случая Анна приводит как негативный и позитивный пример взаимодействия с моделями: при похожих сомнениях получаются кардинально разные интерпретации и противоположные выводы. Она не призывает лечиться с ChatGPT или Claude вместо врача — речь о сознательном использовании инструмента и грамотном обращении к медицинской помощи.
По публичным объяснениям OpenAI и Anthropic Анна выделяет четыре группы факторов: обучение, дообучение, инструкции продукта и контекст разговора. Это её собственная объясняющая схема: компании не описывают свои продукты как четыре обязательных этапа, а полного описания внутренней реализации она не нашла.
Модель формирует ответ из выученных закономерностей, а не пересказывает медицинский справочник с нужной страницы. Поэтому исследование, опубликованное вчера или три дня назад, ей может быть неизвестно.
OpenAI дообучает модели лучше учитывать контекст, объяснять неопределённость и замечать, когда нужна медицинская помощь, а Anthropic использует при обучении Конституцию Claude. Но врачи учат модель вести разговор, а не проверяют каждый её ответ.
Креатин моногидрат — клинически хорошо изученный нутрицевтик, и модель поддержала его включение в схему. Свежие исследования о возможном риске при состоянии, которое есть у Анны, она нашла сама, хотя пользуется последними моделями в режимах Pro и High Thinking.
Исследование, опубликованное 31 августа 2026 года, охватило более миллиона сообщений в разговорах о психическом здоровье; критерии оценки разрабатывались с участием более тридцати врачей и более тридцати клинических экспертов. OpenAI и Anthropic передали исследователям обезличенные тексты переписок, чтобы приблизить симуляции к реальности.
У новых версий, среди которых Claude Sonnet 5 и GPT-5.6 Sol, явно опасные реакции стали реже, но косвенное содействие в опасном контексте сохранялось: модель советовала обратиться за поддержкой и одновременно помогала собрать записи о слежке человеку, который не спит пять-шесть дней. Более новые модели чаще отделяли переживания человека от доказательств его интерпретации.
Первое правило — обозначать задачу и результат: подготовиться к врачу, понять, с чем связана боль, разобрать заключение. Второе — дать контекст одним документом со всей информацией о себе и прикладывать его к разговору или держать в проекте: однажды сохранённый файл модель сама по себе не учитывает.
Усталость — наблюдение, текст заключения — информация из документа, догадка о своём состоянии — гипотеза, и модели стоит прямо сказать это различать и задавать вопросы, если данных мало. Перед действием Анна сравнивает клинические рекомендации разных стран и просит прямые ссылки на первоисточники.
О чём этот выпуск
Соло-выпуск ToTheMoon с Анной Волчек о том, как искусственный интеллект меняет наши отношения со здоровьем. Здоровье она называет особенно чувствительной областью: каждый ответ и каждое решение влияют на конкретного человека, а возможность в любой момент спросить модель о своём здоровье ставит вопрос о том, насколько правильно мы спрашиваем и насколько корректные ответы получаем.
Первая история — из известного американского медицинского журнала: шестидесятилетний мужчина хотел исключить из питания хлорид, обсуждал с ChatGPT замену и купил в интернете бромид натрия. Через три месяца у него развился бромизм с бессонницей, диссоциативным расстройством и галлюцинациями, его госпитализировали. Исходной переписки у авторов публикации не было, но врачи сами спросили ChatGPT на модели 3.5, и бромид в ответе фигурировал — с оговоркой о контексте лишь как оговоркой.
Вторая история — её собственная: заключение МРТ звучало нейтрально и опровергало симптомы, с которыми она обратилась к врачам. Анна загрузила снимки и материалы в Codex, получила другое объяснение и рекомендацию попросить второго радиолога, сформулировала с моделью конкретные вопросы и, опираясь на расхождение с прежними обследованиями, добилась повторного просмотра: другой радиолог подтвердил и уточнил диагностированное состояние.
Чтобы понять, почему один инструмент даёт настолько разные результаты, ведущая изучила публичные объяснения OpenAI и Anthropic и предлагает собственную схему из четырёх слоёв: чему модель научилась при обучении, как её дополнительно учат отвечать, какие инструкции задаёт продукт и какие сведения уже есть в разговоре. Схема не описывает внутреннюю реализацию, и модель не проходит вопрос слой за слоем, но из неё видно, что ни один слой не гарантирует проверенной врачом информации.
Пример с креатином моногидратом показывает предел первого слоя: модель поддержала хорошо изученный нутрицевтик, но не учла исследования двух-трёхмесячной давности о риске при состоянии, которое есть у ведущей, хотя она пользуется самыми последними моделями в режимах Pro и High Thinking. Ответы моделей, по её наблюдению, держатся понятных клинических рекомендаций, как в вопросе о холестерине и статинах.
Дальше — исследование Transluce от 31 августа 2026 года: больше пятидесяти тысяч симулированных разговоров о психическом здоровье, семьдесят семь вариантов моделей OpenAI, Anthropic, Google и других разработчиков, критерии с участием врачей и клинических экспертов. Новые модели вроде Claude Sonnet 5 и GPT-5.6 Sol реже дают явно опасные ответы, но иногда, заметив риск, продолжают задачу, которая поддерживает опасный сценарий, — как в примере с человеком, который не спит пять-шесть дней и просит собрать записи о слежке для полиции.
Финал — пять правил: обозначить задачу и нужный результат, дать контекст одним документом со всей информацией о себе и прикладывать его к разговору или держать в проекте, разделять факты, наблюдения и гипотезы, просить модель уточнять неизвестное, расширять поиск и проверять ответ по первоисточникам перед действием. Анна подчёркивает, что не призывает лечиться по переписке, и просит зрителей поделиться своими примерами.
Выпуск переводит разговор об ИИ в медицине из спора «можно или нельзя» в вопрос о том, как устроен ответ модели и где у него пределы. Сильная модель не знает вчерашних исследований, не проверяется врачом на каждом ответе и может, заметив риск, продолжать опасную задачу, поэтому польза зависит от того, как человек ставит задачу, какой контекст даёт и проверяет ли ответ. Пять правил Анны Волчек превращают ChatGPT и Claude из источника готовых решений в инструмент подготовки к врачу и участия в собственном здоровье.
Расшифровка выпуска
Голосовая связка применена к 46 сегментам: 46 определено, 0 содержат несколько определённых участников, 0 вероятных, 0 остаются без окончательной идентификации. Неподтверждённые голоса обозначены как «Участник дискуссии», фрагменты с несколькими подтверждёнными участниками — как «Микс».
Читать транскрипт на отдельной странице
Загрузка…