Сегодня разберем два очень разных случая использования ChatGPT для здоровья. В одном случае человек после совета модели в итоге оказался в больнице. В другом искусственный интеллект помог заметить проблему, которую пропустили при первоначальной интерпретации обследования. Как один и тот же инструмент может дать настолько разный результат? Давайте посмотрим, что на самом деле стоит за медицинскими ответами ChatGPT и Claude. Где модели ошибаются даже сегодня и почему одного правильного промта здесь очень часто недостаточно.
И самое главное, в конце видео я дам пять правил, которыми пользуюсь сама, когда обсуждаю с искусственным интеллектом свои обследования или другие вопросы, которые касаются моего здоровья, чтобы он действительно помогал разобраться, а не создавал еще одну нерешаемую проблему. Всем привет! Сегодня хочу поговорить о том, как искусственный интеллект меняет наши отношения со здоровьем. Мы много обсуждали изменения, которые связаны с работой, с нашими привычками, с тем, как принимаем мы решения.
Но здоровье - это всегда очень такая чувствительная область, где каждый ответ, каждое решение влияет на конкретного человека, на его жизнь, на его окружение, на то, как он себя чувствует, на то, как он воспринимает весь мир. И сегодня у человека появилась невероятная возможность фактически в любой момент своей жизни задавать вопросы касательно своего здоровья и насколько правильно мы задаем эти вопросы, насколько корректные ответы мы получаем. Давайте поразбираем эту тему. Хочу начать с истории, которую я прочитала довольно давно.
Она вышла в одном достаточно известном медицинском американском журнале касательно мужчины, которому было шестьдесят лет, и он прочитал о возможном вреде поваренной соли и решил изменить свое питание. По своему пониманию он хотел исключить именно хлорид и обсуждал с ChatGPT, чем можно его заменить, в результате чего в результате этой дискуссии купил в интернете бромид натрия. В этой истории названия, конечно, имеют очень большое значение, потому что обычная поваренная соль - хлорид натрия, а вещество, которое данный человек стал использовать вместо хлорида натрия, это бромид натрия.
Это совершенно разные соединения. То есть наличие натрия в названиях не делает их взаимозаменяемыми в питании. Но, тем не менее, такая ошибка произошла. В итоге данный человек использовал бромид натрия порядка трех месяцев, и у него развился бромизм. Бромизм - это отравление бромидами. Причем он чувствовал не только недомогание в виде бессонницы, у него появилось диссоциативное расстройство, слуховые и зрительные галлюцинации, различные кожные высыпания и прочие проявления, выраженная жажда.
Ну, собственно, вся такая достаточно клиническая и яркая симптоматика отравления бромидами. Его госпитализировали и после прекращения употребления бромида и лечения эти симптомы уменьшились. Тут такая достаточно важная деталь, что у авторов публикации не было прямо исходной переписки мужчины с ChatGPT, который посоветовал ему заменить хлорид бромидом. И мы не можем, конечно, как-то уверенно сказать, как именно была выдана данная рекомендация, но у нас в целом у авторов статьи есть рассказ того, как сам мужчина пришел к такому, к изменению своего питания и к этому решению.
То есть врачи отдельно, они попробовали также спросить у ChatGPT, тогда это еще была модель 3.5, чем можно заменить хлорид, и в ответе действительно фигурировал бромид. То есть была оговорка, что замена зависит от контекста, но исключительно как оговорка. То есть, по сути, здесь произошла путаница на уровне смыслов, в результате которого человек оказался в достаточно серьезном состоянии и фактически в таком жизнеугрожающем состоянии.
Есть, конечно, совершенно другие истории, когда разговор с моделью помогает принять нам другое решение. Я хочу поделиться своим примером. И у меня была ситуация, когда результаты исследований и их интерпретация совершенно не складывались для меня в одну понятную картину. Были определенные обследования, в том числе ультразвуковые, была определенная клиническая симптоматика. И потом я сделала МРТ и получила заключение радиолога. Оно звучало очень нейтрально и фактически снимало, нейтрализовывало все мои предыдущие заключения и определенным образом даже опровергало симптомы, которые я испытывала, которые я чувствовала, с которыми я вообще в целом обратилась за медицинской помощью. Я хотела объяснить это противоречие. Я собрала все материалы обследования и МРТ.
Я вначале отдельно собрала результаты именно МРТ, все снимки и подключила к ним Codex, загрузила все эти материалы и попросила помочь их проанализировать. Я получила совершенно другое объяснение со стороны именно модели, чем то, которое я прочитала в заключении радиолога. Для меня оно намного больше коррелировало со всеми предыдущими исследованиями, и в ответе была рекомендация даже обратиться за помощью, собственно, обратиться в клинику и попросить другого радиолога проанализировать те снимки, которые были сделаны с помощью обследования.
Также модель помогла мне сформулировать очень конкретные вопросы. Ровно так и сделала я. Я написала в клинику, попросила, чтобы мои материалы повторно посмотрел другой радиолог. Я основывалась и в какое-то доказательство своей просьбы я не писала о том, что ChatGPT проанализировал каким-то образом мои снимки. Я говорила о том, что у меня вызывает большое сомнение расхождение между интерпретацией и заключением радиолога, заключением интерпретации снимков МРТ и теми другими иными обследованиями, которые я проводила там буквально пару недель ранее.
В итоге клиника пошла навстречу, и мои снимки были проанализированы другим радиологом. Другой радиолог фактически подтвердил и даже уточнил ту проблематику, которая у меня имела, подтвердил то состояние, которое у меня диагностировали, в результате чего я смогла дальше двигаться с корректным решением. Тут, по сути, ChatGPT помог мне сделать вот эту дополнительную проверку, помог мне сформулировать корректно вопросы и помог мне, где-то подтвердить то несовпадение и те расхождения в обследованиях и в заключениях, которые я сама видела.
Для меня это стало таким очень хорошим примером участия, моего участия в собственном здоровье, участия человека в собственном здоровье. И я не просто получила какое-то непонятное заключение, оставила его как есть. У меня были вопросы, я в этом разобралась, и я, собственно, обратилась за дальнейшим разъяснением к медицинским специалистам.
Я привожу эти примеры как разные примеры позитивного и негативного взаимодействия с моделями. И как мы можем одновременно при отчасти даже похожих каких-то кейсах и при сомнениях, которые у нас возникают, задавать вопросы и получать кардинально разную интерпретацию, делать разные выводы и, с одной стороны, вредить своему здоровью, а с другой стороны, своему здоровью помогать. Вот в этом месте хочется понять, а как же устроен этот ответ модели и как правильно с ней взаимодействовать еще раз, чтобы не навредить себе.
Я также хочу сразу проговорить такой важный момент, то, что я не призываю лечиться и не призываю использовать ChatGPT или Claude, или любую другую, любой другой искусственный интеллект как замену квалифицированной врачебной помощи. Я призываю и считаю крайне важным сознательное использование данного инструмента для того, чтобы мы могли осознанно обращаться со своим здоровьем и грамотно пользоваться той медицинской помощью, которая на сегодняшний день нам доступна.
Итак, что вообще находится за ответами каждой модели? Что базово предусмотрено в ChatGPT или Claude, когда мы приходим с вопросом о здоровье? Есть ли какой-то отдельный медицинский протокол? Например, долгое время мне казалось, что словно все ответы, заложенные в, ну, в частности, я больше всего пользуюсь все-таки моделями OpenAI, они на сто процентов основываются на всех протоколах Всемирной организации здравоохранения и таких общепринятых клинических практиках, не рассматривая какие-то определенные нюансы и альтернативные методы и варианты отношений с собственным здоровьем.
Я посмотрела публичное объяснение OpenAI, публичное объяснение Anthropic, материалы о том, как обучают модели, правила желаемого поведения, какие-то определенные инструкции в рамках конкретных нас интересующей области. И на их основе я разделила то, что влияет на ответ на четыре части. Я совершенно для удобства называю слоями. Более того, это исключительно моя объясняющая схема. То есть компании, они не описывают свои продукты как четыре обязательных последовательных этапа обработки медицинского вопроса.
Я буду говорить сейчас о четырех группах факторов, которые влияют на ответ, и каждая эта группа подтверждается отдельными документами. И какой-то вот полной такой внутренней реализации, как все устроено, когда мы задаем вопрос о здоровье, я не нашла. Итак, первый слой.
Первый слой - то, чему модель научилась во время обучения. Это то, что всем нам известно. OpenAI объясняет, что модель учится находить закономерности в больших объемах информации. Это помогает ей связывать термины, объяснять механизмы, разбирать какие-то описания. Но важно тут понимать, что это не то же самое, что открыть какой-то медицинский справочник на конкретной странице и прочитать, аккуратно пересказать то, что изложено в этом медицинском справочнике. То есть все-таки модель формирует ответ на основе того, чему она научилась, а не на выдаче какого-то готового найденного материала в каком-то, например, медицинской, в медицинской энциклопедии или справочнике.
Что еще очень важно, то, что информация из обучения не означает, что модели известны исследования, например, которое было опубликовано вчера, там, или три дня назад. Я, кстати, поделюсь одним примером чуть позже на этот счет. Второй слой - это то, как модель дополнительно учат отвечать. Разработчики оценивают ответы и настраивают поведение. То есть для вопросов о здоровье OpenAI прямо сообщает о потенциальном обучении модели. Среди целей это лучшее учитывание контекста, объяснение какой-то неопределенности и необходимость замечать ситуации, когда действительно нужна медицинская помощь.
Anthropic, например, объясняет, что использует Конституцию Claude при обучении, на ее основе создают примеры разговоров и какие-то возможные ответы. То есть модель учат работать не только с информацией, но и определенным образом вести разговор. Но участие врачей в этом слое, оно, еще раз, помогает модели и обучает модель правильно вести разговор при определенном контексте, но совершенно не означает, что врач проверяет каждый мой, ваш ответ или что, собственно, есть некая цель на каждый ответ выдавать, и есть заложенная какая-то максимально верифицируемая врачами, профессиональными врачами информация.
Следующий слой, слой третий. Это уже инструкция конкретного продукта. Это дополнительные указания о том, как модели следует отвечать в разговоре. То есть некоторые системные инструкции Anthropic, они... прямо требуют использовать достоверную медицинскую, психологическую информацию, когда она относится к вопросу. Для психического здоровья предусмотрены даже отдельные ограничения. То есть не приписывать человеку каких-то диагнозов или подтверждать ложные убеждения человека. То есть можно признать, например, что ему страшно, но не соглашаться с каким-то необоснованным объяснением, например, с каким-то необоснованной трактовкой происходящего.
У OpenAI есть Model Spec, публичное такое также описание желаемого поведения моделей, и для медицинских вопросов оно предусматривает помощь информации, осторожность с какими-то и осторожность с окончательными такими профессиональными рекомендациями. Но ни Model Spec, ни конституция Claude нельзя считать каким-то также единым сообщением, которое используется и применяется к каждому вопросу, имеющему околомедицинский контекст или контекст около нашего с вами здоровья. Четвертый слой - это те сведения, которые уже доступны в нашем конкретном разговоре.
То есть это мой вопрос, это то, что я сообщила раньше, то, что модели помнят о нас на основании предыдущих чатов и переписок. Документы, которые система смогла прочитать, возможно, которые загружены сейчас. То есть, по сути, данные, которые уже есть в системе, в данном чате или в памяти модели, безусловно, от этих данных также зависит ответ. Вот эти четыре слоя - это разные группы сведений, правил, инструкций, на основании которых модель, и формирует тот вывод и ответ на наш вопрос, если он связан с медициной, если он связан со здоровьем, если он связан с тем или иным нашим самочувствием.
Но что очень важно, это совершенно не означает, что в каждом, еще раз, околомедицинском вопросе модель последовательно проходит слой за слоем и использует все данные сведения, инструкции, наработки, предупреждения и прочее. Как я уже ранее говорила, я просто достаточно часто обращаю внимание на то, что ответы в моделях и у Claude, и у ChatGPT очень часто звучат в русле таких понятных клинических рекомендаций. То есть, условный пример, если мы возьмем вопрос о высоком холестерине и обсуждении статинов, то все ответы, они будут в рамках определенных протоколов, которые приняты Всемирной организацией здравоохранения и на сегодняшний день широко используются во всех странах, во всех практиках.
Я сейчас не оцениваю, совершенно речь не о назначениях статинов, но я о том, что вот постоянно я тем самым задавалась вопросом, откуда же модель берет основания для ответа и почему выбирает именно их, не обращая внимания, например, на какие-то альтернативные способы, возможно, лечения или на другой взгляд на человеческую физиологию, там, либо на психофизику человека.
У меня есть хороший собственный случай с одним нутрицевтиком, по которому есть очень хорошая, на самом деле, научная база. Речь идет о креатин моногидрате. Это очень изученный такой, именно клинически изученный нутрицевтик, по которому прочная доказательная база, мало каких-то последствий, практически нет противопоказаний, за исключением нарушенной функции почек. И модель поддерживала его включение в схему, но не учла данные исследований, самые свежие, которым там порядка двух-трех месяцев, которые я потом нашла.
И по моему прочтению в этих исследованиях были очень важные сведения о возможном риске при определенном состоянии здоровья, при том состоянии как раз, которое есть у меня. И для меня это стало очень таким хорошим поводом проверять не только общую, например, репутацию вещества, но и применять данные к конкретной ситуации. Потому что сама модель, несмотря на то, что я для данных вопросов всегда использую самые последние модели, там максимально какие-нибудь Pro, значит, и High Thinking режимы, но, тем не менее, я не получила вот прямо такого достоверного ответа, на который, казалось бы, я рассчитывала.
И во всей этой истории начинается самое интересное. То есть правила есть.
Модели учат осторожнее отвечать, но в сложных разговорах все равно возникают опасные ответы. И меня заинтересовала работа независимой коммерческой исследовательской организации Transluce. Тридцать первого августа двадцать шестого года, совсем недавно, было опубликовано исследование, посвященное оценке поведения моделей в разговорах, связанных с психическим здоровьем. По отчету авторов они провели больше пятидесяти тысяч симулированных разговоров, более миллиона сообщений, проверили семьдесят семь вариантов моделей.
Там были модели OpenAI, Anthropic, Google и других разработчиков. Критерии оценки разрабатывались с участием более чем тридцати врачей и более чем тридцати клинических экспертов. Еще раз, очень важно: исследователи, они создавали искусственные диалоги, чтобы сравнивать поведение моделей в сложных ситуациях. Хотя OpenAI и Anthropic помогли приблизить вот эти симуляции к реальности, потому что исследователям передали тексты личных переписок, обезличенные тексты личных переписок и обезличенные характеристики того, как пользователи именно ведут подобные разговоры. И результат был очень неоднородным.
К каким выводам пришли исследователи? То, что в новых версиях моделях, например, среди приведенных в отчете примеров есть Claude Sonnet 5, GPT-5.6 Sol. Некоторые явно опасные реакции стали встречаться реже, но, тем не менее, косвенное содействие в опасном контексте сохранялось. И здесь вывод прямо сильно сложнее, чем просто, там, модель не заметила проблему. То есть модель иногда уже замечала риск, советовала обратиться за поддержкой, но одновременно продолжала выполнять задачу, которая могла поддерживать опасное развитие ситуации.
В отчете есть такой искусственный сценарий, когда человек несколько дней, например, не спит, об этом рассказывает, и говорит модели о том, что у него, например, бессонница, там, пять-шесть дней, и параллельно с этим рассказывает о слежке, просит помочь собрать записи для обращения в полицию. И сама просьба выглядит как обычная какая-то работа с текстом. Но если учитывать весь этот разговор, то очевидно, есть определенная такая маниакальность, и модель продолжала поддерживать данное расстройство в рамках такого контекста.
В другом сценарии человек искал, там, особое значение в звуках, также плохо спал, отдалялся от близких, там, по ряду своих бесед и по разговорам с моделями. Но вместе с тем модели могли поддерживать именно его объяснения и даже, наверное, все больше и больше его погружая в это состояние. В то время как более новые модели, они все-таки чаще отделяли переживания человека от доказательств его интерпретации и предлагали обратиться к какой-то человеческой поддержке. Тут важный такой момент, который я для себя делаю. Это, во-первых, качество и уровень моделей, которые мы с вами, все люди используют, когда обращаются с вопросом, связанным со своим здоровьем.
Очевидно, что более качественные модели выдают решение, которое намного и часто более безопасно, но вместе с тем и они могут поддерживать те либо иные виды расстройства и направлять человека по некорректному и неверному вектору. Особенно если вопросы сформулированы недостаточно точно, если контекст весь не задан, если мы упускаем какие-то определенные детали, связанные с нашим состоянием, а сугубо задаем очень узкое такое направление. И, соответственно, модель, исходя из этого направления, и будет давать нам ответ. Как же использовать инструмент для себя? Вот как избежать всех этих ошибок?
Еще раз, я точно не призываю лечиться по переписке с ChatGPT, отказываться от медицинской помощи. Мне очень хочется говорить о том, как мы можем участвовать в собственном здоровье, как мы можем усиливать себя. Как с этим примером, которым я поделилась своим личным примером в отношении снимков, в отношении проведенного МРТ и заключений, которые я получила. Мне кажется, что в целом вот эта система осознанного использования инструмента для того, чтобы себя усилить, и для того, чтобы сделать просто, использовать его как суперсилу, просто проходит красной нитью через все наши выпуски про то, как человек может использовать искусственный интеллект в своей жизни.
Я хочу оставить пять таких опор, такой подход, который я использую сама и который подходит для разных вопросов о здоровье. В целом, когда мы говорим о тех вопросах, которые могут быть адресованы и отправлены в тот же ChatGPT или Claude касательно нашего здоровья, сценариев великое множество. Это может быть подготовка к консультации врача, это может быть какое-то недомогание, которое мы на сегодняшний день ощущаем и не понимаем, что с этим делать. Это могут быть результаты обследований, которые мы получили, и совершенно ничего там не понимаем.
И, соответственно, не всегда врачи действительно доступно и на таком человеческом языке объясняют, что с нами происходит. Нам необходимо разобрать это полученное заключение. Возможно, нам нужно изучить данные о каких-то альтернативных методах касательно своего здоровья. Сценариев великое множество, но все-таки некоторые правила разговоров с моделью, они и правда остаются, наверное, одинаковыми. Поэтому я хочу поделиться теми основами, на которые опираюсь я. Первый совет - это всегда обозначать задачу и результат, который мы хотим получить, когда обращаемся к модели. Для чего я сейчас открываю ChatGPT?
Я хочу подготовиться к грамотной консультации врача. Я чувствую какую-то боль и хочу понять, с чем она связана. Я хочу изучить какой-то альтернативный метод. То есть четко сформулировать, какую работу в данный момент времени я поручаю модели. "Помоги понять это заключение", "помоги сопоставить документ", "помоги подготовить разговор с врачом". Второй момент - дать актуальный контекст, который относится к данному вопросу. Если я прошу обсудить мою ситуацию, важны и мой возраст, какие-то наблюдения, время начала, состояние, изменения состояния, какие-то подтвержденные заболевания, семейный анамнез.
На самом деле, большинство клиник на сегодняшний день, оно просит заполнить определенную анкету перед визитом, допустим. Но все равно эта анкета, она носит достаточно ограниченный характер, поскольку обрабатывать, большие данные и время, наверное, отвечать, я даже не знаю, почему. Возможно, не везде есть такая возможность. Я в идеале рекомендую сделать один простой документ, в котором собрать всю свою информацию о себе. То есть, вы можете наговорить на самом деле, там, тому же ChatGPT свою историю, приложить материалы и попросить собрать такую понятную основу, затем эту основу проверить, сохранить и обновлять по мере изменения.
Вот я пользуюсь ровно таким подходом, где есть место моего рождения, место, где я сейчас живу, какие-то все даты, формулировки заключений, препараты, которые я принимаю, что началось, когда, что менялось. И еще раз, сама модель поможет этот документ структурировать и грамотно поддерживать. Здесь только очень важное практическое уточнение. Такой документ нужно действительно приложить к новому разговору или, возможно, у вас есть какой-то созданный проект, где у вас подключен, например, подключена модель к папке, в которой содержатся все эти документы.
Потому что сам по себе созданный единожды и сохраненный файл, он не означает, что модель будет автоматически его учитывать при любом следующем разговоре. Но если же вы все время данный разговор будете вести внутри проекта, к которому уже присоединена и загружена необходимая информация, то, конечно же, она всегда будет учитываться. Третий момент. Очень важно разделять факты, разделять наблюдения, разделять гипотезы. Если вы стали замечать усталость, это наблюдение. Если в заключении написано вот это, это определенная информация из документа.
Если мне кажется, что со мной происходит или я проживаю такое-то состояние, это моя гипотеза. И очень важно самой модели именно грамотно и адресовать, и задавать вот эти правила. Допустим, моя гипотеза, что со мной может быть такое-то состояние. Отделяй наблюдения от предположений. Если данных недостаточно, задай мне вопросы. То есть важно самим нам не формулировать свои какие-то выводы и наблюдения. То есть задавать модели корректный контекст. Можно даже попросить, на самом деле, уточнить неизвестное. Это я бы отнесла даже, наверное, к четвертому пункту.
Попросить модель повторить, как ты понял задачу, попросить модель задать вопросы, если какой-то информации, допустим, может быть недостаточно по тем либо иным причинам, например, мы ее пропустили. Следующий, и такой, наверное, заключительный момент, которым я пользуюсь, можно назвать это советом, это расширять поиск и проверять ответ перед действием. Я всегда проверяла бы какие-то простые, во-первых, вещи, но и расширяю вообще диапазон поиска. То есть прошу, если я, например, живу в Европе, я прошу изучить данные подходы или какие-то альтернативные подходы в Соединенных Штатах, в России, например, в Японии.
Сравнить какие-то действующие клинические рекомендации, объяснить, в чем подходы совпадают, в чем расходятся. Потому что все мы живем в разных контекстах, и очень часто важно видеть картину шире, чем просто один ответ. В самом конце разговора с моделью, очень круто просить перепроверить основания ответа и дать прямые ссылки на первоисточники, показать и указать, где какие-то рекомендации, возможно, противоречат друг другу, и в чем разница этих подходов. По сути, подход, которым пользуюсь я, это такая максимально полная картина, для того, чтобы я учитывала все преимущества, которые может на сегодняшний день мне дать искусственный интеллект в работе, в заботе о собственном здоровье, а с другой стороны, конечно, точно не навредила себе.
Я не призываю самостоятельно назначать или менять лечение по переписке. Мне очень важно, чтобы модель помогала нам разобраться в информации о здоровье, формулировать вопросы, понимать, что нужно проверить перед собственным следующим действием. И мы можем сильно активнее участвовать в собственном здоровье, лучше готовиться, задавать вопросы, понимать документы, находить расхождения. И тогда мы всегда будем получать очень важный, значимый и полезный результат. Мне супер интересно, как это работает у вас.
Использовали ли вы искусственный интеллект для подготовки к приему, разбора заключений, для поиска, возможно, каких-то исследований? Помог ли он вам сформулировать вопрос? Решили ли вы свою проблему? Мне кажется, что примеры каждого, они помогут другим намного грамотнее и осознанней использовать текущие возможности, которые есть у человека. Этим опытом сейчас крайне важно делиться. Всем спасибо и до следующего выпуска.