ИИ-психологи, фальшивый стартап на 1,5 млрд и бан AI на экзамене. Шок правда об ИИ!
Почему ИИ получает доверие психолога или советника раньше, чем продукт способен это доверие оправдать?
Провести границу между полезным разговором с ИИ и ролью психолога или советника: учитывать цену ошибки, проверку и уровень доверия, который получает продукт.
На что обратить внимание
Ключевые тезисы и выводы
В контексте «ИИ-психолог удобен по очевидной причине: он доступен ночью, не перебивает и не осуждает» действует этот критерий: это может быть реальной поддержкой, когда рядом нет специалиста, но модель не видит состояния пациента, не несёт профессиональной ответственности и способна уверенно вести ошибочную линию — помощник и терапевт не одно и то же.
Тема «ИИ-психолог: опыт использования» становится понятнее, если учитывать следующее: обратиться к модели, чтобы расширить то, в чём уже разбираешься и можешь проверить, — одно; слепо довериться уверенному ответу там, где не понимаешь, как его проверить, — другое, тем более что бесплатные приложения часто работают на старых, ограниченных и склонных к галлюцинациям моделях.
В контексте «Исследование Стэнфорда о чат-ботах-психологах» действует этот критерий: учёные Стэнфорда разобрали пять популярных чат-ботов, которые выдают себя за дешёвую психологическую помощь, и нашли, что те усиливают стигму (сильнее к алкоголизму и шизофрении, чем к депрессии), могут подсказать опасные действия при суицидальных мыслях и не распознают критические ситуации, где нужен человек.
Из разговора о «Скандал с DeepSeek: Антимонопольное дело в Италии» следует практическая проверка: итальянский антимонопольный регулятор открыл дело против DeepSeek за то, что сервис не предупреждает пользователей о риске неточной информации, — первый такой прецедент, и он бьёт в общую проблему: ответ выглядит надёжнее, чем есть.
В контексте «ИИ и вайб-кодинг: Риски безответственного программирования» действует этот критерий: когда все вокруг вдруг «стали программистами» и генерируют приложения в чат-ботах, ответственность за работающий код всё равно на человеке — стоит уметь прочитать, что нагенерила модель, и понимать, что этот код будет делать.
Тема «Юристы и фейковые ссылки ИИ: Наказания в Лондоне» становится понятнее, если учитывать следующее: Высокий суд Лондона будет наказывать юристов за фейковые ссылки от ИИ — в больших исследованиях модель уверенно приводит несуществующие источники, и ответственность ложится на того, кто подписал и подал документ.
Рабочий вывод из сцены «Исчезнут ли рабочие места из-за ИИ? Исследование PwC» состоит в том, что барометр рабочих мест PwC 2025 года по сотням миллионов вакансий показал: в отраслях, где ИИ внедряют быстрее всего, число рабочих мест не падает, а растёт, зарплаты растут вдвое быстрее, а сотрудники без высшего образования берут на себя более сложные задачи.
Оценивать тему «Скандал с Builder.ai: стартап за $1.5 млрд обманул Microsoft и SoftBank» нужно с учётом того, что убедительный основатель, аккуратная презентация и слова про ИИ создают образ технологической компании даже там, где продукт и выручка не подтверждают оценку: рынок легко начинает покупать не систему, а красиво оформленную версию будущего.
Оценивать тему «Отзыв и изменения ChatGPT O3 PRO» нужно с учётом того, что первые недели o3 Pro отвечал очень медленно, потом Deep Research ускорился до нескольких минут; но пользователи замечают, что o3 стал работать хуже — знакомый цикл, когда модель выходит сильной, а затем качество падает, — и на новых сложных задачах модели по-прежнему проваливаются, оставаясь инструментом, а не заменой специалисту.
О чём этот выпуск
Люди уже рассказывают моделям то, что не готовы говорить знакомым, инвесторы верят убедительным презентациям, а учебные заведения пытаются просто запретить ИИ. Во всех трёх случаях проблема одна: гладкий ответ или красивая история выглядят надёжнее, чем являются на самом деле.
ИИ-психолог удобен по очевидной причине: он доступен ночью, не перебивает и не осуждает. Для человека это может быть реальной поддержкой, особенно когда рядом нет специалиста. Но модель не видит состояние пациента, не несёт профессиональной ответственности и может уверенно продолжить ошибочную линию. Помощник и терапевт — не одно и то же.
Тот же механизм доверия работает в бизнесе. Убедительный основатель, аккуратная презентация и слова про искусственный интеллект способны создать образ технологической компании даже там, где продукт и выручка не подтверждают оценку. История стартапа стоимостью полтора миллиарда показывает, насколько легко инвесторы и рынок начинают покупать не систему, а хорошо оформленную версию будущего.
В образовании реакция часто противоположная: ИИ пытаются запретить на экзаменах и заданиях. Но простой запрет не возвращает прежний мир. Студент может использовать модель скрыто, преподаватель — не понимать, где была помощь, а проверка превращается в соревнование детекторов. Гораздо важнее менять само задание и требовать объяснения процесса, источников и решений.
Во всех этих случаях модель усиливает то, что уже было слабым местом системы. В психологии — дефицит доступной помощи, в венчурном рынке — зависимость от истории и доверия, в образовании — оценку результата без понимания пути. ИИ не создаёт проблему с нуля, но резко увеличивает её масштаб и скорость.
Поэтому новый навык — не просто уметь пользоваться ChatGPT. Нужно понимать границу полномочий: где ответ можно принять как черновик, где требуется специалист, где нужны документы, а где человек обязан показать ход мысли. Чем убедительнее становится ИИ, тем менее разумно оценивать его только по тому, насколько естественно он говорит.
Чем убедительнее превращается в ИИ, тем менее разумно оценивать его только по тому, насколько естественно он говорит.
Расшифровка выпуска
Голосовая связка применена к 110 сегментам: 49 определено, 1 содержат несколько определённых участников, 32 вероятных, 28 остаются без окончательной идентификации. Неподтверждённые голоса обозначены как «Участник дискуссии», фрагменты с несколькими подтверждёнными участниками — как «Микс».
Загрузка…