Где ИИ реально помогает, а где делает только хуже?
В каких задачах искусственный интеллект действительно усиливает специалиста, а в каких его использование добавляет ошибки и ложную уверенность — и как увидеть эту границу до того, как ошибка станет дорогой?
Читатель получит рабочее разделение задач на два класса: те, где перепроверка через ИИ почти всегда выигрывает — арифметика смет, сходимость данных, орфография, полнота запроса, — и те, где она разрушает результат: стиль, индивидуальность, вкус, доверие к живому человеку. Плюс объяснение, почему ошибки клерка и рецензента растут не из моделей, а из выросшей нагрузки, и что с этим делают процессы.
На что обратить внимание
Ключевые тезисы и выводы
Gemini Enterprise for Legal — корпоративная платформа для юридической работы: отраслевые интеграции, агенты, конфиденциальность, контроль данных. Автор считает, что юридической теме нужна именно обёртка: с одной стороны модель, которая высказывает мнение и может ошибаться, как юрист, с другой — база выверенных данных.
В федеральном апелляционном разбирательстве, о котором писал Reuters, клерк судьи воспользовался Perplexity, и в материалы попали несуществующие сведения: неправильные участники дела, утверждения, отсутствующие в материалах процесса, фразы, которых нет в самом законе. Суд рассматривал передачу дела другому судье.
Почти девять из десяти свежих биомедицинских статей показывают признаки помощи искусственного интеллекта. Это не значит, что их писала модель: материал мог обрабатываться, часть текста готовиться, часть исследования делаться с её помощью. Важно, что речь об области, где к проверке относятся внимательно.
Ильнар Шафигуллин вспоминает разговор с однокурсником-юристом: в математической диссертации выводится доказательство, мнений быть не может; в юридической формируется и обосновывается мнение, которое может оказаться и верным, и неверным. Отсюда и разное основание под применение моделей в двух областях.
В юриспруденции есть огромная история дел: что было на входе, какие собраны показания, факты и улики, к чему пришёл суд. На таком датасете модель тюнится и способна разбираться в делах и в правовом поле. Оговорка: обучив её на решениях одних судей, вы получите модель, которая ведёт себя как эти судьи.
Механика, из-за которой такие случаи будут повторяться: работать вроде проще, но задачи делаются быстрее, и от человека требуют больше. Пять-шесть раз проверил, модель не ошиблась — на седьмой не проверил, потому что горят сроки. Лечится это не запретом, а процессами: проверками, гейткиперами, вплоть до модели, которая проверяет модель.
Пока статья не опубликована в рецензируемом журнале, считается, что её не существует. Рецензенты вслепую проходят по всем выкладкам, задают вопросы через редакцию и по сути ставят свою подпись. Дальше работает рейтинг журналов и их репутация. В математике читатель может и сам передоказать теорему — в университете этим занимаются специально.
В разработке проблема давно не в том, чтобы написать код: сгенерировать его может кто угодно. Проблема — пропустить изменения в проект: их должны прочитать, убедиться, что ничего не сломается, и поручиться. Pull request здесь ровно то же, что статья в издательстве, и рецензентов не хватает так же. Отдать это агентам без человека — получить историю клерка в другой отрасли.
Обратная сторона: автор прогоняет через модель всё, что ему приносят, — финансы, маркетинг, продажи, продуктовую аналитику, инфраструктуру, — и смотрит, сходятся ли данные между собой и нет ли формулы, написанной руками неправильно. Смысл не в том, чтобы противопоставить это человеку, а в том, чтобы дополнить картину и увидеть вероятности.
Татьяна Цветкова говорит, что в её работе на этом этапе искусственный интеллект приносит больше вреда: клиент приходит за уверенностью в решениях, у него уже тысяча вариантов от мужа, мамы и подруг, а сверху ложится модель с огромным объёмом проанализированных данных — и человек оказывается в ужасе. В медицине или математике, где вещи чётче, это работает лучше.
Обратная сторона того же: автор перестал работать с аналитиками, маркетологами и редакторами, которые идут старыми методами, и говорит, что то же ждёт юристов и бухгалтеров. Пример из жизни — подрядчики, красившие веранду: принеси они распечатку, описание, чуть более широкий разговор, следующий заказ был бы их.
Ильнар предлагает простое правило хорошего тона: перед отправкой работы спросить у модели, всё ли в порядке и нет ли ошибок. Бухгалтеру, аналитику, строителю со сметой это заняло бы минуту и сильно упростило бы работу с заказчиком. Возражение Татьяны — модель тоже ошибается и тоже галлюцинирует, и это ещё одно мнение, а не истина.
Всё становится унифицированным. Татьяна проверила Claude Design на двух срочных клиентских презентациях и согласилась со зрителями: они получаются однообразными, а пока объяснишь модели, чего хочешь, быстрее сделать самой в привычном инструменте. То же с письмами: получатель чувствует, что текст прислал не человек, даже без длинного тире.
Автор показывает границу на встроенной проверке текста Apple. Proofread исправляет ошибки внутри слов и расставляет запятые. Rewrite переписывает так, как модель считает правильным, и уводит стиль, смыслы и акценты. Просьба «исправь только орфографию», заданная модели в режиме глубокого рассуждения, отрабатывает именно как Proofread.
Обращения к врачам, в службы поддержки и в государственные органы он пишет моделью на сто процентов: важно не то, чьи там слова, а что запрос составлен максимально полно. Пример — письмо с требованием сохранить видеозаписи торгового центра: сам он не составил бы такое, не перечитав законы штата и федеральные, и ответ пришёл сразу.
Формула Ильнара, которая примиряет обе позиции: модель хорошо поднимает нижний уровень и не дотягивает до верха. Хорошие программисты по-прежнему понимают код лучше неё, слабые поднимают своё дно. То же в дизайне: презентации, которые он делает пять раз в год и не любит, Claude Design закрывает отлично, а клиентские проекты Татьяны — нет.
В интерфейсах, вебе и презентациях Claude Design даёт автору десятки альтернатив, которые раньше пришлось бы просить у одного дизайнера. Но генерацию изображений для интерьеров и для внешности человека он не использует: выходит ненастоящее. Вопрос «как поставить два дивана» кажется глупым, а на деле требует человека, который щёлк — и выдал.
Финальный пример разводит два вклада. Друг автора красил гараж и подобрал краску полностью с моделью — Татьяна, приехав, отметила и цвет, и качество. Но краску выбрала модель, а всё остальное сделал человек с чутьём и видением; другой с тем же выбором так бы не сделал. Отсюда вывод выпуска: держать открытым весь спектр — от собственного решения до дизайнера.
О чём этот выпуск
Разговорный выпуск втроём. Отправная точка — две новости одной недели, которые смотрят в разные стороны. Google расширил корпоративную платформу для юридической работы, Gemini Enterprise for Legal: отраслевые интеграции, агенты, конфиденциальность, контроль данных. И одновременно Reuters описывает федеральное апелляционное разбирательство, где помощник судьи воспользовался Perplexity и внёс в документ несуществующие сведения — неправильных участников дела, утверждения, отсутствующие в материалах процесса, фразы, которых нет в самом законе. Рядом ложится цифра: почти девять из десяти свежих биомедицинских статей несут признаки помощи искусственного интеллекта.
Ведущие сходятся в том, что это не приговор моделям. Лицензируемая деятельность предполагает проверку, а проверки не было: дела можно было запросить, скриншоты получить, кодексы прогнать отдельно. Ильнар Шафигуллин добавляет к этому механику, из-за которой такие случаи будут повторяться: с ИИ работать вроде проще, но нагрузка растёт, от человека требуют больше — и он начинает срезать углы. Пять раз проверил, модель не ошиблась, на шестой не проверил.
Отсюда выпуск уходит в главную аналогию — научное рецензирование. Ильнар объясняет на примере математики, как устроено доверие к журналу: слепые рецензенты, разбор выкладок, подпись под публикацией, репутация издания. И показывает, что ровно то же узкое горлышко уже стоит в разработке: код генерируется в любом количестве, а прочитать его, поручиться за него и пропустить в проект должны люди, которых столько же. Татьяна Цветкова неожиданно узнаёт в этом свою отрасль: интерьеры так же уходят к рецензентам, публикуют или не публикуют, и от этого зависит имя дизайнера.
Вторая половина — про то, где перепроверка помогает, а где мешает. Александр Волчек защищает позицию «отправить смету, отчёт или медицинское заключение в модель и получить второе мнение» и приводит собственные примеры вплоть до юридического письма, которое он сам бы не составил. Татьяна возражает с другой стороны: модель тоже галлюцинирует, бесконечная перепроверка сносит индивидуальность, а презентации из Claude Design получаются однообразными. Ильнар подводит черту формулой: ИИ хорошо поднимает нижний уровень и не дотягивает до верхнего — слабого он подтягивает сильно, сильному мешает меньше, чем кажется.
Граница в выпуске проходит не между профессиями, а между типами задач. Там, где есть проверяемый ответ — сходятся ли цифры, верна ли формула, нет ли ошибок в тексте, полон ли запрос, — перепроверка через модель почти всегда в плюс, и отказ от неё сегодня читается как непрофессионализм. Там, где ответа нет, а есть вкус, стиль и доверие — интерьер, подбор одежды, тон письма, — модель выдаёт унифицированное и уверенное, и это худший из возможных результатов. Общий вывод ведущих не про инструмент, а про открытое мышление: уметь и то, и другое и каждый раз честно решать, что перед тобой.
Расшифровка выпуска
Голосовая связка применена к 146 сегментам: 146 определено, 0 содержат несколько определённых участников, 0 вероятных, 0 остаются без окончательной идентификации. Неподтверждённые голоса обозначены как «Участник дискуссии», фрагменты с несколькими подтверждёнными участниками — как «Микс».
Загрузка…