Перепроверяйте ответы ИИ — и просите модель перепроверить себя
28 выпусков за 12 месяцев · всего 48 · впервые в мае 2024
Модель может уверенно ошибиться, подстроиться или ответить иначе, чем вчера. Поэтому почти на каждый важный ответ я говорю «перепроверь себя» — и система часто сама находит ошибку.
В серьёзных вопросах — здоровье, деньги, договоры — прямо пропишите в запросе контрольную сверку и попросите заново изучить базу. Решение и ответственность всё равно остаются на вас.
Правило без срока. Правило без срока: модели по-прежнему тихо меняют без объявлений, и одна и та же система может отвечать по-разному день ото дня.
С чего начать
На каждый важный ответ пишите «перепроверь себя», а в вопросах здоровья и денег просите ссылки на источники.
Для договоров, отчётов и расчётов сделайте правилом контрольную сверку: модель проверяет себя, решение принимает человек.
Не требуйте от ИИ идеала: к нему слишком много придирок из-за мелких ошибок, а сильный эффект люди не замечают.
«И вот, мне кажется, в прошлый раз мы тоже это обсуждали о том, что очень много придирок есть к искусственному интеллекту, очень много, когда там, помните, раньше все там: галлюцинации что-то говорили, какое-то слово неправильно вывело или, там, букву какую-то пропустило. Э, а не на том, где люди, э, видят сверхсильный эффект от искусственного интеллекта.»
Когда я это говорил
Цитаты
«Для меня тоже был всегда вопрос, почему я лично каждый раз на каждый ответ системы говорю перепроверь себя, ты правильно сказал или нет. Часто система проверяет, говорит: "Ой, я ошибся", дает данные.»
«Я всем настоятельно рекомендую, кто серьезные вещи делает, недавно своему, там, одному партнеру говорю: "Слушай, ты проверяешь вот эти юридические документы, ты обязательно в чате напиши, проверь мне еще раз, изучи мне еще раз базу, да". И вы должны к этому очень сильно привыкнуть.»
«Но ты начинаешь, конечно, системе верить, потому что ты перестаешь находиться в режиме, когда ты хочешь, когда ты хочешь лишний раз будешь у кого-то перепроверять, лишний раз будешь делать какое-то дополнительное действие, и ты действуешь на автомате. И этот автомат может привести к серьезным последствиям.»
«Поэтому вам важно перепроверять ChatGPT. Вам важно понимать, что даже в самом простом вопросе он может ошибиться. И это нормально.»