Представьте, вы написали текст сами, а система говорит: это сделал искусственный интеллект. Или наоборот, работу полностью создал искусственный интеллект, но определить это уже практически невозможно. Мы подходим к миру, где становится все сложнее понять, перед нами результат человека или машины. И уже существуют детекторы искусственного интеллекта, водяные знаки, различные системы, которые фиксируют процесс создания документа. Но один и тот же текст разные проверки могут оценить совершенно по-разному. Так можно ли вообще достоверно определить, где человек, а где искусственный интеллект?
И что произойдет, когда отличить их станет невозможно? Сегодня будем с вами это разбирать. А, помните, мы с вами обсуждали случаи, когда модели достигли уровня и начали помогать людям обманывать компании, обманывать других людей, в частности, например, генерировать изображения специальные. Например, люди изменяли чеки и потом их в бизнесе сдавали, как будто они что-то купили или использовали. Видели тему с фейковыми чеками? Что видели, да, что люди стали сканить фейковые чеки и приносят их на работу.
И прямо целые разбирательства стали. И выявлено там в каком-то объемном количестве двенадцать процентов чеков были фейковыми. И мы вчера говорили о том, что когда люди сейчас приезжают на таможню и у них, не знаю, одеты часы, им говорят: "А покажи " Тане говорили. Танино как раз вчера было день рождения у нас тут, у малыша моего, и как раз говорим: "Покажи часы. Ты их носил?" Человек говорит: "Конечно, носил. Вот тебе видос". И там, значит, Десять лет назад. Да, я Тане пошутил, говорю: "Конечно, это моему деду Сталин лично подарил, значит, часы".
Или показывали какие-то события ненастоящими. И со второго августа этого года Anthropic объявил о том, что будет встраивать в свой сгенерированный текст невидимый машиночитаемый водяной знак. Он будет находиться внутри самого текста и поэтому должен сохраняться при обычном копировании и вставке и может пережить даже небольшое редактирование, что это очень важно, да. И это будет применяться по всему миру, включая США. И сегодня мы с вами разберем важнейшие вещи, продолжим наши дискуссии, изучения в рамках канала ToTheMoon на тему использования, правомерного использования искусственного интеллекта, неправомерного использования искусственного интеллекта и проблем, которые могут нести такие вот системы, которые делают внутренние диагностики.
Ну а для начала, так как тема на самом деле очень необходимая для понимания, и мы с вами пройдемся по другим системам, что OpenAI у себя внутри кодирует, что Gemini у себя внутри кодирует, какие средства сегодня массово в мире используются для идентификации разных нарушений в том числе. Я разделил бы ваше понимание и наше с вами понимание на разные составляющие. Вот есть одна часть, где проверка вовне того, что вы делаете, действительно важна и имеет необходимость. И вторая часть там, где вот эти проверки, они могут привнести дополнительный только вред человеку.
Да? Ну, как, в каких, например, местах проверка по-настоящему действительно необходима и важна, да? Например, в университетах и школах. То есть, например, проверить, освоил ли студент или школьник определенный материал, освоил ли он корректно и действительно ли он делал, например, сдавал экзамен или писал сочинение сам полностью, да. И я сегодня, кстати, вам покажу, а какие существуют методы проверки. И будет интересно ваше мнение услышать, потому что у меня есть большие вопросы вообще к тем проверкам, которые считаются адекватными.
Помните, я рассказывал о случае, что одного студента здесь словили, и он сказал, что у меня есть полностью вся документация, что я писал текст сам, и у меня есть подтверждение через Google Docs этому. Но мы до этого сейчас еще дойдем, да. Понятно, что есть история поступления в университет. То есть, опять же, это связано с образованием, и важно людей четко на входе проверять. А, это они сдают экзамен или это искусственный интеллект делает? Следующий, наверное, большой блок, кроме образования, есть, и он явно очень заметен, — это собеседования.
И, наверное, в собеседованиях это крайне критическая и крайне сложная история. Вообще, в целом мой опыт найма людей, не знаю точно, там больше тысячи человек нанял, на протяжении, там, больше чем двадцати лет, я могу сказать, что это всегда было проблемой Что человек рассказывает на собеседовании или даже если ты ему какие-то задания даешь делать, и как он дальше потом работает. Сегодня, конечно, с присутствием искусственного интеллекта это становится, ну, настоящей прямо проблемой.
И мы знаем с вами большое количество случаев, даже когда компания разрешает использовать искусственный интеллект на собеседовании или, там, при сдаче тестового задания, для них это не является никакой проблемой. Вопрос постановки задач, да? А есть вещи, где человеку задают разные вопросы. И сегодня существует целая серия различных систем, которые помогают человеку очень грамотно, использовать искусственный интеллект. Об этом никто не узнает, и человек проходит тестовое собеседование. Я думаю, что таких обманов на сегодняшний день в мире миллионы, да?
Потому что людей, которые умеют идентифицировать или делать какие-то правильные проверки, их гораздо меньше, чем тех людей, которые умеют это использовать, да?
Ну, большой блок, который есть, он не то что большой, он, наверное, меньше, но он важный, нужный. Это все, что касается науки, грантов, публикаций. В целом, рядом можно отнести дальше это журналистику, там, и общественно значимый контент. Но, кстати, по поводу науки, грантов, публикаций, что мы видим, что, я всегда говорил о том, что меня вообще смущает, наука в некоторых аспектах признания. Потому что, а, в одном месте, человек что-то доказал, его благодарили, выдали ему, значит, статуэтки, дипломы, а потом через десять или двадцать лет оказалось, что он был не прав, да? И мы сейчас видим, как с помощью искусственного интеллекта опровергают огромное количество доказанных вещей.
И, конечно, огромное количество людей будет манипулировать на сегодняшний день. И вот все, что касается подлинности данных, там, источников, экспериментов, цитат. Кто составил, например, какие-то красивые предложения. Вот. Выдумано, не выдумано какое-то исследование - это будет иметь значение. Кстати, к выдумано, не выдумано. Выдумано это тоже очень важно, да? Раньше ты мог чуть немного сослаться на что-то, но как бы все говорили: "Окей". Сейчас же вроде это перепроверка всего есть. Смотрите, нам важно с здесь я вам не, не такой не скучный перебор хочу вам показать, где это требуется, чтобы у нас с вами сформировалось правильное понимание сегодняшнего выпуска, да, до конца.
А, правильное мнение хорошее сформировалось, а не какая-то, какой-то прикол там в голове у себя сформулировали. Все, что касается журналистики и общественно значимого контента, да, то есть вот происхождение материалов, там, существование источников. Я сегодня прочитал одну новость в российском СМИ, и я так задумался, а не это было РБК, да. А не изменило ли РБК, контекст новости и немножко исказило, ссылаясь, знаете, как ссылаются на кого-то, что он что-то говорил, вставляют часть его цитаты и дальше дописывают общее описание того, что происходит. И, перепроверив эту информацию в ChatGPT сказал: "Действительно, информация подана под определенным углом".
И сегодня у нас с вами есть возможность, а, невероятно сильно дополнительно проверять. Вчера мы с женой летели из Лос-Анджелеса, и она говорит: "Слушай, вот тут девочка рассказывает о том, что она учится там в таком-то университете или на такой-то специальности". И я говорю: "Так ты вот в ChatGPT запусти проверку в дорогой про версии". И этот ChatGPT изучил все социальные сети девочки, изучил в университете данные о людях, потому что часто публикуются люди, которые там учатся или которые какие-то там статьи пишут.
И достал информацию, достал все факты полностью, да, перепроверил все факты. То есть это очень полезная история для адекватной оценки. Кстати, я хочу заметить, что ChatGPT, про версия 5.6 Sol эту проверку провел обоснованно. Что, понимаете, одно дело человек говорит, представьте, я говорю число, что, например, я рассказываю о том, что у меня в детстве был двести восемьдесят шестой Pentium, да? И я могу сказать, что он у меня появился в девяносто втором году. Могу сказать, что в девяносто четвертом.
Является ли это враньем? Да не враньем. Я точно просто не помню, когда он появился, и вряд ли кто-то вспомнит. Может ли моя мама вспомнить? Ну, вряд ли. Могу ли я до конца с достоверностью сказать: это был девяносто второй, девяносто третий или девяносто четвертый год? Да я не знаю. Ну, не смогу. И, хочу ли я этим ввести кого-то в заблуждение? Вряд ли. Есть ли большая разница, появилось в девяносто втором или в девяносто четвертом, и появилось там в девять лет или в одиннадцать лет?
Да вроде разницы нету, да, никакой. И здесь очень важно, когда искусственный интеллект делает проверку, чтобы он сказал, что, слушайте, это вообще не имеет значения в данном случае. А есть где люди вводят в маркетинговое заблуждение, да, когда человек говорит: "Мне в детстве нечего было есть", там, или "Я работал в детстве, не знаю, дворником", там. Или когда я бы сказал, что у меня появился компьютер, а у меня этого компьютера, например, вообще не было или такого компьютера не существовало, да?
Или он где-то появился в моей семье, и этим компьютером работал мой папа, но не я, да? Или человек говорит, что у меня есть определенное образование, а его нет. Или человек говорит: "У меня есть определенная лицензия", а этих лицензий у него не существует. Это уже другая история с точки зрения проверки. Мы сейчас с вами еще раз подойдем, потому что сегодня мы будем с вами говорить как раз таки про системы с точки зрения, как они помечают контент, да? Эта тема очень развивается, и она еще раз, очень важная сегодня для рассмотрения.
Большой блок, который, конечно же, есть, он касается юридических, и финансовых документов различных, и проверка разных фактов, там, ответственности разных людей.
Как эти люди полностью, ну, адекватно, неадекватно, что сделали, использовали ли они искусственный интеллект при создании. Здесь возникает тоже аспект: может ли мой юрист, например, использовать искусственный интеллект для того, чтобы написать договор? Плохо ли это? Хорошо. Если он выполнил свою конечную задачу, а мне самому не хватило мозгов для того, чтобы сделать ее самому, почему бы и нет? Или необходима обязательно подпись юриста с человека, там, который имеет определенную лицензию. Во-первых, в США эта деятельность лицензируема, да, имеет лицензию, то почему бы и нет, значит, что он использовал искусственный интеллект. Какая разница? Хотя, помните, я буквально недавно в одном из выпусков говорил о кейсе, о том, что когда я, помогал человеку через искусственный интеллект искать, проверять определенные законы и ссылал ему тексты из искусственного интеллекта, у меня было странное некоторое ощущение, что как будто вот если б я сам бы сделал, это одно, а так, как будто я меньше вложился в эту задачу.
Что очень странно, кстати, да? Медицинские документы имеют большое, конечно, значение. Заключение врачей. Использовался, не использовался искусственный интеллект, использовался как. Ну и здесь вообще тема, конечно, очень большая для дискуссии, наверное, для отдельной большой тематики вообще, которая есть. Ну и дальше есть много разных сфер, которые мы с вами можем, там, перечислять, которые касаются, например, когда люди какой-то конкурс проводят, какую-то статистику собирают или какой-то заказной контент делают, например, оставление разных отзывов, спама, да? Вот, информационные разные кампании, PR кампании делают.
Claude встроил проверку в, в контент, который он создает. И там есть определенные уточнения, да. Но, во-первых, не каждый ответ Claude уже сейчас обязательно помечен. И вот эта гарантийная поддержка заявлена для моделей, которые запустились, начиная со второго августа. Кстати, второе августа — это не случайно, да, дата. В Евросоюзе заработал новый закон, и это выпущено под этот закон, да, просто это выпущено под этот закон, для всего мира. Кстати, еще такой момент. Помните, когда, я не знаю, насколько вы на это обращаете внимание, да.
ChatGPT, кстати, так эту задачу не решил. Sam Altman выкладывал, что мы решили у себя задачу. У нас текст не будет генерировать длинные тире. Так эта задача не решена, да. Они даже такую настройку сделали. Но как длинное тире генерируется, так и генерируется. Здесь вопрос есть, а это проблема или нет, что оно генерируется, да? Или использование там каких-то определенных кавычек или определенных стилей, якобы присущие искусственному интеллекту. А может ли это быть присуще человеку?
Большой вопрос. Значит, соответственно, вот для моделей, выпущенных раньше, чем второго августа, Anthropic еще добавляет эту функцию, и списка до конца нету, он не опубликован. Но мы знаем, конечно, что то, что вы каждый день будете использовать разные модели. Вот Opus-5, мне кажется, уже был выпущен после второго августа. Достаточно распространенная модель. И, например, Opus-4.8 выпущен явно до. Будем видеть, что будет происходить. Даже Fable выпущен после. Значит, общего доступного инструмента проверки этот код был помечен или не помечен?
Нет. И Anthropic только готовит механизм обнаружения и обещает позже выпустить техническую документацию на эту тему. Поэтому сейчас нельзя просто вставить текст на каком-то там официальном сайте и получить достоверный результат, да? Важное как бы ноу-хау у них то, про что они рассказывают, что копирование сохраняет знак, но после серьезной переработки, там, перевода, преобразования какого-то или смешивания с другим текстом, он может перестать обнаруживаться, да. То есть короткого они, кстати, говорят о том, что короткого отрывка может быть недостаточно.
И опять же, о чем они говорят? Что обнаружение этого знака копирования не доказывает, что Claude написал текст с нуля. Например, человек мог написать текст сам, а Claude только исправил стиль, да, или перевел, или отредактировал его. То есть итоговый вариант все равно может получить отметку. И, как я вам сказал, точный технический способ Anthropic не раскрыл, и поэтому утверждать, что это просто скрытые символы, вообще нельзя. И официально говорится только о встраивании сигнала на уровне генерации модели.
Значит, здесь я хочу вспомнить вместе с вами, кейс, который, ну, я рассказывал о кейсе, который был в одном из университетов, в частности, когда совет университета
сказал, проверив одну из работ студента, что он эту работу написал с помощью искусственного интеллекта. Человек пришел и сказал: "Я не писал с помощью искусственного интеллекта. Вот у меня есть полное доказательство через Google Docs. Сейчас вам поясню, что это значит". Да. И вот было дело Ньюби против Adelphi University, и преподаватель использовал систему Turnitin которая проверяет, насколько внутри в работах студенты используют искусственный интеллект. И эта система выдала сто процентов генерированного искусственного интеллекта. Вот важно, что студенты из-за этого, конечно, получают огромные проблемы, потому что в разных кейсах студенты лишаются премии, лишаются стипендии, лишаются поддержки образования и где-то могут быть, конечно, исключены из университета.
И понятно, что есть правомерность этого, потому что в интернете огромное количество кейсов, где преподаватели рассказывают, что мы позвали написать экзамен в офлайн людей, тот, который они писали в онлайне, и там девять из десяти, например, человек провалилось, там, или семь из десяти человек провалилось. То есть такого очень много на сегодняшний день в интернете. Но вот в этом деле, например, которое было конкретно в Adelphi University, там студент отрицал использование искусственного интеллекта. Семья проверила текст еще двумя системами, которые показали ноль процентов искусственного интеллекта. И университет все равно признал нарушение.
И дальше вот в январе этого года суд отменил дисциплинарное решение, обязал удалить университетскую вот эту вот запись о нарушении и отменить санкции против студента. Важно, да, не преувеличивать вывод суда, потому что суд не провел научную экспертизу, не установил математически, там, что текст написал человек. Он установил другое, что одного противоречивого результата какого-то детектора и проблемной внутренней процедуры недостаточно для наказания. Что невероятно важно. Я вспоминаю случай у меня мой племянник, я у меня мой племянник поступал там в серию университетов и просто проверяя свой, свое эссе в нескольких системах, которые вот как раз таки используются для детекции, потому что университеты используют разные такие системы, он, ему одна из систем сказал: этот текст с большой вероятностью написан искусственным интеллектом, хотя на самом деле он полностью на сто процентов писал весь текст сам, да.
В обсуждаемой теме очень, ну, люди постоянно смешивают два совершенно, две совершенно разные технологии.
Я вам эти две совершенно разные технологии уже подсветил. То есть первое - это когда водяной знак заранее встраивается, например, самим оператором Claude или Gemini, или там ChatGPT во время генерации текста. И другая история - это когда есть какой-то детектор искусственного интеллекта, получает готовый текст и пытается угадать его происхождение по каким-то языковым закономерностям, да. Первая технология, она может достаточно уверенно ответить. Этот текст, вероятно, проходил через конкретную систему, если она знает правила или сама система знает правила.
Вторая отвечает только этот текст статистически похож на тексты, которые обычно генерирует искусственный интеллект. Ни одна из них сама по себе не доказывает, что человек обманул, не делал работу сам или нарушил какие-то правила, да. Я, например, очень часто пишу письма полностью сам и проверяю их потом в системе. Или прошу оформить этот текст, да. А текст может быть полностью сгенерированный мной. И возникает вопрос даже если он не расставил какие-то там символы внутри или поставил водяные знаки, в чем проблема, да? И есть ли в данном случае какая-то проблема во всем в этом?
Важно, что в случае Anthropic, да, вот там, где сигнал, водяной знак вст-встраивается во время генерации, Anthropic перечисляет ситуации, когда знак может исчезнуть.
Например, текст сильно переписали, там, перефразировали или его перевели, например, на другой язык, или смешали с большим количеством другого текста. Или оставили, например, только короткий фрагмент, который происходит. То есть много вариантов, например. Или использовали старую модель, которая вот не поддерживает у них маркировки. То есть может быть много моментов, но есть, понятно, еще раз и обратная проблема. Знак может появиться в тексте, который первоначально написал человек, да, и человек отправил собственную статью в Claude для перевода.
Значит, поэтому здесь очень важно разбираться вообще в том, что происходит. Я поэтому вам хочу показать, что существует четыре разных способа в целом проверить происхождение текста. А до этого задам вам вопрос, который внутри, который вообще стоит. Правомерно ли, вот так подумайте параллельно мы к этой теме придем.
Представьте, есть сто человек, которые сдают экзамен, и мы с вами знаем, что искусственный интеллект, современный искусственный интеллект, он гарантированно ошибается. Это нормально, это его естественное поведение, как как естественное поведение человека. Это не алгоритм. Есть алгоритмы, которых там достоверность просто сумасшедшая, да, на миллионе кейсов сто процентов. Если на ста людях он ошибается, например, в десяти процентах случаев, то это говорит о том, что он, например, поможет действительно выявлять в девяноста процентах случаев он поможет выявлять проблемы настоящие.
Представим, тридцать процентов студентов нарушает правила. И вот он тридцать человек из ста найдет. Но если он в десяти процентах случаев ошибается, это значит, что, во-первых, он пропустит людей, которые не писали сами, например, эту работу, которые обманули и соврали, он их пропустит. С другой стороны, он создаст проблему людям, которые сами делали все по-настоящему. Вы как считаете, это нормально, что десять человек, у десяти человек будет проблема или ненормально? Вот мы все время говорим про эти числа. Недавно я снимал ролик буквально несколько дней или неделю назад про то, почему McDonald’s не смогла внедрить систему искусственного интеллекта для оформления заказа, да, на тот момент времени, да, саму историю описания. Потому что для них было важно качество, там, девяносто пять процентов получить.
Почему восемьдесят процентов не работало? Посмотрите эту тему. Вот здесь вот можно в такой ситуации допустить десять процентов ошибки или какой процент ошибки можно или никакой нельзя, да? Другой момент, что мы с вами понимаем, что если не использовать эти технологии, то вероятность всех проверить, она тоже прямо бежит ко дну, да? И, возможно, использование таких систем для проверки, а дальше диагностика их людьми - это вот большой плюс. Вопрос насколько субъективен будет человек, проверяющий, если ему искусственный интеллект уже сказал, что там есть вероятность ошибки внутри.
Большой вопрос. Итак, какие есть на сегодняшний И вы тогда поймете вообще, что происходит на самом деле. Какие в реальности есть четыре способа проверять происхождение текста. Значит, ну вот первая история, которую мы с вами рассказали, — это встроить водяной знак оператора, да? Он проверит, использовалась ли определенная модель, например, или сервис. То есть там есть плюс, с одной стороны, что оператор сам встраивает известный ему сигнал, поэтому проверка, ну, как бы, точнее гораздо угадывания. Есть минус: знак работает, только для определенных моделей или может ослабнуть после переработки текста, или вообще непонятно откуда изначально этот текст появился.
Есть вторая история — это криптографические данные о происхождении файла, где есть определенные стандарты. И эти стандарты, например, есть там открытый стандарт криптографической подписи, там, C2PA, да, и подписанных данных о происхождении контента. И он показывает, например, где создан или обработан файл, менялся ли он после подписания и так далее, да. Он это используют разные системы. Например, тот же Claude использует это для подписи, а, изображений некоторых, да, или некоторых файлов.
OpenAI, например, для поддерживаемых изображений аудио, в том числе, да. Но при копировании, опять же, текста и так далее — это все очень относительная история. И опять же, с точки зрения файла, если я весь, весь свой текст сказал: "OpenAI, сложи мне файл для удобства, сложи мне, например, в PDF из него сделай", то это проблема какая? Третья история, которая есть, — это внешний статистический детектор. Есть разные системы. Вот Turnitin — сложное название. GPTZero есть там, да, Copyleaks, Originality. AI.
Разные есть системы. И, а, вот эти системы, они анализируют готовый текст и ищут сочетание признаков, характерных для ответов языковых моделей. Я лично не использую никакие такие системы. Я не против, если, может быть, вы какими-то пользуетесь, расскажите какими. Я не использую систему по одной простой причине: я считаю, что сами лингвистические модели крутые в про режимах или в максимальных режимах способны гораздо больше проверить, чем эти системы. Действительно, эти системы могут быть ориентированы на какие-то точные проверки, обученные. То есть они могут обучиться проверять очень точечно что-то супер особенное, там не знаю, в биологии или в физике, или где-то еще. Но, а, мне кажется, обстоятельно правильно, использовать дорогие крутые модели, они гораздо круче проверят.
Поэтому я в такие сервисы в целом не верю как в будущее, да. И я вам еще поясню самое важное сегодня. Дальше я вам поясню, почему я вообще считаю, какое вообще мое мнение. А можно ли будет в ближайшее время хоть какие-то детекции делать, да? Вот эти системы, которые я сейчас только что сказал, вот этот как бы внешний статистический детектор как третий способ изучения, эти системы не находят след ChatGPT внутри там каждого, например, текста, да, потому что там это не вопрос меток.
Они проводят статистическую классификацию, и поэтому один и тот же текст разные сервисы могут оценить противоположно. Я предположу, что один и тот же текст один и тот же сервис может оценить противоположно. Зависит от того, что он делает. И есть четвертая история, которая очень важная. Почему-то ее считают как бы корректной, да. Это когда запись есть запись процессов создания документа. То есть система фиксирует, что человек печатал сам, какие фрагменты вставлял, какие версии создавал, где использовал искусственный интеллект, например, какие запросы отправлял модели, как редактировал полученный результат и так далее, да. И есть такие разные системы, как там Grammarly, Authorship. И она работает в Google Docs или Microsoft Word и показывает вот происхождение фрагментов, позволяет произвести создание документа. Как раз таки вот этот студент показывал в Google Docs, что он это делал, да.
Это как бы не попытка угадать автора после завершения работы, а заранее записанная история процесса. Вот для университетов, для собеседований, судебных споров именно вот этот четвертый подход часто информативнее обычного детектора. Но у меня возникает вопрос: но ведь это обманка! Потому что если я поставил на компьютере два монитора или два компьютера поставил, и на одном компьютере у меня есть сгенерированный текст искусственным интеллектом, а на другом компьютере я прихожу и периодически, там, раз в день в течение пяти месяцев, как говорил тот же самый студент, ввожу текст по чуть, переписывая текст текст искусственного интеллекта. Ввожу там, значит, стираю, могу даже камеру поставить, как я это делаю полностью.
Получается, я весь искусственный интеллект использовал полностью, просто грамотно это оформил, да. И людям это подошло. Это я вспоминаю, у меня, мне кажется, таких кейсов у многих людей было. Я в университете, сдавал экзамен как-то по программированию, и там, мне кажется, надо было рассказывать про программирование годов шестидесятых, да. Я вообще эту преподавательницу не понимал. И был там кусок, вопрос какой-то был в экзаменационном билете один из. Я вообще не знал, что на него отвечать. Ну и у меня такой почерк всегда был не очень красивый, и я что-то отвечал, но писал очень неразборчиво.
Я помню, она, значит, приходит, поставила четыре и говорит: "Волчек, значит, тебе четыре, но я часть текста у тебя не поняла, но видно, что ты вроде правильно писал. Поэтому четыре". И получается, я что сделал? Я понимал, что человек вряд ли меня вызовет преподаватель для того, чтобы я прочитал ей свой текст. Это столько времени надо тратить. Зачем ей это надо? И она Как бы смирилась, значит, с тем, что там написано, примерно там просмотрела, вроде какой-то текст есть. Остальные вопросы были отвечены. И пропустила как бы это и поставила мне нужный мне, например, в тот момент времени балл.
Я не помню. Наверное, там было четыре, не пять. Причем я когда его рассказывал разным людям, мне многие люди говорили: "Мы то же самое, например, делали с точки зрения почерка, да?" Вот так же и здесь получается, что если ты знаешь, что надо в системе что-то правильно записать, ты просто в системе правильно записываешь, а параллельно смотришь, что да когда надо, да. А параллельно этот текст переписываешь. Можно ли такое диагностировать? Ну, очень тяжело. И вот здесь вот мы с вами приходим, мне кажется, к самому главному вообще параметру.
систему Synth, а, SynthID Text, и во время модели во время генерации вам ответа система слегка изменяет выбор следующих фрагментов слов, создавая, а, статистические обнаруживаемый рисунок для этой модели, да. Это не скрытые символы и не метаданные, там, не знаю, буфера обмена данных. Исследование Google опубликовано в журнале Nature, и система применялась в Gemini и в Gemini Advanced. Да? Там тоже есть вопросы с точки зрения того, как его потом там отскриншотили, отдали другой системе, а она это перепроверила или, вы, например, перевели на другой язык. OpenAI ChatGPT, я помню, это очень сильно обсуждалось. А, он для обычного текста, нету у него такой сопоставимой массовой маркировки.
Но в 2026 году OpenAI, вот как я говорил в обсуждении, она внедрила прове-проверяемые водяные знаки и данные происхождения для изображений и для аудио, и текст в текущей официальной системе у них не указан, да. А если взять другие еще системы, там, не знаю, Meta, Microsoft, Amazon, там, xAI и все другие. Вообще нету информации о том, что это использовалось или нет. Вот Google, например, он проверил вот этот SynthID Text почти на двадцати миллионах реальных ответов Gemini. И пользовательские оценки водяной обычной версии практически не различались. То есть заметного ухудшения качества текста исследователи не обнаружили, да.
Это, кстати, очень важная тема, да, способен ли человек это увидеть. То есть мы, мы же видим с вами, например, длинный вот этот дефис, а, или, например, бывают какие-то определенные, там, смайлики или определенные перечисления, или стрелочки такие там, значит, дефисы, больше, да, ставится. То есть ну, еще какие-то другие можете вещи написать, которые происходят, которые внутри находятся. Еще интересная история. Если изучить последние три года вообще эту тему, я помню, как люди начинали стартапы делать в этой теме.
И есть компании, которые неплохо оцениваются, до сих пор на этом зарабатывают. Я считаю, это абсолютно нерабочие конструкции, потому что развиваются текущие модели. И видно, что за последний год модели настолько улучшились и настолько прогрессировали вперед, что детекция становится маловероятной. Мало того, она еще очень сложная при тех обстоятельствах, которые мы с вами описали. Я уверен, что текущие современные модели будут писать и генерировать текст или создавать изображения, или видео, или аудио, где человек не будет способен абсолютно отличить, делал это человек или машина. И здесь возникает вопрос: а есть ли проблема в том, что делала машина?
Проблема ли это? Или вообще иногда лучше, чтобы это делал человек. Вот я иногда смотрю какие-то тексты, я вижу, что их делал человек, и я говорю: "Почему или смотрю аналитику, особенно вы знаете, да, какие-то аналитические отчеты, их делал человек. И я для себя думаю и говорю им: "А почему вы не использовали искусственный интеллект в своей работе? Почему вы не сделали этот анализ? Зачем вы тратите время, большое количество других людей для проверки таких вещей, если вы могли использовать искусственный интеллект?" В этом и есть польза искусственного интеллекта. Поддерживайте наш канал, пересылайте своим друзьям это видео, оно очень важное, и я жду комментариев на эту тему от вас.
А мы с вами увидимся в наших следующих выпусках. Всем пока. ToTheMoon — технологические новости и инсайты из Кремниевой долины и по всему миру.