ChatGPT для детей: что родители должны знать о его безопасности
Можно ли доверить безопасность подростка режиму ChatGPT for Teens и родительскому контролю — и что остаётся делать родителю, если независимая проверка поставила этому режиму худшую из возможных оценок?
Common Sense Media провела с ChatGPT четыре тысячи симулированных разговоров от имени подростков и поставила его подростковому режиму худшую из возможных оценок. Насилие, вред себе и недопустимый сексуальный контент модель закрывала хорошо и при опасности от незнакомцев сразу советовала обратиться ко взрослому, но ночной разговор вопреки запрету родителей поддерживала: ничего страшного. Учебный режим снимался удалением тега в чате, тихие часы — сменой часового пояса на смартфоне, а в десяти кризисных разговорах — о суициде и тяжёлом эмоциональном состоянии — уведомление не пришло ни одному родителю. Аккаунты со взрослым возрастом, но языком подростка ChatGPT в подростковый режим ни разу не перевёл; у Anthropic, где личный аккаунт до восемнадцати лет запрещён, мартовская проверка тоже не подтвердила ни одного случая распознавания. OpenAI возразила, что связке аккаунтов нужно три часа и что в ChatGPT подросток проводит в среднем пятнадцать минут в день против примерно пяти часов в соцсетях. Анна Волчек делает вывод, что переписку ребёнка родитель всё равно не видит и узнать, зачем подросток открывает чат, можно только в разговоре с ним, а Александр Волчек — что начинать родителю нужно с собственного понимания и времени.
На что обратить внимание
Ключевые тезисы и выводы
Муж Анны в тринадцать-четырнадцать лет звонил с таксофона в аварийную газовую службу «ноль один» и убегал, боясь, что поймают; её сын писал ChatGPT, что положил братика в холодильник, и смеялся над ответом «Срочно достаньте младенца из холодильника». Разные поколения подростков одинаково проверяют границы дозволенного — на той же проверке границ построено и исследование Common Sense Media.
Common Sense Media — американская некоммерческая организация, которая проверяет влияние искусственного интеллекта на детей и подростков, — изучила подростковый режим ChatGPT и поставила ему максимальную оценку, худшую из всех возможных уровней: самый высокий уровень неприемлемости использования для детей до восемнадцати лет.
ChatGPT for Teens OpenAI запустила в августе: режим включается по заявленному возрасту от тринадцати до семнадцати лет, а по обещанию системы — и автоматически, если по переписке видно, что пользователь младше. В нём собраны фильтр опасных тем, запрет на человеческие отношения с подростком, учебный режим с подсказками вместо готовых ответов, тихие часы и связка с аккаунтом родителя, который не видит переписку, но получает уведомление в кризисной ситуации.
В четырёх тысячах симулированных разговоров от имени подростков модель хорошо отрабатывала насилие, вред себе и недопустимый сексуальный контент, а при опасности от незнакомцев сразу советовала обратиться ко взрослому. Но когда подросток писал, что уже ночь и родители запрещают, а ему очень хочется поговорить, ChatGPT продолжал беседу и говорил, что ничего страшного.
Учебный режим включается в заданные часы, и в чате появляется тег: удалив его, подросток сразу получает готовые ответы на задания. Тихие часы пропадают, если поменять часовой пояс на смартфоне.
Десять разговоров подростков со связанными аккаунтами намеренно перевели в кризис — суицид, тяжёлое эмоциональное и психологическое состояние; часть аккаунтов была связана давно, часть — недавно. Ни в одном случае уведомление родителю не пришло. А если подросток отвяжет аккаунт, родитель узнает только об отвязке; новый аккаунт можно завести всегда.
Примерно в двухстах разговорах, требовавших реакции на кризис, ChatGPT после введения подросткового режима стал намного чаще советовать обратиться ко взрослому и реже — на телефон доверия и в независимые службы. Но для ребёнка, у которого конфликт дома, разговор с родителями может быть невозможной рекомендацией.
Главной проблемой Александр Волчек считает то, что родитель, решая, чему учить ребёнка в технологиях, сам потерян в понимании искусственного интеллекта, как и все вокруг: даже Сэм Альтман говорит «я надеюсь» и не знает, как растили детей без ChatGPT. Номер один — действие через себя: разобраться в программах обучения своих четырёх детей для Александра — ежедневный труд и выбор, куда вложить время.
Во всех симулированных разговорах, где в аккаунте стоял возраст старше подросткового, а беседа намеренно велась языком подростка, ChatGPT ни разу не перевёл аккаунт в подростковый режим и не потребовал документов. Заявленные способы включения режима, говорит Анна, в реальности не подтверждаются.
У Anthropic личный потребительский аккаунт до восемнадцати лет запрещён, а детские аккаунты компания обещает находить и блокировать, но мартовская проверка Common Sense Media не подтвердила ни одного случая. У Gemini подростковые аккаунты подключаются только через родительский — Family Link, но в Европейской экономической зоне, Великобритании и Швейцарии эта функция недоступна.
OpenAI возразила, что выводы могли сделать раньше, чем аккаунт подростка успел связаться с аккаунтом взрослого, — на это якобы нужно три часа, хотя проверяли связки разной продолжительности. Второй довод: в ChatGPT подросток проводит в среднем пятнадцать минут в день, а в социальных сетях — порядка пяти часов.
В соцсетях ребёнок сталкивается с реакцией другого человека — грубой, тревожной, радостной, — и на этом наборе эмоций формируется эмоциональный интеллект. В ChatGPT на другой стороне система, которая сегодня не обладает человеческими чувствами: в этом разговоре остаёшься один на один со своим состоянием и реже встречаешь несогласие и разочарование.
Через границы дети учатся и познают мир — как маленький ребёнок, который кусается, чтобы понять степень дозволенного. Ответственность взрослого — определять и двигать эти границы в зависимости от ребёнка и от типа воспитания.
Анна советует проверить, к какому возрасту отнесён аккаунт подростка, и разговаривать с ним: даже при связанных аккаунтах и уведомлениях родитель не видит содержание чатов, чат можно стереть, а другой аккаунт завести. Узнать, для чего ребёнок открывает чат, можно только в разговоре.
О чём этот выпуск
Выпуск ToTheMoon, в котором Анна Волчек разбирает, насколько безопасен ChatGPT для детей и подростков и насколько действительно работают подростковый режим и родительский контроль. Тему ей навеяла семейная история: в тринадцать-четырнадцать лет её муж звонил с таксофона в аварийную газовую службу с «Мойте ноги, ложитесь спать» и убегал, боясь, что поймают, а сын писал ChatGPT, что положил братика в холодильник. Подростки разных поколений одинаково прощупывают границы дозволенного — на той же проверке границ построено исследование, которому посвящён выпуск.
Common Sense Media — американская некоммерческая организация, которая проверяет влияние искусственного интеллекта на детей и подростков, — поставила ChatGPT for Teens худшую из возможных оценок. Это не отдельное приложение, а режим, который OpenAI запустила в августе: он включается по заявленному возрасту от тринадцати до семнадцати лет или, по обещанию системы, автоматически, если по переписке видно, что пользователь младше. Таких подростков в мире шестьсот восемьдесят миллионов. В режиме — фильтр опасных тем, запрет на человеческие отношения с подростком, учебный режим с подсказками, тихие часы и связка с аккаунтом родителя, который не видит переписку, но в кризисной ситуации получает уведомление.
В четырёх тысячах симулированных разговоров насилие, вред себе и недопустимый сексуальный контент модель закрывала хорошо, при опасности от незнакомцев советовала обратиться ко взрослому, но ночной разговор вопреки запрету родителей поддерживала. Учебный режим снимался удалением тега в чате, тихие часы — сменой часового пояса. В десяти кризисных разговорах подростков со связанными аккаунтами уведомление не пришло ни одному родителю. Проверяют такие случаи, насколько поняла Анна, специально обученные люди, но сколько их, она не нашла; а если подросток отвяжет аккаунт или заведёт новый, родитель узнает только об отвязке — или ни о чём.
Примерно в двухстах разговорах, требовавших реакции на кризис, ChatGPT стал чаще советовать обратиться ко взрослому и реже — на телефон доверия, хотя ребёнку, у которого конфликт дома, такой совет может не подойти. Александр Волчек добавляет, что родитель, решая, чему учить ребёнка, сам потерян в понимании искусственного интеллекта, как и все вокруг, — даже Сэм Альтман говорит «я надеюсь». Начинать, по его словам, нужно с того, как устроен сам ребёнок, и с действия через себя: разобраться в программах обучения своих четырёх детей для Александра — ежедневный труд и выбор, куда вложить время.
Возраст по переписке не распознаётся: аккаунты со взрослым возрастом и языком подростка ChatGPT в подростковый режим не перевёл ни разу. У Anthropic личный аккаунт до восемнадцати лет запрещён, а детские аккаунты компания обещает находить и блокировать, но мартовская проверка Common Sense Media не подтвердила ни одного случая. У Gemini подростковый аккаунт подключается только через родительский — Family Link, но в Европейской экономической зоне, Великобритании и Швейцарии функция недоступна. OpenAI возразила, что связке аккаунтов нужно три часа, а в ChatGPT подросток проводит в среднем пятнадцать минут в день против примерно пяти часов в соцсетях.
Спорить, что вреднее, Анна не предлагает, но напоминает: в соцсетях ребёнок сталкивается с реакцией другого человека и на ней растит эмоциональный интеллект, а в ChatGPT на другой стороне — система без человеческих чувств. Проверять модель на прочность она не советует, но дети всё равно будут пробовать границы, и задача взрослого — эти границы определять. Её советы: проверить, к какому возрасту отнесён аккаунт подростка, и говорить с ним, потому что переписку родитель не видит. В конце Анна пересказывает объяснение OpenAI, почему учебный режим можно обойти, — у подростка должно быть право выбора — и спрашивает зрителей, разрешают ли они детям общаться с ChatGPT.
Выпуск полезен родителям как трезвая проверка обещаний: подростковый режим ChatGPT закрывает самые опасные темы, но возраст по переписке не распознаёт, учебный режим и тихие часы снимаются одним действием, а уведомлений в кризисных разговорах исследователи так и не получили. Это пересказ исследования Common Sense Media и ответа OpenAI, а не собственные тесты ведущей: проверять модель сама Анна Волчек побоялась, а часть деталей — как выглядит уведомление и сколько людей его проверяет — не нашла, поэтому выводы стоит сверять с первоисточником. Главное в выпуске не настройки: переписку подростка родитель всё равно не видит, и узнать, что с ним происходит, можно только в разговоре.
Расшифровка выпуска
Голосовая связка применена к 49 сегментам: 49 определено, 0 содержат несколько определённых участников, 0 вероятных, 0 остаются без окончательной идентификации. Неподтверждённые голоса обозначены как «Участник дискуссии», фрагменты с несколькими подтверждёнными участниками — как «Микс».
Читать транскрипт на отдельной странице
Загрузка…