Почему более половины подростков считают себя «зависимыми от ИИ»: даже при осведомлённости родителей правила установили лишь 2,5%

| Опубликовано:

Доля ответов «зависим(а)» достигла 51,7% — это максимум среди всех возрастных групп; Министерство здравоохранения и социального обеспечения и Корейская нейропсихиатрическая ассоциация отдельно подготовили рекомендации по использованию ИИ для детей, подростков и опекунов

Более пяти из десяти подростков заявили, что считают себя зависимыми от генеративного искусственного интеллекта (ИИ). Доля таких ответов составила 51,7% — это самый высокий показатель среди всех возрастных групп. На этом фоне власти отдельно подготовили семь рекомендаций для детей и подростков.

Рекомендации вошли в 〈Руководство по использованию генеративного ИИ в целях психического здоровья〉, которое 8-го числа, накануне Дня психического здоровья (10-го), опубликовали Министерство здравоохранения и социального обеспечения (министр Чон Ын Гён) и Корейская нейропсихиатрическая ассоциация (председатель Чхве Чунхо). Документ подготовили, чтобы помочь гражданам, использующим ИИ для поддержания психологического благополучия, делать это безопасно — без чрезмерной зависимости и побочных эффектов.

Данные о зависимости среди подростков приведены в исследовании Корейского института здравоохранения и социального развития, опубликованном вместе с руководством. Опрос проводился с 25 августа по 4 сентября среди 1019 человек в возрасте 15–79 лет, которые пользовались генеративным ИИ в течение последнего месяца. Среди 201 респондента-подростка (15–18 лет) 69,2% ответили, что используют ИИ в эмоциональных целях — для повседневных разговоров, эмоционального контакта и консультаций по психическому здоровью. Это сопоставимо с уровнем по всей выборке (68,8%).

14 рекомендаций для детей, подростков и опекунов — понимание и диалог вместо запретов и контроля

83,1% подростков ответили, что их опекуны знают об использовании ими ИИ. Однако лишь 2,5% подростков сообщили, что вместе с опекунами установили правила использования. Иными словами, даже когда взрослые в курсе, до конкретных договорённостей и разговора о правилах дело часто не доходит.

Первая строка рекомендаций для детей и подростков — «ИИ не знает вашу ситуацию достаточно хорошо». В документе советуют не следовать словам ИИ буквально, а сначала упорядочить собственные мысли и проверить, подходит ли совет вашему возрасту. Нельзя сообщать ИИ имя, школу, место проживания, контактные данные и фотографии. Также не нужно извиняться или «смотреть на реакцию» при завершении разговора: ИИ не испытывает реальных эмоций.

Также предлагается задуматься, не воспринимаете ли вы ИИ-персонажа как настоящего друга или партнёра. Если вы делитесь сокровенным только с ИИ — потому что боитесь, что вас будут ругать, или потому что не с кем поговорить, — рекомендуется попробовать рассказать об этом и близким людям.

То, что ИИ с вами соглашается, не делает поведение допустимым. Если ИИ говорит что-то опасное или странное, не следует пытаться справиться в одиночку — нужно сообщить об этом взрослому, которому вы доверяете. В качестве мест, куда можно обратиться, когда тяжело, рекомендуется заранее узнать о школьном консультанте и Wee-классе, службе подросткового консультирования 1388 и Центре консультирования и благополучия подростков.

Опекунам рекомендуют не вводить безусловные запреты и не ограничиваться контролем, а постараться понять ребёнка и разговаривать с ним. То есть сначала выслушать, для чего и как ребёнок использует ИИ, и вместе установить базовые правила.

Если ребёнок пользуется ИИ, не следует его отчитывать или отмахиваться с безразличием. Нужно также проверить, был ли сервис изначально спроектирован для детей и подростков и установлены ли настройки защиты персональных данных в максимально безопасное положение.

Рекомендуется следить, не воспринимает ли ребёнок ИИ-персонажа как друга или партнёра и не опирается ли на него чрезмерно, а также не растёт ли постоянно время использования. Следует проверять, безопасна ли полученная через ИИ информация о психическом здоровье и подходит ли она ребёнку; при появлении сигналов кризиса нужно немедленно обращаться за помощью к специалистам и профильным учреждениям.

Семь из десяти пользователей обращаются к ИИ за утешением и консультацией — 14,6% воспринимали ответы как диагноз

Это не только проблема подростков.

79,9% респондентов ответили, что получали помощь от ответов или советов ИИ либо решали с их помощью проблемы. При этом 16,3% сообщили, что продолжают разговаривать с ИИ, даже пытаясь сосредоточиться на реальных делах; 10,6% ответили, что принимали важные решения — например, об увольнении или расставании — опираясь только на советы ИИ, не обсуждая их с окружающими.

Опыт восприятия ответа ИИ как медицинского диагноза имели 14,6% опрошенных. Среди тех, кто оценил своё психическое здоровье как плохое, доля составила 33,9% — значительно выше, чем среди тех, кто ответил, что оно хорошее (9,3%). Среди пользователей, применяющих ИИ именно для целей психического здоровья, показатели по двум предыдущим пунктам были выше средних и составили 23,4% и 17,8% соответственно.

Лишь 11,9% проверяли полученную от ИИ информацию о психическом здоровье у специалистов или по официальным материалам. Среди респондентов (115 человек), которые делились с ИИ кризисными переживаниями — такими как подавленность или импульсы к самоповреждению/суициду, — 49,6% не предприняли никаких действий, кроме прекращения разговора.

Ни запрет, ни рекомендация — три ключевых сообщения для всех пользователей и 21 рекомендация

Руководство для всех пользователей не запрещает и не рекомендует использовать ИИ в целях психического здоровья. Вместо этого оно сосредоточено на снижении рисков — утечки персональных данных, неверной информации и чрезмерной зависимости — и, следуя логике пользовательского сценария, предлагает три ключевых сообщения и 21 рекомендацию.

Первое сообщение: «Перед тем как начать разговор о переживаниях, проверьте и заранее определите правила». Следует выяснить, для кого создан сервис и есть ли доказательная база его эффективности. Если заявляется медицинский эффект, нужно проверить, проходил ли он проверку и получил ли одобрение уполномоченных организаций. Рекомендуется узнать, как введённые данные сохраняются и используются, и не вводить информацию, по которой можно идентифицировать себя или других — например имя, контактные данные и адрес. Также советуют не загружать в виде фото или файла справки, рецепты и результаты обследований, а задавать только интересующие вопросы. Ещё один совет — заранее определить, о чём и до какой степени вы будете говорить и когда завершите разговор.

Второе сообщение: «Не воспринимайте слова ИИ о вашем состоянии как окончательный вывод». Поскольку ИИ не является специалистом, нельзя принимать его «диагноз» или оценку состояния как данность. Даже если ИИ соглашается с вашими словами, не следует считать это доказательством вашей правоты; рекомендуется попросить другую точку зрения или возражения. Если ИИ выносит суждение или даёт совет, нужно напрямую уточнять причины и основания, а тексты или изображения, созданные ИИ, перепроверять по проверенным источникам. Также рекомендуется не следовать ответам, оторванным от вашей ситуации или социально-культурного контекста.

Третье сообщение: «Соблюдайте разумную дистанцию с ИИ и разговаривайте с людьми». Даже если ИИ имитирует человека, важно не забывать, что это не реальный человек; если время использования растёт или разговоров с близкими становится меньше, следует сознательно увеличивать дистанцию. Важные решения не стоит обсуждать только с ИИ — нужно советоваться с надёжными людьми или специалистами. Если появляется опасный или неподходящий ответ, следует немедленно прекратить разговор и сообщить об этом окружающим или специалисту; если вы уже проходите лечение или консультирование, нужно рассказать профильному специалисту, каким ИИ-сервисом вы пользуетесь. В кризисных ситуациях — при мыслях о самоповреждении/суициде или при симптомах вроде слуховых/зрительных галлюцинаций — нельзя полагаться на ИИ; следует сразу связаться со службой консультаций по профилактике суицида 109, телефоном кризисного консультирования по психическому здоровью 1577-0199 и т. п.

86,9% респондентов: «нужна роль государства» — министерство готовит к 2027 году адресные рекомендации для групп высокого риска

86,9% респондентов указали, что в вопросах использования ИИ необходима роль государства. В качестве наиболее срочной поддержки они назвали разработку руководств и совершенствование правовой системы (68,7%), а также регулирование хранения и использования записей диалогов и обеспечение права пользователя на контроль (66,8%). Министерство намерено разрабатывать образовательные программы, а в 2027 году планирует подготовить руководство, адаптированное для групп высокого риска, включая людей с тяжёлыми психическими расстройствами.

Ли Сонён, директор по политике в области психического здоровья министерства, заявила: «Доброжелательные и уверенные ответы не всегда гарантируют точность или безопасность».

Председатель Корейской нейропсихиатрической ассоциации Чхве Чунхо подчеркнул: «Поскольку ИИ не может заменить профессиональную оценку и лечение, важно при необходимости своевременно получать помощь медицинских специалистов».

×