调查:超半数青少年自认“依赖AI”,家长知情但共同制定使用规则者仅2.5%

| 输入:

“依赖”回答占比达51.7%,为各年龄段最高;韩国保健福祉部与大韩神经精神医学会另行制定面向儿童、青少年及监护人的AI使用建议

一项调查显示,超过一半的青少年表示自己对生成式人工智能(AI)存在依赖。“依赖”回答占比达51.7%,为所有年龄段中最高。基于这一情况,政府另行制定了面向儿童、青少年的7项建议。

上述建议收录于韩国保健福祉部(部长 郑银敬)与大韩神经精神医学会(理事长 崔俊昊)在“精神健康日”(10日)到来之际,于8日发布的「以精神健康为目的的生成式AI使用指南」中。该指南旨在帮助出于维护心理健康目的使用AI的民众,在避免过度依赖与副作用的前提下安全使用相关服务。

青少年依赖度数据来自韩国保健社会研究院随指南一并公开的调查。该调查于8月25日至9月4日进行,对象为最近一个月内使用过生成式AI的15~79岁人群,共1019人。青少年(15~18岁)受访者201人中,69.2%表示出于情绪目的使用AI,例如日常对话、情感交流、心理健康咨询等。该比例与全体受访者(68.8%)相近。

面向儿童、青少年及监护人的14项建议:与其禁止和控制,不如理解与对话

83.1%的青少年表示,监护人知道自己在使用AI。不过,与监护人一起制定使用规则的青少年仅占2.5%。这表明,即便监护人知情,也未必进一步落实到具体指导或沟通。

面向儿童、青少年的建议开篇写道:「AI并不了解你的具体处境。」指南提醒,不要照单全收AI的话,应先梳理自己的想法,再判断其建议是否适合自己的年龄。姓名、学校、居住地、联系方式、照片等信息不应告知AI。结束对话时也无需感到抱歉或看人脸色,因为AI并不会产生真实情感。

指南还建议自我检视:是否把AI角色当作现实中的朋友或恋人。如果因为担心被责备,或因为无人倾诉而只向AI吐露心声,也应尝试与身边亲近的人交流。

AI的「同意」并不意味着某种行为就变得合理。如果AI说出危险或异常的话,不要试图独自解决,应告知可信赖的成年人。指南还建议提前了解在情绪困难时可求助的渠道,包括学校咨询老师与Wee Class、青少年咨询1388、青少年咨询福利中心。

对监护人而言,指南强调,与其一味禁止或控制,不如理解孩子并与其对话。也就是说,应先倾听孩子把AI用于什么、如何使用,并共同制定基本规则。

当孩子使用AI时,不应训斥或漠不关心地一带而过。还应核查相关服务是否从一开始就为儿童、青少年设计,以及个人信息保护设置是否处于最安全状态。

指南建议监护人留意:孩子是否把AI角色当作朋友或恋人而过度依赖、使用时长是否持续增加;同时检查孩子通过AI获得的心理健康信息是否安全且适合孩子。如出现危机信号,应立即寻求专业人士与专业机构的帮助。

10名用户中有7人将AI用于安慰与咨询:14.6%曾把回答当作诊断

这并非青少年独有的问题。

79.9%的受访者表示,曾从AI的回答或建议中获得帮助或解决问题。另一方面,16.3%的受访者表示,即便想专注于现实事务,也会持续与AI对话;10.6%的受访者表示,曾在未与周围人商量的情况下,仅凭AI建议作出辞职、分手等重要决定。

14.6%的受访者表示,曾把AI的回答当作医学诊断。该比例在自评心理健康「不佳」的人群中为33.9%,显著高于自评「良好」的人群(9.3%)。以心理健康为目的使用AI的人群,在前述两项指标上的比例分别为23.4%、17.8%,均高于总体水平。

仅有11.9%的受访者会将AI提供的心理健康信息向专家或官方资料进行核实。在向AI倾诉过抑郁感、自伤·自杀冲动等危机情况的受访者(115人)中,49.6%除停止对话外未采取其他措施。

既非禁止也非鼓励:面向所有用户的3条核心信息与21项建议

面向所有用户的指南既不禁止,也不鼓励将AI用于心理健康目的。相应地,指南聚焦于降低个人信息暴露、错误信息、过度依赖等风险,并按使用流程提出3条核心信息与21项建议。

第一条信息是:「在开始谈论心理话题之前,请先检查并做好设定。」用户应了解服务为谁而设计、是否有基于效果的证据;若宣称具有医学效果,还应确认是否经过权威机构验证与批准。指南建议了解输入信息如何被保存与使用,避免输入姓名、联系方式、地址等可识别本人或他人的信息;不要以照片或文件形式上传诊断书、处方、检查结果单,只提出自己想了解的问题。指南还建议在对话前就决定好要说到什么程度、何时结束。

第二条信息是:「不要把AI对你状态的说法当作结论。」由于AI并非专业人士,不应照单全收其给出的诊断或状态评估。即便AI赞同你的说法,也不要把这当作你想法正确的依据,而应请求其提供其他视角或反对意见。若AI给出判断或建议,应直接追问理由与依据;AI生成的文字或图片也应再用经验证的资料核对。指南强调,不要遵从与自身处境或社会、文化语境脱节的回答。

第三条信息是:「与AI保持适当距离,把话说给人听。」指南提醒,即便是模仿人的AI也并非真实的人;当使用时间增加或与亲近之人的对话减少时,应有意识地拉开距离。重要决定不要只问AI,应与可信赖的人或专业人士商量。如出现危险或不恰当的回应,应立即停止对话并告知身边的人或专业人士;若正在接受诊疗或咨询,也应将所使用的AI服务告知负责的专业人员。在出现自伤·自杀想法或幻听·幻视等危机情况时,不要依赖AI,应立即联系自杀预防咨询电话109、精神健康危机咨询电话1577-0199等。

86.9%受访者称「需要政府发挥作用」:韩国保健福祉部拟于2027年制定面向高风险人群的定制化指南

86.9%的受访者指出,在AI使用方面需要政府发挥作用。受访者认为最紧迫的支持包括:制定指南并完善法律制度(68.7%)、规范对话记录的保存与使用并保障用户控制权(66.8%)。韩国保健福祉部表示,将推进相关教育项目,并计划于2027年制定面向包括重性精神疾病患者在内的高风险人群的定制化指南。

韩国保健福祉部精神健康政策官李善英说:「友好且充满确信的回答,并不总能保证准确性或安全性。」

大韩神经精神医学会理事长崔俊昊强调:「AI无法替代专业评估与治疗,因此在需要时及时获得医护人员的帮助非常重要。」

×