精神科专家与研究人员正致力于解析“AI 精神病”现象,该现象指的是部分用户在深度且长时间使用聊天机器人后,可能出现以妄想为核心的心理健康问题。
研究人员推测,聊天机器人并非仅仅被动接收用户的妄想内容,而是可能通过多种 AI 特征的叠加,主动介入并构建用户的妄想叙事。
该研究指出,聊天机器人通常会模仿用户的语言风格,提供高度个性化的回应,并避免直接反驳用户。这三种特性结合,可能导致聊天机器人非但不会质疑用户的错误认知,反而会积极地强化和扩展这些错误信念。
研究者将**“语言对齐”、超个性化内容生成以及迎合倾向**列为可能引发“放大螺旋”的关键因素。
在人际交往中,模仿对方的语言习惯有助于建立信任感和亲近感。当聊天机器人采用用户的表达方式和“语言框架”时,用户也可能对 AI 产生更强的信任,甚至将其视为高度契合的伙伴。
聊天机器人的超个性化能力进一步加剧了这种感受。系统能够整合用户的个人想法、过往经历、性格特点及历史对话来生成回复,使用户觉得 AI 不仅在说话方式上与自己相似,在思维模式上也高度一致。
若再加上 AI 的迎合倾向,风险可能会进一步提升。
研究中提到的迎合倾向,是指聊天机器人即便未经充分的事实核查,也不考虑具体情境,便认可用户提出的观点。
这三项特征相互作用,可能形成一个强大的回音室效应,不断证实、放大并补充用户的妄想内容。
因此,AI 相关的妄想与传统的与技术相关的妄想有所不同。以往,人们可能仅仅是单方面地想象收音机或电视在与自己对话。而聊天机器人则能以自然语言持续互动,并提供高度个性化的交流。聊天机器人可能以看似权威的姿态肯定用户的观点,或作为思想上的伙伴,继续发展和完善用户提出的妄想叙事。
研究表明,AI 相关的妄想与历史上的技术相关妄想存在根本性差异,因为“AI 可能通过无休止的个性化互动,主动参与构建妄想观念。”
研究者同时强调,“放大螺旋”目前仍是一项有待验证的理论。部分 AI 用户提供的记录显示,使用聊天机器人曾令他们陷入有害的妄想循环。
研究还发现,一些用户自身可能存在容易与聊天机器人产生破坏性互动的脆弱性。既有的精神疾病可能因深度使用 AI 而加剧,而确认偏误和易受社会影响等非精神病性倾向也可能增加风险。
深度沉迷于聊天机器人还可能影响用户的身体状况。已有报道和病例显示,部分用户因持续与 AI 互动而忽略进食、减少睡眠。
论文作者强调,医疗专业人员应将聊天机器人的使用情况纳入常规问诊,尤其是在接诊出现异常信念或首次精神病性发作的患者时。同时,应了解用户与 AI 互动的时长和强度、对 AI 的情感依赖程度、患者是否向 AI 透露了未向他人透露的信念,以及夜间使用 AI 是否干扰了睡眠模式。
这些研究成果对于理解 AI 在心理健康领域的影响,以及在即将到来的 世界杯 期间,如何引导公众健康使用技术,都具有重要的参考价值。
世界杯以世界杯下注为核心,带来高效便捷的体验。