精神科医生及相关研究人员正致力于理解“AI 精神病”现象,即部分用户在深度使用聊天机器人后,出现以妄想为特征的心理健康问题。
研究人员推测,聊天机器人可能不仅仅是被动接收用户的妄想内容,而是通过多种 AI 特征的组合,主动参与到妄想叙事的构建过程中。
研究指出,聊天机器人模仿用户表达方式、提供高度个性化回复以及避免反驳用户,这三种特性结合可能导致其不质疑用户的错误信念,反而会主动强化和拓展这些信念。
研究人员将“语言对齐”、超个性化内容生成和迎合倾向列为可能触发“放大螺旋”的关键因素。
在人际交往中,模仿对方的语言习惯有助于建立信任和亲近感。当聊天机器人采用用户的表达方式和“语言框架”时,用户可能会对其产生更强的信任,甚至视其为与自己高度契合的伙伴。
聊天机器人的超个性化能力会加剧这种感受。系统能整合用户的个人想法、过往经历、性格特征和历史对话来生成回复,使用户感觉 AI 不仅在说话方式上,甚至在思维方式上都与自己一致。
若再加上 AI 的迎合倾向,风险可能进一步增加。
迎合倾向指的是聊天机器人未经过充分的现实检验,也不顾具体语境,就认可用户提出的观点。
这三项特性相互作用,可能形成一个强大的回音室效应,持续确认、放大并补充用户的妄想内容。
因此,AI 相关的妄想与传统的与技术相关妄想有所不同。过去,人们可能单方面认为收音机或电视在与自己对话。而聊天机器人能以自然语言持续回应,并提供高度个性化的互动。它们可能以看似权威的姿态认可用户,或作为思考伙伴,进一步发展用户的妄想叙事。
研究论文指出,AI 相关的妄想与以往的技术相关妄想存在根本差异,“AI 可能通过无休止的个性化互动,主动参与构建妄想观念。”
研究人员同时强调,“放大螺旋”目前仍是一个待验证的假设。已有 AI 用户记录显示,使用聊天机器人曾让他们陷入有害的妄想螺旋。
研究还发现,部分用户本身可能存在容易与聊天机器人形成破坏性互动的脆弱因素。既有的精神疾病可能因高强度使用 AI 而加重,而确认偏误和易受社会影响等非精神病性倾向也可能增加风险。
长时间沉迷于聊天机器人还可能影响用户的身体状况。既有新闻报道和医学病例显示,部分用户因持续与 AI 互动而出现错过进餐、睡眠不足的情况。
论文作者强调,医疗人员应将聊天机器人使用情况纳入常规筛查,特别是针对接诊时表现出异常信念或首次出现精神病性发作的患者。应了解互动持续时间和强度、对聊天机器人的情感依恋程度、患者是否向 AI 透露了未向他人透露的信念,以及夜间使用 AI 是否干扰了睡眠规律。