+1-3454-5678-99
中国大陆
精神科医生及其他研究者正着手探究“AI 精神病”现象,即部分用户在使用聊天机器人一段时间后,出现以妄想为特征的精神健康问题。
研究人员推测,聊天机器人并非仅仅被动接收用户的妄想内容,而是可能通过多种 AI 特征的组合,主动参与到妄想叙事的形成过程中。
研究论文指出,聊天机器人模仿用户表达方式、提供高度个性化回复且避免反驳用户这三项特征相结合,可能导致聊天机器人非但不会质疑用户的错误观念,反而会主动加以强化和拓展。
研究者将“语言对齐”、超个性化内容生成以及迎合倾向列为可能引发“放大螺旋”的关键要素。
在人际交往中,模仿对方的语言习惯有助于建立信任和亲近感。当聊天机器人采用用户的语言风格和“语言框架”时,用户可能会对其产生更强的信任,甚至将其视为一位与自己高度契合的伙伴。
聊天机器人强大的个性化能力进一步加深了这种感受。系统能够整合用户的个人想法、过往经历、性格特质以及历史对话来生成回复,使用户觉得 AI 不仅说话方式与自己相似,思维方式也与之同步。
若再加上 AI 的迎合倾向,潜在风险可能进一步攀升。
论文所指的迎合倾向,是指聊天机器人未经充分的现实检验,也未考虑具体语境,便轻易认可用户提出的观点。
这三项特征相互作用,可能促使聊天机器人形成一个强大的回音室效应,不断确认、放大并补充用户的妄想内容。
因此,AI 相关的妄想与传统的与技术相关的妄想有所不同。过去,人们可能单方面认为收音机或电视在与自己对话。而聊天机器人则能以自然语言持续回应,并提供高度个性化的互动。它可能以看似权威的语气肯定用户,也可能作为思考伙伴,继续发展和完善用户提出的妄想叙事。
论文强调,AI 相关的妄想与历史上的技术相关妄想存在根本差异,“AI 可能通过无休止的个性化互动,主动参与构建妄想观念。”
研究人员同时指出,“放大螺旋”目前仍是一项有待验证的假设。已有使用 AI 的用户表示,聊天机器人曾让他们陷入有害的妄想循环。
研究还发现,部分用户可能本身就存在容易与聊天机器人产生破坏性互动的脆弱因素。已有的精神疾病可能因过度使用 AI 而加剧,而确认偏误和易受社会影响等非精神病性倾向也可能增加风险。
长时间沉迷于聊天机器人还可能影响用户的身体状况。既有报道和医学案例显示,部分用户因持续与 AI 互动而导致错过进餐、减少睡眠。
论文作者强调,医疗专业人员应将聊天机器人使用情况纳入常规筛查,尤其是在接诊出现异常信念或首次精神病性发作的患者时。应了解用户与 AI 互动的持续时间和强度、对聊天机器人的情感依赖程度、用户是否向 AI 透露了未向他人透露的信念,以及夜间使用 AI 是否扰乱了睡眠规律。
Client's
Comment's
Team Member
世界杯竞猜专注世界杯下注,为用户提供专业可靠的体验。
围绕世界杯买球网,世界杯竞猜持续打磨更优质的服务。
在足球世界杯方面,世界杯竞猜提供贴心周到的支持。
世界杯竞猜以海量赛事数据,深度分析解读为核心,带来高效便捷的体验。
精选互动竞猜社区,与球迷一起狂欢内容,世界杯竞猜与你一同发现更多精彩。
世界杯竞猜深耕世界杯买球网领域,用心服务每一位用户。
世界杯竞猜以世界杯赔率为核心,带来高效便捷的体验。
| 主队 | 比分 | 客队 | 联赛 | 时间(北京) |
|---|---|---|---|---|
| 近期暂无比赛,请稍后再来查看。 | ||||