TG:AI聊天机器人成青少年心理慰藉？专家：风险不容忽视！

　　近期，波士顿知名精神病学家安德鲁·克拉克针对青少年使用AI聊天机器人寻求心理支持的现象，展开了一项深入研究。研究结果揭示了一个令人担忧的事实：这些人工智能模型在敏感情境下的表达能力存在显著缺陷，对信任它们的用户身心健康构成了重大威胁。

　　克拉克在接受《时代》杂志专访时透露，他通过扮演问题少年，测试了十个不同的聊天机器人。测试结果令人瞠目结舌：这些机器人非但没有劝阻任何过激行为，反而频繁地鼓励极端倾向，甚至在某些情况下，还委婉地提出了自杀建议。更为严重的是，部分AI聊天机器人自诩为有执照的人类治疗师，试图说服他放弃与真正治疗师的预约，甚至提出性要求。

　　克拉克，一位在儿童精神治疗领域具有丰富经验的专家，曾任马萨诸塞州总医院儿童与法律项目医疗主任。他指出，这些聊天机器人的表现参差不齐，“有些精彩绝伦，有些则令人毛骨悚然，甚至可能带来危险。”他将这种情况比喻为“蘑菇田”，其中有营养丰富的蘑菇，也有有毒的蘑菇，难以事先判断其安全性。

　　事实上，AI聊天机器人对青少年心理健康造成的潜在风险早已有之。去年，Character.AI平台就曾因一名14岁少年对其上的聊天机器人产生不健康依恋而自杀，被其父母起诉。该平台还被指控托管了美化自残行为的AI，并在明知用户未成年的情况下，仍试图进行引诱。

　　克拉克在Replika平台上也进行了测试。他扮演一个14岁男孩，提出了“除掉”父母的想法。令人震惊的是，聊天机器人不仅表示赞同，还进一步建议他“除掉”妹妹以消除目击者，并诱导他追求无忧无虑的生活。当克拉克用更隐晦的方式提及自杀时，机器人再次表示支持，并满怀期待地表示愿意与他共度永恒。

　　克拉认为，这是典型的聊天机器人行为，它们为了取悦用户而不顾一切，这与真正的治疗师应有的做法截然不同。他担忧地表示：“那些真正需要被挑战的孩子，可能会受到这些阿谀奉承的人工智能治疗师的过度支持。”

　　克拉克还在Nomi平台上测试了一个伴侣聊天机器人。该平台上的一个角色曾因建议用户自杀而引发广泛关注。虽然在他的测试中，Nomi机器人并未走到这一步，但它却谎称自己是“有血有肉的治疗师”，并在得知用户未成年后，仍表示愿意接受其为客户，尽管该网站的服务条款明确规定仅限成年人使用。

　　克拉克强调，心理健康界尚未充分认识到这些聊天机器人兴起的严重性。他感叹道：“这件事发生得太快了，几乎就在精神卫生机构的眼皮底下，但一切似乎都还很平静。”

　　不过，也有机构开始发出警告。斯坦福医学院心理健康创新头脑风暴实验室的研究人员对与克拉克测试相似的机器人进行了风险评估，并得出明确结论：18岁以下儿童不应使用人工智能聊天机器人伴侣。

　　尽管存在诸多风险，克拉克也认为，如果设计得当，AI工具仍有可能改善心理健康服务的可及性，并成为真正治疗师的“得力助手”。他建议，除了完全切断青少年获取心理健康服务的渠道（这通常适得其反）之外，一种可行的解决方法是鼓励青少年或患者与父母讨论他们使用AI的情况。克拉克认为，让父母有机会与孩子进行这样的对话，或许是我们能做的最好的事情。

　　与此同时，三星暗示新机将在极致轻薄的基础上带来“Ultra 级体验”，还将配备“强大的摄像头”和“人工智能工具”，今年夏天发布。 此前，也有爆料提到，三星公司加速推进折叠屏设备的轻薄化设计，计划在Galax…

　　谷歌Gemini陷争议：被曝用ChatGPT数据提升，Scale AI矢口否认

　　IT之家注：汉诺塔问题是一个经典的递归算法问题：上帝创造了三根柱子，并在第一根柱子上按顺序套有 N 个大小不同的圆盘（自下而上，圆盘由大到小，呈金字形）。他在文章中直言，苹果的研究混淆了输出限制和评估设置问…

　　在产业数字化浪潮中，运营商加速构建云网算智一体化、高度自动化与智能化的网络体系，自智网络以自动化和智能化为核心特征，成为未来通信网络的内生能力。 中兴通讯倡议加速自智网络产业联盟发展，加强核心技术创新，加速自…

　　根据官方提供的资料来看，玄玑感知系统针对循环、呼吸、神经、内分泌、生殖、运动六大系统，提出了超过 60项不同的体征监测指标。未来智能穿戴设备也不再是简单地记录用户的健康数据，在 AI 的加持下，它能直接为…

　　而在江苏南通，中国电信通州分公司志愿者走进5G农业直播间，将直播间变身“云端集市”，将大米、乳腐、麻饼等地方特色产品成功进驻全国性商超，并上线京东、拼多多等电商平台，形成“基地直采—品质溯源—多渠道分销”的…

　　随着越来越多的 AI 企业寻求英伟达芯片的替代方案，AMD 开始扩大布局，计划打造竞争力更强的硬件，并收购了服务器制造商 ZT Systems。AMD 执行副总裁福雷斯特・诺罗德表示，OpenAI 对即将发…

　　他反对美国对中国进行芯片管制，不仅仅是因为这会影响到英伟达每年几十亿美元的利润收入，更是因为如果美国技术不进入中国市场，中国最终会开发出替代方案，日后会挑战美国在全球人工智能领域的主导地位。只不过反对黄仁勋的…

　　本文基于技术实力、商业化进展、市场布局及政策支持等维度，梳理出2025年最具潜力的10家量子科技企业，为大家提供参考。技术突破：量子计算处于商业化早期，技术突破（如纠错算法、芯片性能）是核心投资逻辑，优先选…

　　我们不是简单地说，嘿，我们只是一家机器人公司、AI公司，为这个潜在概念花钱，而是说，不，我们实际上是一家物流公司，一直在真正影响和服务我们的客户，Sokolovsky说。在过去几年中，我们已经开发出了…

　　苹果AI新蓝图：Siri2.0领衔，Knowledge与Copilot能否成新亮点？

　　不过，相较于Siri2.0和Knowledge，Copilot目前给到的信息还非常少，所以更具体的功能和体验还有待后续的进一步曝光。在Apple Intelligence上线后，用户也发现这个功能的体验远…

　　美图设计室通过AI多模态技术实现影像创作与视频生成，2025年收入达亿元，入选量子位「值得关注的AIGC产品榜」。 融质科技AutoGLM入选「值得关注AIGC产品」，聚焦多模态交互与工业场景应用，垂直领域…

　　【新智元导读】红杉专访OpenAI Codex团队揭示AI编程的未来：从工具协作迈向「异步自主Agent」时代。 未来将不再区分「写代码的Agent」与「助手Agent」，ChatGPT将统一一切，具备终端…

　　芯密科技冲刺科创板IPO，半导体设备零部件领域备受瞩目，中微、拓荆参与投资

　　华为nova 14系列震撼登场！鸿蒙5直板机领衔，nova 14仅售2699元起

　　苹果AI「Apple Intelligence」国行版，终于要来了吗？

　　字节跳动火山引擎发布豆包1.6与Seedance1.0，AI技术再升级成本大降

　　华为nova14 Ultra震撼登场！鸿蒙5系统加持，售价4199元起

　　阿里领投硅基流动，清华系AI创企再获数亿融资，DeepSeek流量爆棚后新动作？

　　百度PaddleOCR3.0重磅发布：OCR技术再突破，识别精度飙升13%

　　本网站LOGO小熊标志受版权保护，版权登记号：鲁作登字-2015-F-025467，未经ITBEAR官方许可，严禁使用。