摘要：北京时间2月5日，意大利数据保护局周五表示，它禁止人工智能 (AI) 聊天机器人公司 Replika 使用意大利用户的个人数据，理由是未成年人和情绪脆弱的人面临风险。Replika 是一家于 2017 年成立的旧金山初创公司，为用户提供定制化身，可以与他们交谈和倾听。它在说英语的人中处于领先地位，并且可以免费使用，尽管它通过销售语...

北京时间2月5日，意大利数据保护局周五表示，它禁止人工智能 (AI) 聊天机器人公司 Replika 使用意大利用户的个人数据，理由是未成年人和情绪脆弱的人面临风险。

Replika 是一家于 2017 年成立的旧金山初创公司，为用户提供定制化身，可以与他们交谈和倾听。

它在说英语的人中处于领先地位，并且可以免费使用，尽管它通过销售语音聊天等奖励功能每月带来约 200 万美元的收入。

“虚拟朋友”被营销为能够改善用户的情绪健康。

但意大利监管机构表示，通过干预用户的情绪，“可能会增加仍处于发育阶段或情绪脆弱状态的个人的风险”。

儿童隐私倡导组织捍卫数字我的负责人珍·佩尔森告诉路透社，旨在影响儿童情绪或心理健康的工具应归类为健康产品，因此应遵守严格的安全标准。

“这些工具在没有太多监督或保护免受潜在滥用的情况下被用于儿童，”她说。

意大利监管机构强调缺乏年龄验证机制，例如未成年人过滤器或如果用户未明确说明其年龄则阻止设备。

该监管机构表示，Replika 违反了欧洲隐私法规并非法处理个人数据，因为它不能基于（即使是隐含地）未成年人无法签署的合同。

Replika 没有立即回复路透社寻求评论的电子邮件。

咨询公司 Alvarez & Marsal 的董事总经理罗伯特·格罗夫纳 (Robert Grosvenor) 表示，意大利监管机构不太可能是唯一考虑对 Replika 等公司采取行动的欧洲监管机构。

“虽然年龄验证可以提供保护一些最弱势群体的手段，但它并没有解决基于人工智能的服务和解决方案在不受监管的情况下可能带来的风险和危害，就潜在的意外偏见和歧视而言，”他说.

Replika 的开发商美国公司 Luka Inc 必须在 20 天内通知意大利当局为实施其要求而采取的措施，并可能被处以最高 2000 万欧元（2180 万美元）或其全球年营业额的 4% 的罚款，该声明说。