揭示人工智慧关系聊天机器人的真相

艾玛麦戈万 (Emma McGowan) 2024年2月14日

最近，Mozilla的一份报告发现，浪漫AI聊天机器人的激增正在带来全新的隐私担忧。

自1960年代以来，AI浪漫伴侣在流行文化中已经成为一种趋势。从《我的活人娃娃》My Living Doll中的“罗达米勒”Rhoda Miller这样的全机械人到2013年《她》Her中由斯嘉丽约翰逊配音的无形声音，我们几代人以来一直在梦想人工智能能满足我们所有的情感需求。现在，随著生成式AI的开发和发布，这个梦想似乎终于要成为现实。

但这真的是梦想吗？还是我们正无意中步入隐私噩梦？这正是Mozilla研究团队在其最近的浪漫AI聊天机器人的隐私不在考量特别报告 中所探讨的问题。

结果令人震惊，在测试的11款聊天机器人中，有10款甚至连Mozilla的最低安全标准都未达到。这意味著，它们没有要求用户设定强密码，也没有处理任何安全漏洞的方式。再加上估计在Google Play商店的下载量已超过1亿，及OpenAI最近开设的应用商店吸引了大量浪漫聊天机器人进驻，这个庞大的问题只会继续扩大。

不过，这份报告不仅仅是数字的堆叠；它还涉及到这些发现所带来的重大潜在隐私影响。以Replika AI举例。根据Mozilla的报告，人们在这个应用上与他们的“AI灵魂伴侣”分享自己最私密的想法、感受、照片和视频，而这个应用不仅保留这些信息，还可能将其出售给数据经纪人。它还允许用户创建像“111111”这样的弱密码帐户，将所有敏感信息置于被黑客攻击的风险中。

Calder表示，虽然这些隐私和安全缺陷已经“令人毛骨悚然”，但一些聊天机器人还声称可以帮助用户的心理健康。她以Romantic AI为例，该服务的条款和条件中写道：

“Romantic AI既不是医疗服务的提供者，也不提供医疗护理、心理健康服务或其他专业服务。只有您的医生、治疗师或其他专家才能做到这一点。Romantic AI不对提供治疗、医疗或其他专业帮助作出任何声明、保证或担保。”

然而，他们的网站却宣称“Romantic AI在维护您的心理健康”强调为他们所作。虽然我们无法得知有多少人阅读了条款和条件以及有多少人查看了网站，但可以肯定的是，许多人更容易接收到网站的消息而不是免责声明。

在心理健康的声明和顾客愿意与其数位“灵魂伴侣”分享个人及私密信息之间，Calder担心这些聊天机器人可能会轻易地操纵人们去做他们平时不会做的事情。

“有什么能阻止坏人创建聊天机器人来了解他们的灵魂伴侣，然后利用这种关系操纵这些人去做可怕的事情、接受可怕的意识形态，或伤害自己或他人？”Calder说。“这就是为什么我们迫切需要在这些AI应用中增加透明度和用户控制。”

因此，虽然AI聊天机器人承诺能提供陪伴，但我们还未达到《她》的水平：当前的现实揭示了一个残酷的真相，即用户隐私是进入这个世界的代价。是时候让用户、开发者和政策制定者要求在AI关系领域中实现透明度、安全性及对个人边界的尊重。只有这样，我们才能希望在不妨碍我们数位自我的情况下，安全地探索这些数位伴侣的潜力。