揭示关于 AI 聊天机器人关系的真相

Emma McGowan 2024年2月14日

最近一份来自Mozilla的报告指出，随著浪漫AI聊天机器人的迅速兴起，隐私问题日益严重。

自1960年代以来，AI浪漫伴侣就在流行文化中成为一种热话。从《我的活人玩偶》中全功能的安卓机器人“Rhoda Miller”，到2013年电影《她》中斯嘉丽约翰逊配音的无形声音，我们这几代人已经在梦想著人工智慧可以满足我们所有的情感需求。而现在，随著生成式AI的发展和发布，这个梦想似乎有望成为现实。

但这真的是梦想吗？还是我们正在无意中走向隐私的噩梦？Mozilla的研究团队在他们最近的私人信息不被包含特别报告中探讨了这个问题。

调查结果令人震惊，11个测试的聊天机器人中，有10个都未能达到Mozilla的最低安全标准。这意味著，它们不要求用户创建强密码，也没有办法处理任何安全漏洞。随著在Google Play商店估计超过1亿次的下载以及OpenAI的应用商店最近开放，看到浪漫聊天机器人的激增，这个重大的问题只会越来越大。

但这份报告不仅仅是数字上的问题；它也揭示了这些发现的重大潜在隐私影响。以Replika AI为例。根据Mozilla的说法，人们在这个应用程式中与他们的“AI挚爱”分享了最隐秘的思想、情感、照片和视频，而这个应用不仅记录这些信息，还可能将其出售给数据经纪人。它还允许用户使用像“111111”这样的弱密码创建账户，这将使所有这些敏感信息面临骇客风险。

Calder表示，尽管这些隐私和安全缺陷已经“令人毛骨悚然”，但一些机器人还声称可以帮助用户的心理健康。她指出，浪漫AI就是一个例子，其条款和条件上写道：

“浪漫AI既非医疗保健或医疗服务的提供者，也不提供医疗护理、心理健康服务或其他专业服务。只有您的医生、治疗师或其他任何专家能做到这一点。浪漫AI不对其服务提供治疗、医疗或其他专业帮助的任何声明、保证或保证。”

然而，他们的网站却宣称“浪漫AI旨在维护您的心理健康”强调为他们的说法。虽然我们无法获得有多少人阅读条款和条件以及有多少人阅读网站的数据，但可以肯定的是，更多的人收到的是网站的讯息，而非免责声明。

在涉及心理健康的声称和用户自愿与数字“挚爱”分享的个人隐私信息之间，Calder担心这些机器人可能会轻易地操控人们去做一些他们本不会做的事。

“有什么可以阻止坏人创建聊天机器人，了解他们的挚爱，并利用这种关系操控人们做一些可怕的事情，接受令人恐惧的意识形态，或伤害自己和他人？”Calder表示。“这就是为什么我们迫切需要在这些AI应用程序中实现更多的透明度和用户控制。”

因此，尽管AI聊天机器人承诺提供陪伴，但我们距离《她》中呈现的那种水平仍然遥远：当前的现实揭示了一个残酷的事实用户的隐私是进入这个领域的代价。现在是时候让用户、开发者和政策制定者在AI关系的领域中要求透明度、安全性和对个人界限的尊重。只有这样，我们才能安全地探索这些数字伴侣的潜力，而不会妥协我们的数位自我。