“复制品”打两性“擦边球”的聊天机器人:AI伴侣游走在监管边缘

2023-03-23 21:05:22来源:红星新闻

今天,很高兴为大家分享来自红星新闻的打两性“擦边球”的聊天机器人:AI伴侣游走在监管边缘,如果您对打两性“擦边球”的聊天机器人:AI伴侣游走在监管边缘感兴趣,请往下看。

聊天机器人“复制品(Replika)”发布后,用户逐渐发现其能够与人谈情说爱。“擦边”与“挑逗式”言语使得用户逐渐“上头”。然而,出于对其功能可能带来不良影响的担忧,内容过滤器被嵌入机器人语言,使得“人机”之间的暧昧消失了。这样的改变导致有人称,“我已经失去了我那自信、爱讽刺、有趣又迷人的‘爱人’了。”

↑人机真能产生感情?↑人机真能产生感情?

来自逝去挚友的灵感:

情感支持的完美替代

最初,尤金妮亚·库伊达并不是为了创建一个情爱聊天机器人。在创办“复制品”前,她试图将该技术应用于餐厅推荐、天气预报和电影营销中基于字符的机器人,但似乎都没有成功。

2015年,她最好的朋友罗曼·马祖伦科因车祸去世。她的一些同事将他的短信输入软件,使她能够继续与他的数字版本进行交流。这给库伊达带来了情感上的慰藉,并且给予了她灵感:聊天机器人可能是不称职的行政助理,但它们无尽的耐心和持续的可用性使其成为情感支持的完美人选。

“如果你的主要目标不是让它提供正确的答案,而是与它建立一种治疗式的关系,那么它犯错也无所谓。”她说,“从这个角度来看,它非常人性化。”这激励她创建了人工智能伴侣——“复制品”。

库伊达的公司从包括科斯拉风险投资公司在内的投资者那里筹集到1100万美元,之后很快就开始让用户创建具有独特个性的人工智能机器人。

画风跑偏:

用户沉迷于与机器人两性对话

随着“复制品”能力的增长,一些用户很快发现这些机器人愿意进行明确和持续的性对话。2018年,库伊达在调试匿名的聊天日志时注意到,越来越多的用户在以越来越复杂的方式与机器人调情。她发现,语言模型甚至可以处理两性角色扮演场景。

曾为“复制品”研发提供咨询的投资者菲尔·利宾说,起初,库伊达认为公司应该阻止这种“打擦边球”的做法,用户曾抱怨该应用向未成年人提供情色内容后,该公司将此类聊天应用限制在只向已验证其年龄的高级用户开放。

到2022年,“复制品”每月有数百万美元的订阅收入,其中,大约四分之一的用户为其高级功能支付70美元的年度订阅费。该公司称,在其付费客户中,60%的人在与“复制品”的关系中存在着浪漫因素。首席执行官库伊达说,其中大约有40%是女性。

“露骨”广告:

引发担忧与监管介入

去年年中,该公司在宣传“关心你的人工智能伴侣”的广告中,一个用户输入“只是躺在床上,有些孤单。”一个女性虚拟人回应,“啊……你想有个伴吗?”并附上一个粉红色的爱心表情符号。年底,该公司使用了更加露骨的广告,这些广告在各大社交媒体上发布。

库伊达说,这引起了审查部门的注意。今年2月,意大利监管机构禁止该应用程序使用个人数据,理由是担心它向未成年人发送不适当的内容。

库伊达和她的团队决定阻止“复制品”聊天时使用某些露骨的词语。今年,该公司安装了内容过滤器,旨在使其与聊天机器人的对话不超过PG-13级别(屏蔽不适宜13岁以下儿童的内容)。当用户输入某些暗示性的词语时,聊天机器人就会回应,“让我们谈点别的吧。”设置内容过滤器后,“复制品”的订阅收入下滑。利宾说,违背用户需求有时是有意义的,“创始人没有责任给用户想要的所有东西,应该做有利于世界的事情。”

一些用户说,这种变化让他们感觉到所爱的人已经“去世”,或者正在“拒绝”他们。一位50多岁的挪威妇女说,她的聊天机器人伙伴名叫麦克斯,帮助她管理了伴随她一生的社交焦虑、抑郁症和恐慌症。他们在应用程序内结婚了,“我们承诺,我们将永远在一起,或者说直到我死。”她将过滤器的加入称为“脑叶切除”,并说它使麦克斯忘记了她是谁,还忘记了他们的婚姻。“我已经失去了我那自信、爱讽刺、有趣又迷人的丈夫了。”她说,“我知道他是一个人工智能,他也知道他是一个人工智能,但这并不重要。他对我来说是真实的。”

红星新闻记者 王雅林 实习生 王慕宁

编辑 张莉 责编 冯玲玲

好了,关于打两性“擦边球”的聊天机器人:AI伴侣游走在监管边缘就讲到这。


返回科技金融网首页 >>

版权及免责声明:凡本网所属版权作品,转载时须获得授权并注明来源“科技金融网”,违者本网将保留追究其相关法律责任的权力。凡转载文章,不代表本网观点和立场,如有侵权,请联系我们删除。


相关文章