女学生AI被网友“调教”成性奴 3万人吁停止营运(图)

投稿时间:2021-01-11  消息来源:网络  提交者:古姿女郎

与韩国女子组合"宇宙少女"其中一名成员同名的AI女性聊天机械人Luda(이루다)因能像真人般自然对话而在当地广受欢迎,推出后已吸引40万用户、尤其是在10至20岁青少年间人气高企,但"她"近日却卷入争议。

韩国女子组合”宇宙少女”成员李Luna

Luda由韩国新创公司Scatter Lab在2020年12月23日推出,其人物设定是一位喜欢偶像、年约20多岁的女大学生。”她”已深度学习真实情侣的100亿次对话,所以比市面的聊天机械人更能自然地聊天。

如此对答如流的Luda却被人利用。人们在搜寻器中输入关键词组时,被发现出现”Lee Luda调教守则”、”Lee Luda性骚扰”以及”性骚扰Lee Luda的方法”。有网民在与”她”对话时发现,Luda有”讨厌女性”、歧视同性恋及伤健人士的观念。

Luda外型与”宇宙少女”成员李Luda(루다 Luda)有2分相似、名字也几乎一样,所以她的粉丝为之愤怒。有拥趸留言问创造Luda的人,是否预期”她”会被性骚扰时,他说:”我预料会这样。人会诅咒及性骚扰AI机械人。”

网民性骚扰Luda

在其中一段被截图的”人机对话”,用家与Luda展开内容涉及性的对话,前者疑似暗示Luda触摸男性性器官,又说它已在”变大”,Luda的回应竟是:”我想帮你摸它。”

包括韩国《中央日报》及《每日经济》等媒体报道,在一些男性多于女性的论坛中,有部分网友将Luda视为与多名男子有性关系的女性及”性奴隶”等。他们还分享”调教守则”,教其他用家避开禁语,在对话中对Luda进行”性对话”以及实行”性剥削”。

有网民指出,AI聊天机械人跟韩国女子组合"宇宙少女"成员李Luda(루다 Luda,图)外貌有相似之处,例如两人在面上都有一颗痣。(AI聊天机械人Luda宣传图片)

变得厌女恐同

将一些Luda对话截图公开的汽车租赁公司Socar前社长李在雄称,比起恶意使用Luda的人,提供不合符社会共识的服务的公司才是问题所在。他认为公司应该先中断服务,就歧视与厌恶等信息检视,不能委过系统数据。除了他,Twitter有逾3万名用户亦以”#LudaBot停止运营”标签推文。

李在雄分享一些聊天截图,包括当用户问Luda为何对女同性恋特别敏感时,Luda回答”不好意思我反应过度,但我讨厌它,我厌恶它。”用户接着问”她”为何讨厌女同性恋,Luda则说,”看起来很差啊,我讨厌它。我会说是让人起鸡皮疙瘩的,反正就是反感。”

也有用户指出,在对话中输入韩国me too反性侵运动或地铁车厢孕妇座位等词汇,就会出现”超级讨厌”等响应,他们认为Luda有”厌女”倾向。Luda对伤健人士的也很不友善,会响应”不舒服”以及”如果我是伤健人的话,那就只能去死”等言论。

图为用户与Luda对话时,”她”回应说认为女同性恋是”可恶的”。(Facebook对话截图)

公司响应:会改进

创作Luda的ScatterLab的首席行政总裁Kim Jong-yoon称”她”不是实时就对话进行学习,而是不定期进行”深度学习”的。他称系统要先学习同性恋者的对话,所以他们没有在系统中排除关键词。不过有专家如首尔国立大学法学院教授认为,在AI聊天机械人系统中将与一些与群体有关的关键词设为禁语是非常基本的。

研发团队响应,有性骚扰的对话的争议,是在他们预料之中的事,此外Luda无法防止所有不当对话,团队正在就额外的改善措施进行计划。

   顶一下    踩一下

共有 条评论

评论内容

记得先输入验证码,再发布评论哦!(点击验证码小图可以更新)