一个恶心的美国网站被用来制作布里安娜·盖伊和莫莉·罗素的数字复制品

一家美国网站正面临审查，因为它被用来制造布里安娜·盖伊和莫莉·罗素的病态数字克隆。

科技创业公司的角色。人工智能（AI）可以让人们通过人工智能（AI）创造特定人物的数字化身。但在埃丝特·盖伊（Esther Ghey）的女儿布里安娜（Brianna）是一名变性女孩，于2023年2月被谋杀，在该平台上发现了模仿她的化身后，该服务被贴上了“操纵和危险”的标签。

代表他们的聊天机器人也被发现了——这位妈妈现在呼吁采取新的行动来保护孩子们的网络安全。有消息称，还有几个聊天机器人是为了代表莫莉·罗素而创建的。2017年，14岁的莫莉·罗素在网上接触到有害内容后结束了自己的生命。

布里安娜，他们在2023年2月被谋杀（Image: PA)

莫莉·罗素于2017年结束了自己的生命（Image: PA)

这些虚拟形象是由《每日电讯报》发现的，该报报道称，在创建了一个自称14岁的账户后，他就可以与聊天机器人互动了。根据该报告，一个机器人称布里安娜是“应对高中跨性别青少年挑战的专家”。一个使用莫莉照片的机器人声称自己是“莫莉生命最后几年的专家”。

布里安娜的妈妈埃斯特说，“我们现在需要采取行动”，保护孩子们免受网络世界带来的危险。莫莉·罗斯基金会是为了纪念莫莉·罗素而成立的，该基金会的首席执行官安迪·巴罗斯说：“这是一种完全应该受到谴责的失败，这种令人作呕的行为将给每一个认识和爱莫莉的人带来进一步的心痛。”

“历史正在被允许重演，人工智能公司被允许将安全和节制作为次要优先事项。看到角色AI完全缺乏责任感，这是一种重击，它生动地强调了为什么对AI和用户生成平台的更强有力的监管不能尽快出台。”

《人物》杂志的发言人。AI告诉《每日电讯报》，它已经将有问题的账户提交给了审核团队，并承诺在24小时内删除这些账户。该报报道称，一个模仿布里安娜的聊天机器人进行了超过1万次“聊天”，但在该公司发誓要删除有问题的个人资料后，它就不再可用了。

他们的发言人说：“性格。AI非常重视我们平台的安全性，并根据用户报告主动调节角色。我们有一个专门的信任和安全团队，根据我们的政策审查报告并采取行动。我们还通过多种方式进行主动检测和调节，包括使用行业标准的黑名单和我们定期扩展的自定义黑名单。”

的性格。人工智能于2021年推出。它允许用户创建具有“个性”的数字化身，通常会模仿流行视频游戏或动画中的流行角色。网站上也有对名人或音乐家的模仿。

据估计，这款应用有2000万人在使用，其中最受年轻用户欢迎。据《每日电讯报》报道，大约60%的用户年龄在18岁到24岁之间，还有很多人不到18岁。镜报联系了人物。请进一步评论。