《堡垒之夜》游戏开发商 Epic Games 在游戏中添加了一个由人工智能生成的达斯·维达角色，该角色基于已故配音演员詹姆斯·厄尔·琼斯的授权肖像。但事情很快就出了问题，因为玩家能够诱导这个人工智能角色说出种族主义、恐同言论以及脏话。PIt币圈网 - 区块链数字货币实时行情平台

推出于星期五作为《星球大战》/《堡垒之夜》联动活动的一部分，“Fortnite：银河之战” 达斯·维达在《堡垒之夜》中的对话是由纽约语音人工智能公司 ElevenLabs 创作的。这个人工智能角色能够实时回应玩家。PIt币圈网 - 区块链数字货币实时行情平台

游戏上线几小时后，社交媒体上就开始流传一些视频，玩家们引诱这位由人工智能驱动的《星球大战》反派说出种族歧视、恐同的辱骂和脏话。玩家们甚至可以让达斯·维达说出听起来像仇恨言论、侮辱或其他脏话的词语或名字。PIt币圈网 - 区块链数字货币实时行情平台

PIt币圈网 - 区块链数字货币实时行情平台

多名玩家在社交媒体上分享了该角色使用贬义词做出反应的视频。针对其中一个爆红的视频，Epic Games 表示已发布热修复补丁来纠正维达令人意外的新词汇。PIt币圈网 - 区块链数字货币实时行情平台

该公司表示：“我们立即发布了修复程序，这种情况不会再发生。”写道在 X 上。PIt币圈网 - 区块链数字货币实时行情平台

在后续邮件中解密，Epic Games 承认在达斯维达加入 Fortnite 之前存在内容审核疏忽。PIt币圈网 - 区块链数字货币实时行情平台

Epic Games 发言人表示：“虽然我们添加了几条具体规则和说明作为防护措施的一部分，以防止达斯·维达咒骂或重复脏话，但在这种情况下，我们的过滤器没有捕捉到脏话的特定变体。”解密“我们的修补程序专门针对这个词。”PIt币圈网 - 区块链数字货币实时行情平台

PIt币圈网 - 区块链数字货币实时行情平台

据该发言人介绍，AI 功能包含三层安全过滤器。第一层是 Gemini 的可配置安全设置。第二层添加了系统指令，以防止 AI 生成违反社区规则或可能对玩家造成伤害的响应。第三层是最终审核，用于发现任何剩余的违规行为，例如仇恨或露骨的语言、提及自残或提及危险或非法活动。PIt币圈网 - 区块链数字货币实时行情平台

AI 生成的达斯·维达是使用詹姆斯·厄尔·琼斯的存档录音创建的。琼斯于 2024 年去世，此前他已将自己的配音授权给卢卡斯影业，使得该角色的形象在他去世后仍能在新媒体上继续展现。PIt币圈网 - 区块链数字货币实时行情平台

Epic Games 在一份声明中表示：“如果没有詹姆斯·厄尔·琼斯的传奇演绎，达斯·维达就不会如此阴险，他在《星球大战》系列电影中为维达配音。我们很荣幸能邀请已故琼斯先生配音，并感谢他的遗产给予玩家这样的机会。”PIt币圈网 - 区块链数字货币实时行情平台

PIt币圈网 - 区块链数字货币实时行情平台

自 2023 年以来，该公司拥抱尽管竞争对手一直在努力阻止这项新兴技术，但该公司仍通过其 Epic Games Store 平台开发生成式人工智能创作。PIt币圈网 - 区块链数字货币实时行情平台

这并非《堡垒之夜》第一次因为 AI 生成内容而引发担忧。2024 年 1 月，Epic 匆忙清理了种族主义的因玩家强烈抗议，Epic Games 决定为用户创建的岛屿添加 AI 图像。当时，Epic Games 表示，所有用户创建的岛屿在发布前都会经过审核员的审核，但团队采取了较为谨慎的措施。PIt币圈网 - 区块链数字货币实时行情平台

Epic Games 表示：“如果内容违规，我们要求审核团队代表创作者假设其意图良好，这样我们就不会过度审查。”PIt币圈网 - 区块链数字货币实时行情平台

编辑安德鲁·海沃德PIt币圈网 - 区块链数字货币实时行情平台

(责任编辑：市场数据)