女被杀18年后照片被制作聊天机器人父亲愤怒制作公司删除

HILOVEYOUTU · 发表于 2024-10-16 20:33:11

马上注册，结交更多好友，享用更多功能，更可下载纽约情报站APP哦！

您需要登录才可以下载或查看，没有帐号？立即注册

x

登录/注册后可看大图

18年前被谋杀的一名少女全名和照片，被AI聊天机器人平台 Character.AI 重新创造成一个知识渊博且友好的聊天机器人。（取材自领英）

2006年，克雷森特（Drew Crecente）就读高中的女儿珍妮弗（Jennifer）遭前男友杀害; 18年后的10月2日，他收到谷歌（Google）警示通报，指他女儿珍妮佛的全名和照片等个资出现在网络上，被人工智能（AI）聊天机器人平台 Character.AI 重新创造成一个知识渊博且友好的聊天机器人。克雷森特向《华盛顿邮报》表示，当时他整个人「血脉贲张」，「只希望眼前有个大型红色停止按钮，可以一按就把这一切停下来」。

克雷森特对于 Character.AI 允许用户未经当事者家人许可，就使用被谋杀高中生档案创建出聊天机器人角色，深感震惊。专家表示，这起事件引发人们质疑AI产业是否有能力或意愿保护用户，避免因为其服务而受到潜在危害。

克雷森特指出，珍妮弗聊天机器人的页面被人以生动语言描述得像是活人一般，称她是「能掌握最新流行科技文化动态」的电玩高手兼记者。该数字珍妮弗是Character网站用户创建，有几个人已与数位珍妮佛互动。

克雷森特及其家人在X平台就此事发文后，Character回应表示正在删除该角色。 Character发言人凯利（Kathryn Kelly）表示，该公司已删除违反其服务条款的聊天机器人，将持续改良安全工作，协助保障社区安全。

Character今年与谷歌签署价值25亿元协议，将其AI模型授权谷歌。 Character提供多款公司制造聊天机器人，也允许用户通过上传照片、录音和简短书面提示，创建和共享自己的AI聊天机器人。聊天机器人可以被视为朋友、导师和浪漫伴侣，网络受众愈来愈多，但此技术也已引起争议。 2023年一名比利时男子在与聊天机器人对话时，被鼓动自杀身亡。

非营利组织Mozilla基金会隐私权研究员考特里德（Jen Caltrider）批评Character在审查明显违反服务条款的内容方面，过于被动。消费者权益非营利组织Public Citizen研究AI聊天机器人的克莱普尔（Rick Claypool）则表示，「我们迫切需要立法者和监管机构，关注这些科技对民众造成的真正影响」。