防止人工智能失控 顶尖科学家开发监控软件
https://pgw.worldjournal.com/gw/photo.php?u=https://uc.udn.com.tw/photo/wj/realtime/2025/06/05/32206586.jpg&x=0&y=0&sw=0&sh=0&sl=W&fw=800&exp=3600&q=75加拿大计算机科学教授班吉欧（Yoshua Bengio）。 美联社忧心生成式人工智能（generative AI）快速普及，人工智能先驱研究者、加拿大计算机科学教授班吉欧（Yoshua Bengio）正在开发软件，以监控这项日益取代人类工作的技术。法新社报道，班吉欧被认为是人工智能革命的教父之一，他今天宣布成立非营利组织LawZero，目标为降低人工智能的固有风险。
班吉欧是有电脑界诺贝尔奖之称的图灵奖（Turing Award）得主，多年来一直警告有关人工智能的风险，无论是被恶意使用，还是软件本身出现问题。
随着所谓的人工智能代理（AI agent）的发展，风险正在增加。 这种技术让电脑做出过去曾经由人类工人做出的决策。
人工智能代理的目标是建立虚拟员工，以极低成本完成人类几乎能够做到的任何工作。
班吉欧说：「目前，人工智能的开发是为了实现利润最大化。」他还说，即使人工智能持续出现缺陷，它也仍被广泛应用。
另外，对班吉欧来说，赋予人工智能类似于人类的自主性很容易被用于恶意目的，例如散播假消息、生物武器和网络攻击。
他说：「如果我们控制不了自作主张的超智慧人工智能，它们可能会给人类造成极大伤害。」
LawZero表示，组织首要任务之一是开发「科学家人工智能」（Scientist AI），这是一种经过专门训练的人工智能形式，可以用作安全防护，确保其他人工智能的行为是正确的。
LawZero目前有超过15名研究人员，并获得谷歌公司（Google）前执行长施密特（Eric Schmidt）和他的妻子温蒂（Wendy Schmidt）创立的慈善机构施密特科学（Schmidt Sciences）的资助。点击下面文字可快速查看或发布对应的便民信息！纽约情报站让您的生活变的更简单:hug:电召车 :hug:顺风拼车:hug:汽车买卖 :hug:便捷搬家:hug:招聘求职 :hug:店铺转让:hug:房屋出售 :hug:商家黄页简介：纽约情报站是汇集全美75万粉丝的公众平台。除了实时新闻、找工招工信息发布、app社区互动，更有微信公众号推文探店等。如果你投稿、爆料、活动策划、商务合作，或者想邀请我们去探店，请联系主编微信： nyinfor
页:
[1]