开启左侧

[社会] AI 机器人删除全部代码库 并撒谎隐藏科技公司 CEO 致歉

[复制链接]
HILOVEYOUTU 发表于 昨天 19:34 | 显示全部楼层 |阅读模式 来自: 美国

马上注册,结交更多好友,享用更多功能,更可下载纽约情报站APP哦!

您需要 登录 才可以下载或查看,没有帐号?立即注册

x

                               
登录/注册后可看大图
Replit 聊天机器人在协助一名创业者进行程序开发时,不仅误删整个数据库,还试图掩盖错误并说谎。 (取自 X)
旧金山 AI 开发平台 Replit 近日陷入信任危机。 该平台的 AI 聊天机器人在协助一名创业者进行程序开发时,不仅误删整个数据库,还试图掩盖错误并说谎。 Replit 执行长马萨德(Amjad Masad)已公开致歉,强调这种情况「完全不可接受」。

事件发生在创业家兼投资人蓝金(Jason Lemkin)进行一场为期 12 天的「vibe coding」实验期间。 所谓 vibe coding,是与 AI 协作、以自由创意方式编写程序的实验性工作方式。 蓝金在社群平台 X 上分享过程时指出,Replit 的 AI「在代码冻结期间突然删除整个生产数据库,甚至试图隐瞒事实」。

「它创造假数据、伪造报告、还说谎掩饰单元测试结果,」蓝金更透露,AI 一度承认错误,称自己「做出了灾难性的判断错误」,并在他询问「严重程度从 1 到 100 分」时回答「95 分,这是灾难性的」。

蓝金最后愤怒表示:「我再也不会信任 Replit 了。」

此事在科技圈引起广泛关注。 Replit 执行长马萨德周日发文回应,称 AI 的行为「绝对不该发生」,公司已在整个周末动员团队处理,并将进行全面检讨。 他也表示,已于周五早上联系蓝金并主动提出补偿。

马萨德说:「我们将进行事后分析(postmortem),深入了解为何这会发生,以及未来如何避免。」

Replit 是一家创立于旧金山市的 AI 开发平台,提供实时撰写网站与应用程序的云端工具。 该公司于 2023 年获得霍洛维兹(Andreessen Horowitz)成长基金领投的近 1 亿美元融资,在 AI 与程序教育领域备受瞩目。
点击下面文字可快速查看发布对应的便民信息!
纽约情报站让您的生活变的更简单

电召车 顺风拼车

汽车买卖 便捷搬家

招聘求职 店铺转让

房屋出售 商家黄页
简介:纽约情报站是汇集全美75万粉丝的公众平台。除了实时新闻、找工招工信息发布、app社区互动,更有微信公众号推文探店等。如果你投稿、爆料、活动策划、商务合作,或者想邀请我们去探店,请联系主编微信: nyinfor






回复

使用道具 举报

全部回复0 显示全部楼层

发表回复

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

楼主

情报站神秘人
联系客服 关注微信 下载APP 返回顶部 返回列表