字节跳动大模型训练被实习生攻击，涉事者已被辞退

APP下载

扫一扫

下载观察者APP

字节跳动大模型训练被实习生攻击，涉事者已被辞退

分享到：

2024-10-19 10:25:04 字号：A- A A+ 来源：界面新闻

界面新闻从知情人士处获悉，此事发生在今年6月，起因是某高校的博士在字节跳动商业化技术团队实习，因对团队资源分配不满，使用攻击代码破坏团队的模型训练任务。

10月18日，多个微信群流传一则消息：“某头部大厂的大模型训练被实习生入侵，注入了破坏代码，导致其训练成果不可靠，可能需要重新训练。据称遭到入侵的代码注入了8000多张卡，带来的损失可能超过千万美元。”

界面新闻从知情人士处获悉，该头部大厂为字节跳动。此事发生在今年6月，起因是某高校的博士在字节跳动商业化技术团队实习，因对团队资源分配不满，使用攻击代码破坏团队的模型训练任务。

界面新闻向字节跳动方面求证此事，截至目前，官方未进行回应。

传闻显示，该田姓实习生利用了HF（huggingface）的漏洞，在公司的共享模型里写入破坏代码，导致模型的训练效果忽高忽低，无法产生预期的训练效果，而且AML团队无法核查原因。但传闻曝出之后，该实习生还在某微信群里辟谣称，自己发完论文后就从字节跳动离职，这个当口有另一个人钻漏洞改模型代码，把锅扣到自己头上。

界面新闻从知情人士处了解到，字节跳动内部已经调查明确此事为田姓实习生所为。目前，该实习生已被辞退，字节跳动同时把此事同步给阳光诚信联盟和企业反舞弊联盟，以及该实习生所在的学校。但这名实习生被辞退后到处“辟谣”甩锅，称是其他人所为。

但该实习生攻击的并不是豆包大模型，而是商业化技术团队的模型训练任务，影响了该技术团队的一些业务进展，但整体对公司造成的损失并没有传闻中的超过千万美元那么大。

一位技术安全专家告诉界面新闻，HF漏洞产生肯定是单一性集中训练，此事暴露了字节跳动技术训练存在安全管理问题。公司既没做权限隔离，也没有做好共用代码的审计。正常情况下，每次大的代码变动必须做审计，无论谁做操作都有痕迹记录，一个人想动代码是不可能的。

上述技术安全专家表示，目前行业通用的做法是做三级隔离导向性部署，每一级只有镜像，每次先扫描。调用按次算、必须密钥。每一级完成后，才能进入下一级，而上一级自动删除，进行分级训练。

（界面新闻记者肖芳）
|

举报
- 违反法律法规
- 垃圾信息、广告
- 色情、淫秽信息
- 人身攻击
- 谣言、不实信息
- 冒充，冒用信息
- 破坏社区秩序
- 其他
- 涉未成年人有害信息
观察者网举报制度规范
确定取消
标签
- 原标题：字节跳动大模型训练被实习生攻击，涉事者已被辞退
- 责任编辑: 林铃锦
- 政策组合拳下，四季度经济怎么走？
  
  2024-10-19 09:02 观网财经-宏观
- 印度手机出货单季增长9%，vivo超小米首成第一
  
  2024-10-18 22:09 观网财经-科创
- 科大讯飞三季度扭亏，前三季度回款150亿
  
  2024-10-18 20:58 观网财经-科创
- 三季度经济增速4.6%，全年5%目标如何实现？
  
  2024-10-18 20:38 观网财经-宏观
- 外媒称苹果曾与比亚迪秘密合作开发汽车电池，比亚迪否认
  
  2024-10-18 18:20 观网财经-科创
- 第十批药品集采开启，62品种263品规创历年之最
  
  2024-10-18 18:17 观网财经-健康
- 自然资源部：涉及国家安全，必须存储于境内
  
  2024-10-18 18:14
- 京东金融：不存在网传“挤兑”情况
  
  2024-10-18 17:16 观网财经-金融
- 学会反思的国产大模型，真变强了？
  
  2024-10-18 16:17
- 沪指大涨近3%，创业板指飙升近8%！两市成交额创9日以来新高
  
  2024-10-18 15:12 金融观察
- 沪深两市成交突破1.5万亿，芯片行业ETF放量飙升
  
  2024-10-18 14:10 观网财经-金融
- 吴清：加快落实中长资金入市，严惩违规减持
  
  2024-10-18 13:59 观网财经-宏观
- 央行两项新工具今日实施！“预计还有降准降息”
  
  2024-10-18 12:50 观网财经-金融
- 诺基亚在中国裁员近2000人，在华份额已不到5%
  
  2024-10-18 11:19 观网财经-科创
- 李德仁院士提出“时空智能学”
  
  2024-10-18 10:00 观网财经-科创
- 欧洲央行宣布降息25个基点
  
  2024-10-17 20:34 金融观察
- 美的科技月：累计奖励超5亿元，加强全球人才引入
  
  2024-10-17 20:26 观网财经-科创
- 存量房贷下调后还有红包：下月起定价机制可重新协商？
  
  2024-10-17 18:35 观网财经-金融
- 茅台在香港降价千元？门店员工称暂未接到通知
  
  2024-10-17 18:04 观网财经-消费
- 成都将迎大规模拆迁？房小团发布澄清声明
  
  2024-10-17 16:23 观网财经-房产
搜索

   观察者头条查看全部

“特朗普已经输掉了对华贸易战” 评论 72

“中国知道，特朗普何时会眨眼” 评论 123

特朗普又“眨眼”：中方来谈吧，签个“特殊协议” 评论 527

“共和党人气坏了，但碍于特朗普只能保持不安的沉默” 评论 70

“中国打贸易战有秘密武器：AI机器人大军” 评论 111

   风闻 · 24小时最热查看全部

   最新视频查看全部
最新闻 Hot
快讯

字节跳动大模型训练被实习生攻击，涉事者已被辞退

政策组合拳下，四季度经济怎么走？

印度手机出货单季增长9%，vivo超小米首成第一

科大讯飞三季度扭亏，前三季度回款150亿

三季度经济增速4.6%，全年5%目标如何实现？

外媒称苹果曾与比亚迪秘密合作开发汽车电池，比亚迪否认

第十批药品集采开启，62品种263品规创历年之最

自然资源部：涉及国家安全，必须存储于境内

京东金融：不存在网传“挤兑”情况

学会反思的国产大模型，真变强了？

沪指大涨近3%，创业板指飙升近8%！两市成交额创9日以来新高

沪深两市成交突破1.5万亿，芯片行业ETF放量飙升

吴清：加快落实中长资金入市，严惩违规减持

央行两项新工具今日实施！“预计还有降准降息”

诺基亚在中国裁员近2000人，在华份额已不到5%

李德仁院士提出“时空智能学”

欧洲央行宣布降息25个基点

美的科技月：累计奖励超5亿元，加强全球人才引入

存量房贷下调后还有红包：下月起定价机制可重新协商？

茅台在香港降价千元？门店员工称暂未接到通知

成都将迎大规模拆迁？房小团发布澄清声明

“特朗普已经输掉了对华贸易战”

“收到中方警告”，韩国业界：后果很严重

中企直说了：不会妥协，现在是美国人没的选

“这就是中美的不同之处”

“中国知道，特朗普何时会眨眼”

美财长不痛快：IMF和世界银行，与中国走太近

“前220名持币大户可与总统共进晚餐”，特朗普币飙升60%

六大重磅团体罕见联名抗议，“特朗普考虑豁免中国汽车零件”

“脏话满天飞”，马斯克与贝森特被曝激烈争吵

在中美之间二选一？韩国表态

特朗普又“眨眼”：中方来谈吧，签个“特殊协议”

又发癫！“没了中国，英国你能行？”

特朗普夸口：特鲁多说了，没美国就没加拿大

“就算加100%关税，中国口罩也比美国货便宜”

暴跌71%！马斯克叹气：我劝过特朗普，听不听由他

12州联合起诉：特朗普，收手吧