网传“实习生破坏大模型训练”,字节跳动回应

来源:观察者网

2024-10-19 16:29

据字节跳动今日头条官方账号消息,字节跳动10月19日发布关于“实习生破坏大模型训练”的事实澄清:

近期有媒体称“字节跳动大模型训练被实习生攻击”,经公司内部核实,确有商业化技术团队实习生发生严重违纪行为,该实习生已被辞退。但相关报道也存在部分夸大及失实信息,特说明如下:

一、涉事实习生恶意干扰商业化技术团队研究项目的模型训练任务,但并不影响商业化的正式项目及线上业务,也不涉及字节跳动大模型等其他业务。

二、网传“涉及8000多卡、损失上千万美元”严重夸大。

三、经核实,涉事人一直在商业化技术团队实习,并没有AI Lab实习经历。其社交媒体个人简介及部分媒体报道有误。

该实习生已在8月被公司辞退。公司也将其行为同步给行业联盟和所在学校,交由校方处理。

字节跳动头条官方账号截图

据此前报道,10月18日,多个微信群流传消息称,字节跳动的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了8000多张卡,带来的损失可能超过千万美元。

传闻显示,该田姓实习生利用了HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果,而且AML团队无法核查原因。但传闻曝出之后,该实习生还在某微信群里辟谣称,自己发完论文后就从字节跳动离职,这个当口有另一个人钻漏洞改模型代码,把锅扣到自己头上。

知情人士对媒体表示,字节跳动内部已经调查明确此事为田姓实习生所为。目前,该实习生已被辞退,字节跳动同时把此事同步给阳光诚信联盟和企业反舞弊联盟,以及该实习生所在的学校。但这名实习生被辞退后到处“辟谣”甩锅,称是其他人所为。

责任编辑:林琛力
观察者APP,更好阅读体验

又签合作大单!巴西:对华贸易已超美欧总和

“袭击将至?”乌克兰全民恐慌…

习近平同卢拉会谈:这是中巴又一个历史性时刻

拜登批了:鲁莽的竟是我自己

这份“反华”报告果然来了,中方严厉驳斥