yao 发表于 10-19 20:04

字节跳动大模型训练被实习生攻击,涉事者已被辞退

字节跳动大模型训练被实习生攻击,涉事者已被辞退

10 月 18 日,多个微信群流传一则消息:「某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了 8000 多张卡,带来的损失可能超过千万美元。」

界面新闻从知情人士处获悉,此事发生在今年 6 月,起因是某高校的博士在字节跳动商业化技术团队实习,因对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。界面新闻向字节跳动方面求证此事,截至目前,官方未进行回应。

传闻显示,该田姓实习生利用了 HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果,而且 AML 团队无法核查原因。但传闻曝出之后,该实习生还在某微信群里辟谣称,自己发完论文后就从字节跳动离职,这个当口有另一个人钻漏洞改模型代码,把锅扣到自己头上。

目前,该实习生已被辞退。但该实习生攻击的并不是豆包大模型,而是商业化技术团队的模型训练任务,影响了该技术团队的一些业务进展,但整体对公司造成的损失并没有传闻中的超过千万美元那么大。
页: [1]
查看完整版本: 字节跳动大模型训练被实习生攻击,涉事者已被辞退

博一网
www.bo-yi.com
点击查看放大的二维码
订阅号:jc68com
点击查看放大的二维码
服务号:jc68-1
点击查看放大的二维码
移动端二维码
腾讯微博
腾讯微博
新浪微博
新浪微博