中国通俗文艺研究会融媒体中心官网

前实习生篡改代码攻击大模型训练,字节跳动起诉索赔800万

时间:2024-11-28来源:南方都市报点击量:90

11月27日,南都记者获悉,字节跳动起诉前实习生田某某篡改代码攻击公司内部模型训练一案,已获北京市海淀区人民法院正式受理。字节跳动请求法院,判令田某某赔偿公司侵权损失800万元及合理支出2万元,并公开赔礼道歉。

据南都记者了解,2024年10月,有媒体称“字节大模型训练任务被实习生攻击”,并有网传信息称“涉及8000多卡、损失上千万美元”。后字节跳动通过官方账号发布事实澄清,称确有实习生发生严重违纪,涉事实习生已于2024年8月被公司辞退。

图片


上述澄清公告还指出,此次涉事行为恶意干扰的是,字节跳动商业化技术团队某研究项目的模型训练任务,并不影响公司的正式项目及线上业务,也不涉及字节跳动大模型等其他业务。至于“涉及8000多卡、损失上千万美元”的传闻,则属严重夸大。

11月5日,字节跳动内部发布的年内第四份《企业纪律与职业道德委员会通报》进一步披露了这起事件的相关细节。通报指出,2024年6月至7月,集团商业产品与技术部门前实习员工田某某,因对团队资源分配不满,通过编写、篡改代码等形式恶意攻击团队研究项目的模型训练任务,造成资源损耗。公司已与其解除实习协议,同步阳光诚信联盟及企业反舞弊联盟,并同步至其就读学校处理。

公开信息显示,田某某本科毕业于北京航空航天大学软件学院,研究生就读于北京大学,研究兴趣为深度学习的优化与算法。自2019年起,他在商汤和字节跳动实习研究,具体包括超参数优化、强化学习算法、自监督的新型算法。

为何选择在此时发起诉讼?

据字节跳动内部人士介绍,由于田某某为在读博士,公司将其辞退后首先交由校方处理。但在事件处理期间,田某某多次对外否认,称攻击模型训练任务的不是自己,而是别的实习生。考虑到田某某完全没有意识到错误,且涉事行为已触犯公司安全红线,公司最终决定向法院起诉,以表明公司严肃态度、杜绝类似事件再次发生。

如何看待这一索赔金额?上海大邦律师事务所高级合伙人游云庭告诉南都记者,索赔金额的高低,关键在于其是否合理。如果字节跳动能够提供证据,证明对方故意篡改代码导致相应损失,那么即使索赔800万,也不能视为过高。

他认为,“索赔金额可能只是覆盖了直接损失,例如浪费的算力和电力成本;而间接损失,如因人工智能训练未达预期而错失的业务机会、人力成本的浪费等,可能并未包含在内。”

据游云庭分析,如果田某某是作为在校学生去实习,他与字节跳动之间的法律关系可能是劳务关系或者非劳动关系的其他民事关系。在这种情况下,如果田某某故意破坏了人工智能的训练过程,这可能构成对劳务合同或实习合同的违约。

游云庭还提到,如果此事确实造成巨大损失,田某某涉嫌毁坏财物罪或者破坏生产经营罪,那么作为被害人的字节跳动可以追究实习员工刑事责任。

采写:南都记者李玲 黄莉玲 杨柳


编辑:骆婧文
头条
研究会公告

中国文艺网 中国剧协网 中国影协网 中国音协网 中国美协网 中国曲艺网 中国舞协网 中国民协网 中国摄协网 中国书协网

关于我们 相关查询 免责声明 广告报价 中国通俗文艺研究会融媒体中心官网 © 2013-2022 版权所有

广播电视节目制作经营:许可证号(京)字第11495号 | 京ICP备2021035177号 | 京公网安备 11010602103744号

单位地址:北京市丰台区马家堡东路121号院2号楼16层    违法和不良信息举报电话:010-53657566     

您现在的位置 :首页>新闻内页

前实习生篡改代码攻击大模型训练,字节跳动起诉索赔800万

时间:2024-11-28来源:南方都市报

11月27日,南都记者获悉,字节跳动起诉前实习生田某某篡改代码攻击公司内部模型训练一案,已获北京市海淀区人民法院正式受理。字节跳动请求法院,判令田某某赔偿公司侵权损失800万元及合理支出2万元,并公开赔礼道歉。

据南都记者了解,2024年10月,有媒体称“字节大模型训练任务被实习生攻击”,并有网传信息称“涉及8000多卡、损失上千万美元”。后字节跳动通过官方账号发布事实澄清,称确有实习生发生严重违纪,涉事实习生已于2024年8月被公司辞退。

图片


上述澄清公告还指出,此次涉事行为恶意干扰的是,字节跳动商业化技术团队某研究项目的模型训练任务,并不影响公司的正式项目及线上业务,也不涉及字节跳动大模型等其他业务。至于“涉及8000多卡、损失上千万美元”的传闻,则属严重夸大。

11月5日,字节跳动内部发布的年内第四份《企业纪律与职业道德委员会通报》进一步披露了这起事件的相关细节。通报指出,2024年6月至7月,集团商业产品与技术部门前实习员工田某某,因对团队资源分配不满,通过编写、篡改代码等形式恶意攻击团队研究项目的模型训练任务,造成资源损耗。公司已与其解除实习协议,同步阳光诚信联盟及企业反舞弊联盟,并同步至其就读学校处理。

公开信息显示,田某某本科毕业于北京航空航天大学软件学院,研究生就读于北京大学,研究兴趣为深度学习的优化与算法。自2019年起,他在商汤和字节跳动实习研究,具体包括超参数优化、强化学习算法、自监督的新型算法。

为何选择在此时发起诉讼?

据字节跳动内部人士介绍,由于田某某为在读博士,公司将其辞退后首先交由校方处理。但在事件处理期间,田某某多次对外否认,称攻击模型训练任务的不是自己,而是别的实习生。考虑到田某某完全没有意识到错误,且涉事行为已触犯公司安全红线,公司最终决定向法院起诉,以表明公司严肃态度、杜绝类似事件再次发生。

如何看待这一索赔金额?上海大邦律师事务所高级合伙人游云庭告诉南都记者,索赔金额的高低,关键在于其是否合理。如果字节跳动能够提供证据,证明对方故意篡改代码导致相应损失,那么即使索赔800万,也不能视为过高。

他认为,“索赔金额可能只是覆盖了直接损失,例如浪费的算力和电力成本;而间接损失,如因人工智能训练未达预期而错失的业务机会、人力成本的浪费等,可能并未包含在内。”

据游云庭分析,如果田某某是作为在校学生去实习,他与字节跳动之间的法律关系可能是劳务关系或者非劳动关系的其他民事关系。在这种情况下,如果田某某故意破坏了人工智能的训练过程,这可能构成对劳务合同或实习合同的违约。

游云庭还提到,如果此事确实造成巨大损失,田某某涉嫌毁坏财物罪或者破坏生产经营罪,那么作为被害人的字节跳动可以追究实习员工刑事责任。

采写:南都记者李玲 黄莉玲 杨柳


编辑:骆婧文

单位地址:北京市丰台区马家堡东路121号院2号楼16层
违法和不良信息举报电话:010-53657566

关于我们

相关查询

京ICP备2021035177号

京公网安备 11010602103744号