← 返回列表

字节大模型遭入侵续:清华研究生率先揭露,入侵者已被辞退,公司已通知协会备案

单站 黑奇士 发布 Sat, 19 Oct 2024 09:16:00 +0000 入库 2026-11-18T06:04:02

原创 司马子羽 2024-10-19 09:16 山西

清华研究生率先揭露,入侵者是另外那个学校在读研究生。

18日,黑奇士率先爆出字节大模型训练遭实习生入侵,今天有了最新进展,凤凰科技报道了更多细节。链接如下:独家|字节跳动实习生投毒自家大模型细节曝光,影响到底有多大?

我的文章发表后,涉案实习生田某及其同学、朋友进行了轮番的投诉和攻击,目的是给我施加压力删文。他们拿出了派出所报案记录和两名清华研究生的手写道歉信,以此来证明自己的无辜。

当时我还真有点相信他无辜,但随后向更多业内人的查证证明,这两名清华学生只是在他的压力之下,做出的违心道歉,并不能证明事情真相。

同时,我的一位资深猎头朋友还告诉我一条信息:攻击事件发生在6月,字节调查审核后,将田某辞退。田某近期要入职AI六小龙其中的一家公司,公司做背调时发现了他的这个问题,因此他才发动自己的资源,找到两名曾经传播此事的清华研究生,进行所谓的“辟谣”和洗白。

从现在的情况来看,由于此次劣迹,田某在国内AI行业近乎被封杀,几乎不可能在行业内找到像样的工作。

有关此事的两个疑问:

第一,他为什么要攻击?

根据凤凰网的报道,以及我打听到的消息,田某在接受调查人员询问时表示,因为对公司把计算资源调配给别的团队进行训练不满。但我觉得,即使是不满,也是一个团队对另一个团队不满,他个人出头去做这种黑暗攻击,有点替别人背锅的意思。(这仅是我个人猜测,不代表任何结论。由于他所在的团队在业内赫赫有名,我可惹不起。)

第二,攻击损失到底有多大?

我在昨天写损失有千万美元,因为当初李开复讲,说一次预训练的成本在300-400万美元,按照两个月让两次训练失效,成本就在700万,加上模型拖累的时间成本、几十人团队的人力成本,千万美元并不是瞎说。

但从字节的反应来看,可能这个计算偏于严重,实际损失可能没那么大?反正公司也想息事宁人,不太可能知道真实的损失有多大了。

攻击带来的启示:三大措施防止类似攻击

按照我接触的专家的说法,可以采取以下措施来降低或防止攻击带来的损失:

1、对模型训练的操作人员,采取严格的权限限制,低级、中级权限接触到的只是模型镜像,只允许读操作,或有限制的写操作。只有运行一段时间之后,经过效果评估,才允许进入高等级区。

2、加强aml的训练和观察,安全防范不仅针对公司之外的攻击和读取,也要对内部人员进行防范,而不是加入简单的白名单。同时团队要对写入代码进行更强的review。

3、严厉打击公司内部的山头和派系。不过这个就属于管理范畴而非技术范畴,就不进行展开了。

原文链接:https://mp.weixin.qq.com/s?__biz=MzI5ODYwNTE4Nw==&mid=2247488596&idx=1&sn=5cc3b4f5d4a6146a6a957a7d7ef755d3&chksm=eca21bb8dbd592ae11f35d02f08be3e6cbe2bf62fc07ea99a4f36456e5fd39fb240f81bf9221&scene=58&subscene=0#rd