中文一区二区三区视频,夜色福利

字節(jié)跳動大模型遭實習生破壞？公司稱損失上千萬美元嚴重夸大

2024-10-22 09:14

AI發(fā)展途中，哪怕是大廠的內(nèi)控制度仍需加強

大模型也能被“投毒”？

近日，有消息稱字節(jié)跳動發(fā)生大模型訓練被實習生“投毒”事件。

據(jù)流傳，該事件發(fā)生在字節(jié)跳動商業(yè)化團隊，因?qū)嵙暽锬衬硨F隊資源分配不滿，利用HF(huggingface)的漏洞，通過共享模型注入破壞代碼，導致團隊模型訓練成果受損。消息稱此次遭到入侵的代碼已注入8000多張卡，損失或達千萬美元。

而在19日下午，字節(jié)跳動官方也出面進行了澄清，表示有媒體稱“字節(jié)跳動大模型訓練被實習生攻擊”，經(jīng)公司內(nèi)部核實，確有商業(yè)化技術(shù)團隊實習生發(fā)生嚴重違紀行為，該實習生已被辭退。

不過，雖然有相關(guān)事件，但相關(guān)報道也存在部分夸大及失實信息，涉事實習生惡意干擾商業(yè)化技術(shù)團隊研究項目的模型訓練任務(wù)，但并不影響商業(yè)化的正式項目及線上業(yè)務(wù)，也不涉及字節(jié)跳動大模型等其他業(yè)務(wù)。另外，網(wǎng)傳“涉及8000多卡、損失上千萬美元”嚴重夸大。

經(jīng)核實，涉事人一直在商業(yè)化技術(shù)團隊實習，并沒有AI Lab實習經(jīng)歷。其社交媒體個人簡介及部分媒體報道有誤。據(jù)悉，該實習生已在8月被公司辭退。公司也將其行為同步給行業(yè)聯(lián)盟和所在學校，交由校方處理。

但是，此事件也暴露出了字節(jié)跳動技術(shù)訓練中存在的安全管理問題，包括權(quán)限隔離、共用代碼的審計等。據(jù)九派新聞報道，一位技術(shù)安全專家表示，HF漏洞產(chǎn)生肯定是單一性集中訓練，公司既沒做權(quán)限隔離，也沒有做好共用代碼的審計。正常情況下，每次大的代碼變動必須做審計，無論誰做操作都有痕跡記錄，一個人想動代碼是不可能的。

作者：楊啟隆

編輯：丁力

原文標題 : 字節(jié)跳動大模型遭實習生破壞？公司稱損失上千萬美元嚴重夸大