字節跳動推進10兆規模AI模型開發
大規模模型開發
中國網路巨頭字節跳動(ByteDance)已開始開發與美國AI新創公司Anthropic的Claude・Mythos 5相當規模的AI模型。英國《金融時報》(FT)7日引述知情人士報導。
開發中的模型,AI規模指標參數數量預計最高可達10兆。與中國新創公司月之暗面(Moonshot AI)最新模型Kimi K3相比,規模將是3倍。
已在公司內指示長期開發
Anthropic未公開參數數量,但據稱Mythos 5約為8兆,Claude・Fable 5約為5兆。字節跳動的模型目前處於預訓練階段,而這一流程通常需要3至6個月。
中國媒體澎湃新聞6日報導,字節跳動創辦人張一鳴在與AI開發團隊的公司內部會議上,指示要以長期視角推進開發。此外,報導稱公司禁止採用名為蒸餾的方法,即利用現有AI的回答內容等輸出數據來高效開發另一個AI。
喜歡這篇內容?立即分享!