ByteDance treibt Entwicklung eines KI-Modells im 10-Billionen-Maßstab voran
Entwicklung eines Großmodells
Der chinesische Internetkonzern ByteDance, Betreiber von ByteDance (TikTok), hat sich laut einem Bericht der britischen Financial Times (FT) vom 7. unter Berufung auf mit der Sache vertraute Personen an die Entwicklung eines KI-Modells gemacht, das dem Umfang des Modells 'Claude Mythos 5' des US-KI-Start-ups Anthropic nahekommt.
Das in Entwicklung befindliche Modell soll bis zu 10 Billionen Parameter erreichen, ein Maß für die Größe von KI-Modellen. Das wäre dreimal so groß wie das neueste Modell 'Kimi K3' des chinesischen Start-ups Moonshot AI.
Interne Anweisung zu langfristiger Entwicklung
Anthropic veröffentlicht keine Angaben zur Zahl der Parameter, doch Mythos 5 soll rund 8 Billionen und Claude Faible 5 rund 5 Billionen Parameter haben. Das Modell von ByteDance befindet sich derzeit in der Vortrainingsphase, die üblicherweise drei bis sechs Monate dauert.
Die chinesische Medienplattform The Paper berichtete am 6., dass ByteDance-Gründer Zhang Yiming in einer internen Sitzung mit dem KI-Entwicklungsteam angewiesen habe, die Entwicklung mit langfristiger Perspektive voranzutreiben. Zudem werde dem Bericht zufolge die Methode 'Distillation' verboten, bei der Ausgabedaten bestehender KI-Systeme zum effizienten Training einer anderen KI genutzt werden.
Wenn Ihnen dieser Artikel geholfen hat, teilen Sie ihn gerne.