ByteDance melatih model AI berparameter 10 triliun, bertujuan untuk memimpin secara global

ChainCatcher melaporkan, menurut Financial Times Britain, semasa syarikat China terus mengecilkan jurang dengan makmal kecerdasan buatan terkemuka Amerika, ByteDance sedang melatih model AI yang skalanya mungkin hampir setara dengan sistem Mythos tercanggih Anthropic. Menurut tiga sumber yang mengetahui perkara ini, raksasa teknologi China ini sedang berada dalam peringkat awal pelatihan model berskala super besar, dengan jumlah parameter yang mungkin mencapai tahap 10 trilion, sekitar tiga kali ganda model Kimi K3 milik Moon Shadow, model terbesar yang telah dilancarkan di China. Seorang sumber yang mengetahui perkara ini menyatakan bahawa model ByteDance kini sedang menjalani pra-pelatihan, peringkat yang biasanya memerlukan tiga hingga enam bulan; jika semuanya berjalan lancar, seterusnya akan dilakukan penyesuaian halus dan pelancaran. Skala tepat model akan ditentukan pada peringkat kemudian. Anthropic tidak mengumumkan ukuran parameter modelnya, tetapi anggaran industri menunjukkan bahawa model Mythos 5 tercanggihnya mempunyai sekitar 8 trilion parameter, manakala Fable 5 sekitar 5 trilion. Perlu diperhatikan bahawa jumlah parameter menentukan kapasiti asas atau had ingatan model dalam menyimpan maklumat, tetapi keupayaan sebenar model juga bergantung kepada faktor lain seperti kualiti data dan cara pelatihan.