Llama 3.1 405B diýlip atlandyrylýan bu täze modelde 405 milliard parametr bar. Parametrler takmynan bir modeliň meseläni çözmek mümkinçiliklerine gabat gelýär we has köp parametrli modeller, köplenç az parametrleri bolanlardan has ýokarydyr.
Meta, Llama 3.1 405B-iň hökman iň uly açyk çeşme modeli däldigini, ýöne soňky ýyllarda iň ulularynyň biridigini belleýär. Bu model 16,000 Nvidia H100 GPU ulanyp tälim aldy we Meta bu modeliň, käbir çäklendirmeler bilen OpenAI-iň GPT-4o we Antropigiň Klod 3.5 Sonnet ýaly öňdebaryjy eýeçilik modelleri bilen bäsleşip biljekdigini öňe sürýär.
Llama 3.1 405B, Metanyň öňki modelleri ýaly, AWS, Azure we Google Cloud ýaly bulut platformalarynda göçürip alyp bolýar. Şeýle hem, WhatsApp we Meta.ai-da ABŞ-ly ulanyjylar üçin söhbetdeşlik tejribesini güýçlendirmek üçin ulanylýar.
Täze aýratynlyklar we ösüşler
Beýleki açyk we ýapyk çeşme döredýän AI modelleri ýaly, Llama 3.1 405B kodlamak we esasy matematika soraglaryna jogap bermek ýaly dürli meseleleri ýerine ýetirip biler. Şeýle hem, iňlis, nemes, fransuz, italýan, portugal, hindi, ispan we taý ýaly sekiz dilde resminamalary jemlemäge ukyply. Bu model tekste gönükdirilen; meselem, surat baradaky soraglara jogap berip bilmeýär, ýöne tekste esaslanýan iş ýükleriniň köpüsi – PDF we elektron tablisalary ýaly faýllary derňemegi göz öňünde tutup, modeliň mümkinçiliklerine laýyk gelýär.
Meta özüniň multimodallylyk bilen synag edýändigini hem aýtdy. Kompaniýanyň gözlegçileri şu gün neşir edilen kagyzda şekilleri we wideolary tanap bilýän we sözleýişe düşünip bilýän (we öndürip bilýän) Llama modelleriniň üstünde işjeň işleýändiklerini ýazdylar. Şeýle-de bolsa, bu modeller entek köpçülige ulanylmaga taýyn däl.
Llama 3.1 405B türgenleşigi üçin Meta 2024-nji ýyla çenli 15 trillion belgini öz içine alýan maglumat bazasyny ulandy. Tokenler, modelleriň sözlerden has aňsatlaşdyryp bilýän sözleriniň bölekleridir we 15 trillion belgi 750 milliard sözüň aňyna täsir edýär. Bu modeliň işlenip düzülmeginde, Meta maglumat geçiriji turbalaryny has kämilleşdirendigini we has berk hil barlagy we maglumatlary süzmek çemeleşmelerini kabul edendigini öňe sürýär.
Metanyň bu täze emeli intellekt modeli açyk çeşme jemgyýeti we emeli intellekt tehnologiýasyny ösdürmek üçin möhüm ädim hasaplanýar. Llama 3.1 405B tarapyndan hödürlenýän giň parametr, has çylşyrymly we dürli meseleleri ýerine ýetirmek ukybyny üpjün edip, emeli intellektual gözleglerde we amaly programmalarda täze gapylary açyp biler.
