Kompānija “Meta” otrdien iepzīstināja ar savu lielā valodu modeļa “Llama 3” jaunāko versiju “Llama 3.1“. Pēc uzņēmuma teiktā, tas ir pilnvērtīgs konkurents tādu nozares grandu kā “OpenAI” un “Anthropic” mākslīgā intelekta (MI) modeļiem un ir “Meta” līdz šim lielākais un labākais modelis.
Būtiski, ka “Llama 3.1” izlaists tikai trīs mēnešus pēc tam, kad “Meta” iepazīstināja ar “Llama 3”. Šis MI modelis ir integrēts čatbotā “Meta AI”, kas pieejams sociālajos tīklos: “Facebook”, “Messenger”, “Instagram” un “WhatsApp”, kā arī “Meta Ray-Ban” viedajās brillēs. Tiesa, Latvijā un citviet Eiropā tas nav pieejams.
“Meta” skaidro, ka “Llama 3.1” ir pirmais atklāti pieejamais modelis, kas var atbildēt uz sarežģītiem jautājumiem tādās jomās kā matemātika, programmēšana, tulkošana vairākās valodās, vispārējās zināšanas. Tam ir 405 miljardi parametru, kas ir iekšējs mainīgais, ko MI modelis izmanto, lai pamatotu un pieņemtu lēmumus. Jo lielāks parametru skaits, jo gudrāks. Modelis apmācīts, izmantojot vairāk nekā 16 000 NVIDIA H100 GPU, kas pašlaik ir ātrākais pieejamais grafiskais procesors.
Tā kā “Llama 3.1” gluži kā pārējie “Meta” MI modeļi ir atvērtā pirmkoda, ikviens interesents var tos modificēt un izmantot bez maksas. Izstrādātāji var lejupielādēt “Llama 3.1” no tā oficiālās vietnes, savukārt pārējie var ar to paspēlēties, izmantojot “Meta AI” pakalpojumā “WhatsApp” vai čatbota oficiālajā vietnē meta.ai.
“Meta AI vēl nav pieejams tavā valstī” – pasūtīju 1.kg šī intelekta testēšanai, kurjers pēc mēneša iemetīs man viņu pastkastītē, pagaršosim un redzēs kā būs… kā IT laikmetā informācija var tik lēnu ceļot? Kamēr iepakojuma saturu pielāgos EU regulām – Meta AI būs jau sapuvis!
Es jau sen testēju daudzus LLM modeļus lokāli savā datorā par velti, izmantojot Backyard AI. Tiesa, varu darbināt tikai mazākos un vidējos modeļus, jo lielajiem vajag vismaz divas videokartes ar 24GB VRAM. Llama 3.0 8B bija diezgan labs priekš tā nelielajiem izmēriem. Cerēsim, ka 3.1 būs vēl labāks.
Taču, pēc pirmajiem entuziastu testiem, Llama 3.1 405B modelis vēl arvien ir “dumjš kā zābaks” testos, kas pārbauda scenārijus, kur jebkurš cilvēks tiek galā bez piepūles. Pašlaik tur priekšā izvirzās Claude 3.5 Sonnet (un tas jau ir kādu laiku pieejams izmēģināšanai; nesen tika izlaista arī mobilā lietotne), kas spēj sasniegt vien niecīgus 32% no “vidējā cilvēka” 96%.