Mākslīgā intelekta izstrādes un izpētes kompānija OpenAI, kuras izveidē savu roku pielicis Īlons Masks, prezentējusi savu trešās paaudzes modeli dažādu tekstu ģenerēšanā, kura veiktspēja pārsteigusi pasauli.
Speciālo iepriekš apmācīto ģeneratīvās gramatikas pārveidotāju (angliski Generative Pre-training Transfomer – GPT) 2018. gadā radīja Aleks Redfords (Alec Radford), un tas vienkārši izmanto dažādu tekstu analīzi, lai uz šīs informācijas bāzes veidotu šķietami loģiskus tekstu turpinājumus. GPT-2 nākamā paaudze jau bija gudrāks modelis, kurš tika prezentēts 2019. gadā un sastāvēja no 8 miljoniem dokumentu, kas aizņēma 40GB. 2020. gada maijā tika prezentēts jau trešās paaudzes GPT-3 modelis, kas izmanto 175 miljardus parametru, salīdzinot ar 1,5 miljardu GPT-2.
Tas viss noved pie tā, ka mākslīgā intelekta modelim iedodot mazu teksta pavedienu, tas spēs izveidot pat vairāku paragrāfu stāstu, kas patiešām liekas loģisks, un ir grūti pateikt atsķirību starp cilvēka un mašīnas rakstītu tekstu. Entuziasti jau radījuši dažādus risinājumus GPT-3, piemēram, speciāls JSX koda ģenerators, kad tiek aprakstīts, ko nepieciešams vizuāli attēlot mājaslapā. Tāpat speciāla lietotņu dizaina programma ir spējīga izveidot modeli tikai balstoties uz teksta aprakstu, un ļoti ērts risinājums likās meklētājs, kuram var uzdot dažāda veida jautājumus, atgriežot atbildi un linku uz informāciju Wikipedia lapā.
I made a fully functioning search engine on top of GPT3.
For any arbitrary query, it returns the exact answer AND the corresponding URL.
Look at the entire video. It's MIND BLOWINGLY good.
cc: @gdb @npew @gwern pic.twitter.com/9ismj62w6l
— Paras Chopra (@paraschopra) July 19, 2020
Kaut arī OpenAI izveidotais transformētājs ir patiešām spēcīgs un pārsteidzošs, neatstājot vienaldzīgus pat Latvijas gudros prātus savos Twitter kontos,piemēram, fiziķis Kaščejevs, tomēr tehniski šis modelis vienkārši papildina tekstu, balstoties uz lielu daudzumu pieejamās informācijas. Tātad tas darbojas vairāk matemātiski, bet ne uz savu galvu un izpratni, līdz ar to vēl ir tāls ceļš ejams, lai tā būtu patstāvīga sistēma. Jau šobrīd GPT-3 nepieciešama vairāku tūkstošu petabaitu jauda dienā.
GPT-3https://arxiv.org/abs/2005.14165 ir nākamais iespaidīgais solis mākslīgā intelekta jomā (piemēram, Tjuringa tests sāk palikt netriviāls: https://t.co/ym9tcdM5wa )
Ļoti iespaidīgi automatīzē gudrības šķietamību.
Liek aizdomāties par cilvēku izglītības mērķiem & metodēm.— Vjačeslavs Kaščejevs (@SlavaVK) July 20, 2020
OpenAI mājaslapā pieejama informācija kā ikvienam pieslēgties modelim ar API saskarni.
Nu re, i viss intelekts. Pēdiņās. Izrādās tas pats vecais algoritms, vienkārši jaudīgāks, daudzpakāpju. Un pie reizes nejēgā resursprasīgāks. Spējīgāks kaukulators nepaliek par AI kalkulatoru salīdzinot ar savu iepriekšējās paaudzes brāli.
Līdz intelektam te ir tikpat tālu kā gadus trīsdesmit atpakaļ. Bet tak gribas vēlamo pasniegt par esošo.
Jā, tā nu tas ir, bet nu soli pa solim uz priekšu, ja neko nedarīs, arī nekas nebūs.