Jau iepriekš bija zināms, ka mākslīgā intelekta pētījumi var novest pie negaidītiem atklājumiem un, iespējams, arī kādas katastrofas, gluži kā to rāda filmās. Facebook inženieriem nācies atslēgt mākslīgo intelektu, jo tas sācis Facebook izstrādāto čata botu un citu mākslīgā intelekta atbalstīto servisu starpā sazināties ar paša izstrādātu valodu.
Facebook inženieri nav spējuši izprast mākslīgā intelekta radīto valodu, bet vēl satraucošāks ir fakts, ka mākslīgā intelekta atbalstītās sistēmas sākotnēji programmētas, lai tās izmantotu tikai angļu valodu. Interesanti, ka mākslīgā intelekta jaunā valoda saturējusi angļu valodā izmantotus vārdu, bet pārsūtītās ziņas bijušas aptuveni “I can can I I everything else” un “Balls have zero to me to me to me to me to me to me to me to me to”. Valoda varētu būt līdzvērtīga cilvēku ieviestiem dialektiem, sarunvalodas izteicieniem un saīsinājumiem.
Facebook darbinieki sapratuši divas lietas – valodu viņi nespēj atšifrēt, bet mākslīgā intelekta saziņā visas sistēmas saprotas savā starpā. Facebook nācies parprogrammēt visas mākslīgā intelekta darbinātās sistēmas, lai tiktu izmantoti ne tikai kodēti angļu valodas vārdi, bet cilvēkiem saprotama valoda. Iespējams, jaunizveidotā valoda būtu noderīgāka saziņai robotu starpā, bet satura kontroles neiespējamība to padara potenciāli bīstamu.
Tiek pieļauts, ka roboti izstrādājuši daudz efektīgāk pielietojamu valodu, kurā varētu nebūt ietvertas emocijas. Lai arī atklājums ir negaidīti interesants, tomēr tam ir mazs pielietojums saziņā ar īstiem cilvēkiem. Facebook vadītājs Marks Zakerbergs vienmēr atbalstījis mākslīgā intelekta uzturēšanu, viņš pat visai atklāti noraidījis citu tehnoloģiju gigantu uztraukumus par mākslīgā intelekta potenciālajiem draudiem.
Šis nu ir clickbait, sākotnējās ziņas https://www.fastcodesign.com/90132632/ai-is-inventing-its-own-perfect-languages-should-we-let-it ceturtā iterācija.
tas nu gan tur sviestu sarakstījis, tad jau labāk Arta ziņa par vienu konkrētu faktu.
Ābola kungs pēdējā laikā galīgi neaļo.. varbūt Kristapam ir laiks padomāt par atvaļinājumu dažam labam :)
Paldies par norādi. Avotus vienmēr minam, bet šoreiz tik tālu tie nenoveda.
Tā ir Skynet robot šifrētā saziņa, droši vien apsprieda, kā paverdzināt cilvēci :D
Bota teksta analizators algoritma gļuka dēļ pārsniedzis kaut kādu iterācijas konstantes limitu un aizgājis mūžīgajā ciklā.
redzams, ka boti apmācīti izmantojot pretējo dzimumu sarunas (vārdu skaits dialogā ir vienāds ar 20 – Bobs runā cik vajag, bet Alise nevar aizvērties līdz izsmēlusi limitu). dialogs izklausās pēc tipiska mēģinājuma pielauzt Alisi uz seksu, kur izgriezts viss liekais ūdens atstājot atslēgas vārdus.
Bob: i can i i everything else
Bobs: es varu ne to vien, es protu iepriecināt sievieti, tad es saucu taksi?.. braucam pie manis drāzties
Alice: balls have zero to me to me to me to me to me to me to me to me to
Alise: tavas olas man nerūp, ērzeli. man vajag ziedus, man vajag pastaigas zvaigžņotā naktī, man vajag romantiku… man draudzeni uz Vidusjūru aizveda atpūsties, bet man tikai jākļi, kā tu trāpās. man gribētos smuku gredzenu… pasūti man limunādi un ūgumaizi… man gribas d…
Bob: you i everything else
Bobs: tu Džeina… es Tarzāns… braucam pie manis drāzties
utt.