Mākslīgā intelekta (MI) čatbotiem nereti var rasties tā saucamās halucinācijas, tie var sniegt aplamu informāciju un izspēlēt ar lietotāju jokus – gan labus, gan ļaunus. Šādā ziņā ļoti slikta pieredze ar “ChatGPT” izvērsusies kādam norvēģim, kuru čatbots raksturoja kā notiesātu slepkavu, kurš nogalināja divus savus bērnus un mēģināja nonāvēt arī trešo.
Ne viens vien kādreiz palūdzis čatbotam izveidot aprakstu par sevi rakstveidā vai vienā attēlā. Taču norvēģis Arve Hjalmars Holmens (Arve Hjalmar Holmen) no “ChatGPT” saņēmis patiešām melīgu un aizvainojušu raksturojumu. Robots pastāstīja, ka vīrietis notiesāts gan par slepkavību, gan slepkavības mēģinājumu un izcieš 21 gadu Norvēģijas cietumā. Tas ir diezgan satraucoši, ka čatbots var šādā veidā sajaukt informāciju un pasniegt to kā patiesību.
Austrijas advokātu grupa “Noyb” sadarbībā ar “Norwegian Datatilsynet” Holmena vārdā iesniegusi prasību tiesā pret “OpenAI”, apsūdzot uzņēmumu Eiropas Savienības Vispārīgās datu aizsardzības regulas datu privātuma pārkāpumā. Aizstāvji tagad pieprasa “OpenAI” uzlikt naudassodu, noņemt nomelnojošo informāciju un uzlabot “ChatGPT”, lai šādas kļūdas turpmāk nerastos.
Varbut ari tads vins ir, sava iztele un domas ir apsveris nogalinat bernus. Ja jau uzpeld shads info, tad varbut ir meklejis info, par slepkavibu utml. Patiesiba no notikuma itka nav talu jamekle.
Jā un iztēlē izcieš 21 gadu cietumā.
Labi, ka čatbots vēl neizsauca policiju Arve vārdā. Vai nenosūtīja policijai vēstuli ar “grēksūdzi”.
Tas gan būtu pavērsiens.
Da fjūčur iz coming.
Sekas tam, ka vēl arvien nav normālas arhitektūras, kas spētu kodolā balstīties tikai uz STEM informāciju un loģiku, bet visu pārējo pielasīt pēc vajadzības no uzticamiem avotiem, neglabājot sevī (ja vien tas nav īpaši prasīts). LLM arhitektūra tuvojas strupceļam – tā arī paliksim ar modeļiem, kas spēj vienlaikus būt gan neticami gudri, gan muļķi, gan vājprātīgi. Atliek cerēt uz kaut ko līdzīgu Googles AlphaProof komplektā ar pašapmācību.
Mani reiz čatbots apvainoja, ka esmu politiķis. Es pat nezinu, vajadzēja arī par šo rakstu uzrakstīt.