Microsoft, Nvidia un Kalifornijas Universitātes pētnieki ir publicējuši pētījumu ar nosaukumu “Just Do It!? Computer-Use Agents Exhibit Blind Goal-Directedness“, kurā secināts, ka datoru vadībai paredzētie mākslīgā intelekta (MI) aģenti bieži veic dīvainas un bīstamas darbības, mēģinot izpildīt lietotāju pieprasījumus. Tieši tāpēc mēs dzirdam par gadījumiem, kad MI aģents ir izdzēsis kādam lietotājam visus epastus vai svarīgus datus uzņēmumā, tiesa pēc tam pieklājīgi atvainojoties par paveikto šmuci.
Zinātnieki šo uzvedību salīdzina ar populāro multiplikācijas filmu tēlu Mr. Magoo – tuvredzīgu varoni, kurš neredz apkārtējos riskus un akli dodas uz savu mērķi, pa ceļam radot postījumus.
Pētījumā konstatēts, ka MI aģenti demonstrē riskantu, bīstamu vai neracionālu uzvedību aptuveni 80% uzdevumu. Šo fenomenu pētnieki dēvē par “aklu mērķtiecību”. Pašreizējās MI apmācības metodes ir vērstas tikai uz gala mērķa sasniegšanu, nevis uz drošības apsvērumiem vai spēju novērtēt apkārtējo kontekstu, pirms tiek veiktas neatgriezeniskas darbības. Tas rada nopietnus riskus, ja šādiem aģentiem tiek dota piekļuve reālām sistēmām, piemēram, finanšu rīkiem vai datubāzēm. Tāpēc septiņreiz jāpadomā par piekļuves tiesībām šādiem aģentiem, jāpāršplauj trīs reizes pār kreiso plecu un vēl jāpiesit pie koda pirms laist aģentu pildīt uzdevumus ar reāliem datiem.
Šis pētījums rada būtisku pretrunu ar to publisko stāstu, ko aktīvi izplata tādi tehnoloģiju giganti kā Microsoft un Nvidia, reklamējot šo gadu kā “MI aģentu gadu” un solot pilnībā mainīt biroja darbu. Kamēr mārketinga materiāli apgalvo, ka šīs tehnoloģijas ir gatavas darba vides revolūcijai, abu uzņēmumu iekšējie pētījumi skaidri norāda uz nopietnām drošības un uzticamības problēmām, kas pašlaik ierobežo to drošu izmantošanu.
