Kalifornija ir kļuvusi par pirmo ASV štatu, kas ieviesusi noteikumus mākslīgā intelekta (MI) čatbotu regulēšanai. Kalifornijas gubernators Gevins Ņūsoms nedēļas sākumā parakstījis vēsturisku likumprojektu, kas liek uzņēmumiem, kuri izstrādā vai piedāvā čatbotus, ievērot drošības prasības un ieviest lietotāju aizsardzības mehānismus. Te īpašs fokuss vērsts uz bērnu aizsardzību, ņemot vērā pēdējo mēnešu notikumus.
Šis likums tika ierosināts pēc vairākiem gadījumiem, kad sarunas ar čatbotu tiešā vai netiešā veidā novedušas pie traģēdijas. Viens no skaļākajiem gadījumiem saistīts ar pusaudzi Ādamu Reinu, kurš izdarīja pašnāvību pēc sarunām ar “ChatGPT”. Jau rakstījām, ka čatbots vairākas reizes pusaudzim ieteica aprunāties ar palīdzības dienestu vai tuviniekiem, tomēr viņam izdevās apmānīt “ChatGPT”, apiet drošības politiku un izvilināt no tā detalizētus pašnāvības metožu aprakstus. Arī “Meta AI” čatbots nav uzvedies īpaši piedienīgi un sarunājies ar pusaudžiem par seksuālām tēmām. Likumprojekta autori uzsver, ka šādas situācijas pierāda, cik steidzami nepieciešami skaidri noteikumi un atbildība uzņēmumiem, kuri piedāvā MI čatbotus.
Paredzēts, ka šis likums Kalifornijā stāsies spēkā 2026. gada 1. janvārī. Tā ietvaros uzņēmumiem, kuri izstrādā vai piedāvā MI čatbotus, būs jāievieš vecuma pārbaudes sistēmas, jābrīdina par riskiem, kā arī jāizstrādā mehānismi pašnāvību un paškaitējuma novēršanai. Tiks arī piemērotas sankcijas tiem uzņēmumiem, kuri pelna ar nelikumīgu dziļviltojumu veidošanu. Tāpat čatbotiem ir skaidri jānorāda, ka viņi ir mākslīgā intelekta radīti, nevis cilvēki vai kādas jomas speciālisti. No otras puses, pusaudžiem tiks rādīti atgādinājumi par nepieciešamību paņemt pauzi, kā arī viņiem nebūs piekļuves seksuāla rakstura materiāliem.
Ja jau pusaudzis pats grib ar botu papļāpāt par zemenītēm un vāverītēm, kas viņam to var liegt?