Mākslīgā intelekta (MI) straujā attīstība sev līdzi nes virkni vairāk vai mazāk nopietnu risku, ko šobrīd gan uzņēmumi, gan valdības cenšas apzināt un meklēt risinājumus. Saistībā ar to kompānija “OpenAI” paziņojusi, ka izveidojusi komandu, kas pētīs un mazinās ar MI saistītos “katastrofālos riskus”.
“OpenAI” informējis, ka jaunā komanda “izsekos, novērtēs, prognozēs un aizsargās” pret potenciāli lielām MI izraisītām problēmām, tostarp kodoldraudiem. Uzņēmums skaidro, ka komanda strādās pie tā, lai mazinātu “ķīmiskos, bioloģiskos, radioloģiskos” un cita veida draudus. Daži citi riski, kam tiks pievērsta īpaši liela uzmanība, ietver MI spēju apmānīt cilvēkus, kā arī kiberdraudus.
Uzņēmums uzskata, ka progresīvie MI modeļi, kas būs krietni advancētāki nekā šī brīža vismodernākie MI modeļi, var dot labumu visai cilvēcei. Vienlaikus jārēķinās, ka tie var radīt lielākus riskus, kuri ir jāapzina un jāatrod tiem risinājums. “OpenAI” atzīmē, ka komanda arī izstrādās un uzturēs politiku, kurā būs izklāstīts, ko uzņēmums dara, lai novērtētu un uzraudzītu MI modeļus.
Jāpiezīmē, ka “OpenAI” vadītājs Sems Altmens jau iepriekš ir brīdinājis par to, ka MI var radīt katastrofālus riskus. Viņš arī ir ierosinājis, ka valdībām vajadzētu izturēties pret mākslīgo intelektu tikpat nopietni kā pret kodolieročiem.
