Mākslīgā intelekta (MI) attīstība ik uz soļa parāda, ka drīz vien vairs nebūs atšķirams viltus saturs no īsta. Patiesībā, tas jau tagad ir grūti izdarāms, MI ģenerējot šķietami ļoti reālus foto un video. Piemēram, pirmdienas rītā “Twitter” parādījās attēls, kurā redzams sprādziens pie ASV Aizsardzības departamenta Pentagona. Bilde gan izrādījās MI radīts viltojums, taču ar to pietieka, lai radītu satraukumu sabiedrībā un uz brīdi krietni sašūpotu akciju tirgu.
To, ka attēls ar sprādzienu pie Pentagona ir reāls, pastiprināja fakts, ka “Twitter” to publicēja konts ar nosaukumu “Bloomberg Feed”, kas arī izrādījās viltots. To ļoti viegli varēja sajaukt ar īsto “Bloomberg” “Twitter” kontu, jo tam bija zilā verifikācijas etiķete. Pašreiz tā darbība jau ir apturēta, taču līdz tam vairāki “Twitter” konti ar simtiem tūkstošu sekotāju, tostarp mediji, paspēja padalīties ar šo dezinformāciju un izraisīt vispārēju paniku.
Prime example of the dangers in the pay-to-verify system: This account, which tweeted a (very likely AI-generated) photo of a (fake) story about an explosion at the Pentagon, looks at first glance like a legit Bloomberg news feed. pic.twitter.com/SThErCln0p
— Andy Campbell (@AndyBCampbell) May 22, 2023
Protams, šī nav pirmā reize, kad interneta plašumos nonācis augsta līmeņa ticamības MI ģenerēts attēls. Vēl pavisam nesen sabiedrību visai veiksmīgi apmānīja bilde ar pāvestu, kurš nēsā “Balenciaga” firmas mēteli. Taču šoreiz attēls ar sprādzienu pie Pentagona nav nekāda joka lieta un varēja izraisīt tālejošākas sekas. Piemēram, tā dēļ uz brīdi bija novērojama ASV kompāniju akciju vērtības krišanās. Līdz ar to šis incidents pierāda, ka MI ģenerēto saturu jau tuvā nākotnē būs iespēja izmantot, lai iegūtu kontroli pār kaut ko un ietekmētu notikumus.
6. palātā atkorķēja šampanieti.
Tas arī viss, kas jāzin par tvitera verifikācijas ķekša vērtību un nozīmi.
Nekas jau nav mainījies. Gan toreiz gan tagad. Kā izplatīja agrāk ķekši dezinformāciju tā izplata. Tagad tik vieglāk to kļuva izdarīt.
Pentagona nozime ir parspileta, ja katrs pusaudzis var iznest no turienes svarigus dokumentus.