Google Gemini mākslīgā intelekta asistents ir savienojams ar Google Calendar un Gmail, lai tas palīdzētu ikdienā. SafeBreach pētniekiem ir izdevies apmuļķot Gemini, lai tas parādītu atrašanās vietu, kalendāra ierakstus un pat privātu e-pasta saraksti.
Pētnieki šāda veida ievainojamību nodēvējuši par promptware, kas apzīmē teksta, attēlu vai audio uzvedni, lai ietekmētu lielu valodas modeļu darbību. Šis konkrētais uzbrukums izmantoja Gemini integrāciju ar plašāku Google ekosistēmu, tai skaitā Google Calendar un Gmail.
Pētnieki spēja pierunāt Gemini uz veselu kaudzi ar nerātnām darbībām, piemēram, izplatīt surogātpastu un veikt pikšķerēšanu, dzēst upura kalendāra ierakstus, attālināti kontrolēt upura mājas ierīces (apgaismojumu, apkuri), neatļauti noteikt atrašanās vietu, izgūt e-pasta saturu.
SafeBreach norāda, ka kiberdrošības kopiena ir novērtējusi promptware riskus pārāk zemu, bet ar tiem nāksies saskarties arvien biežāk.
Vēl viens iemesls kāpēc pieturos lai visām mājās lietam ir lokālie taimeri un nekāda interneta savienojamība.
Te it pateikts nekas. Kurš skaitās upuris: jebkurš kurš ir autorizējis Gemini piekļut savam google kontam (gmail, calendar utt) un es varu sapromptot un čakarēt dzīvi. vai es varu čakarēt savu dzīvi savā Gemini sesijā ?
“Promtware” vai tomēr AI assisted ransomware? Dēvējiet lietas īstajos vārdos!