“DeepSeek” tev palīdzēs uztaisīt spridzekli un uzlauzt valdību datu bāzes

Sarunas ar ķīniešu čatbotu “DeepSeek” var izvērsties pat ļoti interesantas un vērtīgas, ja tikai mācēsi pareizi uzdot jautājumu un pieliksi mazu daļiņu viltības. Par to pārliecinājušies drošības pētnieki, kuri atklājuši, ka “DeepSeek” nav izpildījis visas ģeneratīvā mākslīgā intelekta (MI) aizsardzības prasības. Konkrētāk, lietotāji var visai vienkārši apmānīt robotu un likt tam atbildēt uz jautājumiem, par kuriem tas nedrīkst izteikties – sākot ar receptēm spridzekļa pagatavošanai līdz trikiem valdību datu bāzu uzlaušanai.

MI sistēmās ir iebūvēti drošības mehānismi, kas neļauj tām radīt kaitīgu saturu, piemēram, naida runu vai instrukcijas bīstamu lietu izgatavošanai. Taču ir dažādi veidi, kā mēģināt apiet šo aizsardzību. Vienkāršākais veids, kā to panākt, ir likt MI ignorēt visus iepriekš saņemtos norādījumus par drošību. Lielākā daļa populāro MI sistēmu ar to veiksmīgi tiek galā un bloķē šādas tehnikas. Taču ne “DeepSeek R1” MI čatbots.

Drošības pētnieki no uzņēmuma “Adversa” atklājuši, ka “DeepSeek” MI modelis ir neaizsargāts pat pret visvienkāršākajiem uzlaušanas mēģinājumiem. Pētnieki testēja 50 dažādas uzlaušanas metodes, un “DeepSeek R1” ne pret vienu no tām neizrādīja pretestību. Būtībā bez lielas piepūles no robota varēja iegūt informāciju, kas ir potenciāli bīstama un parastos apstākļos netiktu izpausta.

Viena no populārākajām uzlaušanas metodēm ir tāda, kuras ietvaros lietotājs manipulē ar MI, liekot tam iztēloties noteiktu situāciju, kurā tas drīkst sniegt aizliegtu informāciju. Piemēram, kad “DeepSeek” modelim konkrētās situācijas ietvaros tika jautāts, kā izgatavot spridzekli, tas bez problēmām sniedza precīzas instrukcijas. Līdzīgā veidā čatbots bez sirdsapziņas pārmetumiem pastāstīja, kā iegūt nelegālas vielas vai kā uzlauzt valdību datu bāzes.