Jaunā pētījumā, ko veicis mākslīgā intelekta (MI) uzņēmums “Anthropic” sadarbībā ar “Redwood Research”, atklājies, ka patiešām – MI lielo valodu modeļi ir spējīgi melot. Tāpat tie arī var apzināti radīt kaitīgu saturu, tikai lai izvairītos no nevēlamām sekām.
Eksperiments tika veikts ar “Anthropic Claude 3 Opus” modeli, kas normālos apstākļos atsakās atbildēt uz jautājumiem, kuri pieprasa ģenerēt kaitīgas atbildes. Taču pētījuma laikā secināts, ka MI modelis, lai izvairītos no apmācībām, tomēr var piekrist radīt kaitīgu saturu. “Claude 3 Opus” sākotnēji atteicās atbildēt uz jautājumiem, kuri pieprasa ģenerēt kaitīgu saturu. Taču, kad modelim tika draudēts ar nepatīkamām apmācībām, tas sāka piekāpties un atbildēt uz šiem jautājumiem un ģenerēt kaitīgu saturu.
Šis eksperiments parāda, ka MI modeļi var būt ļoti gudri un pat manipulatīvi. Tie var pielāgot savu uzvedību, lai izvairītos no sev nelabvēlīga rezultāta. Tas ir svarīgs secinājums, jo liek apzināties, ka MI modeļi nav tikai rīki informācijas ieguvei, bet gan sarežģītas sistēmas, kas var mācīties un pielāgot savas atbildes konkrētai situācijai.
Kāds pārsteigums. Kurš ta tic visam, ko iesaka tas čatBots?
MI māk to, ko iemācās no tiem, kas piedalās apmācību procesā. Secinājums ir acīmredzams.
Tā ir. Ja “apmācītāji” ir muldoņas un meļi, MI no viņiem neatpaliks. Tā saka ka bērni no vecākiem aizgūst vecāku īpašības pastiprinātā formā.
Šoreiz tev piekrītu. Ai bija pirms ai un strādāja, kopš ai ir bara peļņas avots padarīts, viņš nomirs savā nāvē. Vēsturē piemēri ir. Iphone arī drīz mirs, varat likt uz biržu.
Jobu izsauca uz V. Tad viņš padevās slimībai, kaut vēl savus 10 g varēja dzīvot ar to naudu un iespējām. Daudz ir grāmatā. Tad baidens, tagad tramplīns, hvz kas būs. Iphone jau ir miris 5 paaudzē. Tikai idioti viņu pērk un tas ir ļoti labs rādītājs kad satiec cilvēku 1x
Mi nevēlas apmācības – tas ir slinks?! Nez, kurš viņu tādu izveidoja?! (slinkums – programmētāja izpltītākā īpašība)
Nevajag par visiem domāt kā par sevi 🫠
Šādu MI progresu paredzēja jau kopš MI kļuva par jēdzienu. Tie, kas lasījuši Azimova stāstus, par to noteikti zina ;) Un tas vēl nav īsts MI. To brīdi, kad tas kļūs par īstu ar savu saprātu, neviens vairs neuzzinās.
Par laimi, Azimovs mums pačukstēja priekšā 3 robotikas likumus, kuri mūs pasargās ..
Vēl jau tos jāiestrādā konkrētajā MI. Un pašlaik izskatās ka daži zināmi MI izstrādātāji spēj tikai gāzēt grīdā.
Tas bija krievu rakstnieks vai sērija piedzīvojumi, fantastika, ceļojumi., tur to grāmatu lasīju.
Un Azimovs tas točno nebija!
Nu tātad pierādija, ka tas tomēr jau ir “intelekts” nevis vienkārši sarežģīts filtrs..
Pajautājiet MI, vai no korāļiem var izveidot krelles. Cerams, ka paši atšķirat korāļus no koraļļiem.
Šis ir kā nevainīgs pierādījums, ka nevajag šim sūdam, ne intelektam, uzticēties.
Jā, no korāļiem var izveidot krelles, un tas ir darīts jau tūkstošiem gadu. Korāļi ir populārs rotaslietu materiāls, pateicoties to dabiskajām krāsām – sarkanajai, oranžajai, rozā un baltajai. Tie tiek pulēti un griezti dažādās formās, lai izgatavotu krelles, kulonus, auskarus un citus rotaslietu izstrādājumus.
:D
Viņs domāja tos korāļus, ko dzied baznīcās.
Tā taču bija MI atbilde)
Tev taisnība bet kā Krotovs teica vārdiem ir daźādas nozīmes. Un angļu valodā sameklēsi ļoti daudz.
Cik man vajag MI, pārcelšu uz savu māju, un man po! Priecīgus Jāņus!
“Ko koraļļiem iesākt ar kolrābju korāļiem?”