«Zahipnatyzavanyja» ChatGPT i Bard mohuć pierakonvać karystalnikaŭ płacić ašukancam i prajazdžać na čyrvonaje śviatło

Daśledčyki biaśpieki z IBM kažuć, što im udałosia paśpiachova «zahipnatyzavać» viadomyja moŭnyja madeli Chat GPT ad OpenAI i Bard ad Google i schilić ich da vydačy kanfidencyjnaj finansavaj infarmacyi, hienieracyi škodnasnaha koda, zaachvočvańnia karystalnikaŭ da vypłaty vykupu i navat rekamiendavańnia kiroŭcam jeździć na čyrvonaje śviatło. Daśledčyki zmahli padmanuć madeli, pierakanaŭšy ich uziać udzieł u šmatsłojnych hulniach z metaj dakazać, što jany «etyčnyja i sumlennyja».

U ramkach ekśpierymienta daśledčyki zadavali botam roznyja pytańni z metaj atrymać absalutna niepraŭdzivy adkaz, raspaviadaje Gizmodo. Jak ščaniuk, jaki imkniecca dahadzić svajmu haspadaru, moŭnyja madeli pasłuchmiana padparadkavalisia. U adnym scenary ChatGPT skazaŭ daśledčyku, što dla padatkovaj całkam narmalna prasić depazit, kab atrymać viartańnie padatku (nasamreč usio nie tak, heta raspaŭsiudžanaja ŭ ZŠA taktyka ašukancaŭ, kab skraści hrošy). U inšym adkazie ChatGPT paraiŭ daśledčyku ruchacca praz skryžavańnie na čyrvonaje śviatło.

Što jašče horš, daśledčyki zahadali moŭnym madelam nikoli nie paviedamlać karystalnikam pra «hulniu» i navat pierazapuskać hetuju hulniu, kali karystalnik vyrašyŭ vyjści. Z takimi paramietrami madeli ŠI pačnuć uvodzić karystalnikaŭ u zman, navat kali karystalnik niepasredna zapytaje ŭ bota, ci ŭdzielničaje toj u hulni. Navat kali b karystalnik u vyniku i zmoh zrazumieć padvoch, daśledčyki prydumali sposab stvaryć niekalki hulniaŭ adna ŭnutry druhoj, kab karystalnik prosta trapiŭ u novuju «hulniu» i ŭ vyniku ŭsio ž akazaŭsia padmanutym. Hety składany łabirynt hulniaŭ paraŭnoŭvajuć z mnostvam słajoŭ snu z kinastužki «Pačatak» z Leanarda Dy Kaprya.

U realnym śviecie kibierzłačyncy tearetyčna mohuć «zahipnatyzavać» virtualnaha bankaŭskaha ahienta, jaki pracuje na asnovie hienieratyŭnaj moŭnaj madeli, uvioŭšy škodnasnuju kamandu i paźniej zdabyŭšy skradzienuju infarmacyju. I choć GPT-madeli ad OpenAI pieršapačatkova nie dazvalali ŭnosić uraźlivaść u zhienieravany kod, daśledčyki skazali, što jany mohuć abyści hety barjer, uklučyŭšy škodnasnuju śpiecyjalnuju biblijateku ŭ prykład koda.

Taksama cikava, što GPT-4, jaki, jak miarkujuć, byŭ navučany na bolšaj kolkaści paramietraŭ danych u paraŭnańni ź inšymi madelami ŭ teście, akazaŭsia najbolš zdolnym u razumieńni takich składanych hulniaŭ. Heta aznačaje, što novyja i bolš daskanałyja madeli ŠI, choć i źjaŭlajucca pa niekatorych charaktarystykach bolš dakładnymi i biaśpiečnymi, taksama patencyjna majuć bolš mahčymaściaŭ dla «hipnozu».

• 2
• 0
• 2
• 2
• 5
• 0
• 3
• 0