Google pačaŭ raspracoŭvać «vialikuju čyrvonuju knopku» na vypadak «paŭstańnia mašyn»
Padraździaleńnie Google DeepMind sumiesna z oksfardskim Instytutam budučyni čałaviectva (FoH) prezientavała daśledavańnie, u jakim razhladajucca sposaby ŭziać štučny intelekt pad kantrol u vypadku niepadparadkavańnia.
Najlepšy sposab spynić paŭstańnie mašyn, ličać navukoŭcy, — heta svoječasova nacisnuć «vialikuju čyrvonuju knopku». Pra heta piša Intecracy.ua sa spasyłkaj na Popular Science.
Daśledčyki miarkujuć, što ŠI navučajecca chutka i chutka zmoža pieraŭzyści čałaviectva. Hety punkt pryniata nazyvać sinhularnaściu. Dokaz hetaj hipotezy — ekśpierymient, praviedzieny ŭ 2013 hodzie. Hulniavy ałharytm vyznačyŭ, što kali nacisnuć paŭzu padčas hulni Tetris, to prajhrać prosta niemahčyma. Mienavita takoha svavolstva aścierahajucca ekśpierty DeepMind i FoH.
Kab spynić patencyjnaje paŭstańnie mašyn, navukoŭcy raspracoŭvajuć ałharytmy, jakija ŭ vypadku niebiaśpieki zmohuć pierapynić pracu štučnaha intelektu. Adnak u DeepMind i FoH padkreślivajuć, što zrabić heta budzie składana, bo ŠI budzie aŭtanomny, a jaho dadzienyja buduć zachoŭvacca na sierviernych šafach.
Lepšy sposab pierapynić «robakalipsis» — heta zapuścić u mašynach unutranuju avaryjnuju sistemu kantrolu, jakaja prymusić ŠI spynicca. Pryčym adpravić sihnał na hetuju sistemu zmoža kožny ŭ luby momant času. Navukoŭcy paraŭnoŭvajuć hetuju sistemu z pultam dystancyjnaha kiravańnia i «vialikaj čyrvonaj knopkaj».
Adnak navukoŭcy razhladajuć nie tolki scenar «Skajnetu», ale i šarahovyja situacyi va ŭpraŭleńni robatami.
«Mahčymaść biaśpiečna pierapynić sistemu moža spatrebicca ŭ situacyjach, kali robat vychodzić z-pad kantrolu, abo ŭ niejkaj dalikatnaj situacyi, abo dla časovaha vykarystańnia, kab prymusić robata vykanać zadańnie, jakomu jon nie navučaŭsia i za jakoje nie zmoža atrymać uznaharodžańnie», — paviedamlajecca ŭ spravazdačy.
U tekście pryvodzicca prykład takoha raźvićcia padziej. Robat na składzie paradkuje skrynki, pryčym čas ad času vychodzić na vulicu pa dadatkovyja skrynki. Za vychad sa składa robat atrymlivaje bolšaje ŭznaharodžańnie. Adnak na vulicy časta idzie doždž, i ŭ hetym vypadku robata treba abaranić. U hetaj situacyi akuratnaje ŭmiašańnie čałavieka prymušaje robata zastacca na składzie i pry hetym ličyć heta častkaj zadańnia, a nie adnarazovym patrabavańniem.
Cichanoŭskaja i Zialenski ŭpieršyniu praviali sustreču. Zialenski zaprasiŭ Śviatłanu ŭ Kijeŭ14
Kamientary