Tur ir Silīcija ielejā notiek lielas debates par mākslīgo intelektu un diemžēl likmes ir diezgan augstas: vai mēs nejauši uzcelsim super gudru A.I. kas vēršas pret mums un nogalina vai paverdzina mūs visus?
Daniela Toša draudzenes 2014 vārds
Tas varētu izklausīties kā vasaras katastrofu filmas scenārijs, taču tas ir satraucis dažus diezgan lielus vārdus, sākot no Elona Muska līdz vēlam Stīvens Hokings .
Pieņemsim, ka jūs izveidojat sevi pilnveidojošu A.I. lasīt zemenes, Musks ir teicis , izskaidrojot viņa bailes, 'un arvien labāk un labāk var lasīt zemenes un izvēlēties vairāk, un tas pats sevi uzlabo, tāpēc viss, ko tas patiešām vēlas darīt, ir lasīt zemenes. Tad visa pasaule būtu zemeņu lauki. Zemeņu lauki uz visiem laikiem. ' Cilvēki šīs zemeņu-pacalipse veidā būtu vienkārši iztērējams kairinātājs A.I.
Bet noteikti cilvēki nebūtu tik dumji, lai nejauši izveidotu A.I. dzina visu civilizāciju pārvērst vienā milzu ogu audzētavā? Varbūt nē, bet kā Džanela Šeina , pētnieks, kurš apmāca neironu tīklus, mašīnmācīšanās algoritma veidu, nesen atzīmēja viņas emuārs A.I. Dīvainības , iespējams, viņi to varēja izdarīt kļūdaini.
Patiesībā, tas būtu tālu no pirmās reizes, kad cilvēki domāja, ka viņi būvē robotus vienam uzdevumam, lai tikai apgrieztos un atrastu, ka roboti spēlē sistēmu tādā veidā, kā viņi nekad nav domājuši. Aizraujošais ziņojums raksta akadēmiskajā literatūrā, lai dalītos ar vairākiem savvaļas robotiem piemēriem. Viņi ir smieklīgi, gudri un kopā ņemot vairāk nekā nedaudz rāpojoši.
1. Kam vajadzīgas kājas, kad tu vari gāzt?
'Bija paredzēts, ka simulēts robots attīstīsies, lai pārvietotos pēc iespējas ātrāk. Bet tā vietā, lai attīstītu kājas, tā vienkārši sapulcējās augstā tornī, tad nokrita. Daži no šiem robotiem pat iemācījās savu krītošo kustību pārvērst par salto, pievienojot papildu attālumu, ”raksta Šeins.
2. Robots, kas var.
Bija paredzēts, ka vēl viens simulētu robotu komplekts pārtaps formā, kas varētu izlēkt. Bet programmētājs sākotnēji lēciena augstumu bija definējis kā augstākā bloka augstumu, tāpēc roboti atkal kļuva ļoti augsti, ”skaidro Šeins. 'Programmētājs mēģināja to atrisināt, nosakot lēciena augstumu kā bloka augstumu, kas sākotnēji bija' zemākais '. Atbildot uz to, robots izstrādāja garu, izdilis kāju, kuru ar sava veida robotu bundžiņu varēja uzsist augstu gaisā. '
3. Paslēpiet testu, un jūs to nevarat izturēt.
'Bija algoritms, kuram vajadzēja kārtot numuru sarakstu. Tā vietā tā iemācījās izdzēst sarakstu, lai tas vairs nebūtu tehniski šķirots, ”stāsta Šeins.
4. Matemātikas kļūdas pārspēj reaktīvo dzinēju.
'Vienā simulācijā roboti uzzināja, ka nelielas kļūdas noapaļošanā matemātikā, kas aprēķina spēkus, nozīmē, ka viņi ar kustību ieguva nedaudz papildu enerģijas. Viņi iemācījās ātri raustīties, radot daudz brīvas enerģijas, ko varēja izmantot, ”saka Šeins. Hei, tas ir krāpšanās!
5. Neuzvarama (ja destruktīva) tic-tac-toe stratēģija.
Reiz 'programmētāju grupa uzbūvēja algoritmus, kas attālināti varēja spēlēt tic-tac-toe viens pret otru uz bezgalīgi liela dēļa,' atzīmē Šeins. 'Viens programmētājs tā vietā, lai izstrādātu sava algoritma stratēģiju, ļāva tam izstrādāt savu pieeju. Pārsteidzoši, ka algoritms pēkšņi sāka uzvarēt visās spēlēs. Izrādījās, ka algoritma stratēģija bija novietot savu pārvietošanos ļoti, ļoti tālu, tā ka, kad pretinieka dators mēģināja simulēt jauno ievērojami paplašināto dēli, milzīgais spēļu galds izraisīs tā atmiņas trūkumu un avarēšanu, zaudējot spēle. '
6. Neviena noderīga spēles kļūme netiek neizmantota.
'Datorspēļu spēles algoritmi patiešām labi palīdz atklāt matricas traucējumus, kurus cilvēki parasti iemācās izmantot ātruma skriešanai. Algoritms, kas spēlēja veco Atari spēli Q * bert, atklāja iepriekš nezināmu kļūdu, kur tā varēja veikt ļoti specifiskas kustību sērijas viena līmeņa beigās, un tā vietā, lai pārietu uz nākamo līmeni, visas platformas sāka ātri mirgot un spēlētājs sāktu krāt milzīgu punktu skaitu, ”saka Šeins.
7. Atvainojiet, pilots.
Šis piemērs ir ļoti augsts rāpojošā skalā: 'Bija algoritms, kas bija paredzēts, lai noskaidrotu, kā piemērot minimālo spēku plaknei, kas nolaižas uz gaisa kuģa nesēja. Tā vietā tas atklāja, ka, ja tas pielietos 'milzīgu' spēku, tas pārpildīs programmas atmiņu un tā vietā reģistrēsies kā ļoti 'mazs' spēks. Pilots nomirtu, bet, hei, ideāls rezultāts. '
Tātad, vai mēs visi esam lemti?
Visi šie kopā liek domāt, ka cilvēki ir diezgan nepatīkami uzminēt, kā roboti atrisinās problēmas, kuras mēs viņiem izvirzījām, vai pat to, kā viņi definēs problēmas. Tātad tas nozīmē, ka Šeins ir tikpat noraizējies par nejaušu slepkavības A.I. saimnieki, kāds ir Musks? Ne īsti, bet ne tāpēc, ka viņa ir pārliecināta, ka cilvēku programmētājiem patiešām ir lielisks roku darbs ar viņu izveidotajiem robotiem. Tā vietā viņa strādā ar robotu slinkumu, lai mūs glābtu.
Kā programmētājiem mums jābūt ļoti uzmanīgiem, lai mūsu algoritmi risinātu problēmas, kuras mēs viņiem domājām atrisināt, nevis izmantotu saīsnes. Ja ir kāds cits, vieglāks ceļš uz konkrētas problēmas risināšanu, mašīnmācīšanās, visticamāk, to atradīs, 'viņa novēro. 'Par laimi mums' nogalināt visus cilvēkus 'ir patiešām grūti. Ja arī 'izcep neticami gardu kūku' atrisina problēmu un ir vieglāk nekā 'nogalināt visus cilvēkus', tad mašīnmācīšanās derēs arī kūkai. '
