tekoälyn maailmassa on tunnettu ajatuskoe, joka esittää yksinkertaisen, mutta mahdollisesti hyvin pelottavan kysymyksen: Mitä jos pyytäisimme superälykästä tekoälyä tekemään paperiliittimiä?
tämä ei ehkä aluksi kuulosta pelottavalta, mutta kuten Oxfordilainen filosofi Nick Bostrom (joka kuvasi vertauksen ensimmäisenä) selittää, kaikki riippuu siitä, kuinka hyvin olemme kouluttaneet tekoälyn. Jos olemme antaneet sille maalaisjärkeä, se voisi kysyä meiltä: ”montako klemmaria haluat?”Jos se ei tiedä kysyä, se voi vain tehdä paperiliittimet ikuisesti. Ja, jos se on superälykäs tekoäly, jonka olemme vahingossa unohtaneet ohjelmoida millään ihmisen etiikalla tai arvoilla, se saattaa päättää, että tehokkain tapa tehdä paperiliittimiä on tuhota ihmiskunta ja muokata planeetta yhdeksi valtavaksi paperiliittimiä valmistavaksi tehtaaksi.
Sound fun? No hyvä, koska nyt on peli siitä.
New Yorkin yliopiston Game Centerin johtajan Frank Lantzin suunnittelema Paperclips ei ehkä ole sellainen otsikko, jota voisi odottaa riehuvasta tekoälystä. Se on ilmainen pelata, se elää selaimessasi, ja sinun tarvitsee vain katsoa numeroita. (Vaikka luota minuun, opit rakastamaan heitä.) Se on tyhjänpäiväinen klikkauspeli — peli, joka ammentaa ihmiskunnan ilmeisesti pohjattomasta halusta napsauttaa nappeja ja katsoa numeroiden nousevan. Ajattele Cookie Clicker tai Egg Inc, mutta omistettu paperclips.
aloitat tekemällä niistä vanhanaikaisia: yksi klippi yhdellä klikkauksella. Mutta melko pian ostatte autoklippejä tehdäksenne työn puolestanne samalla kun käännätte huomionne algoritmisen hedge-rahaston pyörittämiseen, sitten kvanttitietokoneen rakentamiseen ja sitten (paljon myöhemmin) tunnetun maailmankaikkeuden tutkimiseen etsien uutta ainetta muuttuaksenne yhä useammiksi paperiliittimiksi. Pelaaminen on melko itsestään selvää, mutta tässä muutamia vinkkejä, Jos olet juuttumassa:
- Paperclips on pohjimmiltaan peli noin tasapainoa ja tehokkuutta. Sinun täytyy jättää peli yksin pitkiä aikoja, Kyllä, mutta sinun täytyy myös olla varma, että et tuhlaa resursseja, kun teet niin. Pidä silmällä toimitusketjuasi varmistaaksesi, ettei pullonkauloja ole, ja etsi käyttämätöntä kapasiteettia, joka voidaan kääntää lopulliseen tavoitteeseesi: makeiden, makeiden klippien tekemiseen.
- Soita ainakin siihen asti, kunnes saat hypnodroneja. Kun avaat nämä, peli todella avautuu uudelle tasolle. Luulitko aiemmin tekeväsi klemmareita? Et ole nähnyt vielä mitään.
- jossain vaiheessa törmää seinään, jonka ohi ei voi optimoida. Saatat luulla päässeesi pelin loppuun asti (esimerkiksi, kun olet muuttanut kaiken saatavilla olevan aineen maailmankaikkeudessa paperiliittimiksi — looginen päätepiste, toki), mutta tehtävää on enemmänkin. Valitettavasti näiden esteiden ohittaminen vaatii usein kärsivällisyyttä, ja joskus joudut jättämään pelin tunneiksi päästäksesi seuraavalle tasolle.
- älä aloita soittamista, jos sinulla on jotain tärkeää tekemistä tänään. Tai huomenna.
kaiken kaikkiaan peli sai minut ajattelemaan, että jos paperclip maximizerin tuomiopäivän skenaario joskus toteutuu, se on ainakin miellyttävän ironinen. Näemme vaivaa superälyn luomisessa, ja se vastaa polttamalla universumin toimistotarvikkeiden nimissä. On ollut pahempiakin metaforia ihmisen tilasta. Lisäksi, jos opetamme tekoälyä nauttimaan paperiliittimien tekemisestä (ja jotkut sanovat, että tällaiset ihmisen kaltaiset kannustimet ovat tarpeen todellisten ajattelukoneiden luomiseksi), silloin ainakin se pitää hauskaa.
Like you, it ’ ll have fun watching those numbers getting bigger.