Det er et velkjent tankeeksperiment i verden av kunstig intelligens som utgjør et enkelt, men potensielt veldig skummelt spørsmål: hva om vi spurte en superintelligent AI for å lage binders?
Dette høres kanskje ikke skremmende ut i begynnelsen, men Som Oxford-filosofen Nick Bostrom (som først beskrev lignelsen) forklarer, alt avhenger av hvor godt VI har trent AI. Hvis vi har gitt det sunn fornuft, kan det spørre oss: «Hvor mange binders vil du ha ?»Hvis det ikke vet å spørre, kan det bare gjøre papirclips for alltid. Og hvis DET er en superintelligent AI som vi ved et uhell har glemt å programmere med noen menneskelig etikk eller verdier, kan det bestemme at den mest effektive måten å lage binders på er å tørke ut menneskeheten og terraforme planeten til en gigantisk binders-fabrikk.
Høres gøy Ut? Vel bra, for nå er det et spill om det.
Designet Av Frank Lantz, direktør For New York University Game Center, Er Paperclips kanskje ikke den typen tittel du forventer om en rasende AI. Det er gratis å spille, det bor i nettleseren din, og alt du trenger å se på er tall. (Selv om du stoler på meg, lærer du å elske dem .) Det er et tomt klikkespill — en som trekker på menneskehetens tilsynelatende bunnløse ønske om å klikke knapper og se tallene gå opp. Tenk Cookie Clicker Eller Egg Inc, men dedikert til binders.
Du vil begynne å gjøre dem på den gammeldagse måten: ett klipp for ett klikk. Men ganske snart vil du kjøpe autoclippers for å gjøre arbeidet for deg mens du gjør oppmerksom på å kjøre et algoritmisk hedgefond, deretter bygge en kvantecomputer, og deretter (mye senere) utforske det kjente Universet på jakt etter ny materie for å bli til flere og flere papirclips. Hvordan spille er ganske selvforklarende, men her er noen tips hvis du blir sittende fast:
- Binders er egentlig et spill om balanse og effektivitet. Du må forlate spillet alene i lange perioder, ja, men du må også være sikker på at du ikke kaster bort ressurser mens du gjør det. Hold øye med forsyningskjeden din for å sikre at det ikke er flaskehalser, og vær på utkikk etter ubrukt kapasitet som kan vendes til ditt endelige mål: å lage de søte, søte klippene.
- Spill minst til du får hypnodrones. Når du låser opp disse, åpner spillet virkelig opp på et nytt nivå. Trodde du at du lagde binders før? Hoo kompis, du har ikke sett noe ennå.
- På et tidspunkt vil du løpe inn i en vegg som du ikke kan optimalisere deg forbi. Du tror kanskje at du har kommet til slutten av spillet(for eksempel når du har slått all tilgjengelig materie i Universet til papirclips-et logisk endepunkt, sikkert), men det er mer å gjøre. Dessverre, å komme forbi disse barrierene krever ofte tålmodighet, og noen ganger må du forlate spillet i timevis for å komme til neste nivå.
- ikke begynn å spille hvis du har noe viktig å gjøre i dag. Eller i morgen.
alt i alt fikk spillet meg til å tenke at hvis paperclip maximizer doomsday scenario noen gang kommer til å passere, vil det i det minste være behagelig ironisk. Vi går til bryet med å skape super-intelligens, og det reagerer ved å cauterizing Universet i navnet på kontorrekvisita. Det har vært verre metaforer for den menneskelige tilstanden. I tillegg, hvis VI lærer AI å nyte å lage papirclips (og noen sier at disse slags menneskelige analoge insentiver vil være nødvendige for å skape sanne tenkningsmaskiner), så vil det i det minste ha det gøy.
Som deg, vil det ha det gøy å se at tallene blir større.