der er et velkendt tankeeksperiment i en verden af kunstig intelligens, der udgør et simpelt, men potentielt meget skræmmende spørgsmål: Hvad hvis vi bad en superintelligent AI om at lave papirclips?
dette lyder måske ikke skræmmende i starten, men som filosofen Nick Bostrom (som først beskrev lignelsen) forklarer, afhænger det hele af, hvor godt vi har trænet AI. Hvis vi har givet det sund fornuft, kan det spørge os: “hvor mange papirclips vil du have?”Hvis det ikke ved at spørge, kan det bare lave papirklip for evigt. Og hvis det er en superintelligent AI, som vi ved et uheld har glemt at programmere med nogen menneskelig etik eller værdier, kan det beslutte, at den mest effektive måde at fremstille papirclips på er at udslette menneskeheden og terraforme planeten til en kæmpe papirclipsfabrik.
lyd sjov? Nå godt, for nu er der et spil om det.
Paperclips er muligvis ikke den slags titel, du ville forvente om en voldsom AI. Det er gratis at spille, det lever i din bro.ser, og alt hvad du skal se på er tal. (Men tro mig, du vil lære at elske dem .) Det er et idle clicker — spil-et, der trækker på menneskehedens tilsyneladende bundløse ønske om at klikke på knapper og se numre gå op. Tænk Cookie Clicker eller Egg Inc, men dedikeret til papirklip.
du begynder at gøre dem til den gammeldags måde: et klip til et enkelt klik. Men snart vil du købe autoclippers for at gøre arbejdet for dig, mens du gør opmærksom på at køre en algoritmisk hedgefond, derefter opbygge en kvantecomputer og derefter (meget senere) udforske det kendte univers på jagt efter nyt stof for at blive til flere og flere papirklip. Hvordan man spiller er ret selvforklarende, men her er nogle tip, hvis du sidder fast:
- Paperclips er i det væsentlige et spil om balance og effektivitet. Du er nødt til at forlade spillet alene i lange perioder, Ja, men du skal også være sikker på, at du ikke spilder ressourcer, mens du gør det. Hold øje med din forsyningskæde for at sikre, at der ikke er flaskehalse, og vær på udkig efter ubrugt kapacitet, der kan vendes til dit ultimative mål: at lave de søde, søde klip.
- spil i det mindste indtil du får hypnodrones. Når du låser op for disse, åbner spillet virkelig op på et nyt niveau. Troede du, du lavede papirclips før? Hoo buddy, du har ikke set noget endnu.
- på et tidspunkt vil du løbe ind i en væg, som du ikke kan optimere din vej forbi. Du tror måske, at du er kommet til slutningen af spillet (for eksempel når du har forvandlet alt tilgængeligt stof i universet til papirclips — et logisk slutpunkt, selvfølgelig), men der er mere at gøre. Desværre kræver det ofte tålmodighed at komme forbi disse barrierer, og nogle gange bliver du nødt til at forlade spillet i timevis for at komme på det næste niveau.
- begynd ikke at spille, hvis du har noget vigtigt at gøre i dag. Eller i morgen.
alt i alt fik spillet mig til at tro, at hvis papirclipsmaksimering dommedagsscenariet nogensinde kommer til at ske, vil det i det mindste være behageligt ironisk. Vi går i besværet med at skabe superintelligens, og det reagerer ved at cauterisere universet i kontorartikler. Der har været værre metaforer for den menneskelige tilstand. Plus, hvis vi lærer AI at nyde at lave papirklip (og nogle siger, at disse slags menneskelige analoge incitamenter vil være nødvendige for at skabe ægte tænkemaskiner), så vil det i det mindste have det sjovt.
ligesom dig vil det have det sjovt at se disse tal blive større.