det finns ett välkänt tankeexperiment i världen av artificiell intelligens som utgör en enkel, men potentiellt mycket skrämmande, fråga: vad händer om vi frågade en superintelligent AI för att göra Gem?
detta kanske inte låter skrämmande först, men som Oxford-filosofen Nick Bostrom (som först beskrev liknelsen) förklarar beror allt på hur bra vi har tränat AI. Om vi har gett det sunt förnuft kan det fråga oss: ”hur många Gem vill du ha?”Om det inte vet att fråga, kan det bara göra pappersklipp för alltid. Och om det är en superintelligent AI som vi av misstag har glömt att programmera med någon mänsklig etik eller värderingar, kan det bestämma att det mest effektiva sättet att göra pappersklipp är att utplåna mänskligheten och terraforma planeten till en jätte pappersklippfabrik.
låter kul? Tja bra, för nu finns det ett spel om det.
designad av Frank Lantz, chef för New York University Game Center, Paperclips kanske inte är den typ av titel du kan förvänta dig om en rampaging AI. Det är gratis att spela, det bor i din webbläsare, och allt du behöver titta på är siffror. (Men lita på mig, du lär dig att älska dem.) Det är ett ledigt klickspel — ett som drar på mänsklighetens uppenbarligen bottenlösa önskan att klicka på knappar och titta på siffror går upp. Tänk Cookie Clicker eller Egg Inc, men tillägnad Gem.
du börjar göra dem på gammaldags sätt: ett klipp för ett klick. Men ganska snart kommer du att köpa autoclippers för att göra jobbet åt dig medan du uppmärksammar att köra en algoritmisk hedgefond, sedan bygga en kvantdator och sedan (mycket senare) utforska det kända universum på jakt efter ny materia för att bli mer och mer pappersklipp. Hur man spelar är ganska självförklarande, men här är några tips om du fastnar:
- Paperclips är i huvudsak ett spel om balans och effektivitet. Du måste lämna spelet ensam under långa sträckor, Ja, men du måste också vara säker på att du inte slösar bort resurser medan du gör det. Håll ett öga på din leveranskedja för att se till att det inte finns några flaskhalsar, och vara på jakt efter oanvänd kapacitet som kan vändas till ditt slutmål: att göra dessa söta, söta klipp.
- spela åtminstone tills du får hypnodroner. När du låser upp dessa öppnar spelet verkligen upp till en ny nivå. Trodde du att du gjorde Gem förut? Du har inte sett nåt än.
- vid någon tidpunkt kommer du att stöta på en vägg som du inte kan optimera din väg förbi. Du kanske tror att du har kommit till slutet av spelet (till exempel när du har gjort all tillgänglig materia i universum till pappersklipp — en logisk slutpunkt, säkert) men det finns mer att göra. Tyvärr, att komma förbi dessa hinder kräver ofta tålamod, och ibland måste du lämna spelet i timmar för att komma till nästa nivå.
- börja inte spela om du har något viktigt att göra idag. Eller i morgon.
sammantaget fick spelet mig att tänka att om Gem maximizer dommedagsscenariot någonsin kommer att ske, kommer det åtminstone att vara glädjande ironiskt. Vi går till besväret med att skapa superintelligens och det svarar genom att cauterizing universum i namn av kontorsmaterial. Det har varit sämre metaforer för det mänskliga tillståndet. Plus, om vi lär AI att njuta av att göra pappersklipp (och vissa säger att dessa typer av mänskliga analoga incitament kommer att vara nödvändiga för att skapa sanna tänkande maskiner) så kommer det åtminstone att ha en rolig tid.
som du, det kommer att ha kul att titta på dessa siffror blir större.