er is een bekend gedachte-experiment in de wereld van kunstmatige intelligentie dat een eenvoudige, maar potentieel zeer enge vraag stelt: wat als we een superintelligente AI zouden vragen om paperclips te maken?
dit klinkt in het begin misschien niet angstaanjagend, maar zoals Oxford filosoof Nick Bostrom (die de gelijkenis voor het eerst beschreef) uitlegt, hangt het allemaal af van hoe goed we de AI hebben getraind. Als we het gezond verstand hebben gegeven, zou het ons kunnen vragen: “hoeveel paperclips wil je?”Als het niet weet om te vragen, het kan gewoon maken paperclips voor altijd. En als het een superintelligente AI is die we per ongeluk vergeten zijn te programmeren met menselijke ethiek of waarden, zou het kunnen besluiten dat de meest efficiënte manier om paperclips te maken is om de mensheid uit te roeien en de planeet te veranderen in één gigantische paperclipfabriek.
Sound fun? Nou goed, want nu is er een spel over.Ontworpen door Frank Lantz, directeur van het New York University Game Center, is Paperclips misschien niet het soort Titel dat je zou verwachten van een razende AI. Het is gratis te spelen, het leeft in uw browser, en alles wat je hoeft te kijken naar Is nummers. (Maar geloof me, je zult leren om van ze te houden.) Het is een idle clicker spel-een die voortbouwt op de schijnbaar bodemloze wens van de mensheid om op knoppen te klikken en te kijken nummers omhoog gaan. Denk aan Cookie Clicker of Egg Inc, maar gewijd aan paperclips.”I’ ve seen things you people would ‘ t believe. Paperclips in brand van de schouder van Orion. Ik zag paperclips glinsteren in het donker bij de Tannhäuser poort.”
je begint ze op de ouderwetse manier te maken: één clip voor één klik. Maar al snel koop je autoclippers om het werk voor je te doen, terwijl je je aandacht richt op het runnen van een algoritmische hedge fund, dan het bouwen van een quantumcomputer, en dan (veel later) het verkennen van het bekende universum op zoek naar nieuwe materie om te zetten in meer en meer paperclips. Hoe te spelen is vrij vanzelfsprekend, maar hier zijn enkele tips als je vast komt te zitten:
- Paperclips is in wezen een spel over balans en efficiëntie. Je moet het spel met rust laten voor lange tijd, ja, maar je moet er ook zeker van zijn dat je geen middelen verspilt terwijl je dat doet. Houd uw supply chain in de gaten om ervoor te zorgen dat er geen knelpunten zijn, en wees op de uitkijk voor ongebruikte capaciteit die kan worden gebruikt om uw uiteindelijke doel: het maken van die zoete, zoete clips.
- speel tenminste totdat je hypnodronen krijgt. Wanneer u deze ontgrendelen, het spel echt opent op een nieuw niveau. Dacht je dat je paperclips maakte? Je hebt nog niets gezien.
- op een gegeven moment komt u tegen een muur aan die u niet kunt optimaliseren. Je denkt misschien dat je het einde van het spel hebt bereikt (bijvoorbeeld wanneer je alle beschikbare materie in het universum hebt omgezet in paperclips — een logisch eindpunt, zeker), maar er is meer te doen. Helaas, voorbij deze barrières vereist vaak geduld, en soms moet je het spel te verlaten voor uren om op het volgende niveau.
- begin niet met spelen als je vandaag iets belangrijks te doen hebt. Of morgen.
al met al deed het spel me denken dat als het doomsday-scenario van paperclip maximizer ooit uitkomt, het op zijn minst aangenaam ironisch zal zijn. We doen de moeite om superintelligentie te creëren en het reageert door het universum dicht te branden in de naam van kantoorbenodigdheden. Er zijn ergere metaforen geweest voor de menselijke conditie. Plus, als we de AI leren om te genieten van het maken van paperclips (en sommigen zeggen dat dit soort menselijke-analoge prikkels nodig zullen zijn om waardenkende machines te creëren) dan zal het in ieder geval een leuke tijd hebben.
net als jij zal het leuk zijn om te zien hoe die getallen groter worden.