Es gibt ein bekanntes Gedankenexperiment in der Welt der künstlichen Intelligenz, das eine einfache, aber möglicherweise sehr beängstigende Frage aufwirft: Was wäre, wenn wir eine superintelligente KI bitten würden, Büroklammern herzustellen?
Das mag zunächst nicht erschreckend klingen, aber wie der Oxford-Philosoph Nick Bostrom (der das Gleichnis zuerst beschrieb) erklärt, hängt alles davon ab, wie gut wir die KI trainiert haben. Wenn wir ihm gesunden Menschenverstand gegeben haben, könnte er uns fragen: „Wie viele Büroklammern willst du?“ Wenn es nicht weiß, zu fragen, könnte es nur Büroklammern für immer machen. Und wenn es eine superintelligente KI ist, die wir versehentlich vergessen haben, mit menschlicher Ethik oder Werten zu programmieren, könnte sie entscheiden, dass der effizienteste Weg, Büroklammern herzustellen, darin besteht, die Menschheit auszulöschen und den Planeten in eine riesige Büroklammerfabrik zu verwandeln.
Klingt lustig? Nun gut, denn jetzt gibt es ein Spiel darüber.
Paperclips wurde von Frank Lantz, Direktor des New York University Game Centers, entworfen und ist möglicherweise nicht der Titel, den Sie von einer wütenden KI erwarten würden. Es ist kostenlos zu spielen, es lebt in Ihrem Browser und alles, was Sie sich ansehen müssen, sind Zahlen. (Obwohl du mir vertraust, wirst du lernen, sie zu lieben.) Es ist ein müßiges Klickerspiel – eines, das auf dem scheinbar bodenlosen Wunsch der Menschheit beruht, auf Schaltflächen zu klicken und zuzusehen, wie die Zahlen steigen. Denken Sie Cookie Clicker oder Egg Inc, aber Büroklammern gewidmet.
Sie beginnen damit, sie auf die altmodische Weise zu erstellen: ein Clip für einen Klick. Aber schon bald werden Sie Autoclippers kaufen, um die Arbeit für Sie zu erledigen, während Sie Ihre Aufmerksamkeit darauf richten, einen algorithmischen Hedgefonds zu betreiben, dann einen Quantencomputer zu bauen und dann (viel später) das bekannte Universum auf der Suche nach neuer Materie zu erforschen, um sich in immer mehr Büroklammern zu verwandeln. Wie man spielt, ist ziemlich selbsterklärend, aber hier sind einige Tipps, wenn Sie nicht weiterkommen:
- Paperclips ist im Wesentlichen ein Spiel über Balance und Effizienz. Sie müssen das Spiel für lange Zeit in Ruhe lassen, ja, aber Sie müssen auch sicher sein, dass Sie dabei keine Ressourcen verschwenden. Behalten Sie Ihre Lieferkette im Auge, um sicherzustellen, dass es keine Engpässe gibt, und halten Sie Ausschau nach ungenutzten Kapazitäten, die für Ihr ultimatives Ziel verwendet werden können: die Herstellung dieser süßen, süßen Clips.
- Spielen Sie mindestens so lange, bis Sie Hypnodrones erhalten. Wenn Sie diese freischalten, öffnet sich das Spiel wirklich auf ein neues Level. Du dachtest, du machst schon mal Büroklammern? Hoo buddy, du hast noch nichts gesehen.
- Irgendwann wirst du in eine Wand laufen, an der du nicht vorbeikommen kannst. Du denkst vielleicht, du bist am Ende des Spiels (zum Beispiel, wenn du alle verfügbare Materie im Universum in Büroklammern verwandelt hast — ein logischer Endpunkt, sicher), aber es gibt noch mehr zu tun. Leider erfordert das Überwinden dieser Barrieren oft Geduld, und manchmal müssen Sie das Spiel stundenlang verlassen, um zum nächsten Level zu gelangen.
- Fang nicht an zu spielen, wenn du heute etwas Wichtiges zu tun hast. Oder morgen.
Alles in allem hat mich das Spiel denken lassen, dass, wenn das Paperclip Maximizer Doomsday-Szenario jemals eintritt, es zumindest angenehm ironisch sein wird. Wir machen uns die Mühe, Superintelligenz zu schaffen, und sie reagiert, indem sie das Universum im Namen von Bürobedarf kauterisiert. Es gab schlimmere Metaphern für den menschlichen Zustand. Und wenn wir der KI beibringen, gerne Büroklammern zu machen (und einige sagen, dass diese Art von menschenanalogen Anreizen notwendig sein wird, um echte Denkmaschinen zu schaffen), dann wird es zumindest eine lustige Zeit haben.
Wie Sie wird es Spaß machen zu sehen, wie diese Zahlen größer werden.