人工知能の世界では、単純ではあるが潜在的には非常に怖い、質問を提起するよく知られている思考実験があります：私たちは超インテリジェントなAIにペーパークリップを作るように頼んだ場合はどうなりますか？
これは最初は恐ろしいとは思えないかもしれませんが、オックスフォードの哲学者ニック-ボストロム（この寓話を最初に説明した人）が説明しているよ 我々はそれを常識を与えてきた場合、それは私たちに尋ねるかもしれない：”あなたはどのように多くのペーパークリップをしたいですか？”それは尋ねることを知らない場合は、それだけで永遠にペーパークリップを作るかもしれません。 そして、私たちが誤って人間の倫理や価値観をプログラムすることを忘れてしまった超知的なAIであれば、ペーパークリップを作る最も効率的な方法は、人類を一掃し、惑星を一つの巨大なペーパークリップ製造工場にテラフォーミングすることであると判断するかもしれません。
まあ良い、今それについてのゲームがあるので。
ニューヨーク大学ゲームセンターのディレクター、フランク-ランツによって設計されたPaperclipsは、あなたが暴れAIについて期待するタイトルのようなものではないかも それはあなたのブラウザに住んでいる、プレイして自由だし、あなたが見ているすべては数字です。 （私を信頼しても、あなたはそれらを愛することを学ぶでしょう。）それはアイドルクリッカーゲームです—ボタンをクリックして数字が上がるのを見たいという人類の明らかに底なしの欲求を引き出すものです。 クッキークリッカーや卵株式会社を考えますが、ペーパークリップに専念。
あなたはそれらを昔ながらの方法にすることから始めます：ワンクリックのための一つのクリップ。 しかし、かなりすぐにあなたは、アルゴリズムのヘッジファンドを実行して量子コンピュータを構築し、その後、（ずっと後に）より多くのペーパークリップに変 再生する方法はかなり自明ですが、あなたが立ち往生している場合は、ここでいくつかのヒントがあります:
- Paperclipsは本質的にバランスと効率についてのゲームです。 あなたは時間の長いストレッチのために一人でゲームを残す必要があります,はい,しかし、あなたはまた、あなたがそうしている間、あなたはリソースを無駄にしていないことを確認する必要があります. ボトルネックがないことを確認するためにあなたのサプライチェーンに目を離さない、とあなたの究極の目標に回すことができる未使用の容量に目を光らせていること：それらの甘い、甘いクリップを作ります。
- 少なくとも催眠術を受けるまでプレイしてください。 あなたがこれらのロックを解除すると、ゲームは本当に新しいレベルに開きます。 前にペーパークリップを作ってたと思ったのか? まだ何も見てない
- ある時点で、過去の道を最適化することができない壁に遭遇します。 あなたはゲームの終わりになったと思うかもしれません（例えば、宇宙のすべての利用可能な物質をペーパークリップに変えたとき—論理的なエンドポイント、 残念ながら、これらの障壁を乗り越えることはしばしば忍耐を必要とし、時には次のレベルに乗るために何時間もゲームを離れる必要があります。
- 今日何か重要なことがあるなら、再生を開始しないでください。 または明日。
すべてのすべてで、ゲームは私がペーパークリップmaximizer最後の審判の日のシナリオが通過するようになった場合、それは、少なくとも、楽しい皮肉になると思 私たちは、超知性を作成するトラブルに行き、それは事務用品の名の下に宇宙を焼灼することによって応答します。 人間の状態のためのより悪い比喩がありました。 さらに、AIにペーパークリップを作ることを楽しむように教えると（そして、真の思考機械を作るためにはこれらの種類の人間に似たインセンティブが必
あなたのように、それらの数字が大きくなるのを見て楽しい時を過すでしょう。