Há um conhecido experimento de pensamento do mundo da inteligência artificial, que representa um simples, mas potencialmente muito assustador, pergunta: o que se pediu uma super-inteligência artificial para fazer clipes de papel?
isto pode não parecer assustador no início, mas como explica o filósofo de Oxford Nick Bostrom (que descreveu pela primeira vez a parábola), tudo depende de quão bem nós treinamos a IA. Se lhe demos senso comum, ele pode nos perguntar: “quantos clipes você quer?”Se não sabe perguntar, pode fazer clipes para sempre. E, se é uma IA super inteligente que acidentalmente esquecemos de programar com qualquer ética ou valores humanos, pode decidir que a maneira mais eficiente de fazer Clips é exterminar a humanidade e terraformar o planeta numa fábrica gigante de clip.Sound fun? Ainda bem, porque agora há um jogo sobre isso.Projetado por Frank Lantz, diretor do New York University Game Center, Paperclips pode não ser o tipo de título que você esperaria sobre uma IA desenfreada. É livre para jogar, vive no seu navegador, e tudo o que você tem que ver são números. (Embora confiem em mim, aprenderão a amá-los.) É um jogo de clicker ocioso — um que se baseia no desejo aparentemente sem fundo da humanidade de clicar em botões e ver os números subir. Pensa no comando de bolachas ou na Egg Inc, mas dedicado a clips de papel.”Eu vi coisas que vocês não acreditariam. Clips a arder no ombro de Orion. Vi clipes a brilhar no escuro perto do portão Tannhäuser.”
você vai começar fazendo-os da maneira antiga: um clipe por um clique. Mas em breve você estará comprando autoclippers para fazer o trabalho para você, enquanto você vira suas atenções para a execução de um fundo de hedge algorítmico, em seguida, construir um computador quântico, e então (muito mais tarde) explorando o universo conhecido em busca de nova matéria para se transformar em mais e mais clips. Como jogar é muito auto-explicativo, mas aqui estão algumas dicas se você está ficando preso:
- Clips é essencialmente um jogo sobre equilíbrio e eficiência. Você tem que deixar o jogo sozinho por longos períodos de tempo, sim, mas você também precisa ter certeza de que você não está desperdiçando recursos, enquanto você faz isso. Mantenha um olho em sua cadeia de suprimentos para se certificar de que não há estrangulamentos, e estar atento a qualquer capacidade não utilizada que pode ser voltada para o seu objetivo final: fazer esses doces, doces clipes.
- jogue pelo menos até obter hipnodrones. Quando você desbloqueia estes, o jogo realmente abre para um novo nível. Pensaste que estavas a fazer clipes antes? Hoo buddy, ainda não viste nada.
- em algum momento você vai encontrar uma parede que você não pode otimizar o seu caminho passado. Você pode pensar que você tem até o fim do jogo (por exemplo, quando você transformou toda a matéria disponível no universo em clips — um ponto final lógico, claro), mas há mais a fazer. Infelizmente, passar por essas barreiras muitas vezes requer paciência, e às vezes você terá que deixar o jogo por horas para chegar ao próximo nível.Não comece a jogar se tiver algo importante para fazer hoje. Ou amanhã.
ao todo, o jogo me fez pensar que se o cenário de maximizador Doomsday de paperclip alguma vez vier a acontecer, será, pelo menos, agradavelmente irônico. Damos-nos ao trabalho de criar super-inteligência e ela responde cauterizando o universo em nome de material de escritório. Houve metáforas piores para a condição humana. Além disso, se ensinarmos a ia a gostar de fazer clipes (e alguns dizem que estes tipos de incentivos humanos análogos serão necessários para criar verdadeiras máquinas de pensar), então pelo menos ele estará se divertindo.Como tu, vai ser divertido ver esses números a aumentar.