Il existe une expérience de pensée bien connue dans le monde de l’intelligence artificielle qui pose une question simple, mais potentiellement très effrayante: et si nous demandions à une IA super intelligente de fabriquer des trombones?
Cela peut ne pas sembler terrifiant au premier abord, mais comme l’explique le philosophe d’Oxford Nick Bostrom (qui a le premier décrit la parabole), tout dépend de la façon dont nous avons formé l’IA. Si nous lui avons donné du bon sens, il pourrait nous demander: « Combien de trombones voulez-vous? »S’il ne sait pas demander, cela pourrait faire des trombones pour toujours. Et, si c’est une IA super intelligente que nous avons accidentellement oublié de programmer avec une éthique ou des valeurs humaines, elle pourrait décider que le moyen le plus efficace de fabriquer des trombones est d’éliminer l’humanité et de terraformer la planète en une usine géante de fabrication de trombones.
Son amusant? Eh bien bien, parce que maintenant il y a un jeu à ce sujet.
Conçu par Frank Lantz, directeur du Game Center de l’Université de New York, Paperclips n’est peut-être pas le genre de titre auquel vous vous attendez à propos d’une IA déchaînée. C’est gratuit, il vit dans votre navigateur, et tout ce que vous avez à regarder, ce sont les chiffres. (Bien que croyez-moi, vous apprendrez à les aimer.) C’est un jeu de clicker inactif — qui s’appuie sur le désir apparemment sans fond de l’humanité de cliquer sur les boutons et de regarder les chiffres augmenter. Pensez à Cookie Clicker ou Egg Inc, mais dédié aux trombones.
Vous commencerez à les fabriquer à l’ancienne: un clip pour un clic. Mais bientôt, vous achèterez des autoclippers pour faire le travail à votre place pendant que vous vous concentrez sur la gestion d’un hedge fund algorithmique, puis la construction d’un ordinateur quantique, puis (beaucoup plus tard) explorer l’Univers connu à la recherche de nouvelle matière pour se transformer en de plus en plus de trombones. Comment jouer est assez explicite, mais voici quelques conseils si vous êtes coincé:
- Paperclips est essentiellement un jeu d’équilibre et d’efficacité. Vous devez laisser le jeu tranquille pendant de longues périodes, oui, mais vous devez également être sûr de ne pas gaspiller de ressources pendant que vous le faites. Gardez un œil sur votre chaîne d’approvisionnement pour vous assurer qu’il n’y a pas de goulots d’étranglement et soyez à l’affût de toute capacité inutilisée qui peut être tournée vers votre objectif ultime: fabriquer ces clips doux et sucrés.
- Jouez au moins jusqu’à ce que vous obteniez des hypnodrones. Lorsque vous les déverrouillez, le jeu s’ouvre vraiment sur un nouveau niveau. Vous pensiez faire des trombones avant ? Hoo mon pote, tu n’as encore rien vu.
- À un moment donné, vous rencontrerez un mur que vous ne pourrez pas optimiser. Vous pensez peut—être que vous êtes arrivé à la fin du jeu (par exemple, lorsque vous avez transformé toute la matière disponible dans l’Univers en trombones – un point final logique, bien sûr), mais il y a plus à faire. Malheureusement, dépasser ces barrières nécessite souvent de la patience, et parfois vous devrez quitter le jeu pendant des heures pour passer au niveau suivant.
- Ne commencez pas à jouer si vous avez quelque chose d’important à faire aujourd’hui. Ou demain.
Dans l’ensemble, le jeu m’a fait penser que si le scénario apocalyptique de trombone maximizer se réalise un jour, il sera au moins agréablement ironique. On se donne la peine de créer de la super-intelligence et elle répond en cautérisant l’Univers au nom des fournitures de bureau. Il y a eu des métaphores pires pour la condition humaine. De plus, si nous apprenons à l’IA à prendre plaisir à fabriquer des trombones (et certains disent que ce genre d’incitations analogues à l’humain sera nécessaire pour créer de véritables machines pensantes), alors au moins, il s’amusera.
Comme vous, il s’amusera à voir ces chiffres grossir.