C’è un noto esperimento mentale nel mondo dell’intelligenza artificiale che pone una domanda semplice, ma potenzialmente molto spaventosa: e se chiedessimo a un’intelligenza artificiale super intelligente di creare graffette?
All’inizio potrebbe non sembrare terrificante, ma come spiega il filosofo di Oxford Nick Bostrom (che per primo ha descritto la parabola), tutto dipende da quanto bene abbiamo addestrato l’IA. Se gli abbiamo dato buon senso, potrebbe chiederci: “Quante graffette vuoi?”Se non sa chiedere, potrebbe solo fare graffette per sempre. E, se si tratta di un’intelligenza artificiale super intelligente che abbiamo accidentalmente dimenticato di programmare con qualsiasi etica o valore umano, potrebbe decidere che il modo più efficace per creare graffette è quello di spazzare via l’umanità e terraformare il pianeta in una gigantesca fabbrica di graffette.
Suono divertente? Bene bene, perché ora c’è un gioco su di esso.
Progettato da Frank Lantz, direttore del Game Center della New York University, Paperclips potrebbe non essere il tipo di titolo che ti aspetteresti da un’IA scatenata. E ‘ libero di giocare, vive nel tuo browser, e tutto quello che dovete guardare è numeri. (Anche se fidati di me, imparerai ad amarli.) È un gioco clicker inattivo – uno che attinge al desiderio apparentemente senza fondo dell’umanità di fare clic sui pulsanti e guardare i numeri salire. Pensate Cookie Clicker o Egg Inc, ma dedicato a graffette.
Inizierai a renderli alla vecchia maniera: una clip per un clic. Ma molto presto acquisterai autoclippers per fare il lavoro per te mentre giri le tue attenzioni verso l’esecuzione di un hedge fund algoritmico, poi costruendo un computer quantistico e poi (molto più tardi) esplorando l’universo conosciuto alla ricerca di nuova materia da trasformare in sempre più graffette. Come si gioca è abbastanza auto-esplicativo, ma qui ci sono alcuni suggerimenti se ti trovi in difficoltà:
- Paperclips è essenzialmente un gioco di equilibrio ed efficienza. Devi lasciare il gioco da solo per lunghi periodi di tempo, sì, ma devi anche essere sicuro di non sprecare risorse mentre lo fai. Tieni d’occhio la tua catena di fornitura per assicurarti che non ci siano colli di bottiglia e sii alla ricerca di qualsiasi capacità inutilizzata che possa essere rivolta al tuo obiettivo finale: realizzare quelle clip dolci e dolci.
- Gioca almeno fino ad ottenere hypnodrones. Quando si sblocca questi, il gioco si apre davvero su un nuovo livello. Prima pensavi di fare le graffette? Amico, non hai ancora visto niente.
- Ad un certo punto ti imbatterai in un muro che non puoi ottimizzare. Potresti pensare di essere arrivato alla fine del gioco (ad esempio, quando hai trasformato tutta la materia disponibile nell’Universo in graffette — un endpoint logico, certo) ma c’è altro da fare. Sfortunatamente, superare queste barriere spesso richiede pazienza, ea volte dovrai lasciare il gioco per ore per passare al livello successivo.
- Non iniziare a giocare se hai qualcosa di importante da fare oggi. O domani.
Tutto sommato, il gioco mi ha fatto pensare che se lo scenario doomsday di paperclip maximizer dovesse mai accadere, sarà, almeno, piacevolmente ironico. Andiamo alla briga di creare super-intelligenza e risponde cauterizzando l’Universo in nome di forniture per ufficio. Ci sono state metafore peggiori per la condizione umana. Inoltre, se insegniamo all’IA a divertirci a creare graffette (e alcuni dicono che questi tipi di incentivi umani analoghi saranno necessari per creare vere macchine pensanti), almeno si divertirà.
Come te, si divertirà a guardare quei numeri sempre più grandi.