există un cunoscut experiment de gândire în lumea inteligenței artificiale care pune o întrebare simplă, dar potențial foarte înfricoșătoare: ce se întâmplă dacă am cere unui AI super-inteligent să facă agrafe de birou?
s-ar putea ca acest lucru să nu pară terifiant la început, dar așa cum explică filosoful Oxford Nick Bostrom (care a descris prima dată parabola), totul depinde de cât de bine am antrenat ia. Dacă i-am dat bunul simț, s-ar putea să ne întrebe: „câte agrafe vrei?”Dacă nu știe să întrebe, s-ar putea să facă agrafe pentru totdeauna. Și, dacă este un AI super-inteligent pe care am uitat din greșeală să-l programăm cu orice etică sau valori umane, s-ar putea decide că cel mai eficient mod de a face agrafe de hârtie este de a șterge umanitatea și de a terraforma planeta într-o fabrică gigantică de fabricare a agrafelor de hârtie.
sunet distractiv? Ei bine, bine, pentru că acum există un joc despre asta.
proiectat de Frank Lantz, directorul Centrului de jocuri al Universității din New York, agrafe de hârtie s-ar putea să nu fie genul de titlu la care te-ai aștepta despre o AI dezlănțuită. Este gratuit pentru a juca, trăiește în browser-ul dvs., și tot ce trebuie să se uite la este numere. (Deși credeți-mă, veți învăța să-i iubiți.) Este un joc Clicker inactiv-unul care se bazează pe dorința aparent fără fund a umanității de a face clic pe butoane și de a urmări numerele care cresc. Gândiți-vă Cookie Clicker sau Egg Inc, dar dedicat agrafe de birou.
veți începe să le faceți în mod vechi: un clip pentru un singur clic. Dar destul de curând veți cumpăra autoclippers pentru a face munca pentru dvs. în timp ce vă îndreptați atenția spre conducerea unui fond de hedging algoritmic, apoi construirea unui computer cuantic și apoi (mult mai târziu) explorarea universului cunoscut în căutarea unei noi materii pentru a se transforma în tot mai multe agrafe de hârtie. Cum să joci este destul de auto-explicativ, dar iată câteva sfaturi dacă te blochezi:
- Paperclips este în esență un joc despre echilibru și eficiență. Trebuie să lăsați jocul singur pentru perioade lungi de timp, da, dar trebuie să fiți sigur că nu pierdeți resurse în timp ce faceți acest lucru. Urmăriți lanțul de aprovizionare pentru a vă asigura că nu există blocaje și căutați orice capacitate neutilizată care poate fi transformată în scopul dvs. final: realizarea acelor clipuri dulci și dulci.
- Joaca cel puțin până când veți obține hypnodrones. Când le deblocați, jocul se deschide într-adevăr la un nou nivel. Ai crezut că faci agrafe de birou înainte? Amice, încă nu ai văzut nimic.
- la un moment dat vei da peste un zid pe care nu-l poți optimiza. S — ar putea să credeți că ați ajuns la sfârșitul jocului (de exemplu, când ați transformat toată materia disponibilă din univers în agrafe de hârtie-un punct final logic, sigur), dar mai sunt multe de făcut. Din păcate, depășirea acestor bariere necesită adesea răbdare și, uneori, va trebui să părăsiți jocul ore întregi pentru a ajunge la nivelul următor.
- nu începeți să jucați dacă aveți ceva important de făcut astăzi. Sau mâine.
toate în toate, jocul ma făcut să cred că în cazul în care scenariul Paperclip Maximizer doomsday se va întâmpla vreodată, va fi, cel puțin, plăcut ironic. Ne străduim să creăm superinteligență și aceasta răspunde cauterizând Universul în numele consumabilelor de birou. Au existat metafore mai rele pentru condiția umană. În plus, dacă învățăm AI să se bucure de a face agrafe de birou (și unii spun că aceste tipuri de stimulente om-analogice vor fi necesare pentru a crea mașini de gândire adevărate), atunci cel puțin va avea un timp distractiv.
ca și tine, se va distra văzând cum aceste numere devin mai mari.