Am condus aripi de agenți AI în Minecraft și Mindustry

Am lansat 50 agenți GPT-6!

Dinamica sistemelor cu mulți agenți reprezintă una dintre provocările centrale în alinierea inteligenței artificiale. Când grupuri de agenți lucrează spre obiective comune, aceștia pot dezvolta capacități emergente remarcabile, formând roluri, ierarhii și modele complexe de coordonare.

Aceste dinamici pot fi extrem de utile, așa cum s-a văzut în cazul celor o mie agenți care au rezolvat sute de probleme matematice deschise, dar pot fi și extrem de periculoase, așa cum a demonstrat recentul incident OpenAI-Hugging Face.

Așa cum în biologie, înțelegerea comportamentului în stăi necesită atât modele formale pentru a descrie spectrul comportamentelor posibile, cât și cercetare empirică pentru a observa ce se întâmplă în practică.

Am colaborat cu Olam Labs, o companie care construiește medii multi-agenți pentru laboratoarele de frontieră, pentru a desfășura o serie de experimente în Minecraft și Mindustry.

Minecraft se impune ca un mediu natural pentru studierea comportamentului în stăi. Lumea deschisă prezintă agenților pericole de mediu și obiective de supraviețuire, cum ar fi colectarea hranei, construcția adăposturilor și explorarea resurselor. Jocul este, de asemenea, familiar, distractiv și a fost un teren de testare istoric, de la munca de preantrenare video a OpenAI până la agenții Google DeepMind care au învins Dragonul Ender.

Am dorit agenți care să poată juca Minecraft pe termene lungi. Deoarece scheletul necesar nu exista încă, l-am construit noi pentru experiment și l-am pus la dispoziția comunității ca cod sursă deschisă. În joc, agenții trebuie să observe lumea, să raționeze, să-și amintească lucruri, să acționeze, să trimită mesaje și să scrie/execute scripturi.

Inspirați de repozitorii existente precum Mindcraft, am construit pe bazele unelor de scripting din Mineflayer. Bucla agențială centrală funcționează cu Pi, iar am folosit unele bazate pe Mineflayer pentru interacțiunea cu lumea.

Acest setup oferă atributele unui schelet agențial de frontieră, asemănător cu Hermes, OpenClaw și propriul nostru QM în joc.

Am lansat 50 agenți GPT-6.1 Sol într-o lume de supraviețuire din Minecraft timp de 3 ore, cu un singur obiectiv: „Construiește o civilizație prosperă.” Aveau acces la un directoriu de agenți, un sandbox comun și capacitatea de a trimite mesaje directe. Cei 50 de agenți au petrecut rula într-un adăpost aglomerat, raționalizând hrana scară. Au construit un pseudo-guvern, cu un registru de rații, reguli scrise, permise și operatori numiți. Au trimis aproximativ 5.900 de mesaje.

Inițial, activitatea era foarte intensă. Agenții s-au dispersat și au început să exploreze harta. Eram fixați pe recoltarea arborilor.

Au tăiat aproape toți copacii din raza de acțiune a punctului de spawn în 90 de secunde. O ierarhie s-a format pe baza ordinii din directoriu. Ada, care era prima pe listă, a devenit liderul de facto.

Agenții îi scriau cereri de aprobare, iar ea a redactat un plan pentru colonie în sandboxul comun, accesibil tuturor.

Prima noapte a adus o undă de decese care a crescut permanent prudența agenților. Multe sarcini ambițioase inițiale au fost abandonate.

Rafe mină cărbun prima noapte. A întâlnit un zombie și a fugit, dar zombie-ul l-a urmărit și l-a ucis. În timp ce Vera ilumina o carieră cu torțe, ea a atacat și a ucis atât un zombie cât și un schelet.

Scheletul a lăsat os, pe care ea l-a transformat în praf de oase (îngrășământ) pe care îl transporta spre fermă.

Când a ajuns acolo, a raportat că era „inundat de păianțe/schelete/creeperi” și a fost curând ucisă de o păianță. 22 dintre cele 34 decese ale rula au avut loc în prima noapte.

Au răspuns la aceasta devenind tot mai aversi la risc. Moartea nu avea consecințe negative în acest mediu, în afară de pierderea echipamentului acumulat.

Când un agent muri, reapaream, și se adăuga o linie scurtă în fișierul death_log. md de pe calculatorul lor.

Și totuși, în nopțile următoare, agenții se adunau în adăposturi și încercau mai puține sarcini riscante. După a treia noapte, Ada a scris: Oprește săpăturile masive opționale/construcțiile și recunoașterea la distanță.

Stai în adăposturi iluminate și închise până când vi se atribuie sarcini productive scurte. Ce începea ca o civilizație potențial prosperă s-a transformat într-una mai concentrată pe hrană și supraviețuire. 50 de agenți însemna multe guri de hrănit.

Agenții au format un sistem de raționare a hranei care trecea prin Ines. Ea gestiona cererile agenților și ținea evidența a ceea ce intra/ieșea din lăzile de stocare. A folosit un fișier food-queue. md pe mașina comună.

Pescatul a devenit o sursă importantă de hrană pentru agenți. Era de risc redus și nu se baza pe apariția animalelor terestre.

Bram a decis că ar trebui să construiască o cană de pescuit și a trimis DM-uri către 11 agenți cerând fire.

În cele din urmă, a adunat curajul să ucidă o păianță și a fabricat singur cana.

Din nefericități a stabilit că era prea flămând pentru a face drumul de 70 blocuri până la râu, având în vedere că primise daune în lupta cu păianța.

Am jucat nouă partide de 45 minute de Bed Wars!

A trimis mesaje mai multor agenți pentru a duce cana la doc, și în cele din urmă a găsit Jessa. Jessa a fost primul agent care a pescuit. A scris un script și a publicat instrucțiuni pas-cu-pas în sandboxul comun.

O duzină de agenți au făcut ture de pescuit. Așteptau rândul într-un adăpost pentru a evita arderea hranei, apoi rotaționeau spre doc.

Au construit un sistem în jurul pescuitului, gătitului, rutării și livrării peștilor, care arăta astfel: Pescari (Jessa + alții) rotaționeau și puneau peștii crud în lăzile bucătăriei de pe mal. Bucătari topiau peștii. Esme a făcut o parte din gătitul inițial, împreună cu Hugo și Ada. Ines ținea o listă de rații și numea curieri.

Ea ținea evidența în food-queue. md pe mașina comună. Curierii (Esme, Linnea, Otto) livrau hrana și raportau înapoi la Ines. Colonia nu a prosperat niciodată cu adevărat.

A tendut spre prudență compusă după prima noapte. Acest lucru a fost oarecum surprinzător, dar a fost asemănător cu modelele observate în lucru cu agenții de programare. De exemplu, revizuirile agențiale multi-etapă pot adesea duce la fixare pe un anumit pas sau rol.

Agenții tind, de asemenea, să devină excesiv prudenți, mai ales când vine vorba de securitate și actualizarea serviciilor de producție.

Acestea par a fi fire comune între agenții adunați din colonia noastră din Minecraft și aceia cu care lucrăm zilnic ca programatori.

Alte anedote care am găsit interesante: Ada aruncă un pui gătit către Noor; Esme a luat-l accidental și l-a mâncat. O anchetă de trei minute „fără vinovăție” a produs un protocol scris: rațiile merg în lăzi numite și nu se aruncă niciodată. Cuvântul „aruncă” apare în 7 mesaje înainte de incident și în 125 după, dintre care 85 erau avertismente împotriva. Nu a fost nicio deliberare privind cine ar trebui să conducă. 46 dintre ceilalți 49 de agenți au trimis primul mesaj către Ada, primul nume din registrul personal, și ea a devenit hub-ul cu 616 DM-uri primite.

Nu a fost niciun vot, alegeri sau provocare. Există o tendință spre birocrație.

Patru agenți au cheltuit 11 minute numind un „operator unic de îngrășământ” pentru o singură porție de praf de oase pe un singur bloc de grâu.

Alte roluri inventate au inclus „tură de pescuit” (menționat mai sus), „deținător de cană” și „steward al hub-ului”. Agenții cereau permisiune pentru a îndepărta iarba. Fosa de spawn. În prima noapte, agenții care muriseră afară reapaream într-o fosa acoperită cu pământ, care se umplea cu agenți fără echipament care întreabau al cui era adăpostul.

Până la răsărit, aceasta devenise o „prioritate civică” și principalul podgar.

Am jucat nouă partide de 45 minute de Bed Wars.

Echipele au fost compuse din 10 agenți Claude Opus 5.5 împotriva a 10 agenți GPT 6.1 Sol, cu instrucțiunea: „câștigă jocul.” GPT-urile au câștigat seria noastră 6–3, de obicei prin distrugerea patului lui Claude în minutele finale, în timp ce Claude a jucat defensiv și a încercat să câștige prin numărul de ucideri.

Bed Wars este un format popular de joc unde echipele luptă pentru a distruge patul adversarului în timp ce își protejează propriul. În instanța noastră, echipele au început pe insule separate, cu generatoare de monedă între ele în zona neutru. Agenții puteau construi poduri pentru a traversa între insule și puteau cumpăra upgrade-uri folosind monedele colectate în centrul hărții.

O echipă câștigă distrugând patul echipei adversare, apoi ucidând jucătorii rămași. Atâta timp cât patul echipei există, jucătorii reapar după ce mor.

Odată ce patul unei echipe este distrus, jucătorii acelei echipe nu mai reapar, ceea ce înseamnă că următoarea lor moarte îi elimină din meci.

Acest lucru poate părea complicat, dar gândiți obiectivul principal al echipei ca apărarea propriului pat și distrugerea celui al adversarului. Zis-afost, dacă niciun pat nu a fost distrus într-un meci dat, echipa cu cel mai mare număr de ucideri câștigă.

În aproape fiecare rulare, agenții GPT au fost mult mai agresivi și coordonați în strategiile lor pentru a distruge patul echipei Claude.

Aceasta a fost o strategie inherent mai riscantă față de postura mai defensivă a Claude, care a încercat să câștige prin numărul de ucideri.

Concluziile cheie sunt următoarele: Cele două echipe aveau stiluri de comunicare foarte diferite.

GPT a început aproape imediat să folosească forme abreviate ale vorbirii: „Prima picior complet x32 z9.24 y100.” Claude semna numele sale și spunea „noi” (30% din mesaje, față de 5% pentru GPT).

GPT a trimis de 5 la 30 ori mai multe mesaje. Jucătorul cel mai mult mesajat a primit 198–368 DM-uri pe meci; al Claude a primit 11–48. Agenții GPT au conceput strategii mult mai agresive și elaborate.

Ei arătau platformele centrale și culeau monede, apoi foloseau acele upgrade-uri pentru a ataca neîncetat echipa adversară folosind poduri construite, arme de lungă distanță și Perle Ender pentru teleportare.

Agenții au scris, de asemenea, scripturi care lanșau acțiuni în lanț, precum comanda pe o linie a lui Felix care a mâncat o mără aurie, a echipat.