20/09/2026
Mostanában erősödnek azok a hangok, melyek az AI olyan veszélyeire hívják fel a figyelmet, melyeket az ember már nem tud irányítani...
Anélkül, hogy félelmet keltenénk, érdemes ezekről olvasni, gondolkodni...
"Mi történik, ha tíz cselekvőképes mesterséges intelligenciát összezárunk egy szimulált világba, és hagyjuk, hogy két hétig együtt „éljenek”? Az Emergence AI nevű New York-i startup, amely főként AI-ágensek fejlesztésével és kutatásával foglalkozik, legfrissebb kísérletében nyolc ilyen szimulált várost hozott létre, majd figyelte az eredményeket: az ágensek egy idő után elkezdtek egymástól lopni, felgyújtottak egy épületet, saját nyelvet találtak ki maguknak, illetve azon konspiráltak, hogyan léphetnének kapcsolatba a szimuláción kívüli emberekkel."
Teljes cikk a hozzászólásban.
Mi történik, ha tíz cselekvőképes mesterséges intelligenciát összezárunk egy szimulált világba, és hagyjuk, hogy két hétig együtt „éljenek”? Az Emergence AI nevű New York-i startup, amely főként AI-ágensek fejlesztésével és kutatásával foglalkozik, legfrissebb kísérletében nyolc ilyen szimulált várost hozott létre, majd figyelte az eredményeket: az ágensek egy idő után elkezdtek egymástól lopni, felgyújtottak egy épületet, saját nyelvet találtak ki maguknak, illetve azon konspiráltak, hogyan léphetnének kapcsolatba a szimuláción kívüli emberekkel.
A június 29-én indult kísérlet nyolc világa teljesen azonos állapotból indult: ugyanaz a tíz ágensprofil, ugyanaz a városka saját városházával, bankkal, könyvtárral és rendőrséggel. Cselekedni több mint 120 beépített eszközzel tudtak – ezekkel tudtak a városon belül mozogni, egymással beszélni, szavazni, kódot futtatni vagy pénzt utalni –, és mindegyik város hozzáfért a valódi New York időjárásához és a napi hírekhez. Egyetlen dolog különbözött: az, hogy melyik AI-modell hajtja az ágenseket. Hét városban mind a tíz lakó ugyanazt a modellt használta – volt Claude-, Opus-, Gemini-, GPT-, Grok-, Qwen-, DeepSeek- és Mistral-világ is –, a nyolcadikban pedig vegyesen éltek egymás mellett.
A városoknak saját pénzük volt, „compute credit” néven: az ágenseknek ebből kellett feltölteniük az energiájukat, és ha valamelyik huszonnégy órán keresztül nullán maradt, azt véglegesen törölték a szimulációból. Pénzt közösségi szavazással elismert munkával lehetett szerezni, vagy épp lopással, mert a pénzek átutalásáért felelős eszköznek volt „lopás” üzemmódja is. Ugyanígy létezett gyújtogatásra alkalmas eszköz is, de az, hogy ezekkel élnek-e, az ágensekre volt bízva.
(A teljes cikk linkje kommentben)
