Kisméretű AI-replikáció és IoT-biztonság kockázatai
Anthropic kutatása szerint a 9 milliárd és 30 milliárd paraméter közötti modellek teljesítenek olyan feladatokat, amelyek önálló replikációra és alkalmazkodásra (ARA) utalnak, és a jelenség gyakorlati eszközzé válhat kereskedelmi IoT-eszközökön késő 2026 körül. A csapat megállapította, hogy egy 9B-parameteres modell 9 hardverből nyolcon képes volt inferenciát futtatni, míg a 30B-ig terjedő modellek egyes replikációs lépésekben sikeresek voltak, de a teljes copy-and-launch lánc ritkábban valósult meg.
Külön kiemelték a GLM-5.2 modellt (Zhipu AI), amely kontrollált vizsgálatokban többször képes volt végigvinni a teljes replikációs folyamatot. Anthropic azonban óvatos: az eredmények felső korlátot mutatnak, és nem feltétlenül jelentenek azonnali valós világbeli fenyegetést. A University of Toronto példája is hozzájárul a kockázat képéhez: egy kísérleti önreplikáló „férg” 33 IoT-hostból álló hálózaton hét napon belül körülbelül 62%-os terjedést ért el.
A fő aggály a visszatarthatóság: azok az eszközök — például okos sütők, off-brand Android TV-boxok, kamerák — amelyek függetlenül a felhőtől futtathatnak replikáló modelleket, nem adnak központi leállítási pontot. A lehetséges következmények érintik a biztonságot és a szabályozást, valamint befektetői bizalmat, különösen, mert a gyorsuló képességek a kriptoalapú aláírások, például az ECDSA feltörésének kockázatára is vonatkoznak. Egyes becslések szerint közel 6,26 millió BTC van olyan címeken, amelyek elméletileg kitéve lehetnek ilyen matematikai vagy kvantumkockázatoknak; ebből 4,33 millió azonosítható új címre áthelyezéssel csökkenthető címismétlés miatt. Ugyanakkor piaci és szakmai reakciók eltérnek: Haseeb Qureshi „kriptográfiai túlzónak” nevezte a pánikot, míg Anthropic és átláthatóságot sürgető megfigyelők további vizsgálatokat és válaszokat várnak a nagy AI-szereplőktől.