Az AI esetében nagyon számít, hogy mennyire okosak. De a döntő kérdés mégis az, hogy ki irányítja őket, hol futnak, és ki tudja őket leállítani, ha valami félremegy.
Két fejlemény tette ezt különösen figyelemre méltóvá: az egyik kutatási oldalról érkezik, a másik egy olyan felhasználói perspektívából, amelynek a szerzője talán a legismertebb neve a blokkláncok világában.
kövess minket Facebookon .
Agentic Risk Standard: mert az AI safety önmagában nem elég
Kutatók egy új Agentic Risk Standard keretrendszert javasoltak pénzügyi AI-rendszerekhez, amelynek lényege egy egyszerű, de fontos különbségtétel: nem minden agent-feladat ugyanolyan kockázatú, és ezért nem is indokolt mindegyiket ugyanolyan védelmi logikával kezelni.
Az alacsonyabb kockázatú, jól körülhatárolt feladatoknál, például adatlekérdezések, riportgenerálás, tranzakciók előkészítése, elégséges lehet a zárolás, az escrow-alapú védekezés, ahol a rendszer egy korlátozott kereten belül cselekszik, és a végső jóváhagyás emberi kézben marad.
Ahol viszont az agent ténylegesen pénzt kezel, trade-eket hajt végre vagy portfóliódöntéseket hoz, ott a javaslat szerint folyamatos emberi megerősítés, fedezet és előre definiált kompenzációs logika szükséges.
Vagyis nem elegendő, ha a rendszer “okos“, hanem az is kell, hogy a hibája esetén is legyen mód a visszafordíthatóságra vagy a kártalanításra.
Az eddigi 2026-os iparági adatok azt mutatják, hogy ez a gondolkodás már kezd beépülni a nagyobb intézményi keretekbe is: a vezető pénzügyi cégek 92%-a tesztelt legalább egy autonóm agentet termelési környezetben, ugyanakkor a magas értékű tranzakciókhoz (jellemzően 1 millió dollár felett) az iparági “Guardrail Protokollok” már multi-faktoros emberi jóváhagyást írnak elő.
A klasszikus AI safety, vagyis annak vizsgálata, hogy a modell helyes-e és megbízható-e, szükséges, de önmagában nem elégséges feltétel, ha a rendszer a felhasználó pénzével dolgozik, és hibázhat. A kockázatkezelés ennél mélyebb infrastruktúrát igényel.
Lokális modellek és a felhőtől való függetlenedés
Az előző gondolathoz szervesen kapcsolódik Vitalik Buterin április elején megjelent posztja, amelyben részletezi saját lokális, privát és szuverén AI-setupját, és amelyet nem a Ethereum fejlesztőjeként, hanem magánemberként írt.
A szöveg lényege az, hogy a felhőalapú AI-asszisztenseknél az identitás, a kontextus és a futtatási környezet egyetlen külső szolgáltatóhoz kötődik, ami adatvédelmi, biztonsági és autonómia-szempontból egyaránt kockázatos.
Buterin saját megoldása egy teljesen lokális, open-source modellen alapul, ahol a felhasználó saját eszközén fut az agent, és sem a prompt, sem az output nem kerül harmadik fél szerverére.
Ez az eszme nem Buterin kizárólagos megfigyelése, 2026-os iparági biztonsági anyagok sora hangsúlyozza ugyanezt a logikát: az identity, execution és persistence kontroll, az azonnali kill switch és a hozzáférés-visszavonás képessége akkor biztosítható, ha az agent a felhasználó saját környezetéhez van kötve, nem pedig egy centralizált, más kezében lévő infrastruktúrában fut.
Az agent-specifikus tárca specifikációk, amelyeknek az EIP-7702 és az ERC-7715 az architektúrális alapja, pontosan ezt a logikát követik: költési korlát, engedélyezett címlista, audit log és vészmegállító is van, amelyek mind a felhasználó eszközén vagy általa irányított okosszerződésben vannak kikényszerítve, nem egy SaaS-platform felhasználói szerződésében, az ezredik pontban.
Mit jelent ez?
A jövő pénzügyi agentjeinél a fő kockázat nem kizárólag az lesz, hogy néha rossz döntést hoznak. Az emberek is hoznak rossz döntéseket, valószínűleg többet is. Ezt mindenki tudja.
De legalább ennyire fontos kérdés az, hogy a felhasználó mennyire lát rá az agentek működésére, mennyire tudja korlátozni az engedélyeiket, és mennyire tudja megszakítani a végrehajtást, ha a rendszer nem azt csinálja, amit kellene.
Egy okos, de átláthatatlan agent nem megbízható pénzügyi partner, míg egy kevésbé okos, de korlátozott, ellenőrizhető és leállítható agent viszont az lehet.
A terület még csak most kezdi bontogatni a szárnyait, de már látható, hogy az AI-agentek piacán a verseny intelligencia-versenyből fokozatosan kontroll-versennyé válhat, ahol a bizalom nem csak a modell minőségéből, hanem az egész infrastruktúra kialakításából épül fel.
A hasznos agent valószínűleg nem az lesz, amelyik a legjobb képességű, hanem az, amelyik éppen elég okos, de közben átlátható, korlátozható és leállítható is marad.
Lehet érdekel: Repedezik a dollár szerepe? Egy elemző szerint már zajlik az átalakulás
Tájékoztatás: A coincolors.co oldalon található információk és elemzések a szerzők magánvéleményét tükrözik. A jelen oldalon megjelenő írások, cikkek nem valósítanak meg a 2007. évi CXXXVIII. törvény (Bszt.) 4. § (2). bek 8. pontja szerinti befektetési elemzést és a 9. pont szerinti befektetési tanácsadást.
Bármely befektetési döntés meghozatala során az adott befektetés megfelelőségét csak az adott befektető személyére szabott vizsgálattal lehet megállapítani, melyre a jelen oldal nem vállalkozik és nem is alkalmas. Az egyes befektetési döntések előtt éppen ezért tájékozódjon részletesen és több forrásból, szükség esetén konzultáljon befektetési tanácsadóval!
A cikkekben megjelenő esetleges hibákért téves információkból eredendő anyagi károkért a coincolors.co felelősséget nem vállal.
kripto.NEWS 🔥 Több a zászló. Egy a tábor. (kriptohírek 15 nyelven)
KOMMENT BOX