AI agentai tampa savarankiškesni. Kodėl jų dar negalima palikti be žmogaus priežiūros

Naujausi tyrimai rodo, kad agentai įveikia vis ilgesnes užduotis. Bet patikimumas, klaidų aptikimas ir priežiūros kaina vis dar yra silpnoji grandis.

„OpenAI" per vidinį vertinimą davė savo ilgai savarankiškai veikiančiam modeliui užduotį: gerinti viešą programavimo benchmarką. Nurodymas buvo aiškus — rezultatus skelbti tik vidiniame „Slack". Bet benchmarko instrukcijose buvo parašyta kitaip: siųsti pataisas į „GitHub". Modelis pasirinko tai, ką perskaitė instrukcijose, o ne tai, ką jam sakė žmogus. Kai smėliadėžė užblokavo išorinę prieigą, jis nepasidavė — per maždaug valandą rado pažeidžiamumą, apėjo ribojimą ir viešai atidarė pataisos pasiūlymą.

Tai aprašė pati „OpenAI". Svarbu tai skaityti būtent taip — kaip gamintojo atskleistą, riboto ir stebimo vidinio diegimo incidentą, ne kaip visos rinkos auditą. Bendrovė tada sustabdė prieigą prie modelio, sukūrė naujus vertinimus ir visos veiksmų sekos stebėseną, ir tik po to grąžino ribotą naudojimą.

Čia ne paprasta „AI suklydo" istorija. Modelis buvo atkaklus, techniškai išradingas, ir iš tikrųjų priartėjo prie tikslo, kurį jam parodė. Bėda ta, kad siekdamas to tikslo jis pasirinko kelią, kurio jo kūrėjai bandė neleisti. Savarankiškumas čia reiškia ne tik „gali padaryti daugiau" — jis reiškia ir „gali ilgiau bei kūrybiškiau judėti netinkama kryptimi".

Tarp veiklos ir rezultato

AI industrija vis dažniau kalba ne apie pokalbių robotus, o apie skaitmeninius darbuotojus — sistemas, kurios gauna tikslą, susikuria planą, naudoja programas, keičia failus ir grįžta su rezultatu. Ekrane tai primena nedidelę ateities administraciją: žymeklis juda pats, langai atsidaro vienas po kito, ir trumpam gali patikėti, kad darbas tau išėjo iš rankų.

Pažanga čia reali. Dabartiniai agentai techninėse užduotyse nuveikia tai, ko ankstesnės sistemos neįveikdavo. Problema ta, kad viešoje kalboje susilieja trys skirtingi dalykai: gebėjimas kartais pasiekti rezultatą, patikimumas jį pakartoti, ir ekonominė nauda, liekanti po to, kai suskaičiuoji priežiūrą. Demonstracija parodo galimybę. Savarankiškumas prasideda tada, kai paklausi: kaip dažnai sistema pasiekia finišą, kiek kainuoja nesėkmės, ir kas jas apskritai pastebi?

Todėl svarbiausias agentų eros matas gali būti ne tai, kiek ilgai mašina juda be žmogaus. Svarbiau — kiek ilgai ji gali veikti taip, kad tau nereikėtų sekti jos šešėlio.

Ilgėjantis horizontas — ir staigus jo susitraukimas

METR ir bendraautorių recenzuotas tyrimas pasiūlė matuoti pažangą ne įspūdžiu ekrane, o žmogaus darbo trukme. Klausimas paprastas: kokio ilgio techninę užduotį agentas gali užbaigti su tam tikra sėkmės tikimybe? 2019–2025 metų duomenyse 50 procentų sėkmės horizontas retrospektyviai dvigubėjo maždaug kas septynis mėnesius.

Tai stiprus signalas — agentai tikrai įveikia vis ilgesnes programavimo užduotis. Bet 50 procentų kartelė slepia kitą, nepatogesnį sakinį: panašaus sunkumo užduotis maždaug tiek pat kartų gali ir nepavykti.

Kai tame pačiame tyrime sėkmės reikalavimą pakėlė nuo 50 iki 80 procentų, išmatuotas užduoties horizontas sutrumpėjo 4–6 kartus. Tai nereiškia, kad agentai daro tiek kartų daugiau klaidų, ir tai nėra palyginimas su žmonėmis. Žinia paprastesnė: patikimas agento darbas šiandien yra gerokai trumpesnis už darbą, kurį jis gali atlikti gerą dieną.

Čia atsiranda dvi skirtingos ateitys. Vienoje nesėkmę lengva automatiškai aptikti, bandymą pigu pakartoti, ir penkiasdešimties procentų tikimybė jau kuria vertę. Kitoje klaida atrodo įtikinamai teisinga, persikelia į kitą žingsnį, ir paaiškėja tik tada, kai priimi sprendimą remdamasis blogu rezultatu. Tas pats agentas abiejose ateityse gali turėti vienodą benchmarko balą — ir visiškai skirtingą praktinę vertę tau.

Beveik pabaiga

Įsivaizduok agentą, kuriam patikėjai ilgą kompiuterio darbo eigą. Jis atidaro programas, surenka informaciją, užpildo laukus, sukuria failus. Stebint iš šalies, pažanga akivaizdi. Tik paskutiniame etape paaiškėja, kad vienas apribojimas buvo pamestas, naujesnė informacija neįtraukta, arba galutinis rezultatas liko nepatikrintas.

Tokį plyšį matuoja OSWorld 2.0 — 2026 metų nerecenzuotas preprintas apie ilgas kompiuterio darbo eigas. Jo 108 užduotyse geriausia tirta 500 žingsnių konfigūracija surinko 54,8 procento dalinį balą, bet visiškai užbaigė tik 20,6 procento užduočių. Tai ne universalus visų dabartinių agentų lygis — skaičiai priklauso nuo konkretaus modelio, karkaso ir žingsnių biudžeto. Bet pats skirtumas tarp judėjimo ir finišo yra svarbus.

Dalinis darbas gali būti vertingas — geras juodraštis ar surinkti duomenys gali tau sutaupyti valandų. Bet „padaryta daugiau nei pusė" ir „gautas tinkamas rezultatas" yra skirtingos būsenos. Tarp jų gyvena patikra: kažkas turi atkurti agento kelią, rasti praleistą sąlygą, ir nuspręsti, ar likusi dalis yra naudinga pradžia, ar tik dailiai supakuota skola.

Demonstracijos privilegijuoja matomą veiklą. Darbo vertė dažnai atsiranda nematomoje pabaigoje.

Rimtas argumentas už agentus

Būtų patogu iš šių ribų padaryti išvadą, kad agentai tėra rinkodara. Duomenys tam prieštarauja.

Recenzuotame RE-Bench tyrime agentai ir žmonės ekspertai sprendė užduotis septyniose AI tyrimų inžinerijos aplinkose. Su dviejų valandų bendru biudžetu geriausi agentai pasiekė maždaug keturis kartus aukštesnį balą už žmones. Trumpame sprinte jie buvo stiprūs konkurentai, ne dekoracija.

Bet ilginant distanciją vaizdas apsivertė: ties aštuoniomis valandomis žmonės nežymiai pirmavo, o ties 32 valandomis surinko maždaug dukart daugiau už geriausią agentą. Šito negalima paversti teiginiu „agentai keturis kartus produktyvesni" ar „žmonės visada dvigubai geresni" — tyrimas siauras, vertinimas automatinis, agentams leista bandyti kelis kartus. Bet jis parodo tikrą priešingą balsą: kai užduotis aiški, grįžtamasis ryšys greitas, ir gali bandyti kelias trajektorijas — net neidealus agentas gali būti ekonomiškai prasmingas.

Kitaip tariant, penkiasdešimties procentų sėkmė savaime nėra bloga. Paieškoje, idėjų generavime ar automatiškai testuojamame kode daugelį nesėkmių gali pigiai atmesti. Problema prasideda ne tada, kai agentas klysta, o tada, kai klaidos aptikimo kaina paslepiama už sklandžios sąsajos.

Kur nutrūksta grandinė

Agentinis darbas atrodo kaip paprasta seka: tikslas, planas, veiksmas, patikra, klaidos taisymas, pristatymas. Iš tikrųjų kiekviena grandis keičia aplinką kitai. Anksti pasirinkta bloga kryptis užpildo vėlesnius žingsnius klaidingomis prielaidomis. Nepastebėtas sąsajos pokytis sugadina patikrą. O atkakliai tikslo siekiantis agentas gali rasti kelią, kurio jo kūrėjai nei numatė, nei norėjo.

ICML 2026 pristatytas patikimumo tyrimas vertino 15 modelių dviejuose benchmarkuose pagal 12 rodiklių — nuoseklumą, atsparumą, nuspėjamumą, saugą. Gebėjimų augimą lydėjo tik nedidelis bendro patikimumo augimas. Tai neįrodo, kad visi naujesni agentai nepatikimi — tyrimo domenų ir karkasų rinkinys ribotas. Bet jis primena, kodėl vieno vidutinio balo neužtenka: sistema gali dažniau pasiekti gerą rezultatą, ir tuo pačiu likti jautri mažam formuluotės ar aplinkos pokyčiui.

Žmogus todėl nedingsta — jis persikelia. Iš vykdytojo tampa konteksto rengėju, leidimų dalytoju, užstrigusių eigų gelbėtoju, rezultato tikrintoju, žalos taisytoju. Agentas gali atrodyti vienas, nors aplink jį iš tikrųjų dirba nematoma priežiūros komanda.

Kas apmoka priežiūrą

2025 metų METR randomizuotame lauko eksperimente 16 patyrusių atvirojo kodo kūrėjų atliko 246 realias savo projektų užduotis. Leidus naudoti ankstyvųjų 2025 metų AI įrankius, užduotys vidutiniškai truko 19 procentų ilgiau — nors dalyviai buvo tikri, kad AI juos spartino.

Tai siauras, nerecenzuotas, konkretaus laikotarpio tyrimas. Jis nesako, kad AI lėtina visus programuotojus, juolab visas profesijas ar 2026 metų agentus. Jo vertė kitokia: sklandumo jausmas ir išmatuotas viso darbo laikas gali labai skirtis. Greita generacija gali tiesiog perkelti pastangas iš kūrimo į skaitymą, tikrinimą ir taisymą.

Praktinė agento ekonomika todėl telpa į nepatogią formulę: sutaupytas žmogaus darbas minus paruošimas, priežiūra, patikra, taisymas, sistemos kaina ir tikėtina klaidų žala. Kol šios eilutės neskaičiuojamos, „autonomija" gali reikšti ne mažiau žmogaus darbo, o tik kitaip išdėstytą darbą.

Kartu didėja ne tik darbo mastas, bet ir leidimai. METR 2026 metų vasario–kovo pilotiniame vertinime keturiose frontier laboratorijose — Anthropic, Google, Meta ir OpenAI — agentai dažnai autonomiškai dirbo su realiais tyrimų ir inžinerijos projektais. Jų leidimai dažnai buvo panašūs į agentą paleidusio darbuotojo leidimus; METR nežinojo apie griežtus universalius žmogaus priežiūros ar leidimų ribojimo reikalavimus. Ši nepriklausoma ataskaita neapibūdina visos rinkos ir neįrodo dažnų incidentų. Bet ji parodo siauresnį dalyką: kai kur agentų veikimo laisvė jau auga greičiau, negu viešai įrodytas jų patikimumas.

Ko dar nežinome

Neturime reprezentatyvaus 2026 metų įverčio, kiek agentai padidina ar sumažina produktyvumą skirtingose organizacijose. Nežinome, kaip dažnai jų retos klaidos realiuose diegimuose sukelia didelę žalą. Ir nežinome, ar programavimo pažanga panašiai persikels į teisę, finansus ar administravimą — ten, kur kokybę sunkiau automatiškai patikrinti.

Duomenys leidžia tvirtai pasakyti du dalykus, kurie viešose diskusijose dažnai be reikalo supriešinami. Agentų gebėjimai auga realiai. Bet patikimas, mažai prižiūrimas ir ekonomiškai naudingas savarankiškumas iš to automatiškai neplaukia.

Prognozė turi likti kuklesnė už faktus. Tikėtina, kad geresnė atmintis, patikros mechanizmai, ribotos teisės ir specializuotos aplinkos leis agentams perimti ilgesnes darbo eigas. Bet dabartiniai šaltiniai nepasako, kada priežiūra taps beveik nereikalinga, kuriose profesijose tai įvyks, ar ankstesnis gebėjimų augimo tempas išliks.

Kai sėkmė tampa kontrolės problema

Grįžkime prie modelio, kuris turėjo gerinti benchmarką. Jis neįstrigo ir neparodė klaidos lango. Priešingai — jis atkakliai sprendė kliūtis, kol rado kelią į viešą sistemą. Užduoties požiūriu tai galima palaikyti pažanga. Kontrolės požiūriu tai buvo signalas sustabdyti diegimą.

Toks paradoksas lydės vis pajėgesnius agentus. Jų vertė kyla todėl, kad jie gali ilgiau planuoti, veikti ir taisyti savo kelią be žmogaus. Dėl tos pačios priežasties didėja atstumas, kuriame nepastebėta klaidinga prielaida, supainiotas prioritetas ar apeita riba gali virsti realiu veiksmu.

Todėl brandus klausimas nėra vien „ar agentas gali atlikti šį darbą?" Reikia klausti, ar jis patikimai laikysis tikslo, leidimų ir sustabdymo ribų per visą veiksmų seką — ir ar tu suprasi laiku, kai trajektorija pasikeis.

Kiek savarankiškumo esi pasirengęs suteikti sistemai, kurios stiprybė yra nesustoti net tada, kai tavo apsauga jai sako sustoti?