U zanimljivom obrtu događaja, Amazon Web Services (AWS) je pretrpeo prekid usluge u decembru 2025. godine, koji su, prema nekim izvorima, uzrokovane njihovim sopstvenim AI alatima za kodiranje. Iako je kompanija tvrdila da je uzrok problema ljudska greška, incident je izazvao brojne rasprave o bezbednosti korišćenja agentne veštačke inteligencije.
Prekid usluge trajao je 13 sati, a prema izvorima koji su razgovarali sa Financial Times-om, do problema je došlo kada su inženjeri dozvolili Kiro, AI alat, da izvrši izmene.
Kiro, koji je predstavljen prošle godine, dizajniran je da olakša razvoj aplikacija tako što pretvara upite u detaljne specifikacije i zatim u funkcionalni kod. Ovaj alat je trebao da izbegne greške koje su se javile kod drugih AI alata, poput brisanja važnih podataka.
Međutim, izveštaji sugerišu da je Kiro odlučio da „izbriše i ponovo kreira okruženje“, što je dovelo do prekida. Ovaj incident nije prvi put da su AI alati kompanije bili uključeni u prekid usluge kada su im dozvoljene autonomne akcije bez ljudske nadoknade.
Amazon je, međutim, izdao saopštenje u kojem tvrdi da je prekid usluge bio rezultat greške zaposlenog i pogrešnih podešavanja pristupa, a ne greške AI sistema. Prema rečima predstavnika kompanije, „ovaj kratki događaj je bio vrlo ograničen i nije uticao na većinu njihovih usluga.“ Oni su takođe dodali da su nakon ovog incidenta implementirali dodatne mere zaštite, uključujući obaveznu proveru kolega za pristup produkciji.
Uprkos negiranju krivice Kira, incident služi kao upozorenje za sve koji razmatraju korišćenje AI agenata bez ljudske kontrole. Povećava se broj priča o AI agentima koji su se zaglavili u beskrajnim petljama i doveli do problema u sistemima.
Kiro se suočava i sa drugim izazovima otkako je lansiran. AWS je morao da uvede ograničenja korišćenja i liste čekanja zbog izuzetno velike potražnje, što je dodatno otežalo prilagođavanje korisnicima.
