V tem vodniku razložimo temeljna načela in vzorce, ki jih potrebujete, da zanesljive AI agente načrtujete, zgradite in postavite v produkcijo.
Morda se sprašujete, zakaj bi nam verjeli in zaupali.
V zadnjih dveh letih smo zgradili na desetine AI agentov, ob tem pa smo se veliko učili in eksperimentirali z API-ji različnih jezikovnih modelov (LLM).
Poleg tega naša ekipa živi in diha igrifikacijo, zato ti dve močni tehnologiji vedno poskušamo povezati.
V članku bomo pogledali:
- kaj AI agenti sploh so,
- kako jih zgraditi (in širiti) ter
- na kaj morate biti pozorni, ko ustvarjate svoje agente.
Če ste pripravljeni, kar začnimo.
Najprej: kaj AI agent sploh je?
AI agent je v osnovi sistem, ki samostojno opravlja naloge v vašem imenu.
Običajna programska oprema ali robotska avtomatizacija procesov (RPA) delovne procese izvaja pod neposrednim nadzorom uporabnika. Agent pa:
Uporablja velik jezikovni model (LLM), da vodi izvajanje delovnega procesa in sprejema odločitve: ve, kdaj poklicati orodje, kdaj je proces končan in kdaj ob napaki nadzor vrniti uporabniku.
Povezuje se z zunanjimi orodji (API-ji, podatkovne baze, starejši uporabniški vmesniki), da pridobi kontekst ali izvede dejanja.
Deluje znotraj varovalk: z jasnimi navodili in varnostnimi preverjanji ostane v duhu znamke in v okviru svoje naloge.
Kdaj se agenta splača zgraditi?
Verjetno ste nekaj avtomatizacij že uvedli. Če ste jih zgradili s pravili po načelu »če to, potem tisto«, veste, da klasična avtomatizacija v nekaterih primerih trči ob zid.
Tu nastopijo AI agenti.
Pomislite na odločitve v sivem območju, na primer ali je zahtevek za vračilo denarja res upravičen. Sistemi, ki temeljijo na pravilih, jim preprosto niso kos.
Ali pa na nočno moro, ko vzdržujete neskončen nabor starih pravil za varnostne preglede, ki so z vsako novo izjemo bolj krhka.
Da o nestrukturiranih podatkih niti ne govorimo: branje PDF dokumentov, iskanje pomena v prostem besedilu ali daljši pogovor, v katerem je treba obravnavati zavarovalni zahtevek.
Če vaš delovni proces zahteva kompleksno presojo, se šibi pod vse daljšim seznamom pravil ali je odvisen od neurejenih, nestrukturiranih vhodnih podatkov, lahko AI agenti naredijo red. Prilagajajo se in učijo na načine, ki jih statični sistemi ne zmorejo.
Temelji zasnove AI agenta
Preden napišete prvo vrstico kode, morate razumeti štiri temeljne gradnike zanesljivega AI agenta.

1. Možgani
Izberite jezikovni model (LLM), ki na vašem področju razmišlja jasno. Mi začnemo z najzmogljivejšim modelom, ki je na voljo. Običajno je to najnovejši OpenAI GPT‑o4 ali njegova realtime različica. Tako dobimo primerjalno vrednost za »idealne razmere«. Ko procesi delujejo zanesljivo, za posamezne korake preklopimo na manjše, cenejše modele in izmerimo, koliko se kakovost zniža.
2. Pravila
Agentov priročnik za delo je zapisan v sistemskem promptu. Obstoječe standardne operativne postopke (SOP), pravilnike in scenarije klicnega centra prevedemo v jasna navodila po korakih. Vsak korak pomeni bodisi klic orodja bodisi sporočilo uporabniku. Dvoumnosti izginejo, ker robne primere izrecno predvidimo: manjkajoče podatke, nepričakovane jezike, nagajiva vprašanja in podobno.
3. Orodja
API-ji, podatkovne baze, starejši uporabniški vmesniki: to so agentove oči, ušesa in roke. Z dobrim integracijskim slojem model pridobi svež kontekst, posodobi zapise, pošlje e-pošto ali opozori, ko je kaj sumljivo.
4. Varovalke
Tudi najpametnejši model bo haluciniral ali se ujel v neskončno zanko, če mu to dovolite. Zato postavimo ograje:
- Vhodni filtri, ki zavrnejo žaljivo ali napačno oblikovano vsebino.
- Preverjanje namere, ki botu za podporo strankam prepreči izvajanje SQL ukazov.
- Omejitve števila zahtevkov in premori, ki preprečijo preobremenitev API-jev.
- Poti za predajo, po katerih zahtevni primeri pridejo do človeka.
Varovalke ščitijo vaše podatke, vašo blagovno znamko in miren spanec vaše pravne ekipe.
Agent = MOŽGANI (LLM) + PRAVILA (prompti in kontekst) + ORODJA (integracije z zunanjimi aplikacijami in orodji) + VAROVALKE (omejitve in kontrolna preverjanja).
Možgani: prototip z najboljšim modelom, nato optimizacija
Pri modelih je naš pristop »začnite z najboljšim, nato se postopoma spuščajte«.
Prototip vedno zgradimo z najzmogljivejšim modelom, ki je na voljo, da dobimo primerjalno vrednost za zmogljivost.
Šele ko osnovni procesi tečejo gladko, za posamezne naloge uvedemo manjše, hitrejše (in cenejše) modele. Ob tem merimo natančnost glede na vaše cilje in ugotavljamo, kje manjše različice odpovedo.
Tako agentu ne omejite zmogljivosti, še preden dobi priložnost, da se izkaže.

Doslej smo za večino opravil uporabljali orodja podjetja OpenAI, saj ponuja ene najnaprednejših modelov za generiranje in logično sklepanje.
Pri kreativnem in hitrem generiranju besedil smo zelo dobre rezultate dosegli z modeli GPT-o4 in o4-1 mini (pa tudi s starejšimi 3.5, 4 in 4.5).
Realtime API pa je bil najboljša razpoložljiva rešitev, ko smo gradili glasovnega AI agenta v slovenščini (in v več drugih manjših jezikih).
Pravila: kako agentu napisati učinkovita navodila
Jasna, strukturirana navodila (vaš »prompt« oziroma »sistemska rutina«) so ključna, da je napak in nesporazumov manj:
Uporabite obstoječo dokumentacijo (operativne postopke, pravilnike in scenarije) kot osnovo za rutine, ki jih LLM dobro razume.
Razdelite naloge na manjše korake, da bo čim manj blokov, ki združujejo več namenov.
Določite jasna dejanja: vsak korak povežite s klicem orodja ali sporočilom uporabniku.
Predvidite robne primere: manjkajoče podatke ali nepričakovana vprašanja uporabnikov. Zanje dodajte pogojne veje.
Dobro zamejene rutine puščajo manj prostora za napačno razumevanje in prinesejo manj napak med delovanjem.
Orodja: povežite agenta s svojimi informacijami, podatki in znanjem
Integracije AI agentu omogočajo dostop do orodij in aplikacij, v katerih lahko bere in zapisuje informacije.
Integracije so agentove oči in ušesa: iz CRM potegnejo podatke o strankah, preberejo specifikacije v PDF ali na spletu poiščejo sveže informacije.
Povezave z zunanjimi aplikacijami AI agentu omogočajo, da posodablja podatkovne baze, pošilja e-pošto, zahtevke preda naprej ali nalogo prepusti človeku, ko se sproži varnostno preverjanje.
Varovalke: omejitve in varnostna preverjanja agenta.
Varovalke poskrbijo, da vaš AI agent ne uide nadzoru, si ne izmišljuje odgovorov in ne naredi česa čudnega (ali še huje, pravno spornega).
Predstavljajte si tri obrambne sloje:
- Preverjanje vnosa: prečistite zahtevke, odstranite osebne podatke (PII), omejite največjo dolžino.
- Preverjanje namere: preverite, ali je dejanje, ki ga model želi izvesti, na seznamu odobrenih.
- Varovala pri izvajanju: nastavite časovne omejitve, ponovne poskuse in možnost, da nadzor prevzame človek.
Začnemo s širokimi preverjanji zasebnosti in varnosti, agenta objavimo, v produkciji opazujemo napake in nato privijemo posamezne ventile. Cilj je ravnovesje: dovolj varno, da je znamka zaščitena, in dovolj sproščeno, da uporabniška izkušnja ostane tekoča.
Vedno predvidevajte, da se agent lahko vede narobe!
Še posebej, ko je agent povezan z zunanjimi API-ji, morate poskrbeti, da vaših sistemov ne zasuje z zahtevki in da se ne ujame v neskončno zanko, ker se eno od orodij ni pravilno odzvalo.
Varovalke so v tem primeru omejevanje števila zahtevkov, časovni premori ali nadomestna navodila, če orodje odpove.
Dobro zasnovane varovalke vam pomagajo obvladovati tveganja za zasebnost podatkov (npr. uhajanje promptov) in tveganja za ugled (npr. odgovori, ki niso v duhu znamke).
Kako zgraditi varovalke
- Začnite z zasebnostjo podatkov in varnostjo vsebine.
- Dodajajte nova preverjanja na podlagi napak pri robnih primerih iz prakse.
- Uravnotežite varnost in uporabniško izkušnjo ter varovalke prilagajajte, ko se agent razvija.
Vrste agentov
Ko so temelji postavljeni, izberite vzorec orkestracije, ki ustreza zahtevnosti vašega delovnega procesa:
1. Sistemi z enim agentom
En sam agent v zanki izvaja navodila ter uporablja orodja in varovalke, dokler ni izpolnjen izhodni pogoj (npr. končni rezultat, največje število korakov ali napaka). Kdaj ga uporabiti: pri delovnih procesih, kjer lahko en osrednji agent izpelje celoten postopek, ne da bi izgubil nadzor ali kontekst.
2. Sistemi z več agenti
Delovni procesi so razdeljeni med specializirane agente. Pogosta sta dva vzorca:
- Vzorec z vodjo: osrednji agent »vodja« deluje kot dirigent. Posamezne naloge s klici orodij razdeli specializiranim podagentom, nato pa njihove rezultate združi.
- Decentraliziran vzorec: agenti delujejo kot enakovredni sodelavci in si izvajanje predajajo neposredno med seboj, glede na to, kdo je za področje specializiran.
- Kdaj sistem razširiti: ko en sam agent težko obvlada zapleteno logiko (veliko pogojnih vej) ali ima preveč orodij (preveč API-jev, ki se prekrivajo).
Deklarativna orkestracija ali orkestracija v kodi
Deklarativni grafi zahtevajo, da vsako vozlišče (agenta) in povezavo (klic ali predajo) vnaprej določite v namenskem grafu. So vizualno pregledni, pri dinamičnih delovnih procesih pa lahko postanejo okorni.
Pristopi, ki izhajajo iz kode (na primer OpenAI Agents SDK), omogočajo, da logiko delovnega procesa zapišete z znanimi programskimi konstrukti, kot so zanke, pogojni stavki in klici funkcij, ne da bi vnaprej določili celoten graf. Takšna orkestracija je bolj prilagodljiva in jo je lažje vzdrževati.
Povzemimo
AI agenti odpirajo Pandorino skrinjico nove dobe avtomatizacije delovnih procesov.
To so sistemi, ki znajo sklepati tudi v nejasnih situacijah, usklajujejo več orodij in samostojno izvajajo naloge v več korakih.
Kako zgraditi zanesljive agente:
- Postavite trdne temelje: zmogljive modele povežite z dobro opredeljenimi orodji in kristalno jasnimi navodili.
- Izberite pravo orkestracijo: začnite z enim agentom in na vzorce z več agenti preidite šele, ko je to res potrebno.
- Varovalke vgradite v vsako fazo: od filtriranja vnosov do točk, kjer v proces poseže človek.
- Izboljšujte in rastite: začnite z majhnim, preverite z resničnimi uporabniki in zmogljivosti širite postopoma.
S tem praktičnim okvirom boste dobro pripravljeni, da z agenti ustvarite resnično poslovno vrednost: da ne avtomatizirate le posameznih nalog, ampak cele delovne procese, pametno in prilagodljivo.
Če razmišljate o lansiranju AI izdelka, vam naša ekipa z veseljem pomaga z nasveti ali razvojnim znanjem.
Pišite nam in začnimo pogovor o vašem prvem AI orodju.



