„Un agent este orice poate fi privit ca percepându-și mediul prin senzori și acționând asupra acelui mediu prin actuatori.”Stuart Russell, Peter Norvig · Artificial Intelligence: A Modern Approach · 1995 · Artificial Intelligence: A Modern Approach, ed. a 4-a (2020), cap. 2 «Intelligent Agents», §2.1 — definiția agentului
Un agent este o buclă percepție–decizie–acțiune, iar gardurile stau la fiecare rotire.
Definiția din manual se traduce exact în ce rulează azi: senzorii sunt contextul (mesajul utilizatorului, fișierele, rezultatele uneltelor), actuatorii sunt apelurile de unelte (caută, rulează cod, trimite un email). Bucla se închide când rezultatul uneltei intră înapoi în context și modelul alege pasul următor. Asta e diferența față de un apel de chat: un apel nu vede consecința propriei acțiuni. Autonomia se măsoară simplu — câte rotiri face bucla fără un om. Un agent e definit de uneltele lui și de regula de oprire, nu de model.
Cardul spune unde să pui gardurile. Pasul următor e altul: cine oprește bucla când nu mai e nimeni în jur? Regula de oprire nu e o simplură de siguranță adăugată la final, ci parte din definiția agentului. Un agent fără criteriu clar de terminare nu e autonom, e doar derulant. Gândește-te la un termostat: nu întreabă pe nimeni când să se oprească din încălzit. Are o condiție, temperatura țintă, și se oprește singur. La fel, un agent care trimite emailuri are nevoie de o condiție verificabilă: mesajul a fost trimis, confirmarea a venit, bucla se închide. Fără asta, fiecare rotire adaugă risc nou, iar greșelile se compun. Întrebarea care se deschide acum: ce se întâmplă când condiția de oprire e ambiguă, iar agentul trebuie să judece singur dacă a terminat?
Când condiția de oprire e ambiguă, agentul trebuie să judece, iar judecata se face pe percepții. Aici apare o capcană: rezultatul unei unelte nu e faptul, e doar raportul unui fapt. Un cod care rulează fără erori nu înseamnă că programul e corect. O căutare care returnează o pagină nu înseamnă că pagina e adevărată. Agentul care tratează percepțiile ca realitate închide bucla pe o iluzie, iar rotirile următoare construiesc pe ea. Gândește-te la un spălător de vase care verifică dacă farfuria e curată privind-o doar dintr-o parte. Bucla lui se închide prea devreme. Agentul bun își pune mereu întrebarea: percepția mea ar putea fi înșelătoare? Dar asta naște o altă problemă: verificarea costă timp și acțiuni, deci cine decide cât de multă verificare merită o singură rotire?
Verificarea costă, deci agentul trebuie să cântărească. Manualul numește asta raționalitate: alegerea acțiunii care maximizează măsura de performanță, nu acțiunea perfectă. Un agent care verifică totul la nesfârșit nu e mai sigur, e paralizat. Unul care nu verifică nimic e iresponsabil. Între ele stă judecata despre cât merită o rotire. Gândește-te la cine cumpără o mașină second-hand: nu angajează un mecanic pentru fiecare șurub, dar nici nu cumpără fără un test drive. Alege două sau trei verificări cu cel mai mare câștig de încredere. La agenți, asta înseamnă să decizi din start ce rotiri sunt ieftine și reversibile, și care sunt scumpe și greu de întors. Verificarea se plasează înaintea pașilor ireversibili, nu după fiecare pas. Dar dacă un pas pare reversibil și nu e? Aceasta e întrebarea care se deschide acum.
De ce contează Cine înțelege că agentul e o buclă știe unde să pună gardurile: la fiecare rotire, nu doar la intrare.