olivlaw

Din cărți

Întâi flux de lucru cu pași ficși; agent autonom doar când pașii nu pot fi știuți dinainte.

Erik Schluntz, Barry Zhang · Building effective agents · 2024 · Building effective agents (Anthropic, 19 decembrie 2024) — introducere1 minut de citit
„În mod constant, cele mai reușite implementări folosesc tipare simple, compozabile, mai degrabă decât framework-uri complexe.”Erik Schluntz, Barry Zhang · Building effective agents · 2024 · Building effective agents (Anthropic, 19 decembrie 2024) — introducere

Dacă poți desena diagrama de flux, construiește un flux de lucru, nu un agent.

Textul desparte fluxurile de lucru (model și unelte orchestrate pe căi de cod predefinite) de agenți (modelul își dirijează singur procesul). Cinci tipare de flux: lanț de prompturi, rutare, paralelizare, orchestrator–lucrători, evaluator–optimizator. Regula de decizie: dacă poți desena diagrama de flux, construiește fluxul — e mai ieftin, testabil, previzibil. Treci la agent când numărul de pași e necunoscut și sarcina cere judecata modelului la fiecare pas (programare deschisă, cercetare). Prețul agentului: latență, cost, erori care se compun. Pornește de la cel mai simplu lucru care merge și adaugă autonomie doar când evaluările măsurate spun că fluxul nu ajunge.

Diagrama de flux e mai mult decât un test de eligibilitate: e un angajament de proiectare. Când o poți desena, fiecare decizie a sistemului devine un punct pe hârtie, deci un punct pe care poți pune un semn de verificare. Asta schimbă modul în care depanezi. Dacă un rezultat e greșit, nu întrebi "ce a gândit modelul?", ci "în care cutie a intrat greșit?". Gândește-te la un formular de retur într-un magazin online: dacă produsul e defect mergi pe calea A, dacă doar nu ți-a plăcut pe calea B. Când ceva ratează, știi exact ce ramură să repari. Cu un agent autonom, greșeala poate apărea oriunde într-un lanț pe care nu l-ai desenat niciodată. Deci întrebarea următoare nu e "cât de inteligent e modelul?", ci "îmi pot permite să pierd vizibilitatea asupra deciziilor?".

Pasajul 2: Există o altă graniță, mai subtilă, între flux și agent: costul erorilor. Într-un flux, o eroare se oprește acolo unde e detectată și poate fi reparată local. La un agent, pașii se sprijină unii pe alții, așa că o mică greșeală devreme poate crește la fiecare pas. Imaginează-ți gătitul după o rețetă fixă: dacă pui prea puțină sare, corectezi la pasul următor. Dar dacă improvizezi fără rețetă și te înșeli devreme, fiecare decizie de după construiește pe fundația greșită. De aceea autonomia nu e doar mai scumpă în bani, ci și în fiabilitate. Întrebarea practică devine: cât de repede îmi dau seama, în sistemul meu, că primul pas a fost greșit?

De ce contează Majoritatea „agenților” din producție sunt fluxuri de lucru bine numite; sunt și cele care nu cad.

Un apel demodelLanț deprompturiRutare,paralelizareOrchestrator–lucrătoriAgentautonom
Urcă o treaptă doar când evaluările spun că treapta de jos nu ajunge.
Deschide pe YouTube ↗

Rafturi

← Vezi tot fluxul