„Cea mai mare lecție care se poate citi din 70 de ani de cercetare în IA este că metodele generale care valorifică puterea de calcul sunt în cele din urmă cele mai eficace, și cu o marjă mare.”Richard S. Sutton · The Bitter Lesson · 2019 · The Bitter Lesson (eseu, 13 martie 2019) — prima frază
Schela unui agent trebuie să fie subțire ca un model mai bun să o îmbunătățească, nu să o spargă.
Argumentul lui Sutton: cunoașterea umană codificată de mână câștigă pe termen scurt, apoi pierde în fața căutării și învățării care scalează cu calculul. Pentru cine construiește agenți, schela groasă — liste rigide de pași, planuri fixe, parsere pentru formularea exactă a modelului — e pariul pe cunoașterea umană, și se rupe la următoarea versiune de model. Mai bine: dai modelului unelte, scopul și constrângerile, verifici ieșirile și ții schela subțire. Unde determinismul contează (conformitate, bani), îl ții în afara modelului, ca flux de lucru, nu înăuntru, ca prompt. Partea „amară”: ingineria de prompt cea mai deșteaptă are o durată de viață de o generație de modele.
Cardul spune ce să nu faci: schelă groasă. Pasul următor e un test practic pentru ce rămâne înăuntru. Întreabă: dacă mâine modelul înțelege mai bine, regula asta îl ajută sau îl încurcă? O listă de pași rigizi îl încurcă, pentru că îi taie drumuri pe care ar fi găsit singuri. O constrângere de siguranță, în schimb, rămâne valabilă oricât de bun ar fi modelul. Gândește-te la un agent care plătește facturi: scopul și limita bugetară țin loc în orice generație de modele, dar scriptul exact de apăsare a butoanelor se strică la prima schimbare de interfață. Deci separi ce e ținta de cum o atingi. Ținta e stabilă; drumul lasă modelului libertatea să-l găsească mai bine. Următoarea întrebare: unde pui exact granița dintre libertate și control?
Pasajul 1 a întrebat unde cade granița. Răspunsul lui Sutton e mai degrabă o direcție decât o linie fixă: pune în afara modelului tot ce trebuie să fie garantat, și lasă înăuntru tot ce poate fi îmbunătățit. Un garant nu e o instrucțiune pe care modelul o interpretează, ci un mecanism care rulează oricum. La agentul care plătește facturi, plafonul de buget nu e scris în prompt, ci verificat de cod înainte ca plata să plece. Modelul poate greși în ce zice; mecanismul nu poate greși în ce oprește. Asta schimbă felul în care scrii promptul: nu mai ceri conformitate, ci doar intenție și raționament, pentru că execuția critică e deja securizată în afară. Pe măsură ce modelele capătă mai mult raționament, tot mai mult din vechiul „cum” poate migra din schelă înăuntru. Întrebarea următoare: ce rămâne de făcut pentru om, când modelul e liber și mecanismul garantează?
De ce contează Modelele se schimbă la 3–6 luni; un agent cu schelă groasă se rescrie de fiecare dată.