The Bitter Lesson

1 fișă

1. 01

   Nu împacheta cunoașterea ta în reguli pe care modelul le va depăși: construiește agentul astfel încât un model mai bun să-l facă mai bun, nu să-l strice.

   The Bitter Lesson · 2019

   Schela unui agent trebuie să fie subțire ca un model mai bun să o îmbunătățească, nu să o spargă.

   Argumentul lui Sutton: cunoașterea umană codificată de mână câștigă pe termen scurt, apoi pierde în fața căutării și învățării care scalează cu calculul. Pentru cine construiește agenți, schela groasă — liste rigide de pași, planuri fixe, parsere pentru formularea exactă a modelului — e pariul pe cunoașterea umană, și se rupe la următoarea versiune de model. Mai bine: dai modelului unelte, scopul și constrângerile, verifici ieșirile și ții schela subțire. Unde determinismul contează (conformitate, bani), îl ții în afara modelului, ca flux de lucru, nu înăuntru, ca prompt. Partea „amară”: ingineria de prompt cea mai deșteaptă are o durată de viață de o generație de modele.

   “Cea mai mare lecție care se poate citi din 70 de ani de cercetare în IA este că metodele generale care valorifică puterea de calcul sunt în cele din urmă cele mai eficace, și cu o marjă mare.”

   Deschide fișa →