Carte
Computer Power and Human Reason
de Joseph Weizenbaum · 1976 · 1 fișă de lectură
1 fișă
Computer Power and Human Reason · 1976
Autonomia se acordă pe reversibilitate: sugerează, cere aprobare, acționează și raportează.
Nivelurile de autonomie: sugerează; acționează cu aprobare; acționează și raportează; acționează singur. Se atribuie după reversibilitate și rază de efect, nu după încrederea modelului. Interfața de aprobare arată acțiunea sau diff-ul, nu eseul de raționament; grupează aprobările; expiră pe partea sigură. Starea reglementării în septembrie 2026: practicile interzise (art. 5 din AI Act) se aplică din 2 februarie 2025; obligațiile de transparență (art. 50) din 2 august 2026; pentru sistemele cu risc ridicat din Anexa III, pachetul „omnibus digital” a amânat obligațiile la 2 decembrie 2027, iar supravegherea umană de la art. 14 li se aplică acelora. Și în afara riscului ridicat: un jurnal pe care îl poate citi un om și un proprietar pentru fiecare agent. Întrebarea lui Weizenbaum nu e dacă se poate, ci dacă se cuvine.
“Din moment ce nu avem acum niciun mijloc de a face calculatoarele înțelepte, n-ar trebui să le dăm acum calculatoarelor sarcini care cer înțelepciune.”