„Cum ai răspunde unui consumator de intelligence care întreabă „De unde știi asta?” Cum vei descrie seturile de date și instrumentele folosite pentru a produce rezultatul?”Office of the Director of National Intelligence (ODNI) · Artificial Intelligence Ethics Framework for the Intelligence Community (v1.0) · 2020 · ODNI, «Artificial Intelligence Ethics Framework for the Intelligence Community», v1.0 (iunie 2020), secțiunea «Transparency: Explainability and Interpretability»
Răspunsul la întrebarea „de unde știi?” trebuie să ducă la o sursă citită de un om, nu la model.
În 2020, comunitatea de informații americană a publicat șase principii de etică pentru AI și un cadru de aplicare scris ca listă de întrebări. Principiul dezvoltării centrate pe om cere ca îndrumarea tehnologică să fie temperată de judecata umană; cadrul întreabă cine e omul care răspunde, ce trebuie să știe despre model ca să-i judece fiabilitatea și cum sunt marcate rezultatele produse de AI. ICD 505, semnată pe 17 ianuarie 2025, cere trasabilitatea datelor de la intrările AI la rezultatele derivate și sisteme care le permit analiștilor să respecte ICD 203 și ICD 206, standardele de analiză și de citare a surselor. Planul american de acțiune pentru AI din iulie 2025 a cerut și un standard de asigurare AI sub ICD 505. Aplicat în 2026 unui produs redactat cu un model de limbaj, asta înseamnă: fiecare afirmație factuală duce la o sursă reală, deschisă și citită de un om, nu la răspunsul modelului; citatele și cifrele se verifică la sursă, pentru că modelele inventează referințe plauzibile; probabilitatea și încrederea rămân judecata analistului; ce a produs mașina se marchează. Capcana principală e automation bias: accepți rezultatul unei mașini fluente fără verificarea pe care ai cere-o unui coleg nou. Cadrul o spune direct: erorile mașinii pot diferi de cele umane.
Fluența nu e doar o capcană pentru cititor, ci și pentru autor. Când un model scrie un paragraf coerent, creierul tău îl citește ca pe o dovadă că autorul știe ce spune. Dar coerența e ieftină: modelul o produce indiferent dacă are sau nu surse. Un coleg care scrie frumos, dar inventează o cifră, e prins la verificare. Un model face același lucru, doar mai des și mai sigur de sine. De asta verificarea nu se negociază în funcție de cât de bine sună textul. Un exemplu: un raport cu o statistică despre consumul de energie sună autoritar — dar numărul există doar dacă îl găsești într-o sursă publicată. Deci cum îți setezi rutina ca fluența textului să nu scadă niciodată standardul de verificare?
Pasajul 2: Automation bias e mai subtil decât pare. Nu accepți doar un rezultat fals; accepți și unul adevărat, dar nepotrivit contextului, pentru că mașina a spus-o cu încredere. Cadrul ODNI cere marcarea a ceea ce a produs modelul, exact pentru ca cititorul să știe ce a trecut prin judecată umană și ce nu. Gândește-te la un coleg care îți trimite un paragraf gata redactat, dar nu spune ce a scris el și ce a generat un instrument. Fără marcaj, verificarea ta se oprește acolo unde fluența începe. Așa apare întrebarea practică: unde, în textul tău, ar trebui să înceapă marcajul?
De ce contează Un model scrie fluent și convingător exact acolo unde nu are surse — iar fluența e semnalul pe care cititorii îl confundă cel mai ușor cu adevărul.