Autor
Office of the Director of National Intelligence (ODNI)
2 fișe de lectură din 2 cărți · 2015–2020.
2 fișe
Intelligence Community Directive 203: Analytic Standards · 2015
O evaluare poate fi corectă în fiecare frază și totuși falsă dacă a fost croită pentru o politică.
Directiva 203 a comunității de informații a SUA stabilește cinci standarde pentru orice produs analitic: să fie obiectiv, independent de considerente politice, oportun, bazat pe toate sursele disponibile și să aplice cele nouă standarde de tradecraft (meșteșug analitic). Textul publicat de ODNI este cel semnat la 2 ianuarie 2015, cu un amendament tehnic din 2022 care privește în principal rolul ombudsmanului analitic, nu standardele. Obiectivitatea înseamnă mai mult decât „fără părtinire”: analistul trebuie să-și cunoască propriile ipoteze, să folosească tehnici care scot la iveală biasul, să ia în calcul informația contrară și să nu rămână legat de judecăți anterioare când faptele s-au schimbat. Aplicarea e o listă de verificare înainte de publicare: am cântărit perspectivele alternative? Ajunge evaluarea la decident înainte de decizie? Am folosit și surse care nu-mi convin? Am spus cât de sigur sunt și de ce? Standardele se potrivesc oriunde se scrie o evaluare pentru cineva care decide — minister, bancă sau redacție. Capcana tipică nu e minciuna, ci croirea: o evaluare scrisă ca să placă unui public, unei agende sau unei politici. De aceea textul interzice ambele verbe — nici distorsionată de pledoarie, nici modelată pentru ea.
“Evaluările analitice nu trebuie să fie distorsionate de pledoaria pentru un anumit public, o anumită agendă sau un anumit punct de vedere politic și nici croite pentru ea. Judecățile analitice nu trebuie să fie influențate de forța preferinței pentru o anumită politică.”
Artificial Intelligence Ethics Framework for the Intelligence Community (v1.0) · 2020
Răspunsul la întrebarea „de unde știi?” trebuie să ducă la o sursă citită de un om, nu la model.
În 2020, comunitatea de informații americană a publicat șase principii de etică pentru AI și un cadru de aplicare scris ca listă de întrebări. Principiul dezvoltării centrate pe om cere ca îndrumarea tehnologică să fie temperată de judecata umană; cadrul întreabă cine e omul care răspunde, ce trebuie să știe despre model ca să-i judece fiabilitatea și cum sunt marcate rezultatele produse de AI. ICD 505, semnată pe 17 ianuarie 2025, cere trasabilitatea datelor de la intrările AI la rezultatele derivate și sisteme care le permit analiștilor să respecte ICD 203 și ICD 206, standardele de analiză și de citare a surselor. Planul american de acțiune pentru AI din iulie 2025 a cerut și un standard de asigurare AI sub ICD 505. Aplicat în 2026 unui produs redactat cu un model de limbaj, asta înseamnă: fiecare afirmație factuală duce la o sursă reală, deschisă și citită de un om, nu la răspunsul modelului; citatele și cifrele se verifică la sursă, pentru că modelele inventează referințe plauzibile; probabilitatea și încrederea rămân judecata analistului; ce a produs mașina se marchează. Capcana principală e automation bias: accepți rezultatul unei mașini fluente fără verificarea pe care ai cere-o unui coleg nou. Cadrul o spune direct: erorile mașinii pot diferi de cele umane.
“Cum ai răspunde unui consumator de intelligence care întreabă „De unde știi asta?” Cum vei descrie seturile de date și instrumentele folosite pentru a produce rezultatul?”