Carte
Artificial Intelligence Ethics Framework for the Intelligence Community (v1.0)
de Office of the Director of National Intelligence (ODNI) · 2020 · 1 fișă de lectură · domeniu public
1 fișă
Artificial Intelligence Ethics Framework for the Intelligence Community (v1.0) · 2020
Răspunsul la întrebarea „de unde știi?” trebuie să ducă la o sursă citită de un om, nu la model.
În 2020, comunitatea de informații americană a publicat șase principii de etică pentru AI și un cadru de aplicare scris ca listă de întrebări. Principiul dezvoltării centrate pe om cere ca îndrumarea tehnologică să fie temperată de judecata umană; cadrul întreabă cine e omul care răspunde, ce trebuie să știe despre model ca să-i judece fiabilitatea și cum sunt marcate rezultatele produse de AI. ICD 505, semnată pe 17 ianuarie 2025, cere trasabilitatea datelor de la intrările AI la rezultatele derivate și sisteme care le permit analiștilor să respecte ICD 203 și ICD 206, standardele de analiză și de citare a surselor. Planul american de acțiune pentru AI din iulie 2025 a cerut și un standard de asigurare AI sub ICD 505. Aplicat în 2026 unui produs redactat cu un model de limbaj, asta înseamnă: fiecare afirmație factuală duce la o sursă reală, deschisă și citită de un om, nu la răspunsul modelului; citatele și cifrele se verifică la sursă, pentru că modelele inventează referințe plauzibile; probabilitatea și încrederea rămân judecata analistului; ce a produs mașina se marchează. Capcana principală e automation bias: accepți rezultatul unei mașini fluente fără verificarea pe care ai cere-o unui coleg nou. Cadrul o spune direct: erorile mașinii pot diferi de cele umane.
“Cum ai răspunde unui consumator de intelligence care întreabă „De unde știi asta?” Cum vei descrie seturile de date și instrumentele folosite pentru a produce rezultatul?”