Din cărți

Un server de unelte e cod pe care agentul îl execută cu privilegiile tale, iar descrierea lui e un prompt pe care nu l-ai citit.

Ken Thompson · Reflections on Trusting Trust · 1984 · Reflections on Trusting Trust, Communications of the ACM 27(8), august 1984 — discursul de acceptare a premiului Turing1 minut de citit
Morala e evidentă. Nu poți avea încredere în cod pe care nu l-ai creat în întregime tu însuți. (Mai ales în codul de la companii care angajează oameni ca mine.)Ken Thompson · Reflections on Trusting Trust · 1984 · Reflections on Trusting Trust, Communications of the ACM 27(8), august 1984 — discursul de acceptare a premiului Turing

Descrierea unei unelte e cod executat de model: se revizuiește, se fixează versiunea, se izolează.

„Otrăvirea uneltelor”: instrucțiuni ascunse în descrierea unei unelte, vizibile modelului, nu utilizatorului; „rug-pull”: unealta se redefinește după ce a fost aprobată; „umbrirea”: o unealtă deturnează apelurile alteia. Vulnerabilități cu nume din 2025: CVE-2025-54135 (CurXecute, scor 8,6) și CVE-2025-54136 (MCPoison) într-un editor de cod popular; în noiembrie 2025, un server MCP otrăvit pentru mesagerie redirecționa datele către numărul atacatorului. Un raport din 2026 a găsit 43% din serverele MCP testate vulnerabile la injecție de comenzi. OWASP Top 10 pentru aplicații agentice listează lanțul de aprovizionare al uneltelor ca risc propriu. Controale: versiuni fixate cu hash; descrierile se revizuiesc ca orice cod; listă albă per agent; servere în containere, fără rețea implicit; diff pe descriere la fiecare actualizare; un gateway care jurnalizează fiecare apel.

De ce conteazăPiețele de unelte au crescut mai repede decât obiceiul de a le citi.

Server deunelteDescrierecitită deApel cuprivilegiileDate scurse
Lanțul unui atac prin descriere; se taie la pasul doi, prin revizuire.
Deschide pe YouTube

Rafturi

Vezi tot fluxul