„Firul roșu” al inteligenței artificiale: scandalul Anthropic–Pentagon între etică, lege și logica războiului

Abstract

Conflictul dintre compania Anthropic și Departamentul Apărării al Statelor Unite, declanșat în urma desemnării furnizorului de AI drept „supply-chain risk”, reprezintă un caz paradigmatic pentru tensiunile emergente dintre guvernanța corporativă a inteligenței artificiale și logica suveranității statale în domeniul securității naționale. Articolul analizează această dispută dintr-o perspectivă interdisciplinară – juridică, instituțională și tehnico-epistemologică – argumentând că miza reală depășește un simplu conflict contractual și privește stabilirea limitelor normative ale utilizării AI în contexte militare.

Pornind de la politica Responsible Scaling Policy (RSP) promovată de Anthropic, studiul examinează tentativa companiei de a impune restricții privind armele complet autonome și supravegherea domestică, interpretate drept un „fir roșu” etic într-un domeniu caracterizat de accelerare tehnologică și incertitudine normativă. În contrapondere, reacția Pentagonului este analizată prin prisma a trei imperative structurale: suveranitatea operațională, continuitatea furnizării și standardizarea ecosistemului tehnologic. Din această perspectivă, eticheta de „supply-chain risk” apare nu doar ca instrument de securitate tehnică, ci și ca pârghie de guvernanță instituțională menită să limiteze veto-ul privat asupra utilizărilor considerate legale și strategice.

Articolul acordă o atenție specială dimensiunii tehnice a problemei, evidențiind caracterul probabilistic al modelelor lingvistice de mari dimensiuni (LLM) și implicațiile acestuia pentru medii de mare miză. Riscurile de tip halucinație, eroare rară (tail risk) și „accountability gap” sunt discutate în raport cu tradiția juridică a responsabilității în dreptul conflictelor armate și cu principiul human in the loop, interpretat nu ca simplu slogan, ci ca arhitectură morală și juridică menită să prevină diluarea răspunderii în sisteme autonome.

Prin comparație cu precedentul Project Maven, analiza sugerează că actuala dispută reflectă maturizarea unei relații tensionate între industria tehnologică și statul securitar. Concluzia centrală este că nici legalitatea formală, nici autoreglementarea corporativă nu sunt suficiente pentru a stabili un cadru stabil al utilizării AI militare. Este necesară o ordine normativă care să integreze responsabilitatea democratică, transparența proporțională cu riscul și standarde tehnice robuste, evitând atât fragmentarea prin veto corporativ, cât și concentrarea necontrolată a puterii tehnologice în mâinile statului.