Anthropic se lovește de Pentagon în negocierile pentru Claude: compania cere interdicții explicite împotriva supravegherii în masă și a armelor autonome, în timp ce SUA amenință cu excluderea grupului din contractele viitoare

Negocierile dintre Anthropic PBC și Pentagon pentru prelungirea unui contract sunt în impas, din cauza unor condiții suplimentare pe care compania vrea să le impună asupra modului în care poate fi folosit modelul său Claude, potrivit unei persoane familiarizate cu discuțiile, citate de Bloomberg.

Anthropic cere introducerea unor „guardrails”, măsuri care să limiteze utilizarea Claude în două direcții sensibile: supravegherea în masă a cetățenilor americani și dezvoltarea de arme autonome, care ar putea fi desfășurate fără implicarea unui om în decizie. Sursa a solicitat anonimatul, deoarece negocierile sunt private. Pentagonul, în schimb, susține că vrea să poată utiliza Claude atât timp cât implementarea respectă legea. Axios a relatat anterior despre acest dezacord.

Pe măsură ce modelele AI devin mai puternice, crește și riscul ca ele să fie folosite pentru dezvoltarea armelor sau pentru colectarea și analizarea datelor personale. Anthropic se poziționează drept o companie mai precaută, care încearcă să evite efectele „catastrofale” ale tehnologiei și afirmă că dorește să lucreze cu instituțiile guvernamentale în limitele propriilor reguli etice.