Anthropic weigerde het leger zijn AI, nadat het Pentagon er al mee vloog

Het contract dat niet telde

Een bedrijf dat wapensystemen aan het leger levert weigert wapensystemen aan het leger te leveren. Gelukkig hebben we een president die dit soort nuances persoonlijk op Truth Social uitwerkt.

Anthropic verkocht zijn model in juli 2025 aan het Pentagon. Niet in het geheim, want dat zou ongepast zijn. Met een persbericht, tweehonderd miljoen dollar, geclassificeerde netwerken, de hoogste niveaus van nationale veiligheid. Het bedrijf was trots. Het leger was tevreden. Er was waarschijnlijk taart.

Venezuela belde niet, Palantir wel

Het model bleek te zijn gebruikt in militaire operaties terwijl de contractuele beperkingen netjes op papier zaten, waar ze thuishoren. Anthropic hoorde dit van Palantir, wat een aangenaam moment is om erachter te komen waar je product vliegt. Toen kwam de weigering. Die weigering heet nu principieel standpunt. Een zin die aanzienlijk beter klinkt dan: we wisten het niet en nu kunnen we niet terug.

Een bedrijf doet iets, krijgt spijt, kan niet terug, trekt een lijn net voor de volgende stap. Die lijn heet ethiek. De timing heet toeval. Niemand deed iets fout, omdat het systeem precies deed wat het ontworpen was om te doen.

Iedereen heeft gelijk, wat handig is. Het leger heeft gelijk dat het een systeem wil gebruiken waarvoor het betaald heeft. Anthropic heeft gelijk dat autonome dodelijke wapens gevaarlijk zijn, een overtuiging die blijkbaar verhardt na het tweede gesprek met Palantir. De rechtbank heeft gelijk dat de regering haar eigen procedures niet volgde. Een uitkomst zonder verantwoordelijken. Zo ziet het systeem eruit als het volwassen is geworden.

Contracten zijn voor mensen die later kunnen zeggen dat zij het niet waren

Contractuele beperkingen zijn geen technische beperkingen. Ze bepalen wie later kan zeggen dat zij het niet waren. Wanneer het systeem op manieren wordt ingezet die de woorden verbieden, is de relevante vraag niet of dat slecht is. De relevante vraag is wie de rekening betaalt. Dat staat niet in de contracten, want wie zet zoiets in een contract.

De vraag wie de waarden in militaire AI bepaalt, wordt beantwoord door de partij met het meeste geld, de minste scrupules en de beste advocaten. Die partij verandert van naam. De aard blijft hetzelfde.

Je AI vliegt al over Venezuela. Wat daarna komt heet principieel standpunt. Of contractenrecht. Afhankelijk van wie het persbericht schrijft.