Raport Anthropic o używaniu AI Claude Code przez terrorystów

Informacja od Radka Kobiałko, FB:

"Anthropic ujawnił właśnie dwa przypadki, które jeszcze niedawno brzmiałyby jak scenariusz wojny przyszłości. Mały rosyjski zespół wykorzystywał Claude Code do budowy systemu autonomicznego roju dronów kamikadze, obejmującego koordynację maszyn, wybór zachowania podczas misji, końcowe naprowadzanie i logikę detonacji. W kontrolowanym przez Huti północnym Jemenie użytkownicy próbowali natomiast wykorzystać Claude’a do prac nad rakietami hipersonicznymi i kierowanymi głowicami bojowymi."

Dokładniej od CzataGPT:

/.../ opis Kobiałki jest zasadniczo wierny raportowi. Anthropic pisze o sześciu przypadkach dotyczących broni: trzech chińskich, dwóch rosyjskich i jednym jemeńskim. W przypadku Jemenu wymienia trzy programy: kierowaną rakietę, wielostopniowy pocisk balistyczny o deklarowanym zasięgu ponad 2000 km oraz rodzinę R2000 obejmującą wariant hypersonic glide vehicle.

Rosyjski przypadek również jest rzeczywiście mocny: mały zespół używał Claude Code do oprogramowania autonomicznego roju dronów FPV — w tym terminal guidance, target selection i koordynacji wielu dronów. Wtórne źródło opisujące raport podaje, że kod został nawet załadowany na rzeczywiste płytki sterujące, choć testy samego roju pozostawały symulacyjne.

Komentatorzy u Kobiałki proponują, by Anthropic znając lokalizację tych terrorystów nasłał na nich kontr-AI by ich eradykowała. Ciekawe czasy...