SPECIÁL: Anthropic ve válce s Vládou USA #TYDEN ~ 6. března
Anthropic se vzpírá Donaldu Trumpovy a Ministerstvu obrany zatímco OpenAI jde na ruku. Celé je to zajímavé i proto, že využití AI ve valce a proti lidem je letité etické téma.
Extra mimořádné vydání týkající se aktuálního dění okolo využití AI pro válku a šmírování. Nezapomeňte si přihlásit odběr, pokud stále nejste odběrateli. A můžete se stát i platícími. Získáte víc a podpoříte vydávání #TYDEN.
Případně další dění v této kauze se objeví právě v nedělním newsletteru. Tento speciál odchází v pátek ráno.
Aktuální dění coby téma si zaslouží úvod odjinud. Lukáš Sedláček ve velmi zajímavé a informačně bohaté knize Nazí v AI době na několika místech rozebírá etické otázky okolo AI a využití pro válečné účely. Jedna z nejdůležitějších pasáží je v kapitole o morálních teoriích (utilitarismus), neméně zajímavá je teorie “spravedlivé války” a rozhodně ještě otázka AI jako nástroje moc a vlivu na geopolitiku. Jedno z klíčových sdělení v těchto otázka je, že AI může být výpočetně dokonalá, ale etické dilema války není výpočetní úloha – je to hluboce lidské rozhodování.
Celé je to zajímavé právě ve spojení s aktuálním děním, kde Anthropic veřejně odmítá povolit použití Claude pro masové domácí sledování a plně autonomní zbraně a Pentagon/DoD tlačil na uvolnění restrikcí. Včetně hrozby značení Anthropic jako „supply-chain risk“ (což nakonec splnil). Současně konkurenční OpenAI uzavřelo dohodu s DoD a tvrdí, že má „red lines“ a ochrany proti zneužití přesně takové, jaké vlastně chce Anthropic.
Pokud se vrátíme k výše uvedené knize, tak ta jasně říká, že pro velké korporace je dohled nad námi jádrem podnikání, a popisuje „datový kolonialismus“: A přesně v souladu s výše popsaným je tam zminěno i to, že AI posílila asymetrii moci ve prospěch korporací a států a ptá se, jestli vůbec jde „nebýt šmírován“ při normálním životě.
Etické červené čáry jsou luxus systému, který se bojí ztráty legitimity. Režim, který se legitimity nebojí, je mít nepotřebuje.
Dost alarmující je navíc i myšlenka, že vyhlazení superinteligencí (AGI, tu ale nemáme, jen se o ní sní) se jeví jako méně pravděpodobné, než rostoucí kontrola nad námi daná tím, jak s AI nakládají korporace a státy (a i naší pohodlností).
A nutné zmínit je i to, že podobná etická dilemata rozhodně někde v Číně či Rusku mít nebudou a umělou inteligenci využijí (a už i využívají) pro podobné účely. Ať už ty válčené, nebo dohled nad vlastními občany.
Čemuž ostatně nahrává i následující článek: Obavy společnosti Anthropic jsou oprávněné, ale její postoj je netolerovatelný a neodpovídá realitě, kde protivníci USA vyvíjejí autonomní bojové schopnosti. (Stratechery)
Podstatné v médiích
Ministr obrany Pete Hegseth nařídil ministerstvu obrany, aby označilo společnost Anthropic za riziko v dodavatelském řetězci, což zakazuje vojenským dodavatelům obchodovat s touto společností. (SecWar)
Prezident Trump označuje Anthropic za „radikální levicovou, woke společnost“ a říká, že nařizuje každé federální agentuře v USA, aby přestala používat její produkty. (Axios)
Zdroje podrobně popisují, jak se napětí mezi Pentagonem a Anthropic vyostřilo po diskusích o použití Claude během hypotetických jaderných raketových útoků. (Washington Post)
Sam Altman uvedl, že OpenAI dosáhla dohody s ministerstvem obrany (DOD) o nasazení svých modelů v utajované síti DOD a žádá DOD, aby tyto podmínky rozšířilo na všechny AI společnosti. (Sam Altman)
Sam Altman uvedl, že OpenAI sdílí s Anthropic červené linie ohledně využití AI armádou, což je „problém pro celý průmysl“. (Axios)
Více federálních agentur v posledních měsících vyjádřilo obavy o bezpečnost a spolehlivost Groku, než DOD schválil Grok k použití v utajovaných prostředích. (WSJ)
Akce ministra obrany USA Hegsetha a Trumpa proti společnosti Anthropic mají vážné právní problémy a označení překračuje to, co zákon povoluje. (LawFare)
Ministerstvo obrany USA oznámilo, že „oficiálně informovalo vedení Anthropic, že společnost a její produkty jsou považovány za riziko dodavatelského řetězce, s okamžitou platností“. (Bloomberg)
Dario Amodei uvedl, že Anthropic plánuje bojovat proti označení rizika ze strany DOD u soudu, tvrdí, že dopis DOD má „úzký rozsah“ a omlouvá se za uniklou poznámku. (Antropic)
Válečné účely i šmirování
Pentagon použil Claude při svém hlavním leteckém útoku v Íránu, hodiny poté, co Trump prohlásil, že federální vláda ukončí používání nástrojů společnosti Anthropic. (WSJ)
Zdroj popisuje neúspěšné rozhovory mezi Pentagonem a Anthropic: až do konce chtěl Pentagon využít AI od Anthropic k analýze hromadných dat shromážděných o Američanech. (The Atlantic)
Claud uživatele získává, ChatGPT ztrácí
Claude se dostala na #2 v americkém App Store, hodiny poté, co ministerstvo obrany označilo Anthropic za riziko dodavatelského řetězce. V průběhu února se pohybovala mezi #20 a #50. (CNBC)
Anthropic uvedla, že počet aktivních uživatelů Claude zdarma vzrostl o více než 60 % a denní registrace vzrostly čtyřikrát od začátku roku, přičemž pondělí 2. března bylo nejsilnějším dnem vůbec. (Bloomberg)
OpenAI jde na ruku Trumpovi
OpenAI uzavřelo dohodu s americkým Ministerstvem války, což vedlo k mainstreamovému hnutí “Cancel ChatGPT”, zatímco Anthropic odmítlo spolupracovat na masovém sledování amerických občanů. (WindowsCentral)
Sam Altman uvedl, že OpenAI změnilo svou smlouvu s DOD, aby zajistilo, že „AI systém nebude záměrně používán pro domácí sledování amerických osob a občanů“. (FT)
Co udělá OpenAI, když vyjde pravda najevo? Dohoda Sama Altmana s Pentagonem se zdá být příliš dobrá, než aby byla pravdivá. Co se stane, když si to veřejnost uvědomí? (Platformer)
Dario Amodei označil dohodu OpenAI s DOD za „bezpečnostní divadlo“, uvedl, že DOD nemá rádo Anthropic částečně proto, že nedává „chválu ve stylu diktátora Trumpovi“. (The Information)
#TYDEN je e-mailing, který vychází v neděli večer. Jednotlivé “zprávičky” se průběžně částečně objevují na Twitteru @rychlofky, Mastodonu @rychlofky@mastodonczech.cz, Threads @rychlofky a Bluesky @tyden.bsky.social. Od srpna 2022 i občasný podcast (i na Spotify, Apple Podcasts, Google Podcasts, Pocket Casts)
NOVINKA od října 2025: Jak váš produkt či službu dostat do #TYDEN newsletteru
Můžete se stát i předplatiteli za měsíční či roční platbu a případně i podpořit částkou dle vlastního uvážení (od 100 USD za rok). Nedělní newsletter je zdarma i placený, ten je obsažnější a detailnější.