Egyszerre pikáns és aggasztó, amikor az amerikai hadügy összebalhézik a világ egyik legjobb technológiai vállalatával azon, hogy pontosan mire használhatja annak mesterséges intelligenciáját. A Pentagon az Anthropicot akarta megbüntetni a korlátozások miatt, amelyeket a vállalat az autonóm fegyverek és a megfigyelés területén vezetett be. A bíróság szerint azonban túl messzire ment. 1-0 Dávidnak Góliáttal szemben.
Hónapok óta tart az Anthropic és a Pentagon jogi csatája a bíróságon. A küzdelem újabb fordulójában a kaliforniai szövetségi bíróság az AI-cégnek adott igazat.
A Trump-kormányzat megpróbálta szankcionálni a Claude fejlesztőjét, amiért korlátozásokat vezetett be arra vonatkozóan, hogyan és meddig használható mesterséges intelligenciája a hadviselésben, illetve a nemzetbiztonsági akciókban. A bírósági ítélet szerint a hadügyminisztérium jogellenesen járt el, amikor az Anthropicot ellátási láncot fenyegető nemzetbiztonsági kockázattá minősítette, sőt szimpla megtorlásként jellemezte azt. A bíró még egy figyelmeztetést is küldött a Fehér Háznak: „a nemzetbiztonságra való üres hivatkozás nem lehet biankó csekk a kormányzati döntésekhez kritikusan állók megbüntetésére”.
Az ítélet komoly győzelem az Anthropic számára, a vállalat azonban továbbra is jogi küzdelmet folytat a kormányzattal. Amellett, hogy Trumpék fellebbezhetnek, az ügy egy másik szála a washingtoni fellebbviteli bíróság előtt van, amely áprilisban már elutasította a cég kérelmét, hogy függesszék fel a nemzetbiztonsági kockázati minősítést. A jelenlegi ítélet azonban mégis azt jelenti, hogy a hadügyi tárcán kívüli amerikai kormányszervek továbbra is használhatják az Anthropic termékeit. Teszik is, boldogan.
Dávid és Góliát: robotok parittyája
A bírósági ügy február végén kezdődött: az Anthropic példátlannak és jogellenesnek nevezte az amerikai hadügyminisztérium lépését, amiért az a céget „nemzetbiztonsági kockázatok” miatt feketelistára tette. Hogy felháborodásának nyomatékot adjon, be is perelte a Pentagont, vele együtt Pete Hegseth hadügyminisztert, valamint számos kormányzati ügynökséget. Az alkotmány „nem teszi lehetővé a kormány számára, hogy a hatalmát gyakorolva megbüntessen egy vállalatot annak szabadságfelfogása és elvei miatt” – állt az Anthropic beadványában.
Az Anthropic termékét, a Claude-ot az egész kormányzatban kiemelkedőre értékelték a gyorsasága, a megbízhatósága és a tanulási képessége alapján. A fordulópontot az jelentette, amikor a Fehér Ház a modellt egyre inkább nemzetbiztonsági és hadászati projektekbe akarta integrálni. A vállalat vezérigazgatója, Dario Amodei ekkor két vörös vonalat jelölt ki:
nem adja a Claude-ot amerikai állampolgárok tömeges megfigyeléséhez, illetve teljesen autonóm, az emberi tényezőt akár figyelmen kívül is hagyható fegyverrendszerek fejlesztéséhez.
Pete Hegseth válasza nem késett sokáig, pontos határidőt jelölt meg a vállalat számára, hogy ha addig nem hajlandó aláírni a szerződést, amelyben engedélyezi a Claude „törvényességi kereteken belüli” bármilyen felhasználását a hadsereg számára, a lehető legsúlyosabb következményekkel kell számolnia. Miután Amodei hajthatatlannak bizonyult, ezek a következmények február 27-én életbe is léptek. A védelmi miniszter az ellátási lánc kockázati tényezőjévé nyilvánította a vállalatot, ami azért is szokatlan lépés, mert ezt (nemzetbiztonsági okokra hivatkozva) eddig jellemzően külföldi beszállítókra, például a kínai Huaweire alkalmazták. Hegseth elrendelte azt is, hogy minden védelmi beszállító, alvállalkozó és partner szakítsa meg a kereskedelmi kapcsolatot az Anthropickal. A Claude lecserélésére hat hónapos türelmi időt adott az érintett vállalatoknak. Ugyanezt azt utasítást Trump elnök is kiadta a teljes kormányzati területnek, vagyis az Anthropic-fejlesztéseknek még az írmagját is ki akarták gyomlálni az adminisztráció valamennyi szegmenséből.
Az utasítást a Pentagon saját magára nézve értelmezte a legtágabban: az Irán elleni első támadási hullámot éppen a Claude segítségével vezényelte le.
A kockázati tényezővé minősítés elméletileg elvágná az Anthropicot a kormányzati területtől, egyben brutálisan csökkentené a vállalat értékét. Egységes elemzői (és immár hivatalos bírósági) vélemények szerint a Pentagonnak jogában állt ugyan szerződést bontani a vállalattal, de nem volt törvényi felhatalmazása arra, hogy megpróbálja tönkretenni is a céget – márpedig a feketelistázás arra utal, hogy a kormányzat szándéka éppen ez volt.
Vörös vonalak
Az Anthropic vezetése továbbra sem hátrál meg. Dario Amodei ragaszkodik hozzá, hogy a cég etikai okokból nem fogja eltávolítani a korlátozásokat. Bár elismerte, hogy a mesterséges intelligencia hasznos lehet hírszerzési vagy védelmi műveletek támogatásában, de szerinte bizonyos alkalmazásai – különösen a teljesen autonóm fegyverrendszerek és a tömeges belföldi megfigyelés tekintetében – olyan kockázatokat hordoznak, amelyek jelenleg túlmutatnak a technológia biztonságos használatának a határain. A vezérigazgató szerint az MI által vezérelt megfigyelési infrastruktúra új típusú veszélyt jelenthet a demokratikus szabadságjogokra, különösen egy olyan környezetben, ahol a jogi szabályozás még nem követte a technológiai fejlődést.
Az ügy gyorsan felszínre hozta a technológiai ipar és az állam közötti hatalmi viszony alapvető kérdését:
ki határozza meg egy stratégiai technológia felhasználásának határait, illetve milyen mozgástere marad egy magánvállalatnak, amikor a rendszerei a nemzetbiztonsági infrastruktúra részévé válnak?
A bírósági döntésnek köszönhetően most kaptunk egy előzetes választ: az amerikai kormány Pentagonon kívüli szervei továbbra is használhatják az Anthropic termékeit, vagyis a korlátozás csak és kizárólag a bumeráng-hatást kiváltó zsarolást elkezdő hadügyminisztériumra vonatkozik. Több szövetségi ügynökség már teszteli is a vállalat nagy teljesítményű Mythos modelljét, amelyet (némileg paradox elégtétellel) éppen kiberbiztonsági és nemzetbiztonsági kockázatok elemzésére alkalmaznak.
Az Anthropic üdvözölte a kaliforniai bíróság döntését. Közölte, hogy továbbra is konstruktívan kíván együttműködni az amerikai kormánnyal annak érdekében, hogy a mesterséges intelligenciát a nemzetbiztonság szolgálatába állítsák, és annak előnyeiből az amerikai társadalom egésze részesüljön. De a szigorú feltételekből a továbbiakban sem engednek.
Az MI-vállalat és a Pentagon konfliktusa egy új technológiai korszak első nyílt hatalmi csatája, amely rávilágított, milyen gyorsan válhat egy kutatólabor terméke geopolitikai eszközzé. A mesterséges intelligencia fejlesztői még ma is vitatkoznak a technológia szabályozásáról és arról, milyen etikai elvek mentén kellene működtetni – és hogy ki dönthet a felhasználásáról. A történelem azt bizonyítja (lásd atombomba), hogy amikor egy technológia stratégiai jelentőségűvé válik, a döntések soha nem maradnak az azt kidolgozó mérnökök és kutatók kezében, hanem – einstandolva – már kizárólagosan a politikai hatalom szintjén születnek meg. Az Anthropic ennek az elméletnek üzent hadat. És egyelőre nagyon is nyerésre áll a csatában.
***
