Koniec jadrového odstrašenia? Ako budú vyzerať vojny v období superinteligentných AI

Predstavte si vojnu, v ktorej o živote a smrti vojakov nerozhodujú generáli v bunkroch, ale nepretržite bežiace algoritmy v dátových centrách. Celé bitky sa vymyslia, odohrajú a vyhodnotia ešte skôr, než by človek stihol zodvihnúť telefón. V období rastúcich schopností umelej inteligencie (AI) vojenskí stratégovia čoraz častejšie hovoria o „battlefield singularity“- pojmu, ktorý opisuje okamih, keď sa tempo a komplexnosť bojiska stanú pre ľudský mozog jednoducho neuchopiteľnými a jedinou možnou odpoveďou bude zveriť velenie superinteligentným systémom.

To, čo ešte dnes vyzerá ako sci fi scenár, už však naznačujú konkrétne programy svetových veľmocí v oblasti autonómnych zbraní, dronov so schopnosťou rojenia a umelej inteligencie vo velení. Budú budúce vojny ešte vôbec naše? Alebo už budú predovšetkým vojnami strojov vedúcich boj o svet, ktorému postupne prestávame rozumieť?

Samotný pojem „battlefield singularity“ je odvodený od technologickej singularity. Ide o hypotetický bod, v ktorom schopnosti umelej inteligencie v širokom spektre úloh trvalo prekročia ľudské kognitívne schopnosti a začnú sa samourýchľujúcou spätnou väzbou ďalej zlepšovať. Tento pojem sa objavuje v súvislosti s umelou inteligenciou čoraz častejšie a spomenuli ho dokonca nedávno aj vysokí predstavitelia spoločnosti Google na svojej každoročnej konferencii Google I/O, keď predstavovali nové AI modely Google Gemini. V kontexte vojen ide o stav, keď kľúčové prvky vojenskej moci (prieskum, plánovanie, rozhodovanie, logistika) sú určované a optimalizované superinteligentnými systémami, nie primárne ľudskými veliteľmi.

Aké technológie budú využité v singularitnej vojne?

Rozvoj autonómnych dronov, pozemných robotov a námorných platforiem vedie k stavu bojiska, na ktorom budú veľké počty strojov koordinovane bojovať s minimálnym ľudským zásahom. Dostávame sa do takzvaného tretieho veku dronov. Ten je charakteristický posunom od jednoduchého diaľkového ovládania k vysoko autonómnym rojom, ktoré samostatne identifikujú, prioritizujú a napádajú ciele na základe strojového učenia a zdieľaných dát. Tento posun je vidieť aj vo vojne na Ukrajine, kedy vojaci na zostreľovanie dronov čoraz častejšie používajú interceptory s AI schopnou vyhodnocovať ciele.

Po singularite by tieto systémy neboli len nástrojmi, ale aktívnymi účastníkmi bojiska, ktorých správanie by bolo výsledkom interakcie miliónov algoritmických rozhodnutí v reálnom čase. To by výrazne znížilo predvídateľnosť vojenských operácií a mohlo by viesť k rýchlym, neúmyselným eskaláciám.

V Číne a ďalších mocnostiach sa zdôrazňuje využitie AI na dátovú fúziu, spracovanie spravodajských informácií, simuláciu konfliktov a inteligentnú podporu rozhodovania na operačnej a strategickej úrovni. Čínska PLA napríklad explicitne uvažuje o „singularitnom bojisku“, v ktorej ľudské myslenie nedokáže držať krok s tempom umelou inteligenciou riadených operácií. To môže postupne viesť k úplnému vytesneniu človeka z rozhodovacej slučky.

Skúsenosti izraelských jednotiek ukazujú, že rýchle získanie povedomia o bojisku je už dnes nevyhnutné na zvládanie prostredia, kde protivníci rýchlo inovujú taktiku a technológie. V singularite by sa však tento tlak znásobil: armády by museli neustále adaptovať svoje AI systémy aj organizačné procesy, aby boli schopné čeliť AI poháňaným prekvapeniam protivníka.

AI už teraz výrazne mení kybernetické a informačné operácie – od automatizovaného vyhľadávania zraniteľností, cez generovanie sofistikovaných phishingových kampaní, až po masové vytváranie dezinformácií a deepfake materiálov. V budúcich konfliktoch môžu AI systémy v reálnom čase útočiť na nepriateľské dátové súbory, simulovať falošné senzorové dáta či manipulovať rozhodovaním protivníkovej AI tak, aby robila chybné závery.

V prostredí technologickej singularity by sa kritickým cieľom stalo narušenie kognitívnej koherencie nepriateľa. Teda rozbitie súladu medzi jeho senzorickým, dátovým a rozhodovacím priestorom skôr, než dôjde k fyzickej likvidácii síl. Išlo by o úplné rozmazanie hranice medzi mierom a vojnou.

Hypervojny ako budúca realita

AI umožní výrazné zrýchlenie OODA slučky (pozorovanie – > získanie povedomia -> rozhodnutie –> akcia), čo môže viesť k tzv. „hypervojne“. V nej rozhodnutia a protiopatrenia prebiehajú v milisekundových intervaloch. V takom prostredí sa klasické hierarchické velenie stáva prekážkou a nahrádza ho distribuovaná sieť agentov, ľudských aj digitálnych, s vysokou mierou autonómie.

Konflikt sa zároveň stane globálne rozptýleným: kybernetické útoky, orbitálne systémy, autonómne podmorské drony a rojové útoky na kritickú infraštruktúru môžu prebiehať paralelne, mimo tradičných bojísk. To komplikuje určenie začiatku vojny a aj identifikáciu agresora.

S rastúcou komplexnosťou bojiska stúpa tlak na delegovanie čoraz väčšej časti rozhodovania na AI – najprv v podobe odporúčaní, neskôr autonómnych rozhodnutí v časovo kritických situáciách. Jedným z možných ciest, akými sa bude ďalej vojenstvo uberať, je koncept “human machine teaming”. Ten hovorí o prechodnej fáze, v ktorej ľudia a AI pôsobia ako partneri: AI analyzuje masívne dátové toky a navrhuje riešenia, človek stanovuje ciele, obmedzenia a má posledné slovo.

V singularite však môže vzniknúť tlak na vyňatie človeka zo spomínanej rozhodovacej slučky, aby sa zachovala rýchlosť a efektivita systému, najmä ak protivník už taký krok urobil. Vytvárajú sa tak nové medzery v zodpovednosti: ak autonómny systém spôsobí masívne civilné obete, nie je zrejmé, či je právne zodpovedný vývojár, veliteľ, politické vedenie, alebo samotný algoritmus. Ten však nie je subjektom práva.

AI a komerčne dostupné technológie (lacné drony, výpočtový výkon, open source modely) môžu dramaticky znížiť prah pre získanie vysoko účinných útočných schopností aj pre menšie štáty či neštátnych aktérov. Teroristické skupiny alebo rebelské hnutia môžu využívať AI na navádzanie rojových útokov, kybernetickú sabotáž kritickej infraštruktúry či využívať bioinžinierstvo.

Takáto demokratizácia superzbraní môže oslabiť tradičný odstrašujúci účinok jadrových zbraní a posilniť motiváciu pre preventívne údery na dátové centrá, satelitné siete či kľúčovú AI infraštruktúru protivníka. Výsledkom môže byť nestabilné prostredie s vysokým rizikom nesprávnych kalkulácií a rýchlej eskalácie z lokálnych incidentov do globálnych kríz.

Etické dôsledky singularitnej vojny

Delegovanie rozhodnutí o použití smrtiacej sily na stroje je už dlhší čas jadrom etických debát o autonómnych zbraniach. Kritici argumentujú, že stroje nemajú empatiu ani schopnosť porozumieť hodnotám, a preto nemôžu robiť etické rozhodnutia v komplexných, kontextovo bohatých situáciách, aké prináša bojisko.

Zástancovia naopak tvrdia, že dobre navrhnuté autonómne systémy môžu v princípe presnejšie rozlišovať medzi bojovníkmi a civilistami, byť menej podliehajúce emóciám a odvete a znižovať kolaterálne škody. V prostredí technologickej singularity by sa však tieto spory mohli vyostriť: superinteligentné systémy by mohli navrhovať nečakané, neintuitívne stratégie, ktoré síce maximalizujú vojenskú efektivitu, ale sú morálne neakceptovateľné z ľudského hľadiska. Umelá inteligencia je totiž naučená konať čo najefektívnejšie a rozmer ľudskosti alebo vlastná empatia jej zatiaľ chýba.

Debata o AI a budúcich bojiskách je zároveň debatou o geopolitických predstavách – o tom, aký svet veľmoci považujú za pravdepodobný a žiaduci. Diskurz v európskych bezpečnostných kruhoch ukazuje, že vnímanie technologickej budúcnosti legitimizuje investície do konkrétnych typov zbraní a doktrín.

Ak niektorí aktéri uveria, že singularitná vojna je nevyhnutná a že víťaz berie všetko, môžu odmietnuť medzinárodné obmedzenia ako strategickú slabosť a usilovať sa o jednostrannú technologickú dominanciu.

Schopnosť prispôsobiť sa bude kľúčová

Jedným z kľúčových faktorov pre úspech v prostredí rýchlych technologických zmien bude schopnosť ozbrojených síl rýchlo sa učiť, inovovať doktríny a prispôsobovať organizačné štruktúry. V singularitnom prostredí by armády mali prehĺbiť kultúru experimentovania, rozvíjať jednotky pre multidoménové operácie a investovať do vzdelávania veliteľov v oblasti AI a systémového myslenia.

Rovnako dôležité sú mäkké faktory – dôvera v AI, psychologická pripravenosť pracovať s neintuitívnymi odporúčaniami algoritmov a schopnosť udržiavať kritické myslenie aj v podmienkach informačného preťaženia. Bez toho hrozí, že ľudia buď mechanicky preberú rozhodnutia AI, alebo ich naopak iracionálne odmietnu, čo povedie k zlyhaniam v krízových situáciách.

Popri rozvoji útočných AI schopností je nevyhnutné súbežne budovať protiváhy: robustné kybernetické zabezpečenie systémov, schopnosť detegovať a odolávať dátovej manipulácii, ako aj disponovať nástrojmi na oslepenie alebo zmätenie protivníkovej AI. Niektorí teoretici navrhujú cielené vzdelávacie operácie na začiatku konfliktu, ktoré by testovali správanie protivníkovej AI a identifikovali jeho slabiny pre ďalšie pôsobenie.

Doktrinálne možno uvažovať o povinných „kill switch“ mechanizmoch a viacúrovňových autorizáciách pre kritické AI rozhodnutia. Tieto prístupy môžu znížiť riziko nekontrolovanej eskalácie.

Blížime sa každopádne k posunu od klasickej predstavy vojny riadenej relatívne pomalými, ľudskými rozhodnutiami k realite, v ktorej dominujú rýchle, nelineárne a často neintuitívne interakcie AI systémov v prepojených fyzických a informačných komplexoch. Tento posun ľudstvu sľubuje zvýšenie efektivity a presnosti vojenských operácií, ale zároveň prináša obrovské riziká pre stabilitu, etiku a právny poriadok medzinárodného spoločenstva.

Budúce vedenie vojen tak bude závisieť nielen od technického zvládnutia AI a autonómnych zbraní, ale aj od schopnosti spoločnosti vytvoriť robustné normy, inštitúcie a kultúrne vzorce, ktoré dokážu udržať moc nad technológiou v ľudských rukách. V opačnom prípade hrozí, že sa singularita stane bodom nárastu násilia v škále a rýchlosti, ktorú si dnes len ťažko dokážeme predstaviť.

Autor: Alec Borový

Článok vyjadruje názor autora a nemusí sa zhodovať s názorom redakcie