Prea puțină lume știe că, pe 26 septembrie 1983, lumea a fost în pragul cataclismului nuclear. Nu cunoaștem chiar toate detaliile din „cazul Petrov”, dar se pare că sistemul sovietic de alertă anti-rachete nucleare, controlat de computerele aflate în buncărul Serpukhov-15 aflat în afara Moscovei, a „detectat” în mod greșit un atac american cu rachete balistice intercontinentale. După ce computerele au identificat o rachetă, au mai apărut încă cinci, pe care le-a considerat amenințări nuclear.
Pe măsură ce utilizarea inteligenței artificiale s-a extins în aproape toate interacțiunile noastre cotidiene, militarizarea algoritmilor era inevitabilă. În 2021, agenția Națiunilor Unite specializată în zona tehnologiilor comunicării a elaborat un raport cu privire la faptul că tehnologiile avansate sunt tot mai mult utilizate în domeniul sistemelor de arme autonome letale, simplu spus că tot mai multe state cercetează și creează roboți ucigași.
Apariția unor „sisteme de armament autonome și letale” (LAWS), în fond niște „mașini criminale” care folosesc inteligența artificială pentru a identifica și ucide fără intervenție umană, constituie o primejdie îngrozitoare. Unele dintre aceste arme par scoase din filmul Terminator, unde revolta mașinilor inteligente avea loc în 1997.
Pe vremea când era președinte, Trump a lansat American AI Initiative, un proiect prin care toate cercetările în zona inteligenței artificiale urmau să fie coordonate. Generalul de armată Robert Cone, comandantul TRADOC (Training and Doctrine Command), a recunoscut în 2014 că armata americană studiază posibilitatea creării unei armate compuse din roboți și chiar înlocuirea a 25% din soldați cu mașini inteligente.
Fostul Secretar adjunct al Apărării SUA, Robert O. Work, împreună cu Shawn Brimley au redactat un document unde susțineau că armata SUA trebuie să se pregătească pentru războiul din „Era robotică”, în contextul unei „revoluții militare” produsă de noile tehnologii care conduc către sisteme militare autonome. Între 2016 și 2020 doar Statele Unite au investit peste 18 Md$ în aceste noi tipuri de arme „inteligente”.
Și Rusia e implicată în această competiție pentru inteligența artificială (și împotriva inteligenței umane). În 2017 Vladimir Putin a declarat public că inteligenta artificiala reprezenta „viitorul Rusiei și viitorul întregii omeniri” și că aceia care vor ajunge să fie lideri în această zonă, vor fi „conducătorii lumii”. Reprezentatul Ministerului Apărării din Federația Rusă, generalul Gerasimov, a recunoscut de mai mult timp că Rusia face cercetări în zona roboților de luptă, iar producătorii ruși de armament a creat deja roboții Uran-9 și Nerekhta, înarmați cu mitraliere și aruncătoare de grenade. Statele Unite testează diverse vehicule de teren fără operator, cum este M5 Ripsaw creat de Textron Systems, care sunt deja la faza de utilizare în teren. Ca și sistemul robotic Gladiator, considerat primul vehicul terestru tactic fără operator folosit cu scopuri militare, aceste mașinării sunt mici tancuri, înzestrate cu aparatură de supraveghere și cu armament ușor. Acești roboți militari vor evolua în continuare, așa cum s-a întâmplat cu tancul „clasic” care la numai 20 de ani de la prima apariție pe front s-au transformat în cea mai importantă armă din istoria lumii.
Compania israeliană General Robotics a creat un „robot tactic de luptă”, numit DOGO, care este dotat cu un pistol ce poate fi declanșat de la distanță cu ajutorul un program numit „țintește și trage” (point and shoot) ce e utilizat deja în operațiuni militare și anti-teroriste. Firma americană Ghost Robotics a realizat robotul militar numit Vision 60, similar cu varianta „populară” creată de Boston Dynamic, un fel de patruped identificat ca „dronă terestră” și care poate să fie dotat cu o pușcă specială tot fără „pilot”. Robotic Systems Lab din Zürich au dezvoltat un robot similar și se pare că și compania chineză Xiaomi și-a creat propriul Cyberdog.
„Inteligentizarea armamentului” are loc nu doar în cazul armelor terestre, ci și în cazul vehiculelor aeriene. În 2016 cercetătorii de la Universitatea din Cincinnati au anunțat crearea unui program de zbor, numit Alpha, special conceput pentru vehiculele aeriene de luptă fără pilot (Unmanned Combat Aerial Vehicles sau UCAV), antrenat pentru misiuni de luptă aeriană. Când programul a fost folosit în simulatorul de zbor împotriva colonelui (în retragere) Gene Lee, avionul condus de „Alpha” și-a învins adversarul uman.
Deși toată lumea a auzit deja de celebrele drone turcești Bayraktar, Turcia produce și alte tipuri de aparate autonome aeriene, cum este loyal wingman programată să ucidă fără operator uman și care a fost utilizată deja în conflictul din Libia. Turcii experimentează însă și cu tehnologii de tip „roi” (swarm) sau programe de învățare automată (machine learning), „algoritmii roi” fiind construiți după modelul din lumea naturală sunt capabili de adaptare și optimizare inteligentă. Pentru a contracara dronele diverse armate au dezvoltat alte arme autonome, cum este sistemul RB109-A Bylina folosit de ruși în Ucraina și care folosește algoritmii pentru a distruge alte aparate ghidate de alți algoritmi.
După cum arată cartea lui Nik Hynek și Anzhelika Solovyeva (Militarizing Artificial Intelligence: Theory, Technology, And Regulation-Routledge. Taylor & Francis, 2021) riscurile introducerii inteligenței artificiale la nivel militar și a diverselor sisteme de arme autonome letale introduse pe câmpul de luptă ridică multiple întrebări juridice, etice și filozofice. Arsenalizarea algoritmilor (weaponization of AI) a extins utilizarea inteligenței artificiale în sistemele militare dincolo de procesele elementare.
Participarea algoritmilor la luarea deciziilor, la operațiuni cibernetice și chiar la comanda și controlul asupra armamentului nuclear, unele state testând chiar utilizarea de drone înarmate cu arme nucleare, face ca însăși natura războiului să se schimbe, traseu ducându-ne către un tip de „hiper-război” (un război cu instrumente cibernetice).
Sistemele automate pot să facă simulări complexe de luptă, prin care să anticipeze toate posibilele rezultate ale unui conflict militar. Această transformare va schimba întreaga filosofie a războiului, de la distribuirea de resurse la gestionarea operațiunilor specifice războiului, dar mai ales influențarea proceselor decizionale sau derularea unor operațiuni militare conduse de către aceste mașini „gânditoare”.
Marea problemă rămâne aceea că armele dobândesc capacitatea de a identifica și de a decide să atace o țintă umană sau non-umană fără implicare unui om. Există multe inițiative menite să restrângă utilizarea acestor sisteme de armament autonom și care luptă împotriva dezumanizării digitale prin care trec aceste arme. Cea mai importantă este coaliția „Opriți roboții ucigași” (Stop Killer Robots), care a lansat o campanie internațională prin care încearcă să impună o legislație ONU prin care aceste mașinării să fie interzise în toată lumea.
Înainte ca evoluția acestor tehnologii să ne ducă în scenariul din Terminatorul, ar fi bine să împiedicăm această noua cursă a înarmării algoritmice. Din păcate în 2021 reprezentanții Națiunilor Unite, reuniți la Geneva, nu au reușit să ajungă la un consens cu privire la legislația care să împiedice dezvoltarea roboților ucigași, printre țările care s-au opus fiind Statele Unite și Rusia. Astăzi, în războiul din Ucraina, vedem cumplitele efecte ale acestor arme dar și faptul că, datorită succesului înregistrat, ele continuă să prolifereze.
Notă. Articolele profesorului Doru Pop în Jurnalul Bucureştiului
Articole asociate
Nota redacției
Parteneriat Jurnalul Bucureştiului
Lucrări științifice ale autorului publicate sub egida 
