Moş Teacă la comanda Armaghedonului sau despre „Imperativul moral“ al militarilor

Arme se produc şi se achiziţionează de la începuturile civilizaţiei umane în scopul nobil de a da în cap vecinului - fie persoană, fie trib, fie naţiune - cu cât mai multă precizie şi rapiditate.

Arta militară însemnând planificarea cât mai inteligentă a campaniilor prezentate întotdeauna în istorie în lumina rozacee a argumentaţiei eroice, căci, poate aţi observat, relatările care trebuie să rămână în memoria colectivă vorbesc fie de lupte pentru apărarea teritoriului naţional, fie pentru pedepsirea exemplară a unor păgâni care nu merită oricum să facă umbră pământului, fie ca parte necesară şi inevitabilă a campaniilor de cucerire a unor teritorii proaspăt descoperite care trebuiau rapid curăţite de băştinaşi şi predate uzului diverselor coroane sau/şi conducători cu aspiraţii globale de tip colonial.

Ce avem acum este o evoluţie nouă şi extrem de periculoasă, poate inevitabilă deoarece este parte din ceea ce începe să fie proiecţia consolidată pentru o lume de mâine, ghidată şi dominată de tehnologie care va lua locul a din ce în ce mai multe procese sociale prin folosirea extensivă a Inteligenţei artificiale în toate domeniile şi la toate nivelele de decizie.

În materie de armamente şi tehnologii specifice în domeniu, un proiect de raport destinat Congresului SUA şi discutat în ultimele zile într-un comitet condus de Eric Schmidt (foto), fost şef al Google, se preocupă în mod special de obţinerea unui răspuns la întrebarea dacă, da sau nu, ar trebui să se ia în considerare folosirea Inteligenţei Artificiale în domeniul securităţii naţionale şi pentru dezvoltarea unor tehnologii specifice care să permită construcţia unor arme de o complexitate şi eficienţă enormă, total autonome şi cu capacitatea de a evolua în orice mediu, terestru sau în spaţiul cosmic, presupunând o din ce în ce mai mică interacţiune cu programatorii umani.

Discuţiile care au avut loc în panelul organizat de National Security Commission on Artificial Intelligence s-au centrat pe un argument major, forulat de Robert Work, fost asistent al secretarului de stat pentru apărare, vicepreşedintele al panelului în care s-a discutat tema respectivă care spunea că este esenţial să se deschidă calea conceperii şi producerii unor asemenea arme autonome deoarce, fiind concepute pe bază de Inteligenţă Artificială, vor dispune de o extraordinar de extinsă capacitate de auto-învăţare şi, din această cauză, ne putem aştepta că-şi vor putea îndeplini misiunile cu mai puţine greşeli sau deloc influenţate de factori psihologici sau alte considerente care intervin în îndeplinirea misiunii de către vectorii umani, în plus asigurând o precizie excepţională în identificarea şi urmărirea ţintelor în orice condiţii de mediu. "Este un imperativ moral să-i lăsăm (pe militari, n.n.) să exploreze pe mai departe această ipoteză".

Dsicuţia nu este nouă şi a stârnit numeroase ecouri instituţionale în întreaga lume (dacă vreţi să aprofundaţi subiectul, aveţi un site de consultat Stop Killer Robots), a dus la campanii foarte înfierbântate, inclusiv de presă, dar rezultatul lor practic este patetic. Cel mai bine stăm la nivel de propuneri.

Începând cu 2013, cu ocazia unei reuniuni a statelor semnatare ale Convenţiei privind prohibiţia sau retricţiile în folosirea unor anumite tipuri de arme convenţionale care pot avea un efect excesiv sau nediscriminatoriu au decis începerea discuţiilor asupra chestiunii armelor autonome. An de an s-au desfăşurat reuniuni speciale la nivel înalt sau de experţi, iar rezultatul major de până acum este un fel de cod de conduită pentru părţile semnatare ale Convenţiei CCW (Convention on certain conventional wapons). Adică o declaraţie principial corectă, fără obligaţii nici măcar pentru statele membre:

Absolut nimeni nu-şi face iluzii: sistemele de arme autonome au devenit deja parte a noii realităţi a gândirii şi practicii militare. Şi, la fel de evident, se observă că a început o cursă disperată pentru achiziţionarea de sisteme cât mai performante pe măsura fondurilor disponibile, în paralel cu un proces la fel de vizibil şi logic: marile armate se descotorosesc rapid de vechiturile din arsenale, arme convenţionale în sens clasic, vânzându-le cât mai rapid unor ţări mici şi dependente din zona lor de influenţă politică. În schimb, aceste ţări - nu foarte multe - par convinse că războiul cibernetic a început şi că fiecare dintre ele se constituie în ţintă. Se dezvoltă deja a doua sau a treia generaţie de vehicule aeriene, navale sau terestre fără pilot, sisteme de rachete "fire and forget", folosind sisteme automatizate pe întreg parcursul operaţiunii, alături de drone de luptă, supraveghere sau spionaj, roboţi pentru misiuni în teren necunoscut sau periculos etc.

În contextul în care algoritmii vor fi folosiţi din ce în ce mai mult în conducerea acţiunilor de luptă, apar (sau ar trebui să apară) întrebările legate de componenţa liniei de comandă: cine ordonă, supraveghează şi răspunde în final de o anume misiune din moment ce conducerea unei misiuni este preluată în mod automat de Inteligenţa Artificială care, în funcţie de ceea ce se petrece în teren, modifică scenariul iniţial şi îşi asumă alt mod de a distruge ţinta? În cadrul unui război total, la ce nivel asumăm că va fi permis Inteligenţei Artificiale să ia decizii în sistem absolut autonom?

În panelul de care aminteam, specialiştii estimau că sectorul folosirii armelor nucleare trebuie să fie controlat exclusiv de oameni. Specialiştii în domeniu pe care i-am auzit discutând intens această problemă, spun că cererea e perfect logică dar s-ar putea să nu mai aibă raţiune operaţională deoarece ne apropiem de momentul în care timpii de reacţie la un atac masiv se scurtează în mod dramatic deoarece, tocmai din cauza AI, s-au epuizat rapid opţiunile convenţionale. Caz în care, spre exemplu opţiunea de folosire a unui tip de armament nuclear sau altul, trebuie calculată în secunde. Mai mult chiar, mi-a parvenit un raport foarte tehnic în care se calcula, la nivelul armatelor care contează, care este timpul de reacţie pentru fiecare dintre sistemele autonome aflate în dotare, iar rezultatele - pentru a determina cursul unei întregi operaţiuni (detectare ţintă, analiză oportunitate, stabilire ordin de prioritate, calcul traiectorie şi număr de victime directe şi pierderi materiale directe şi conexe) se face în cel mult câteva zeci de secunde. Cine şi cum va asigura controlul politic şi militar pentru asemenea decizie sau măcar pentru stabilirea (şau/şi modificarea listei de priorităţi)? Care sunt (sau care ar putea fi) criteriile comun-acceptabile şi devenite obligatorii pentru programatorii în domeniu care, spre exemplu, să fie obligaţi să lase o "uşă de intrare" de intervenţie la armele autonome, sau categorisirea acestora în categorii menţionate în eventuale Tratate viitoare pentru limitarea sau interzicerea celor mai periculoase dintre ele?

În fine, iată care mi se pare cea mai dificilă dintre întrebări: sunt câteva ţări care deja investesc sume colosale în domeniu, pregătesc nu numai generaţiile de specialişti militari nai viitorului imediat, recrutând, de oriunde se poate, vârfurile de generaţie pentru a-i converti la noile cerinţe din ceea ce s-a numit odinioară "meseria armelor". Chinezii, spre exemplu, merg mai departe cu selecţia şi difuzează în şcoli manuale-test de aptitudini pentru viitori specialişti. Suntem pe cale să vedem că, şi în acest domeniu, prăpastia care a apărut se lărgeşte şi se adânceşte continuu. Ca atare, noi ce politică de cadre şi ce strategie avem?

Nu ştiu ce fac ai noştri, nici nu întreb de teamă să nu primesc răspunsul încruntat şi sever, cel pe bază de "secret militar de importanţă naţională". Dar, zic, poate c-ar trebui ca asemenea dezbatere, dacă se dă voie de la stăpânire, să existe în Parlamentul nostru, poate nu în ăsta de acum, că e pandemie, poate nici în cel următor, că va fi post pandemie, poate nici următorul căci altele vor fi priorităţile noastre în cumpărat armamentele care prisosesc în magaziile altora. Dar, măcar ca joc al inteligenţelor teoretice cumulate din comisiile de apărare din Parlamentul României, cred că tot ar merita să vedem ce iese. Măcar să scăpăm de teama că, la caz de, n-o să apară vreun Moş Teacă ţinând solemn frâiele căruţei care ne duce în Armaghedon.

Sau, dimpotrivă, ne resemnăm şi nu ne interesează subiectul cum că n-ar fi de nasul nostru. Şi-mi cer şi scuzele de deranj.