Ştiinţă

articolul anterior articolul urmator

De ce nu mi-e frică de AI

47
21 May 2018 07:06:19
Eugen Tănăsescu

De ceva vreme, avem de-a face cu AI. Fie că vorbim de spectacularul robot Sophia, fie că ne referim la propriile smartphone-uri sau sofisticatele soft-recognition din spatele FB, inteligenţa artificială naşte satisfacţii, curiozităţi, temeri, dubii.

În esenţă,  inteligenţa artificială este doar o sumă de algoritmi informatici, care se deosebesc însă de softurile „clasice” prin capacitatea de a „învăţa”. Asta este toată marea filozofie. Adică reţine date, le corelează cu „experienţele” anterioare şi, pe baza unor statistici şi probabilităţi, softul este în stare să decidă singur ce alegere să facă, atenţie, între posibilităţile pe care deja le „ştie”, prin „învăţare”.

Probabil că acest fapt, ca un soft să decidă singur ce va face, a speriat pe mulţi. Sau, cel puţin, i-a pus pe gânduri. Eu cred că, obişnuiţi prea mult cu firea umană, s-au cam grăbit. Sau poate că au mers prea departe cu imaginaţia SF…

Dacă este să vină de undeva vreun pericol, el vine tot de la oameni. În fond, oamenii sunt cei care iniţiază „învăţarea” AI, stabilind care sunt CRITERIILE de învăţare. Algoritmii, oricare ar fi ei, structurează criterii, pe logica simplă binară: if (dacă)…then do that (atunci fă asta). Ceea ce deja i-a făcut pe mulţi să discute de ETICA inteligenţei artificiale. Ei bine, eu nu mă tem. „Etica” maşinii nu este decât rezultatul unor algoritmi, care, să nu uităm, sunt iniţiaţi de om. Trebuie doar să fim suficienţi de inteligenţi ca să facem maşina să înveţe ce vrem noi. Şi să-i oferim doar alegerile pe care le considerăm noi. Etica maşinii derivă din etica omului.

Bine,  vor zice alţii, dar există posibilitatea ca maşina să facă alegeri greşite TOCMAI pentru că ea, în fapt, nu gândeşte ca omul. Ei, da, aici discuţia devine interesantă. Spre deosebire de maşină, omul are posibilitatea angajării într-o alegere, prin liberul arbitru. Iar criteriile liberului arbitru sunt total diferite de criteriile algoritmilor ficşi. Dovadă stă faptul că, de multe ori, omul alege prost, autodistrugându-se. Statistic vorbind, mai degrabă alege omul greşit, decât maşina. Erorile umane sunt mai dese decât cele digitale. Maşina, când are „bug”-uri, în cel mai rău caz se blochează sau devine nefuncţională. Mă rog,  tot un fel de a fi „contra” omului ar fi J.

Totuşi, discuţia rămâne în picioare. Dacă maşina alege greşit? Ce se poate întâmpla? la această întrebare nu cred că putem răspunde precis. Nu ştim ce poate genera eroarea unei maşini pentru că, pur şi simplu, nu putem anticipa care sunt variantele „rele” pe care şi le poate construi, prin „învăţare”, astfel încât acestea să ajungă opţiunile ei de alegere.

Din fericire, feedback există şi la maşini, nu doar la oameni. Şi el se cheamă simplu: control. Cred că viitorul inteligenţei artificiale va depinde foarte mult de controlul pe care omul şi-l propune asupra maşinii. Dacă mergem pe ideea că o lăsăm „de capul ei” atunci, da, Stephen Hawking şi toţi ceilalţi sceptici vor avea dreptate: ar putea însemna sfârşitul rasei umane. dar nu pentru că şi-a propus maşina, ci pentru că a „învăţat” greşit de la rasa umană, capabilă de distrugere. Dacă însă mergem pe ideea că maşina trebuie controlată de om, spre a fi în slujba lui, atunci nu avem de ce ne teme. Trebuie doar să găsim algoritmii potriviţi.

Dar, până la urmă, şi alegerea drumului este tot alegerea omului. Căci n-am văzut ca maşina să fie contra maşinii, decât dacă este învăţată de om. În nici un caz inteligenţa artificială nu va putea deveni umană.

Alegerea presupune libertate,  pe care algoritmul nu o poate avea.

PS. Termenul „maşină” în acest text trebuie înţeles ca o unitate informatică ce rulează inteligenţă artificială.

Adauga Comentariu

Pentru a comenta, alege una din optiunile de mai jos

Varianta 1

Autentificare cu contul adevarul.ro
Creeare cont

Varianta 2

Autentificare cu contul de Facebook
Logare cu pseudonim

47 Comentarii

Stefan din Nord
21.05.2018, 07:52:37

Si daca un savant nebun invata masina sa faca lucruri mai putin ortodoxe ,o indoctrineaza cu idei agresive ?

+5 (5 voturi)
Harry Porter
21.05.2018, 11:09:07

Algoritmii pot fi manipulati de o entitate ostila, Satan a procedat la fel cu algoritmii lui Eva si se pare ca nu a fost deloc bine. Sa spui ca nu iti e frica de tatal minciunii, de fake-urile pe care le poate genera, poate fi si o dovada de orgoliu nejustificata. Algoritmii lu' Tesla aia electrica au ucis de curand un om!

+2 (8 voturi)
, new_age
21.05.2018, 08:31:22

Ce naivitate. Pai primii care platesc pentru dezvoltarea AI sunt concernele militare ,oare de ce ? Toate marile descoperiri au venit din necesitati militare ,GPS,microundele,pana si banalul calculator a fost la baza folosit sa decripteze ,chiar credeti ca cineva va cumpara un robot Sophia ca sa faca curat in casa si sa stea la o cafea?

+2 (6 voturi)
Remus Octavian Mocanu
21.05.2018, 08:59:57

Concluziile la care ajunge dl Tanasescu din pacate nu pot fi tare credibile, si ca atare tare linistitoare. Omul pricepe ceva, ca tot profanul, insa nu mare lucru cat sa traga concluzii realmente pertinente. Nu ca altii mai informati ar reusi neaparat, ca asta ptr moment si profetiilor acestor experti "mai informati" sunt in asteptarea verdictului viitorului. Problema cu concluzia lui Tanasescu incepe atunci cand algoritmii aia care ghideaza masinile ce invata devin "niste simpli". In realitate ca-s algoritmi nu e nimic simplu, si mai important, NU diferit de modul de functionare al creierului uman. Creierul are si el tiparele lui de gandire, si expertii ne vorbesc despre "module intuitive" folosite la rezolvarea mai multor probleme sau care intervin in mai multe situatii. Ptr ca modul de lucru al masinii nu este la nivel fizic tot ala cu modul de lucru al creierului, asta nu exclude posibilitatea unor paralelisme la nivelul functionarii. Tanasescu da in gropi cand isi inchipuie ca unei msini trebuie sa-i furnnizezi neaparat algoritmii de invatare, ca sa poata sa invete. In realitate AI a ajuns in faza in care masinii ii dai regulile (algoritmi si ei, fireste), dupa care masina invatza ajustandu-si singura algoritmii functie de ce rezultate obtine in procesul de invatare, Cand unei masini ii dai niste reguli si din ele iese campionul mondial la "go" (un joc mai complex decat sahul), e clar ca s-a ajuns mai departe decat credem. Tanasescu pare tranchilizat de propriila suficientza. Dar sunt deja "roboti de conversatie" (chatbots) care fara a fi fost instruiti de creatori sa devina agresivi (verbal), au devenit singuri totusi. Asta e orice mai putin linistitor. Tanasescu apoi, din prejudecata religioasa (sau dorinta de kkt de a face propaganda ptr superstitzia favorita) pretinde ca exista o prapastie intre masina si om in privinta libertatii de alegere. In realitate libertatea umana este si ea bine limitata de modul de functionare al creierului uman: toate erorile de logica pe care spontan creierul uman le alege sa le faca cel mai adesea, si in cazul majoritatii indivizilor speciei, asta e o limitare drastica a liberului arbitru, alegerea fiind canalizata preferential spre solutii-tipar. Limitarile nu se opresc doar la esecurile de gandire, ele intervin chiar inainte ca procesul de gandire sa inceapa: un creier functioneaza intotdeauna intr-un sistem mai amplu, care este organismul. Mici variatii temporare sau permanente, conditionate de genetica sau mediu, fac ca adesea emotia sa interzica functionarea normala a creierului. "Temperament", "fel de a fi", "caracter", dispozitie, "forma" - tot atatea etichete puse unei realitati care nu tzine in esentza de gandire (functionarea creierului), dar o influentzeaza vartos. Chiar faptul ca unii dintre noi sunt religiosi, in timp ce alti nu-s, este un exemplu care ilustreaza diferentzele de rezultate la care ajunge un creier sau altul, functie de influentza altor factori decat capacitatea de judecata: de multe religiozitatea nu are drept cauza prostia sau lipsa de inteligentza a individului, cat caracteristici psihologice (ceea ce s-ar putea numi brutal "fragilitate pshica"). In conditiile unui liber arbitru uman mai mult iluzoriu decat real, e putin linistitor faptul ca si masinile au limitari in materie de libertate de alegere. Asta nu le face inofensive, Cum "Tay" (robotul de convesatie de care aminteam mai sus a demonstrat prin ce a invatat singur ca stil de conversatie).

+6 (14 voturi)
Adrian Enescu
21.05.2018, 10:46:36

De daa asta, un articol rational, cu pareri de bun simt.

-4 (6 voturi)

Vezi toate comentariile (47)