Noi şi/sau maşinile… /Acad. Gheorghe Păun

Am ales un titlu general, dar discuţia care urmează este mai precis direcţionată, spre preocupările care decurg din faptul că am intrat în cea de a patra revoluţie tehnologică (e prea limitativ să i se spună „a patra revoluţie industrială”, dar, pentru uniformitate, i se mai spune şi astfel). Preocupări, adică temeri, semnale de alarmă. Motivate? Nemotivate?…

Schimbările induc totdeauna o stare de disconfort, toate revoluţiile industriale au fost însoţite de avertismente, unele realiste, altele exagerate, multe dintre ele neconfirmate. Fără a lipsi, însă, consecinţele neplăcute.

Să ne reamintim pe scurt – remarcând că totul s-a întâmplat în ultimele două sute (şi ceva) de ani, deci de curând şi într-un ritm tot mai accelerat.

Acum două secole nu existau locomotive – dar se inventase motorul cu abur (care transforma energia calorică în lucru mecanic). Automobilul a apărut acum mai puţin de 150 de ani, cam pe atunci se făceau progrese „de utilitate publică” şi în electricitate, dar a doua revoluţie industrială este legată mai ales de proverbiala bandă de montaj a lui Ford. Nu numai tehnologie, ci şi organizare, detaliu important. Revoluţia a treia are de a face cu calculatoarele, automatizarea, deci cu informaţia – acum vreo jumătate de secol, poate un pic mai mult. Iar a patra revoluţie este iarăşi bazată pe organizare, cuvintele-cheie sunt conectivitatea, internetul, cloud-ul, plus sintagma de mult folosită, dar numai de curând cu adevărat materializată, inteligenţa artificială, IA pe scurt. Mai sunt şi alte componente importante, cititorul este rugat să recitească articolele acad. Dorel Banabic din revistele pe februarie şi martie.

Maşini inteligente?! În ce sens, cât de inteligente, eventual mai inteligente decât oamenii? Nu cumva atât de inteligente încât ne vor considera inutili? Întrebări care s-au tot pus, cu orientări ale răspunsurilor înspre toate direcţiile, de la optimism relaxat la previziuni sumbre. Vor fi fiind aceste avertismente la fel de hazardate precum cele privind, la începuturi, călătoria cu trenul? Voi urma în cele ce urmează alegerea pesimistă…

În primul rând, nu mai cred de multă vreme în „proverbul” materialisto-optimist cum că „omenirea îşi pune numai probleme pe care poate să le rezolve”. Ba chiar dimpotrivă…

Apoi, această a patra revoluţie tehnologică este de un tip cu totul nou în comparaţie cu cele dinainte. Acelea aveau la origine progrese tehnologice, bine conturate, cu originea localizată, trecând apoi treptat de la o ţară la alta. Acum, suportul acoperă întreg globul – internetul, avem de a face cu un sistem complex, de la care ne putem aştepta la salturi gen „efect de sistem” (de tipul trecerii de la miliardele de neuroni din creier la creierul-minte, cu o comportare care nu rezultă din însumarea liniară a comportării neuronilor). Iar un asemenea efect de sistem este potenţat de faptul că discutăm nu numai despre inteligenţă, fie ea şi artificială (evaluată pe sarcini precise, comparând performanţele cu cele umane, comportamental adică, nu plecând de la definiţii), ci şi despre învăţare.

Fără panică, aici cred că apare un real pericol, deloc literar (SF): prin învăţare (e o altă problemă şi ce înseamnă aceasta), calculatoarele pot cu adevărat deveni mai inteligente decât oamenii: pro-gramul AlphaGoZero a învăţat singur să joace GO, cunoscând numai regulamentul jocului, învingându-i pe cei mai puternici jucători ai planetei, ba chiar a făcut-o într-un mod care a motivat un titlu de genul „oamenii învaţă acum GO de la calculator” în celebra revistă Nature. (Un detaliu: programul face mutări de mijloc de partidă total „stranii”, dar, pentru că învinge de fiecare dată, înseamnă că acelea sunt mutările potrivite, chiar dacă de neînţeles pentru oameni.)

Prin învăţare, calculatoarele pot produce algoritmi despre care nu ştim cum funcţionează şi care, eventual, ne pot face rău. Un exemplu, ipotetic deocamdată, perfect plauzibil însă. Să presupunem că jumătate dintre automobilele dintr-un oraş sunt cu conducere automată, jumătate cu şofer uman. Mai presupunem că maşinile autopilotate sunt conectate fiecare cu fiecare şi au ca obiectiv să minimizeze consumul total de carburant. Îmi pot atunci imagina o situaţie de genul următor: maşina automată A îi cere maşinii automate B să „şicaneze” intrarea într-o intersecţie a unei maşini cu şofer, pentru că, altfel, ea, maşina A, va consuma cu 0,0005 litri de benzină mai mult. Înlocuiţi oraşul cu sistemul de autostrăzi din SUA, unde camioane cu pilot automat circulă deja (comunică între ele, dar nu învaţă, la nivelul reţelei).

Am rămas aici strict la competiţia în zona inteligenţei, cu accent pe învăţare. Evident, mult mai apropiate sunt alte probleme, la nivel sociologic – şomaj, meserii care dispar, meserii care apar, inegalitate (a accesului la tehnologie) etc. sau, şi mai grav – folosirea tehnologiilor informaţionale în scopuri politice şi militare – dezinformare, manipulare, arme de tipuri noi etc.

Toate aceste pericole sunt favorizate şi de faptul că nu s-a cristalizat încă un set de norme, legi, obiceiuri privind „circulaţia prin cyberspaţiu”, aşa cum este cazul cu circulaţia locomotivelor şi automobilelor – dar aceasta este o altă problemă, despre care se discută tot mai mult, deci se îndreaptă spre rezolvare.

Închei cu o butadă, aparent optimistă, a lui Moisil, răspuns la întrebarea „dacă vreodată calculatorul va fi mai inteligent decât noi”: sigur că da, dar nu va reuşi niciodată să zâmbească…

Despre autor

Lasă un răspuns

*

Acest sit folosește Akismet pentru a reduce spamul. Află cum sunt procesate datele comentariilor tale.