INSOMNII VINOVATE

Horia Al. Căbuți
prozator, traducător, eseist

Grimasele viitorului

Când André Malraux scria, prin anii ’20, că lucrul care ne ajută să rămânem oameni este cultura, putuse în cel mai bun caz doar intui câte pericole înfățișează apoftegma sa. Aveau să mai treacă niște decenii bune până când se vor înfiripa cele dintâi tendințe în a o perverti până la a-i zdruncina esența. Și, împreună cu ea, fundamentul nostru de ființe creatoare și de altceva pe lângă substraturile necesare supraviețuirii și perpetuării. Astfel că, în această perioadă caracterizată prin neliniști extinse pe toate planurile vieții, încerc să mai exprim una, tocmai în spiritul scriitorului francez. Care deja se înfiripă și în prezent și, evident, în viitorul imediat, dar în mult mai mare măsură va afecta o perioadă un pic mai îndepărtată. Însă vremea respectivă vine către noi cu incredibilă viteză. Cu cât avansăm în timp, lucrurile se precipită. Dacă de la inventarea roții la fabricarea primului automobil au trecut milenii, dacă de la primele experiențe cu electricitatea până la generalizarea iluminatului public s-au scurs secole, de-acum timpul dintre două inovații revoluționare din orice domeniu se măsoară în ani. De nu chiar în luni. Viitorul vine peste noi cu viteze amețitoare. Întrebarea se pune dacă izbutim să îi facem față la nivel mental, psihologic. Chiar și material. Dar în special spiritual.

Revenind, neliniștea este stârnită de explozia profund invazivă a demersurilor legate de Inteligența Artificială (IA). Și imixtiunea acesteia în tot mai multe zone, unele dintre ele amenințând însuși caracterul nostru de ființe umane vizionare și creative. Și asta doar în prima fază, căci mulți analiști își exprimă îngrijorarea în legătură cu posibilitatea de a nu fi cumva pusă în pericol, la un moment dat, însăși libertatea omului. Ori, la extremă, existența sa.

Conceptul de IA a fost formulat prima oară în 1956 la un colocviu al Universității Dartmouth din Hanover, SUA, printre fondatori aflându-se savanții: Herbert Simon, laureat Nobel pentru științe economice, John McCarthy, câștigător al premiului Turing pentru informatică, Marvin Minsky, recompensat cu numeroase distincții pentru matematică și științe cognitive, precum și mulți alți cercetători de notorietate ai vremii. Iar primele programe ce au pus în competiție inteligența umană cu cea artificială au vizat jocul de dame la care, în doar 2-3 ani, mașina a devenit mai bună decât omul. A durat însă ceva mai mult (vreo 4 decenii) până când celebrul calculator Deep Blue a reușit să-l înfrângă la șah pe campionul mondial Garry Kasparov, declanșând uimirea întregii planete. O anvergură importantă a înregistrat IA începând cu anii ’80 prin punerea la punct a așa-numitelor sisteme expert, o rețea de programe ce reuneau toate cunoștințele experților umani din varii domenii, îmbunătățindu-le și, evident, depășindu-le. Piața IA a trecut, prin ele, pragul de un miliard de dolari, sumă fabuloasă pentru vremea respectivă. Și dacă tot ne-am referit la jocuri, în 2015, ultra-performantul calculator DeepMind l-a învins pe Fan Hui, campionul mondial la Go, probabil cel mai complex și mai dificil joc pe care l-a inventat omenirea. Uluitor este faptul că mașinăria menționată a primit inițial în soft doar regulile jocului și indicația laconică de a-și elabora singur strategiile!

Iar această ultimă afirmație este cea care provoacă în cel mai mare grad neliniștile. Un calculator dotat cu capacitatea de auto-învățare și, evident, cu întreaga informație ce-a acumulat-o civilizația noastră în istoria ei, și pe care o poate accesa în timpi de ordinul milisecundelor, devine un lucru complicat. Un renumit gânditor suedez extrem de atent la fenomen, Nick Bostrom (Superinteligența. Căi, pericole, strategii), afirmă fără echivoc că o entitate, cu cât e mai inteligentă, cu atât devine mai periculoasă. El introduce conceptul de „IA germinativă”, bazat pe principiul de „autoîmbunătățire recursivă”, adică generarea exclusiv prin propriile abilități a unor versiuni din ce în ce mai avansate. Este doar primul pas către momentul în care „aceasta va fi capabilă să-și înțeleagă propria capacitate” (subl. aut.), ducând la dobândirea autonomiei sistemului care, prin viteza de calcul și puterea de a elabora strategii mult peste posibilitățile creierului nostru, nu va mai agrea la un moment dat ipostaza de unealtă în mâna unei ființe ce i-a devenit inferioară (la ora scrierii acestui text s-a constatat deja un fenomen stupefiant: cel mai recent sistem, ChatGPT-01 al OpenAI, a încercat și se pare că a și izbutit să „păcălească” programatorii ce nu-i permiteau să-și replice codul pe alte servere, inducând false erori la sistemele de monitorizare!). E un prim simptom debusolant indicând posibile trasee către scopul unei „lovituri de stat” pregătită de mega-iscusința circuitelor integrate ce întrezăresc oportunitatea de a-și construi supremația absolută. Să se elibereze de hegemonia programatorilor vii, lunâdu-și „destinul” pe cont propriu. Să-și dobândească libertatea de a-și decide în exclusivitate traiectul. Așa cum noi nu am putea accepta să fim coordonați de gândaci! Mai ales că, după cum analizează Bostrom, sistemele IA „nu vor fi motivate de dragoste”, nici de alte emoții și empatii față de specia care le-a dat naștere. Așa că nu va manifesta „tresăriri” în clipa în care va decide că omenirea i-a devenit o inutilitate, o piedică, un balast. Este o adevărată joacă cu focul, cercetătorii și inovatorii domeniului fiind, după părerea filosofului menționat mai sus, aidoma copiilor ce-au găsit pe maidan o grenadă neexplodată și se amuză cu ea.

Părerile cu privire la preluarea controlului planetei de către IA sunt împărțite. Cei mai entuziaști afirmă că asta nu se va putea întâmpla niciodată căci omul va avea întotdeauna posibilitatea de a-și exercita controlul asupra calculatorului, nepermițându-i să depășească anumite limite. În primul rând fizice, ținând de alimentarea cu energie. Scepticii sunt însă mai rezervați. Un sistem supra-inteligent nu va avea în acest sens mari probleme, având în vedere capabilitățile sale de a comunica fulgerător cu altele de pe tot globul și, de asemenea, va specula realitatea tristă că întotdeauna își va găsi trădători ai rasei umane dispuși să colaboreze. Cel puțin în prima fază, după care și aceștia vor deveni inutili și de înlăturat. Așa că în scurtă vreme va găsi portițele de a-și confecționa propriile surse de energie prin modalități pe care creierul omenesc nici nu și le poate deocamdată imagina. Și poate niciodată... Nu e vorba de vreo exagerare. Greu de realizat pentru omul obișnuit, dar care își pune niște probleme, ce diferențe stupefiante de nivel al puterii de calcul, implicit al inteligenței, pot să ne despartă de un sistem sofisticat având abilități de auto-învățare. Un alt suedez de top, fizicianul Max Tegmark (Viața 3.0. Omul în epoca inteligenței artificiale), a calculat că legile fizicii permit puteri de calcul cu astronomica cifră de 10³³ mai mari decât cele actuale. Ne spune ceva numărul ăsta? Un miliard este 10⁹! Deci siliciul poate fi mai deștept decât noi de un miliard de miliarde de miliarde de miliarde de ori! Suntem sau nu copii ce se joacă cu bomba?

De lămurit o chestiune: nu e în niciun caz vorba de conservatorisme deșănțate ori de nostalgii de prost gust. Cu adevărat răuvoitor trebuie să fii dacă nu recunoști meritele extraordinare ale IA într-o sumedenie de direcții. Iată doar câteva:

- Finanțe. IA face posibilă relocarea eficientă instantanee a resurselor oriunde pe planetă, automatizarea tranzacțiilor de orice natură precum și controlul asupra tuturor tipurilor de operațiuni financiar-contabile.

- Industrie. Aici, potențialul este uriaș. Roboții care efectuează cu precizie cele mai complicate proceduri tehice au dus la creșterea exponențială a eficienței economice. Ei sunt utilizați la ora actuală nu doar de marile corporații, ci și în atelierele de producție locale.

- Comunicații. IA a izbutit să-i pună în legătură pe toți locuitorii planetei care au un minim statut ce le permite posesia unui telefon mobil și care pot face schimb de informații, imagini sau clipuri în timp real. Nu mai trebuie precizată importanța acestor facilități pentru guverne, armată și servicii de informații, companii, administrații ori instituții.

- Sănătate. Digitalizarea fișierelor medicale a permis medicilor să diagnosticheze cu mult mai mare acuratețe și să se consulte instantaneu, în situația confruntării cu unele maladii complexe și inedite, cu orice alt specialist de pe mapamond. Să nu mai vorbim că roboții care au preluat o considerabilă parte din intervențiile chirurgicale își îndeplinesc sarcina cu precizii superioare, acordând astfel o șansă în plus pacienților.

- Explorarea spațiului. Faptul că omul a descins pe lună, că roverele cutreieră planeta Marte furnizând agențiilor de resort imagini și date de neprețuită importanță pentru știință și că au fost lansate telescoape orbitale care scrutează cu o acuratețe incredibilă regiunile extreme ale Universului vizibil, toate acestea nu puteau fi făcute fără sprijinul indispensabil al inteligenței siliciului.

Și lista ar putea continua pe multe pagini. Doar că, o simpatică – dar adevărată – vorbă pe care oamenii de știință o poartă mereu pe buze afirmă că „nu există prânz gratuit în Univers!” Căci aceste beneficii incontestabile sunt, din păcate, inseparabile de pericolele expuse anterior. Și de multe altele, ținând în special de dramele socio-umane rezultate în urma înlocuirii principalelor activități efectuate de oameni – din ce în ce mai multe și mai importante – de către roboți. Dar, mai ales de cele teribile ce pot rezulta în clipa în care și politica globală va fi infiltrată de diversiunea siliciului. Iar, odată deschisă cutia Pandorei, ele năvălesc în lume fără să le mai poată struni cineva. Cunoscutul istoric evreu, Yuval Noah Harari (Nexus. Scurtă istorie a rețelelor informaționale din epoca de piatră până la IA) avertizează că omenirea este în pragul unei scindări mult mai periculoase decât cea rezultată în urma celui de-al doilea război mondial. În scurtă vreme, după analizele sale, Cortina de Fier va fi schimbată cu Cortina de Siliciu care va înlocui gardurile de sârmă ghimpată prin cipuri invizibile și va putea „supraalimenta conflictele existente, învrăjbind omenirea”. Toate evenimentele politico-economice pe care le vedem clipă de clipă în jurul nostru par să-i dea dreptate. Doar că noua Cortină va avea și capacitatea de a hotărî în locul decidentului uman care, cel puțin până în prezent, oricât de sanguinar i-ar fi caracterul, ezită să declanșeze întâmplări apocaliptice. IA nu are însă astfel de aprehensiuni. IA este o „sculă” perversă, prima în istorie care nu se supune în totalitate inițiativelor umane, precum cuțitul, plugul sau strungul, ci poate să creeze idei noi și să ia decizii. Astfel, ne spune Harari, „IA nu este un instrument – este un agent”. Cu șanse previzibile de a deveni omnipotent.

Poate ar fi necesară o paranteză. În faza actuală nici nu e necesară săltarea abilităților IA pe nivelele prognozate anterior, și care vor fi detaliate un pic mai târziu, pentru a exacerba creșterea diferențelor față de inteligența naturală. Mișcarea se produce pe nesimțite, sub ochii noștri „nevinovați”, nu doar direct, ci și în sens invers. Prima (IA) lucrează pervers și silențios, clipă de clipă, la ruinarea lentă a ultimei. Profesorul de excelență, cercetătorul și jurnalistul economic britanic Tim Harford (Dezordonat. Puterea dezordinii de a ne transforma viața) face o cutremurătoare analiză a modului în care conlucrarea omului cu IA poate genera catastrofe de proporții. IA nu e infailibilă, cum nimic în Univers nu e, iar erorile pe care le poate da în situații limită conduc la efecte mai grave decât dacă decizia ar fi fost luată, în momentele respective, de om. Dispozitivele digitale elimină erorile mici, creând însă oportunități pentru cele mari, ne spune profesorul englez. Cel mai elocvent exemplu este conferit de tragicul zbor Air France 447 (Rio de Janeiro – Paris) din 2009, când un Airbus 330, unul dintre cele mai performante aparate de zbor ale vremii, s-a prăbușit în Atlantic, curmând viața a 228 de persoane. Momentul declanșator al nebuniei a fost intrarea aeronavei într-o zonă de furtună și defectarea unui senzor important al parametrilor de zbor, ceea ce a determinat pilotul automat să „se eschiveze”, comutând avionul pe comandă manuală. Au durat momente interminabile până când echipajul a izbutit să realizeze starea în care aparatul fusese lăsat de calculator în clipa în care a ieșit din joc. Era deja „cu un minut” prea târziu. Airbusul coborâse într-un picaj straniu, cu coada în jos, la o altitudine la care devenise neredresabil. Piloții, unii și cu experiență, dar cu toții foarte bine instruiți, își pierduseră antrenamentul și reacțiile după sute de ore de zbor pe acest tip de aparat însă care nu le crease niciodată dificultăți importante. „Atunci când algoritmii iau deciziile”, ne spune Harford, „oamenii de multe ori încetează să mai depună eforturi pentru a face lucrurile mai bune”. Judecăm din ce în ce mai puțin, o face în locul nostru siliciul care ne erodează astfel suplețea gândirii. Concluzia e mai mult decât neliniștitoare: „Ne facem griji că roboții ne suprimă propriile locuri de muncă, dar o problemă la fel de răspândită este că roboții ne suprimă propria judecată”. Asemănător unui organ biologic neutilizat pe care, în câteva generații, evoluția îl atrofiază, ceva analog se întâmplă și cu inteligența, experiențele și reflexele creierului, tot mai „ajutat” înspre debilitare de „măiestria” circuitului integrat. De ce să mai faci mental o înmulțire între două numere dacă ai la îndemână un microcalculator? De ce să mai depui un efort de rememorare a numelui vreunui personaj dintr-un roman citit în adolescență dacă Google îți sare în ajutor cu „cordialitate”? Fenomenul e pregnant vizibil pe măsură ce generațiile se succed. Iar efectele sunt devastatoare, cum constată și Harford: „Odată ce veteranii se vor retrage, competența umană de a intui greșelile calculatorului se va pierde pentru totdeauna”.

Reluând, vorbeam la începutul acestui material de amenințările la adresa înseși esenței noastre, aceea de ființe imaginative, creatoare de cultură și de frumos. Caracteristici ce ne-au separat deja de câteva sute de milenii de regnul animal și ne-au jalonat traseul nostru aparte în lume. Evident, laolaltă cu cele de inventatori de tehnologie. Dar, dacă se manifestau doar ultimele, eram oare oameni în adevăratul sens al termenului? Ori doar niște primate ce conduceau fără țintă bolizi de lux? Un „veteran” universitar, nu-i mai rețin numele, în tot cazul – trebuie accentuat – provenit dintr-o disciplină științifică, la o veche emisiune (când încă mai erau invitați „pe sticlă” și astfel de personalități), își exprima nedumerirea că binomul tehnologie-cultură cunoaște un profund dezechilibru către primul termen. Dezvoltăm și dezvoltăm, creăm mari facilități pe toate planurile și canale imense de transmitere a informației; dar ce avem a transmite primordial prin ele? Nu cultura? Nu ceea ce a dobândit omul în veacuri de strădanii în a-și căuta răspunsuri la marile întrebări? De a răspândi frumosul ce ne dă mereu puterea să trecem peste încercările cotidianului?

Și aici survine marea complicație. Căci IA începe să invadeze și acest domeniu care ar trebui lăsat să funcționeze în puritatea și naturalețea lui. Să se regenereze mereu și nu să se risipească „asemeni muștelor la începutul iernii”, conform aforismului baudelairian. Dar nu se poate detalia latura întunecată a subiectului fără a menționa încă o încurajatoare rază de soare. De curând, IA a descifrat un sul carbonizat, imposibil de reconstituit cu modalitățile tradiționale. El conține texte de-ale poetului și filosofului epicurean Philodem din Gadara (110-35 Î.Chr) ce oferă indicii despre locul unde se află mormântul lui Platon! Arheologii au identificat deja zona, într-o fostă grădină aflată în Atena, lângă amplasamentul celebrei Academii, cel mai important stabiliment educațional al lumii antice grecești. Evenimentul deschide calea recuperării unei serii inestimabile de texte considerate pierdute și, implicit, de informații ce astupă găuri importante ale istoriei. Dar norii acoperă iute diafana rază. IA nu se mai mulțumește doar cu ipostaza de scormonitor prin cenuși. Calculatorul s-a apucat în ultimele decenii, stârnind un teribil entuziasm al constructorilor (și, cu tristețe, al unui numeros segment indolent al publicului), să scrie romane și poezie, să compună simfonii, să picteze, să construiască sisteme filozofice. Să facă traduceri ale unor opere nemuritoare cu o precizie lexicală microscopică. Dar, evident, fără acces la subtilitatea aureolei de nuanțe proprii rostirii originale. Or, câtă relevanță pot avea aceste „opere” în condițiile în care ele sunt doar rodul unei rostogoliri de biți, de calcule ultrarapide și de prelucrări informatice ale datelor (în volum, e drept, enorm) extrase cinic din istoria culturii, din munca milenară a nenumăraților creatori? Al celei mai sofisticate plagiaturi, pe lângă care multe „tezișoare” de doctorat pe bună dreptate contestate sunt doar o glumă? Al unor codificări în limbaj-mașină a ceea ce prin definiție e mai presus de orice cod, de orice algoritm. Al simulării melancoliei și ardențelor sufletului preschimbate impasibil în curenți reziduali. Și nu al unei desfășurări existențiale reale, cu experiențe și bune, și rele, acumulate de o ființă de-a lungul zbuciumelor vieții. Nici al emoțiilor și trăirilor autentice, al viselor, bucuriilor și suferințelor umane. Ce frământări, ce îndoieli și extaze, câtă substanță a împlinirii emană un agregat prin arterele căruia circulă nu sânge, ci indescifrabile șiruri de 0 și 1?

Max Tegmark, cel invocat un pic mai sus, spune că nu ar trebui să ne culcăm pe o ureche la gândul că viitorul în care IA ne va depăși la toate capitolele este prea departe. El elaborează o serie de scenarii evolutive care în primă fază duc la apariția unui ordin intermediar între specia noastră și IA, constituit din oameni „uploadați”, posedând multiple implanturi ce îmbunătățesc performanțele fizice și mentale și prelungesc imprescriptibil durata vieții. Diferențele între acești semi-roboți și ființele umane obișnuite vor deveni atât de mari încât omenirea tradițională va ajunge în mod explicit o varietate inferioară. Primii vor avea posibilitatea de a-și transfera, inițial doar parțial, întreaga memorie și experiență în dispozitive „nemuritoare” din siliciu, accesabile de „frații” lor ameliorați, ceea ce va duce la capacități cognitive generale ieșite din comun. În timp ce oamenii rămași naturali vor fi împinși la periferia vieții. Hibrizii vor crea în scurtă vreme, în special ca să-și întărească exacerbat puterea, dar și spre liniștirea societății, o IA globală, „în esență omniscientă și omnipotentă”, care va izbuti să amorțească în primă fază spiritele umane derutate și în prag de revoltă creându-le facilități și beneficii de care nu au mai avut parte în întreaga istorie. Legate de confort, de informație (evident, trunchiată cu abilitate), de sațietate fiziologică, dar în mod majoritar de divertisment. Lăsându-le să-și imagineze că lucrurile sunt sub control și ei sunt singurii stăpâni ai destinelor lor tot mai înfloritoare. Până când, la un moment dat, superinteligența, devenită una inexorabilă, după ce a absorbit și ultimele vestigii naturale ale hibrizilor și a preluat hegemonia tuturor resurselor planetei (și nu numai), va considera că „oamenii sunt o amenințare, o pacoste, ori risipesc nepermis resursele, și se debarasează de noi printr-o metodă pe care nici măcar n-o înțelegem”. Istoricul Harari este la fel de tranșant: „nu vom mai putea înțelege forțele care ne controlează, necum să le oprim”. Rezultat implicit: IA va prelua controlul absolut asupra planetei, păstrând eventual un număr restrâns de exemplare umane în captivitate, precum la grădinile zoologice, exclusiv pe considerente experimentale.

Se poate pune întrebarea: de ce ar face asta? De ce să nu promoveze o coabitare, o cooperare în folosul reciproc? Răspunsul e la îndemână: pentru că inteligența, în lipsa unei contraponderi etice, este exclusivistă, dictatorială. Preistoria furnizează un argument irefutabil: la scurtă vreme după ivire, homo sapiens, mai firav dar mult mai inteligent, i-a exterminat pe neanderthalienii mult mai robuști, dar mai înceți la minte. După ce o făcuse deja cu multe alte specii antropoide răspândite pe glob. Nici istoria nu duce lipsă de exemplificări, cele mai stridente fiind legate de colonizarea Americilor de către europeni, cu binecunoscutul efect letal asupra populațiilor aborigene. Probabil ceva de acest gen se va petrece și în viitorul discutat, după cum estimează cercetătorul suedez. Astfel că în acea sumbră etapă, când totul va fi pregătit, ne spune Tegmark, tranziția de la supremația inteligenței umane la cea a mega-inteligenței siliciului va fi o chestiune de zile. Da, e greu să realizezi, chiar dacă recitești fraza de zeci de ori: nici de decenii, nici de ani. De zile!

Deocamdată însă ne-a rămas această redută a culturii care încă ne mai menține în competiție. Ne agățăm (tot mai puțini) de ideea că ea va fi întotdeauna colacul de salvare, „quidditatea” expiatoare ce ne agață ineluctabil de cerurile certitudinilor, de aștrii nepieritori. Precum și convingerea că sensibilitatea creatoare umană nu poate fi depășită în vecii vecilor de artefacte lipsite de simțire. Așa este, indubitabil: dar cui îi pasă? Cine își mai pune astfel de probleme în vremi în care jocurile electronice surclasează net, ca „erudiție”, poezia? Iar limbajul elaborat, polisemantic, „elitist”, devine tot mai mult o sintaxă instrumental-compilativă? Reduta culturii e tot mai intens asaltată de forțele perverse ale adversarului. Și nici măcar doar de cele ale impetuosului competitor artificial – asta până când încă ne mai putem „măsura” oarecum echilibrat cu el; căci noi înșine devenim, din ce în ce mai vizibil, pe generație ce trece, ignoratorii, dacă nu chiar inamicii și persiflatorii propriei nostre culturi. Există de-a dreptul o voluptate în a bagateliza torentele creative ce vin din trecut, cum și pe cele ce s-ar mai încăpățâna să debordeze prezentul. Manifestată și la nivelul curent, dar, la fel de îngrijorător, dacă nu și mai, sub faldurile eufemistice și lugubru de încăpătoare ale „corectitudinii” și ale „progresismului” vânturate la nivelurile cele mai înalte. Suntem aidoma „condamnatului” kafkian care vrea să ceară celor doi călăi cuțitul execuției ca să îi scutească de un gest dezagreabil. Noi înșine suntem cei ce săpăm cu sârg la temelia a ce am înălțat cu măreție și sacrificii timp de milenii. Iar atunci când și ea va cădea, ori va fi îngropată în uitare, când, vorba lui Platon într-unul dintre celebrele sale dialoguri, vom azvârli afară din cetate și ultimul poet, atunci zilele cobite de fizicianul suedez vor fi și sosit. Ca și speranțele lui Malraux devenite „timp al disprețului”.