Legea lui Goodhart, enunțată în 1975 de economistul britanic Charles Goodhart, spune așa: „Când o măsură devine o țintă, ea încetează să mai fie o măsură bună”. Să fi trecut, oare, prea mulți ani din 1975 până în aprilie 2026, când la Meta încă se practica „tokenmaxxing”, adică maximizarea consumului de asistență AI? Să nu se fi întrebat, oare, angajații de la Facebook care câștigau titlul de „Token Legend” (Șefu’ la tokenuri) consumând AI și când n-aveau nevoie, dacă legătura dintre scopul companiei și modul în care este măsurată performanța angajaților nu este un pic neclară?

În acest context, în care ne punem întrebări despre scop, beneficiari și modul în care măsurăm performanța (KPIs), o abordare din gândirea sistemică introdusă în anii ’80–’90, Critical Systems Heuristics (CSH), despre care am mai vorbit în postarea anterioară, revine, deci, în actualitate. Ea este sugerată, fără a fi nominalizată direct, de autorul canadian Cory Doctorow în cartea sa din 2026, The Reverse Centaur’s Guide to Life After AI. Vom folosi cartea lui Doctorow ca punct de plecare pentru a aplica abordarea CSH în era inteligenței artificiale.

În această postare vom vorbi despre AI, însă nu ne vom atinge de subiectele care țin, de obicei, prima pagină, precum:

• Data exactă la care se va sparge bula AI, avansată de analiștii care au prezis 7 din ultimele 3 crize economice.
• Ce joburi sunt încă sigure și de ce munca de birou pare să aibă destinul celei de liftier.
• Dacă modelele AI europene le vor ajunge vreodată din urmă pe cele americane și dacă, la fel ca senatorul republican Ted Cruz, am prefera să fim omorâți de roboți europeni decât de roboți americani sau chinezești.

Toate aceste subiecte sunt importante, dar în această postare discutăm despre tema pe care mulți, poate din comoditate sau poate din disperare, o vor băgată sub preș, dar care stă la baza tuturor deciziilor despre viitorul AI și care ne poate ajuta să înțelegem de ce se pare că ne îndreptăm cu accelerația la podea spre un zid, cu muzica dată la maximum.

Tema postării este următoarea: AI-ul pare să fie o tehnologie mult prea avansată pentru modul în care ne-am organizat societatea. Oare mai putem face ceva pentru a schimba cursul lucrurilor?

Cuprins:

• Ești Centaur sau Reverse-Centaur?
• Nu poți să ai democrație într-o țară de analfabeți
• Cine ia deciziile în legatură cu AI-ul?
• Cea mai proastă idee din lume
• Cum arată era AI văzută prin Critical Systems Heuristics?
• La ce etaj se depun declarațiile online în era agentic AI?
• Motive de optimism

Ești Centaur sau Reverse-Centaur?

Căutând cum a fost tradus în română conceptul folosit de Doctorow, „reverse centaur” (traducere literală: „centaur invers”), am fost plăcut surprins să găsesc un rezumat al cărții, realizat de Gabriel Velea pe ITFan.

Pentru a nu repeta explicațiile din ITFan, voi defini pe scurt cele două noțiuni.

Ideea principală a lui Doctorow, repetată de mai multe ori în carte, este că lucrul important despre o tehnologie nouă, precum inteligența artificială, nu este ce face, ci pentru cine și împotriva cui lucrează tehnologia. Pe cale de consecință, o tehnologie nu poate fi considerată bună sau rea decât în contextul în care este folosită.

Așadar, din punctul de vedere al unui angajat, te poți considera:

• Centaur – dacă folosești tehnologia ca asistent pentru a-ți eficientiza munca și a-ți îmbunătăți productivitatea. Exemplul dat de Doctorow este folosirea modelului AI Whisper, care poate transcrie podcasturi audio în text. Nu-și mai amintea în care podcast auzise un citat memorabil, așa că a descărcat toate podcasturile pe care le ascultase în ultimul timp, vreo 40 de ore de înregistrări, le-a transformat în text, a întrebat un AI și a aflat răspunsul. A reușit să facă, folosind AI-ul, ceva ce ar fi necesitat zile de efort manual. Centaur.
• Reverse centaur (centaur invers) – dacă tu ești asistentul tehnologiei. Ceva din cultura companiei americane Amazon o aduce în mod recurent în atenția lui Doctorow, ca o fântână nesecată de exemple negative. Pentru a ilustra conceptul de reverse centaur, exemplul preferat al lui Doctorow este, evident, angajatul de la serviciul de livrare al Amazon. Șoferii sunt supravegheați prin zeci de camere și senzori pentru a îndeplini ținte de livrare aproape imposibile. Încă nu este eficient din punct de vedere economic să ai un robot-șofer care să aducă și pachetele la ușă, dar putem fi siguri că, atunci când astfel de roboți vor deveni suficient de ieftini și când legislația din mai multe țări va permite utilizarea mașinilor autonome, angajații actuali vor fi dați afară. Asta este, practic, un „reverse centaur”, un sistem de tip „human-in-the-loop”: o persoană care suplinește temporar rolul unui robot într-un lanț de producție, până când vor exista soluții tehnologice viabile care să permită înlocuirea sa completă.
• Recenta propunere legislativă B563/2026, intens criticată, pare să vrea să tragă România și mai mult înapoi. Acest proiect de lege vrea să oblige firmele din România să apeleze la avocați pentru redactarea contractelor și a altor documente uzuale. Așadar, în loc să ne bucurăm de beneficiile pe care cele mai noi modele AI le aduc în înțelegerea cadrului legislativ din România, propunerea pare să urmărească sporirea birocrației și introducerea muncii umane chiar și acolo unde aceasta nu este necesară.
• Noi vrem să fim centauri. Senatorii care susțin această propunere par să vrea să introducă cât mai mulți reverse centauri. 
• Un alt exemplu este meseria de radiolog care supraveghează analizele efectuate de inteligența artificială. În loc să ai 10 radiologi care pun diagnostice mai bune cu ajutorul AI, ai putea să concediezi 9 dintre ei și să-l păstrezi pe al zecelea ca asistent al AI-ului, doar pentru a confirma că analizele sunt corecte.

Așadar, tehnologiile precum modelele de inteligență artificială care interpretează radiografii nu sunt nici bune, nici rele. Depinde în ce context și cu ce scop sunt folosite. Vrem să îmbunătățim calitatea actului medical sau să reducem costurile?

Este evident că oricine ar prefera să fie centaur, dar întrebarea este: ai tu puterea de decizie asupra modului în care îți faci meseria și asupra modului în care îți este măsurată performanța sau decide șeful tău?

Aici intră în discuție metodologia CSH a lui Werner Ulrich, care pune în centrul dezbaterii întrebări fundamentale de acest fel: care este scopul față de care măsurăm eficiența, cine decide cum ne trăim viața și ce le dă dreptul să ia astfel de decizii?

Manualul în care Ulrich rezumă metodologia, A Primer to Critical Systems Heuristics for Action Researchers, publicat în 1996, este disponibil gratuit, în format PDF, pe site-ul autorului.

Nu poți să ai democrație într-o țară de analfabeți

Ideea de la care pleacă Ulrich în metodologia CSH este că o persoană nu trebuie să fie specialistă într-un domeniu pentru a avea dreptul și competența de a pune întrebări fundamentale despre un proiect care îi afectează viața.

Să luăm ca exemplu șantierele de termoficare din București. Sute de gropi imense și prost semnalizate, haos în trafic, senzația că lucrările nu se vor termina niciodată. Omul de rând poate nu este inginer termotehnist, constructor sau instalator și nu poate spune dacă țevile de oțel preizolate sunt cea mai bună soluție sau dacă, pentru executarea lucrărilor din beton, se aplică normativul NE 012/2-2022. Omul de rând, care stă dimineața o oră în trafic între Obor și Piața Presei, poate, totuși, să pună întrebări pertinente despre proiect:

• Unde poate fi consultat graficul de execuție? Să știm și noi când se termină coșmarul ăsta.
• Cine verifică respectarea termenelor?
• Cine răspunde dacă lucrările sunt abandonate sau întârziate? E miercuri, ora 9:00, nu văd niciun muncitor la săpătura asta.
• Când va avea blocul meu apă caldă? Când voi putea afla câte ore a fost întreruptă în fiecare lună?
• La câte milioane de înjurături din partea șoferilor va fi dat afară primul director responsabil de lentoarea lucrărilor?

Așadar, pe lângă beneficiari, management și experți, există o a patra categorie de oameni care pot avea o contribuție relevantă la planificarea unui proiect. În viziunea lui Ulrich (vezi pagina 48 din manual), doar modul non-elitist și democratic de planificare și luare a deciziilor, care include și această a patra categorie, are cu adevărat legitimitate în societățile vestice liberale.

Tot Ulrich precizează (pagina 47) că CSH are ca scop combaterea „analfabetismului politic” (political illiteracy) și a pasivității cetățenilor din democrațiile vestice, care par să se fi obișnuit cu gândul că ei, cetățenii, nu pot avea o influență prea mare asupra deciziilor luate la nivel înalt, iar procesul democratic este ceva ce se întâmplă la televizor, nu în viața reală.

Discuția, să ne amintim, avea loc în 1996, când, prin „telefon”, cei mai mulți români înțelegeau un dispozitiv alb, cu disc, care nu-ți monitoriza viteza de scrollare peste pozele de pe Instagram ca să-și „îmbunătățească serviciile”.

Concluzia la care ajunge Ulrich este că nu poți separa etica de democrație. Pentru a lua decizii corecte, trebuie să le dai oamenilor posibilitatea să înțeleagă despre ce este vorba și să participe la luarea acelor decizii, iar cele 12 întrebări din sistemul de referință propus de Ulrich, prin abordarea CSH, facilitează acest lucru.

Fiind conștient că, nu doar în România, după zeci de ani de educație în care „de stânga” înseamnă stalinism și „de dreapta” înseamnă tot ce e bun în lume, implicarea celor afectați poate suna populist, Ulrich precizează:

„Nu este necesar să idealizăm ‘poporul’ pentru a-l considera singurul garant posibil al eticii. Ideea nu este atât aceea de a ne baza pe concepții romantice despre o armonie naturală și despre altruismul existent în rândul ‘poporului’, cât aceea de a iniția un efort sistematic de reducere a asimetriilor de putere, de cunoaștere și de educație și, în sens mai larg, de sporire a șanselor unei participări semnificative. Critica etică a judecăților de demarcare (boundary judgements – vezi definiția) poate contribui la acest efort fără sfârșit.” (pag. 38)

Cine ia deciziile în legatură cu AI-ul?

Am văzut că, în viziunea lui Ulrich, legitimitatea deciziilor în democrațiile liberale vestice este dată de consultarea inclusiv a cetățenilor afectați, dar fără putere de decizie și, mai mult, de folosirea unei metodologii care să-i ofere omului de rând posibilitatea de a contesta în mod argumentat ceea ce specialiștii consideră o „îmbunătățire”.

Revenim, așadar, la discuția despre AI.

Doar în ultimul an, cinci companii americane – Amazon, Microsoft, Alphabet, Meta și Oracle – au ajuns la cheltuieli de capital cumulate de aproximativ 691 de miliarde de dolari, adică de peste 3 ori bugetul Uniunii Europene pe 2026 (sub 200 de miliarde de euro). Câți oameni au fost consultați când s-au luat asemenea decizii, care, în ciuda tuturor progreselor tehnologice, au și câteva efecte negative (de exemplu, eliminarea multor locuri de muncă, în special a celor pentru juniori, sau creșterea prețurilor la electricitate, memorie RAM și plăci grafice)?

Putem spune, așadar, că decizii majore de a investi enorm într-o anumită direcție au fost luate, în numele unei lumi întregi, de o mână de oameni din consiliile de administrație ale unor mari companii.

Nu toată lumea pare să conștientizeze acest lucru. Într-un articol scris de Institutul Mises și publicat de Eurasia Review pe 1 Aprilie 2026, autorul susține că AI-ul este „ultimul cui bătut în coșciugul lui Karl Marx”. Argumentația sună cam așa: Marx a prezis că automatizarea muncii îi va afecta atât de mult pe muncitorii de rând, încât acest lucru va alimenta furia proletară și lupta de clasă. În schimb, autorii constată că, de fapt, AI-ul pare capabil să înlocuiască foarte multe locuri de muncă de birou, care necesită studii și experiență. În același timp, multe joburi care presupun muncă fizică par să fie în siguranță, așa cum arată și analiza ILO menționată mai sus.

Să fie, oare, acest articol o păcăleală de 1 Aprilie sau, poate, autorii nu au înțeles că adevăratul conflict invocat este între cei care dețin capitalul și iau deciziile (acționarii, consiliile de administrație ale companiilor) și cei care muncesc pentru un salariu, nu între nivelurile inferioare și superioare ale ierarhiei dintr-o companie?

Una dintre „contradicțiile antagonice din sânul societății capitaliste”, despre care vorbea Marx în secolul al XIX-lea, se referă la faptul că, pe măsură ce companiile devin din ce în ce mai „eficiente”, ele vor reduce numărul de angajați, mai ales dacă îi pot înlocui cu roboți sau AI. Asta pentru că, țineți minte din CSH, eficiența măsoară cât de aproape ești de scop, iar scopul este maximizarea profitului. Dar, dacă salariile tot scad și șomajul tot crește, cine va mai avea bani să cumpere produsele și serviciile companiilor care și-au eficientizat costurile?

Și nu doar marxiștii discută despre asta. Economistul britanic John Maynard Keynes, considerat părintele macroeconomiei moderne (capitaliste), scria în cartea lui din 1936 despre rolul salariilor mai mari în creșterea puterii de cumpărare, care stimulează consumul și, implicit, cererea de bunuri și servicii.

Așadar, pe măsură ce aproape toți banii de investiții la nivel mondial sunt direcționați către centre de date și cercetare în domeniul AI, politicienii privesc cu profundă îngrijorare fenomenul, fără să pară capabili de vreo intervenție. 

Așa cum observa Ulrich, nu trebuie să fii economist pentru a putea pune întrebări pertinente despre situații care te afectează. Au fost întrebați scriitorii din industriile creative, designerii web, analiștii financiari, contabilii sau traducătorii dacă ar prefera să se investească trilioane de dolari într-o tehnologie care să-i lase fără loc de muncă până la finalul anului? 

Probabil că nu. De unde știm asta?

Cea mai proastă idee din lume

În anul 1970, economistul american Milton Friedman, câștigător al Premiului Nobel, susținea, într-un articol devenit celebru, The Social Responsibility of Business Is to Increase Its Profits, că responsabilitatea managerilor este să conducă afacerea în interesul proprietarilor, urmărind, în general, maximizarea profiturilor și respectând regulile jocului.

Mariana Mazzucato, profesor de la University College London, în cartea ei din 2026, The Common Good Economy, care este o culminare a zeci de ani de studii, discută (în capitolul 4), despre influența majoră pe care viziunea asupra lumii introdusă de Milton Friedman a avut-o asupra întregii economii contemporane.

Viziunea lui Friedman poate părea de bun-simț: fiecare cu treaba lui, avem reguli, statul să nu se implice prea mult. Ce ar putea să iasă rău? Ai putea să juri că ai văzut o postare similară săptămâna trecută, scrisă de vreun analist economic care apare mereu la TV.

O implicație directă a acestei viziuni este, în primul rând, că scopul unei firme nu este bunăstarea angajaților. Ba din contră: cu cât angajații sunt mai bine plătiți, cu atât mai rău pentru acționari, pentru că scade profitul. Nu-ți place la noi? Pleacă în altă parte! Responsabilitatea nu vizează nici măcar satisfacția clienților, decât în măsura în care aceștia au posibilitatea de a se orienta către un concurent, adică atât timp cât compania respectivă nu deține monopolul.

Companiile nu sunt responsabile, în viziunea lui Friedman, nici de distrugerea mediului, de creșterea inegalității, de criza costului vieții, care a declanșat de săptămâni bune greve majore în Europa, de șomajul în creștere sau de creșterea extremismului. Nu trebuie să le pese decât ca prețul acțiunilor să fie cât mai mare și, eventual, de banii returnați acționarilor prin dividende.

Poate că a existat o perioadă în istorie în care o asemenea abordare era sustenabilă. În anul 2026, însă, până și o organizație precum World Economic Forum susține că am putea avea probleme cu recalificarea unui număr atât de mare de oameni care își vor pierde locurile de muncă din cauza AI. Reprezentanții organizației sugerează că, în loc să ne întrebăm cum prevenim șomajul în epoca AI, o întrebare mai bună ar fi: „Cum facem astfel încât oamenii să își poată asigura un trai decent și stabil în era AI?”. Iar o întrebare suplimentară, din partea mea, ar fi: cine își va pune această întrebare?

Știm cu toții de la Friedman că treaba marilor companii este să maximizeze profitul acționarilor și că statul nu ar trebui să impună companiilor obiective sociale care, în opinia lui, ar trebui stabilite prin alegeri individuale și mecanisme voluntare. Bunăstarea oamenilor, conform acestei viziuni, va veni în mod natural, cumva, prin mecanismele pieței libere.

Realitatea pare însă că începe să arate limitele acestei viziuni, iar cartea precedentă a lui Cory Doctorow, Enshittification,descrie efectele a zeci de ani de piață liberă și lipsă de inițiativă publică.

Mariana Mazzucato povestește transformarea personală a lui Jack Welch, CEO-ul General Electric din perioada 1981–2001, care, deși inițial era, ca majoritatea liderilor marilor companii, un adept al viziunii lui Friedman, a declarat în 2009, într-un interviu acordat publicației Financial Times, că obsesia pentru maximizarea valorii pentru acționari este „cea mai proastă idee din lume”!

Ajungem, așadar, la concluzia că, din păcate, nu se mai poate continua așa. AI reprezintă un avans tehnologic imens, care va produce efecte cumplite pentru mulți oameni. E posibil ca bula financiară actuală să se spargă și capitalizarea unor companii să scadă spectaculos, dar, așa cum poate confirma orice IT-ist care deja se gândește la epoca în care nu folosea asistentul Claude Code, ca la desenele cu familia Flintstone, schimbările sunt majore, the genie is out of the bottle.

Viziunea care ne-a ghidat zeci de ani, în care fiecare își vede de treaba lui, comunicăm prin semnale de preț, iar piața rezolvă totul în mod magic, trebuie înlocuită. Incotro ne îndreptam? Ne vom bucura că am rămas mai puțini dar avem firmware-ul actualizat?

Nu ar fi o viziune mai optimistă ca statul să asigure cadrul legislativ prin care cetățenii să poată deveni centauri și să prevină companiile să ne transforme în reverse centauri?

Cum arată era AI văzută prin Critical Systems Heuristics?

Dacă am reduce sistemul de interes la o singură companie (cum adoptăm AI pentru a crește eficiența?) sau la o singură țară (cum facem să nu rămânem în urma americanilor și a chinezilor?), am face o greșeală, pentru că impactul transformator este atât de mare, încât „externalitățile”, adică ceea ce nu intră în sistemul de interes, s-ar propaga cu rapiditate și ar schimba complet mediul în care operăm.

Dacă o companie dă afară câțiva angajați neperformanți, e OK: poate își vor găsi joburi în altă parte, poate se vor recalifica. În cel mai rău caz, primesc ajutor de șomaj. Dacă toate companiile își dau afară 90% din angajați, piața nu-i mai poate absorbi.

Ajungem, deci, să ne întrebăm dacă viziunea asupra lumii (worldview), în care omul trebuie să muncească pentru a supraviețui și în care percepția asupra valorii umane este strâns legată de priceperea profesională și nivelul veniturilor, mai are sens. Și, dacă nu, cu ce poate fi înlocuită?

Așadar, o analiză care se concentrează pe orice sistem de interes, altul decât „întreaga planetă”, pare naivă.

Iată cum am putea răspunde la cele 12 întrebări din metodologia CSH a lui Ulrich, într-o manieră descriptivă (cum este lumea acum), nu normativă (cum ar trebui să fie).

1. Cine sunt beneficiarii?

Principalii beneficiari sunt statele care urmăresc supremația tehnologică și geopolitică, marile companii IT, investitorii și organizațiile care obțin avantaje economice, militare și strategice. Beneficiile pentru societate sunt indirecte și distribuite inegal.

2. Care este scopul?

Scopul declarat al dezvoltării AI este progresul tehnologic, creșterea productivității, automatizarea activităților, accelerarea cercetării științifice și îmbunătățirea calității vieții.

În realitate, competiția are și o dimensiune strategică: obținerea supremației tehnologice, controlul infrastructurilor digitale, acumularea avantajelor economice și consolidarea capacităților de apărare și securitate națională.

3. Cum se măsoară succesul (KPI)?

Prin performanța modelelor AI (e.g., BenchLM), puterea de calcul, investițiile, veniturile, cota de piață, viteza inovării, adopția tehnologiei, capacitatea militară și independența tehnologică.

4. Cine sunt decidentii?

Guvernele, marile companii tehnologice, investitorii, instituțiile militare și de securitate, precum și organizațiile care controlează infrastructura și dezvoltarea modelelor AI.

5. Ce resurse sunt controlate?

Capitalul financiar, procesoarele avansate (e.g., Nvidia H200), centrele de date, energia, datele, proprietatea intelectuală, expertiza tehnică și infrastructura digitală.

6. Ce factori externi influențează sistemul?

Rivalitățile geopolitice, conflictele internaționale, lanțurile de aprovizionare, disponibilitatea energiei, reglementările, evoluțiile științifice și reacțiile sociale la automatizare.

7. Cine este considerat expert?

Cercetătorii, inginerii AI, specialiștii în informatică, matematică și hardware, experții în securitate, economiștii, instituțiile academice și specialiștii în politici publice.

8. Ce tip de cunoaștere este considerat relevant?

Predominant cunoașterea tehnologică și științifică: algoritmi, machine learning, date, performanță computațională și optimizare. În plan secundar, cunoașterea economică, juridică, etică și socială.

9. Ce garantează succesul?

Performanța demonstrată a modelelor, validarea științifică, benchmark-urile, investițiile, testarea tehnologică, expertiza organizațională și capacitatea de implementare la scară largă.

10. Cine reprezintă interesele celor afectați?

Sindicatele, organizațiile societății civile, autoritățile de reglementare, organizațiile pentru protecția datelor și consumatorilor, cercetătorii independenți și reprezentanții comunităților afectate.

11. Cum sunt protejați și emancipați cei afectați?

Ideal, prin reglementare, transparență, drepturi digitale, protecția datelor, audit independent, consultare publică, posibilitatea contestării deciziilor algoritmice și participarea la guvernanța AI.

În practică, presiunile marilor companii împotriva reglementărilor AI sunt imense.

12. Worldview – Ce viziune despre lume fundamentează sistemul?

Actuala viziune economică mondială, inspirată de Milton Friedman, Reagan, Thatcher, etc. O viziune predominant tehnologică și competitivă, conform căreia progresul este determinat de inovare, eficiență, productivitate și supremație tehnologică. Alternativ, există o viziune centrată pe bunăstarea umană (vezi cartea Marianei Mazzucato), echitate, libertate, sustenabilitate și distribuirea beneficiilor AI.

La ce etaj se depun declarațiile online în era agentic AI?

În acest context mondial, România se află într-o situație paradoxală, fiind cu 10 ani în față la anumite capitole (conectarea prin fibră optică, numărul de absolvenți IT) și cu 40 de ani în urmă la altele (serviciile secrete, sistemul de justiție, administrația publică).

Ne-am putea gândi că, atunci când vom reuși și noi să reformăm serviciile secrete, după 36 de ani, și vom scăpa de securiștii de la guvernare și din servicii și dacă am pune și noi ca prim-ministru un bean-counter cinstit, care să pună la punct administrația publică, am ajunge și noi în rândul lumii. Aceste transformări ar fi cu adevărat revoluționare și, în mod sigur, trebuie făcute înainte să ne preocupăm de chestiuni mai profunde, precum schimbarea worldview-urilor.

Întrebarea este, însă, dacă nu riscăm ca, și după ce toate problemele specifice României vor fi rezolvate, să ajungem în situația țărilor din vestul Europei, cuprinse de proteste masive săptămână de săptămână din cauza problemelor economice în creștere. De-asta i-am dat jos pe securiști? De-asta am adus SRI-ul sub un control civil real? Ca să putem și noi să dăm cu bolovani în jandarmi la protestele împotriva costului prea ridicat al vieții? Să ținem cont de principiul folosofic că „natura are oroare de vid” și, deci, orice astfel de schimbare majoră trebuie să vină și cu propuneri de reorganizare a statului după principii ca în cartea „The Common Good Economy”, să spună clar ce punem în loc, altfel riscăm să avem o nouă revoluție deturnată.

Așadar apare aici un risc pe care nu ar trebui să-l ignorăm: direcția politică de dreapta, cea mai populară în România, poate să transforme o nemulțumire legitimă față de corupție și disfuncționalitatea instituțiilor într-un proiect de reorganizare a societății care să ne facă, în cele din urmă, tot rău. Este relativ simplu să construiești un consens politic în jurul ideii că statul este corupt, birocratic, ineficient și prea mare, în primul rând pentru că este adevărat. Este mult mai dificil să explici ce anume ar trebui să punem în locul lui, cine ar trebui să furnizeze serviciile publice, cum ar trebui distribuite costurile și beneficiile dezvoltării și ce mecanisme ar trebui să garanteze că noile structuri nu vor reproduce aceleași raporturi de putere. O politică bazată predominant pe reducerea statului, dereglementare, individualizarea responsabilității și transferul unor funcții publice către piață nu elimină problemele de guvernanță. Aceste politici riscă să le mute în alte spații, unde controlul democratic este uneori și mai slab, așa cum putem vedea în problemele cu care se confruntă acum statele din Europa de Vest, cum ar fi criza accesibilității locuințelor. Din perspectiva Critical Systems Heuristics, o întrebare importantă este și cine va beneficia de pe urma sistemului pe care vrem să îl construim. Deci dacă nu discutăm explicit despre valorile care legitimează noua ordine și despre imaginea de societate pe care o urmărim, riscăm să confundăm schimbarea celor care administrează sistemul cu transformarea sistemului însuși.

Adică putem ajunge să înlocuim o clasă politică preocupată de capturarea statului cu una care, în numele eficienței, al meritocrației și al responsabilității individuale, legitimează noi forme de concentrare a puterii și de inegalitate. Putem avea instituții mai eficiente, dar care servesc unui număr tot mai restrâns de beneficiari; mai puțină birocrație, dar și mai puține mecanisme de protecție socială; mai multă disciplină fiscală, dar cu costuri disproporționate pentru cei care au deja cele mai puține resurse.

O reformă instituțională nu este automat și un progres social. Dacă nu stabilim în prealabil ce înțelegem prin binele comun, riscăm să construim un stat mai eficient în atingerea unor obiective care nu sunt neapărat în interesul majorității.

Motive de optimism

Crizele multiple accelerate de dezvoltarea AI s-ar putea să aibă și un efect pozitiv: de a scoate din hibernare populațiile din Vest. E posibil ca șomajul în creștere, sărăcia generalizată și lipsa de speranță să fie exact șutul în fund care ne trebuia pentru a face ceva în afara obișnuitului métro, boulot, dodo plus Netflix și vacanțe și pentru a ne reevalua worldview-urile.

La fel cum piața poate rămâne irațională mai mult timp decât poți tu să rămâi solvabil, beneficiarii progresului AI, acționarii marilor companii, se pot baricada într-un buncăr din Patagonia sau se pot refugia pe Marte mai mult timp decât îți poți permite tu să stai nemâncat.

Așa cum remarca Mariana Mazzucato, statele vestice sunt organizate doar cu scopul de a corecta dezechilibrele de pe piața liberă. Ce-ar fi dacă ele ar acționa cu intenție strategică, urmărind nu doar creșterea economică de orice fel ci ceea ce autoarea numește „good growth”, creșterea economică direcționată către misiuni sociale? Cu alte cuvinte, dacă statele s-ar ocupa nu doar să asigure actorilor economici un teren de joc echitabil (level playing field), ci să „încline” terenul de joc (tilting the playing field), astfel încât competitorii de pe piață să fie recompensați pentru acțiunile care duc progresul într-o direcție dezirabilă.

Și când spunem „dezirabilă”, avem în vedere și înțelegerea lui Werner Ulrich, care implică reprezentarea cât mai largă și emanciparea cetățenilor.

Mazzucato dă ca exemplu pentru „înclinarea” terenului de joc programul Apollo al NASA și misiunea de a ajunge pe Lună din anii ’60. Prin stabilirea unei misiuni clare, transportarea astronauților până pe Lună și înapoi, și prin implementarea unui program de achiziții care recompensa inovația și calitatea, NASA a generat un val de soluții creative cu impact până în ziua de azi: costumele purtate de astronauți, mâncarea pentru bebeluși, software-ul, camerele fotografice și comunicațiile prin satelit.

În același mod, statele ar putea să „încline” terenul dezvoltării AI către soluții care țin cont de nevoile de bază ale oamenilor. De exemplu, roboți care să facă toată munca agricolă și să distribuie mâncare gratuită. Sau să-i descrii robotului Ion ce proprietăți deții și ce venituri ai avut, iar acesta să-ți completeze automat declarațiile pentru ANAF și pentru taxele locale.

Dacă suntem de acord cu Ulrich, deci cu faptul că nu poți avea legitimitate decât dacă oferi unui segment cât mai larg al populației ocazia de a participa la luarea deciziilor, avem acum o oportunitate imensă să ne actualizăm viziunea asupra lumii către una care generează democrație.

Întrebarea pe care trebuie să ne-o punem este dacă vrem să păstrăm vechile viziuni sau suntem deschiși către perspective noi?