„Din cauza stadiului lor de dezvoltare, copiii sunt cei mai vulnerabili la anumite funcții ale rețelelor sociale. E mai bine să abordăm designul platformelor, nu să interzicem accesul la servicii care pot fi și benefice”, este doar unul dintre exemplele pe care mi l-a dat Nicoleta Prutean, pentru a-mi explica miza cercetărilor sale.
- Care sunt cele 5 nevoi umane fundamentale și de ce este dăunător să fie externalizate Inteligenței Artificiale.
- Cazul TikTok și alegerile din România
- Ce înseamnă că „am putea reglementa AI precum am reglementat electricitatea”.
Nicoleta Prutean este doctor în neuroștiințe cognitive și analist senior pe inteligență artificială la o organizația neguvernamentală de la Bruxelles. Am cunoscut-o la o conferința despre dezinformare de la Vilnius, unde venise să-și susțină prezentarea despre cum ne afectează inteligența artificială integritatea cognitivă. Este un subiect de nișă, dar foarte actual, așa că i-am solicitat un interviu pentru publicul HotNews.
Copiii celor care au fugit „ca să nu lucreze pe moșiilor comuniștilor lui Voronin”
Ca o paranteză, Nicoleta Prutean a doua cercetătoare cu origini în Republica Moldova pe care o întâlnesc în ultimele luni. În luna mai, am realizat un interviu cu Mihaela Gaglioti Verlan, expertă în pământuri rare, un alt domeniu al viitorului.
Practic, cele două tinere fac parte dintre copiii moldovenilor despre care Traian Băsescu spunea, în urmă cu mulți ani, că „fug din Republica Moldova ca să nu ajungă să muncească pe moșiile comuniștilor lui Voronin”.
Născută în Republica Moldova, educată în Italia și Spania, Prutean lucrează acum la Bruxelles.
Și nu poți să nu te gândești cum a așezat istoria lucrurile: în timp ce comuniștii au dispărut de pe scena politică, mulți dintre copiii moldovenilor care au fugit din țară ca să scăpa de ei participă acum la viitorul Europei. Iar ce fac ei este fascinant.
„Sunt un copil al proiectului european”
Nicoleta Prutean lucrează pentru organizația „Centre for Future Generations” de la Bruxelles. Este un think tank independent care îi ajută pe decidenți să adopte politici în așa-numitele „tehnologii emergente”. Principalul finanțator al organizației este Steven Schuurman, un antreprenor și filantrop olandez din domeniul tehnologiei.
„În doctorat și în stagiile de cercetare din Spania și din SUA, m-am concentrat pe felul în care oamenii iau decizii, pe biasurile cognitive, pe motivația de a investi efort mental. Toate acestea țin, evident, de inteligența umană”, spune Prutean.
„La un moment dat, am devenit curioasă cum aș putea aplica aceste cunoștințe în domenii precum schimbările climatice sau impactul tehnologiilor asupra oamenilor și a societății. Așa am aflat de Centre for Future Generations. Se ocupă de mai multe tehnologii de frontieră: biotehnologii, tehnologii de intervenție climatică, neurotehnologii și, desigur, AI avansată”, explică Nicoleta Prutean cum a ajuns să lucreze pentru această organizație.
Născută în Republica Moldova, educată în Italia și Spania, lucrează acum la Bruxelles
Dar, în discuția cu ea, care a avut loc în limba engleză, cercetătoarea mi-a mai spus „un secret”: este originară din Republica Moldova, de unde a plecat când avea vârsta de opt ani.
„Povestea mea e una de emigrare, ca multe altele. O parte din familie s-a mutat întâi în Italia, pentru perspective de viață și de educație mai bune. Mi-am făcut toată educația, de la școală, liceu până la facultate, în Italia, în mai multe orașe: Roma, Torino, Padova. Am continuat cu studii de cercetare în Spania, apoi m-am mutat în Belgia pentru doctorat. Sunt, într-un fel, un copil al proiectului european”, povestește Nicoleta Prutean.
„Sănătatea mintală nu înseamnă doar absența unei boli”
– Am citit raportul pe care l-ați publicat în mai multe părți în septembrie, „Governing AI for cognitive integrity”. Care este scopul acestuia? Vreți să puneți un subiect pe agendă sau să schimbați politicile din acest domeniu?
– Scopul este chiar să răspundă la acea întrebare: dacă rețelele sociale sau sistemele mediate de AI afectează negativ sănătatea mintală. Pentru un om de știință, e o întrebare descurajantă: ce înseamnă „rețele sociale”? Ce anume din ele? Timpul petrecut pe ele? Anumite funcții? Doar designul? Și ce înțelegem prin sănătate mintală? Doar absența unei boli – să nu fii deprimat, dependent sau anxios ori să nu ai un episod psihotic în interacțiunea cu un chatbot?
Raportul a fost un mod de a operaționaliza această întrebare din punct de vedere științific. A însemnat să precizăm ce anume din tehnologie analizăm, pornind de la stimulentele de business pe care le au companiile să dezvolte și să lanseze tehnologia într-un anumit fel.
Apoi designul, atât la nivel de arhitectură – modelele din spatele chatboturilor sau ale sistemelor de recomandare ale rețelelor sociale -, cât și la nivelul interfețelor adăugate peste ele. Mă gândesc la funcții precum autoplay, scrollul infinit, notificările sau la faptul că chatboturile nu sunt simple modele de limbaj, ci modele conversaționale care vorbesc asemenea oamenilor. Dincolo de design, există practicile legate de date: cum sunt stocate și reutilizate în ciclul tehnologiei.
Aceasta este partea tehnologică.
În privința sănătății mintale, scopul raportului a fost să aducă nuanțe în dezbatere. Am pornit de la definiția Organizației Mondiale a Sănătății, potrivit căreia sănătatea mintală nu înseamnă doar absența unei boli, ci acea stare de bine mentală care le permite oamenilor să facă față stresului vieții, să-și pună în valoare abilitățile, să învețe, să muncească și să contribuie la comunitate.
Ce înseamnă „integritatea cognitivă”
Din punct de vedere științific, această stare de bine trebuie însă operaționalizată. Înseamnă dezvoltarea funcțiilor cognitive care susțin toate acestea, păstrarea autonomiei asupra lor și exercitarea lor. Asta este, în fond, integritatea cognitivă.
Așadar, partea științifică a proiectului a constat în a defini mai bine ce înțelegem prin aceste tehnologii, a diseca întrebarea și a propune un standard alternativ pentru sănătatea mintală. Apoi am evaluat reglementările europene actuale: în ce măsură urmăresc să protejeze integritatea cognitivă și unde sunt lacunele.
– Ce înseamnă integritatea cognitivă „ca standard”, cum am citit în raportul dumneavoastră?
– Este un mod de a operaționaliza definiția OMS a sănătății mintale. Privește dincolo de simpla absență a unei patologii, spre ceea ce le permite oamenilor să-și dezvolte capacitățile, să-și trăiască potențialul la maximum, să muncească, să învețe și să contribuie la comunitate.
În legislație se pune un accent puternic pe drepturile fundamentale – libertatea de gândire, integritatea mintală, protecția sănătății mintale, în special a minorilor. Dar, din punct de vedere științific, ce înțelegem concret prin asta? Cum testăm dacă aceste tehnologii afectează sănătatea sau integritatea mintală? Trebuie să le operaționalizăm ca să le putem testa.
Eu am adus experiența din neuroștiințele cognitive. Pentru mine, integritatea mintală înseamnă capacitățile noastre cognitive, care ne susțin gândirea, deciziile și comportamentul în viața reală: atenția, gândirea critică, luarea deciziilor, reglarea emoțională. Este vorba de a avea standarde prin care să le putem măsura și apoi să evaluăm eficiența reglementărilor.
Riscul pierderii autonomiei și cele 5 nevoi umane
– Ați descris cinci nevoi umane fundamentale: a înțelege, a te conecta, a crea, a comunica și a face față situațiilor (în engleză: „comprehend”, „connect”, „create”, „communicate”, „cope”). Susțineți că satisfacerea acestor nevoi nu poate fi pur și simplu externalizată către AI. Ce se întâmplă când totuși se întâmplă asta?
– Cei cinci „C” reprezintă nevoile psihologice pe care tehnologiile mediate de AI ne ajută să le satisfacem. Vreau să subliniez: prin tehnologii mediate de AI înțeleg atât rețelele sociale, cu sistemele lor de recomandare bazate pe AI și tot ce vine cu ele, cât și noua generație de chatboturi de AI generativă.
E clar că oamenii le folosesc și le integrează în viața de zi cu zi pentru că le găsesc utile. Am identificat cinci domenii în care le folosesc cel mai mult în prezent.
Le folosesc pentru a înțelege – pentru a căuta informații și a-și forma convingeri despre lume, pentru a se conecta cu alții, ajungând la comunități la care altfel nu ar avea acces în viața reală, și pentru a comunica cu ele. Apoi le folosesc pentru a crea sens și cunoaștere și pentru a face față dificultăților vieții, la nivel cognitiv și emoțional.
Dar nu contează doar dacă aceste nevoi sunt satisfăcute sau rezultatul perceput, ci felul în care sunt satisfăcute.
Nevoia de autonomie
Aici subliniez dimensiunea autonomiei. Poți înțelege lumea pentru că tu cauți activ informații folosind aceste instrumente – nu spun să nu le folosim – sau poți lăsa AI să-ți selecteze informațiile.
Continuarea pe pagina următoare »
Te poți conecta cu alții pentru că ajungi activ la diferite comunități sau pentru că un algoritm te potrivește cu cineva. Poți crea folosind un chatbot ca să-ți amplifici gândirea, gândirea critică, sau poți delega complet procesul, lăsând tehnologia să-ți înlocuiască gândirea. Te poți exprima – gândiți-vă la platforma pe care ne-o oferă rețelele sociale – sau, din cauza felului în care funcționează algoritmul, poți lăsa tehnologia să amplifice anumite voci în detrimentul altora.
Și poți folosi tehnologia ca să te autoreglezi – gândiți-vă cum apelează uneori oamenii la chatboturi pentru sprijin emoțional.
„Chatbotul va adapta o versiune a lumii la nevoile tale”
Dar, dacă faci asta continuu și repetat, chatbotul va adapta o versiune a lumii la nevoile tale, fără să mai fie nevoie să te reglezi singur. Pe termen lung, riscul este ca autonomia noastră în felul în care ne satisfacem aceste nevoi să scadă.
Autonomia contează din două motive. Din punct de vedere neural, trebuie să ne implicăm activ în procesele cognitive care ne susțin comportamentul. E o chestiune de plasticitate: dacă nu ne exersăm aceste capacități, ele se atrofiază în cele din urmă.
Iar din punct de vedere psihologic, autonomia este dimensiunea centrală a unei satisfaceri reale a nevoilor noastre. Autonomia este fundamentală pentru starea noastră de bine mentală.
AI, reglementată „ca electricitatea”
– La conferința despre dezinformare de la Vilnius ați comparat felul cum Uniunea Europeană reglementează domeniul AI cu felul în care este reglementată electricitatea. Înțeleg că legislația europeană trebuie să se adapteze pentru a proteja integritatea cognitivă. Ne puteți da câteva exemple?
– Comparând inteligența artificială cu electricitatea, voiam să spun că nu există un singur act care să reglementeze electricitatea. La fel, AI Act nu este singura reglementare a inteligenței artificiale.
Tindem să ne gândim la tehnologie ca la un întreg, dar ea înseamnă, cum spuneam, o anumită dezvoltare și o anumită implementare, cu componente diferite: antrenarea modelului, practicile legate de date, designul, aplicațiile concrete.
Îmi vin în minte reglementări majore: AI Act, dar și GDPR, depsre protecția datelor personale, sau DSA (Digital Services Act), despre riscurile sistemice ale acestei tehnologii, și legislația privind protecția consumatorilor, pentru că, în cele din urmă, tehnologia ajunge la utilizatori și consumatori.
Pentru mine, reglementarea unor tehnologii transformatoare și de uz general, cum este AI, presupune o gândire integrată, în care diferite reglementări abordează diferite aspecte ale tehnologiei. Iar aplicarea lor trebuie să fie, la rândul ei, integrată, ca să vedem unde sunt lacunele, adică unde e nevoie de mai multă protecție.
– Ce părere aveți despre AI Act? Este utilă pentru cetățenii europeni?
– Aplicarea AI Act a început abia în august. Va trebui mai întâi să treacă o perioadă, ca să judecăm dacă este benefică sau nu. Cred că e prea devreme pentru o astfel de opinie. Dar, repet, nu e vorba doar de AI Act.
Cazul TikTok și alegerile din România
– Alegerile prezidențiale din România din 2024 au fost anulate din cauza unei campanii ilegale pe TikTok. Arată acest caz limitele legislației europene, precum Digital Services Act?
– Da, îmi amintesc. Pot să-mi exprim o opinie. Din ce am înțeles, a fost un amestec de lucruri: ingerințe externe, finanțare nedeclarată a campaniei sau încălcări ale legii electorale, manipulare algoritmică și responsabilitatea platformelor. DSA acoperă partea de responsabilitate a platformelor.
Bănuiesc că vă referiți la faptul că procedurile în acest caz sunt încă deschise, fără o soluție finală. Unii europarlamentari protestează că procesul e prea lent. Cred că motivul ține de felul în care DSA abordează riscurile sistemice.
Legea le cere platformelor să evalueze riscurile sistemice pe care le reprezintă pentru domenii largi de impact social: amenințări la adresa discursului civic sau a alegerilor, dar și sănătatea publică, diseminarea conținutului ilegal și efectele negative asupra drepturilor fundamentale.
Sunt domenii foarte largi, așa că definiția riscului sistemic a rămas destul de vagă. Scopul a fost echilibrarea flexibilității cu supravegherea: definiția e lăsată deschisă interpretării, pentru ca legea să rămână adecvată pe măsură ce tehnologiile – și, deci, impactul lor – evoluează. Asta creează, desigur, probleme, pentru că există ambiguitate, dar are și avantajul că permite interpretarea.
Provocarea este că, atunci când Comisia deschide o procedură, vine cu anumite dovezi, iar compania trebuie să răspundă cu alte dovezi. E un proces care poate dura mult.
Riscul sistemic e lăsat oarecum nedefinit: compania îl operaționalizează așa cum consideră pertinent, iar Comisia acceptă sau nu. În sine, asta face parte, într-un fel, din procesul democratic de evaluare. Dar înseamnă și că această flexibilitate poate fi folosită ca armă pentru a tărăgăna procesul.
Ideea centrală este că e un efect secundar. În sine, nu e rău. Așa a fost concepută legea, ca să rămână flexibilă – acesta e tot rostul ei. Dar poate avea efecte secundare.
Interdicția rețelelor sociale pentru copii: „Oare abordăm problema reală?”
– Ați menționat interzicerea rețelelor sociale pentru adolescenți. Ce părere aveți despre exemplul Australiei și despre ce vrea să facă Comisia Europeană în acest domeniu?
– Am mai multe opinii. Primul ține de dovezile din Australia, unde există o interdicție clară: copiilor sub 16 ani le este interzis accesul la rețelele sociale. Este o interdicție strictă. Aici este o problemă: dacă ne uităm, vedem că în toate aceste țări unde se reglementează această problemă, Marea Britanie, Franța, Australia, fiecare își stabilește propriul prag de vârstă. În Australia e 16 ani, în Franța 15 ani.
Dovezile pe care le avem chiar de la eSafety Commissioner (n.r.- agenția care se ocupă de siguranța în mediul online din Australia) arată că majoritatea copiilor încă accesează aceste instrumente, pentru că nu există metode robuste de verificare a vârstei și din cauza complicității adulților, printre alte motive.
Așadar, pe lângă faptul că o interdicție strictă poate fi ineficientă, pentru mine întrebarea este dacă abordăm problema reală. Motivul pentru care aceste instrumente pot avea efecte negative ține de felul în care sunt concepute.
„Soluția este să abordăm designul platformelor, nu să interzicem accesul la servicii”
Revenim la design și la practicile legate de date și la felul în care acestea afectează funcționarea normală a minții: atenția, gândirea critică, reglarea emoțională. Revenim la integritatea cognitivă, la cât de vulnerabili suntem în fața acestor instrumente. Iar această vulnerabilitate nu are un prag clar de vârstă, cu siguranță nu se termină la 15 sau 16 ani, pragurile discutate în legislațiile actuale. Soluția este să abordăm designul platformelor, nu să interzicem accesul la servicii care pot fi și benefice, mai ales pentru anumite categorii de utilizatori.
UE, prin propunerea EU Kids Act, abordează problema diferit. Nu este gândită ca o interdicție strictă a rețelelor sociale, ci vizează designul platformelor. Și, ceea ce mi se pare foarte important, nu se limitează la rețelele sociale, ci ia în calcul și tehnologiile emergente, precum noile chatboturi de AI.
Practic, dacă platformele nu-și adaptează designul ca să fie sigure prin concepție – fără anumite funcții care declanșează vulnerabilități, mai ales la copii -, copiii pur și simplu nu le pot accesa.
Din cauza stadiului lor de dezvoltare, copiii sunt cei mai vulnerabili la anumite funcții ale rețelelor sociale
Există, deci, o restricție, dar ea obligă platformele să-și schimbe designul serviciilor. Sunt prevăzute categorii de vârstă: până la 13 ani, copiii nu pot accesa aceste servicii decât dacă au un scop educațional, apoi le pot accesa treptat, cu tot mai multă autonomie.
Foarte important – pentru că această propunere este, de fapt, o consolidare a unui articol care există deja în DSA, articolul 28 – este că propunerea a fost susținută de un comitet de oameni de știință care au adunat dovezi despre impactul acestei tehnologii asupra sănătății mintale a copiilor.
Și noi am contribuit la aceste discuții. Potrivit chiar acestor experți, copiii au anumite vârfuri de vulnerabilitate la funcțiile pe care EU Kids Act vrea să le interzică.
Din cauza stadiului lor de dezvoltare, copiii sunt cei mai vulnerabili la anumite funcții. Dar asta nu înseamnă că ceilalți, sau copiii, în momentul în care trec de pragul de vârstă, nu mai sunt vulnerabili.
„Mintea noastră nu se schimbă pur și simplu pentru că acum a apărut AI”
Când m-ați întrebat cât de adecvată este legislația actuală pentru a aborda aceste riscuri, pentru mine punctul central este vulnerabilitatea umană, pe care cred că o limităm prea des la anumite categorii.
Vulnerabilitatea umană are mai multe straturi. Există o vulnerabilitate comună, care ne privește pe toți și ține de felul în care a evoluat mintea umană. Mintea noastră nu se schimbă pur și simplu pentru că acum a apărut AI. Ea s-a format într-un anumit fel de-a lungul evoluției și nu se va schimba mâine. Tehnologia este cea care va trebui să se adapteze.
Peste această vulnerabilitate comună există vulnerabilități individuale și structurale: vârsta, de exemplu, nivelul de alfabetizare, variabilele sociodemografice. Iar al treilea strat este vulnerabilitatea situațională, contextuală: izolarea, o criză, incertitudinea, stresul. Trebuie să gândim dincolo de categoriile stricte și să avem o perspectivă mai largă asupra vulnerabilității umane. În prezent, accentul cade puternic pe minori, ceea ce înțeleg, pentru că ei reprezintă o vulnerabilitate mare, dar nu sunt singurii vulnerabili.
– Care ar trebui să fie următorii pași pentru a crește gradul de conștientizare?
– În prezent, aceste legi sunt propuneri aflate în dezbatere, iar discuția este foarte deschisă. Nu este singura propunere a Comisiei Europene pe această temă. Urmează Digital Fairness Act, care vizează actualizarea legislației europene privind protecția consumatorilor pentru epoca tehnologiilor transformatoare. Cred că acolo există o oportunitate mai mare de a discuta acest concept de vulnerabilitate dincolo de categoriile stricte de vârstă.
În general, cercetarea mea va continua să privească tehnologia ca pe un instrument sociotehnic. Despre aceste tehnologii, în special despre AI, se discută în termeni de capabilități ale modelelor și de caracteristici tehnice, dar, în cele din urmă, ele vor fi folosite de oameni.
„Să dezvolți o tehnologie care să le servească efectiv oamenilor”
Ca să înțelegem impactul real al tehnologiei, trebuie să înțelegem cum îi afectează pe oameni, cum lucrează împreună, cum colaborează, cum interacționează. O mare parte din cercetarea mea va merge în această direcție. Evident, nu va fi vorba doar de evidențierea riscurilor, cum a fost cazul acestui proiect, ci și de felul în care putem valorifica beneficiile tehnologiei pentru a ne amplifica gândirea într-un mod pozitiv, care să ne dea putere.
Este o discuție pe care trebuie s-o avem. Vorbim mult despre AI, dezvoltare, inovare, despre posibilitatea de a dezvolta AI într-un mod european, conform valorilor europene. Dar ce înseamnă asta în practică? Înseamnă să dezvolți o tehnologie care să le servească efectiv oamenilor.
Un ministru pentru AI în România
– O ultimă întrebare. Noul guvern al României va include un ministru pentru inteligența artificială. Pe ce ar trebui să se concentreze un astfel de ministru?
– Primul meu gând este că: este un semnal clar. Cu siguranță arată anumite nevoi sau importanța temei. Apoi apare întrebarea: care este mandatul acestui ministru? Care este scopul lui? Nu știm.
Poate fi vorba, mai larg, de digitalizarea administrației publice, ceea ce e foarte clar, dar poate fi ceva legat mai degrabă de discursul despre suveranitatea națională în AI. Sunt subiecte foarte diferite.
Nu știu care va fi accentul acestui minister, dar, când mă gândesc la nevoile regionale sau europene în materie de AI, mă gândesc, desigur, la dezvoltarea bazinului de talente în AI și, prin urmare, a inovării în AI și la cum o putem sprijini.
Europa are propriul bazin de talente, dar depinde ce înțelegem prin talent sau formare: inginerie de date și dezvoltare software sau ingineria modelelor de AI de frontieră. Europa este foarte puternică la prima categorie și cred că și România. Ce lipsește puțin este investiția în a doua categorie de talente în AI.