Marina Bolotnikova, Hey Google, stop trying to write my emails!
Am observat prima dată când, acum câteva luni, am deschis un e-mail de la Ian, agentul meu literar. Înainte să apuc să citesc ceva ce scrisese, Gmail îmi recomanda un răspuns complet, detaliat, generat de inteligență artificială, exprimând idei pentru o carte și chiar sentimentele mele despre tranziția profesională pe care o făcusem recent. Îmi explorase inboxul pentru a deduce de ce îmi scria Ian și asimilase fragmente din stilul meu, chiar și semnând cu „m”-ul mic pe care îl folosesc cu oamenii cu care sunt familiarizat.
Timp de aproximativ un deceniu , Google a sugerat „răspunsuri inteligente” foarte generice, uneori monosilabice - lucruri precum „bine”, „mulțumesc!” sau „aveți vreo idee?”. Le-am folosit pentru a trimite confirmări rapide la e-mailuri de care altfel aș fi uitat. Dar în ultimii doi ani, Gmail a început să ofere răspunsuri în formă de schiță completă, care presupun că îmi imită propriile reacții individuale la întrebările, ideile și emoțiile interlocutorilor mei.
Asta a părut o schimbare de situație izbitoare. Am reflectat cu oarecare tristețe la ideea de a trimite una dintre acestea cuiva care contează - cât de dezumanizant ar fi atât pentru mine, cât și pentru Ian să-l facem să citească o subiectivitate contrafăcută care se preface a fi a mea.
Ai putea spune că nu e mare lucru; poate că îți oferă timp înapoi pentru o muncă mai profundă sau pentru părți mai semnificative ale vieții tale (nu aș regreta deloc asta - și mie îmi economisește timp!). Ne înecăm cu toții în prea multe e-mailuri, multe dintre ele fără sens sau lipsite de vreo semnificație deosebită. Nu este acesta exact genul de plictiseală cotidiană pentru care ar trebui să invităm, cu bucurie, inteligența artificială să ne elibereze?
Însă cred că această corespondență personală generată de mașini, care probabil se va răspândi și mai mult în alte forme de comunicare, m-a preocupat pentru că, de fapt, se întâmplă ceva mai profund. În ultimii ani s-a scris mult despre scrierea generată de inteligența artificială și consecințele sale sociale - cum va dezechilibra milioane de lucrători, ne va externaliza gândirea, va deruta copiii care cresc în era inteligenței artificiale în legătură cu diferența dintre prietenii reali și cei sintetici și așa mai departe. Știm, deja, că limbajul inteligenței artificiale sună de parcă ar fi produsul unei conștiințe similare. Dar particularitatea ciudată a autocompletării elaborate a e-mailurilor este că se antrenează și simulează conștiința ta. Și, pe măsură ce face asta, îți oferă și mai puține motive să fii conștient.
Ca mulți alți lucrători în domeniul cunoașterii care își obțin existența și identitatea din capacități cognitive care sunt, acum, cel puțin parțial reproduse în siliciu, am o relație complicată și ambivalentă cu AI generativă. Acum depind de ea pentru a cerceta aproape fiecare poveste la care lucrez, un scop pentru care este evident foarte utilă (în pofida celor care, încă, insistă că nu poate fi niciodată utilă la nimic).
Sunt însă profund sceptic în privința utilizării sale pentru scris, deoarece, așa cum au remarcat deja mulți scriitori mai inteligenți decât mine, scrisul este strâns legat de gândire, iar scurtcircuitarea lui ne poate diminua capacitatea de reflecție profundă. Efortul de a scrie nu este o povară inutilă, ci face parte din modul în care decizi ce vrei să spui și prin care oferi coerență ideilor. Din acest motiv, Kelsey Piper - care are în general o viziune pozitivă despre potențialul inteligenței artificiale de a ne face mai productivi și de a îmbunătăți viața oamenilor - a declarat într-un episod recent de podcast: „nu aș folosi-o niciodată pentru a scrie.”
Într-o lucrare recentă, doi cercetători de la Universitatea din Pennsylvania au descris externalizarea totală a sarcinilor cognitive complexe către AI drept „abandon cognitiv”. „O abdicare de la evaluarea critică”, scriu aceștia, „în care utilizatorul renunță la controlul cognitiv și adoptă judecata AI ca fiind propria sa judecată”. Acesta este unul dintre motivele pentru care a părut deosebit de nepotrivit să las AI să genereze gânduri pentru mine în răspunsul către cineva cu care fac brainstorming despre scrierea unei cărți, probabil unul dintre cele mai solicitante lucruri din punct de vedere cognitiv pe care le voi face vreodată. E-mailul, cu toate neplăcerile sale, este și un instrument relațional. Iar faptul de a lăsa o mașină să genereze partea ta din schimbul de replici diminuează autenticitatea conexiunii tale cu o altă persoană
Uneori, schițele inteligenței artificiale sunt, desigur, evident greșite. Un e-mail sugerat de inteligența artificială ar putea, de exemplu, să spună că ai citit o carte pe care nu ai citit-o, ceea ce ar putea crește probabilitatea de a fi de acord cu afirmația falsă. Dar ceea ce mă neliniștește cel mai mult nu este simpla halucinație, ci atunci când inteligența artificială are dreptate, sau suficient de multă dreptate. Inteligența artificială a e-mailului meu se bazează pe cunoștințele sale despre tot ceea ce am scris înainte, așa că poate, adesea, să facă o presupunere rezonabilă despre ceea ce aș vrea să spun oricum. Sistemul nu eșuează complet în a reproduce mintea mea, ci produce, de fapt, un substitut aproape plauzibil pentru aceasta.
Pare începutul a ceea ce Silicon Valley a prorocit de decenii ca o fuziune iminentă (numită uneori „singularitate”) între mintea umană și cea a mașinilor. Obișnuiam să consider asta o idee total improbabilă, dar nu fusesem suficient de deschis la minte. S-ar putea dovedi descurajant de ușor pentru o inteligență artificială avansată să se antreneze pe un eșantion din gândurile tale trecute și să le scrie pe cele viitoare în locul tău.
Totuși, pare puțin probabil să ne acomodăm pur și simplu cu ideea că întreaga comunicare scrisă pe care o întâlnim și o generăm în fiecare zi ar putea fi produsă de AI. Atât de mult din comunicarea noastră interpersonală, dacă nu chiar cea mai mare parte, se desfășoară acum în scris. Oricât de vulnerabili am fi în fața abandonului cognitiv, oamenii au, de asemenea, o nevoie profundă și compensatorie de a experimenta limbajul ca venind dintr-o altă minte conștientă - de a se simți văzuți și înțeleși și, la rândul lor, de a-și afirma propria individualitate.