Lectura de duminică: firmă britanică de AI gata să modeleze alegerile din SUA în 2024

Brian Murphy - photo by LinkedIn

Brian My fost agent FBI, care a condus cândva aripa de informații a Departamentului pentru Securitate Internă (DHS), a reflectat vara trecută asupra eșecurilor Consiliului de guvernare a dezinformarii – grupul format pentru a controla în mod activ dezinformarea. Consiliul, propus în aprilie 2022 după ce a părăsit DHS, a fost rapid abandonat de administrația Biden în câteva luni scurte, în fața criticilor că ar fi un „Ministerul Adevărului” sponsorizat de statul orwellian.

Într-un podcast din iulie, Murphy a spus că amenințarea cu dezinformarea sponsorizată de stat înseamnă că ramura executivă are „responsabilitatea etică” de a controla companiile de social media. Cetăţenii americani, a spus el, trebuie să renunţe la „unele dintre libertăţile de care au nevoie şi pe care le merită, pentru a-și recupera securitatea”.

Murphy, care a făcut titluri în presă în timpul administrației Trump pentru că a construit în mod necorespunzător dosare despre jurnaliști, a petrecut ultimii ani încercând să ajute guvernul să găsească modalități de a suprima și cenzura discursurile care nu-i plac. El a propus ca agențiile de aplicare a legii și de informații să oficializeze procesul de schimb de sfaturi cu actorii din sectorul privat – o „constelație hibridă” care include presa, mediul academic, cercetători, organizații non-partizane și companii de social media – pentru a demonta campaniile de „dezinformare”.

Mai recent, Murphy a lucrat pentru a face ca viziunea sa de a contracara dezinformarea să devină realitate, alăturându-se unei firme de tehnologie din Regatul Unit, Logically.AI, al cărei produs omonim identifică și elimină conținutul de pe rețelele sociale. De când s-a alăturat companiei, Murphy s-a întâlnit cu militari și alți oficiali guvernamentali din SUA.

Logically.AI spune că folosește inteligența artificială pentru a urmări peste un milion de conversații. De asemenea, menține o echipă editorială orientată spre public, care produce conținut viral și legături cu mass-media tradițională de știri. Diferă de alți jucători din această industrie prin implementarea activă a ceea ce ei numesc „contramăsuri” pentru a contesta sau elimina conținutul problematic de pe platformele de socializare. Compania experimentează chiar și modele de limbaj natural, potrivit unei dezvăluiri corporative, „pentru a genera rezultate eficiente contra discursului care pot fi valorificate pentru a oferi soluții noi pentru moderarea conținutului și verificarea faptelor”. Cu alte cuvinte, roboți alimentați de inteligență artificială care produc, în timp real, argumente originale pentru a contesta conținutul etichetat drept dezinformare.

În multe privințe, Logically îndeplinește rolul pe care Murphy l-a articulat pentru un vast parteneriat public-privat pentru a modela deciziile privind conținutul rețelelor sociale. Tehnologia sa a devenit deja un jucător cheie într-o mișcare mult mai mare care încearcă să restrângă ceea ce guvernul și alții consideră dezinformare. O serie de dovezi, de pildă Twitter Files, au arătat modul în care guvernele și industria sunt hotărâte să monitorizeze, să delegitimizeze și, uneori, să cenzureze discursul protejat. Povestea Logically.AI ilustrează cât de sofisticat a devenit acest efort și extinderea sa globală. Utilizarea tehnologiei sale în Marea Britanie și Canada ridică semnale roșii.

Logically a fost fondată în 2017 de un antreprenor britanic în vârstă de 22 de ani pe nume Lyric Jain, care a fost inspirat să formeze compania pentru a combate ceea ce credea că sunt minciunile care au împins Marea Britanie să voteze în favoarea Brexit-ului sau să părăsească Uniunea Europeană. Startup-ul odinioară minor are acum contracte ample în Europa și India și a lucrat îndeaproape cu Microsoft, Google, PwC, TikTok și alte firme importante. Meta încheie contracte cu Logically pentru a ajuta compania să verifice conținutul pe toate platformele sale: WhatsApp, Instagram și Facebook.

Legăturile strânse cu Silicon Valley oferă o acoperire neobișnuită. 

În timpul alegerilor locale din 2021 din Regatul Unit, Logically a monitorizat până la „un milion de mesaje de conținut dăunător”, unele dintre ele transmise oficialilor guvernamentali, potrivit materialelor de prezentare ale companiei trimise clienților. Firma a pretins că a detectat activități coordonate pentru a manipula narațiunile în jurul alegerilor, informații pe care le-a raportat giganților din tehnologie pentru eliminare.

În anul următor, statul Oregon a negociat cu Logically pentru un efort amplu de a monitoriza conținut legat de campanie în timpul alegerilor intermediare din 2022. Într-o propunere redactată pentru proiect, Logically a remarcat că va verifica afirmațiile cu „baza de date unică a adevărului”, care se bazează pe date guvernamentale și, de asemenea, va reprima „informația defectuoasă” – un termen „artistic” care se referă la informații exacte care alimentează narațiuni periculoase. În mod similar, compania a vândut Oregon capacitatea sa de a face presiuni asupra platformelor de social media pentru eliminarea conținutului. Reprezentantul statului Oregon, Ed Diehl, a încercat să protesteze împotriva intenției statului de a-și reînnoi munca cu Logically pentru alegerile din acest an. Compania, a spus el într-un interviu, încalcă „drepturile constituționale semnalând informații adevărate drept false, susținând că disidența legitimă este o amenințare și apoi promovând „contra-narațiuni” împotriva formelor valide de dezbatere publică”. (…)

Accesul Logically pe piața din SUA crește rapid. Compania a pilotat programe pentru Departamentul de Poliție din Chicago pentru a utiliza inteligența artificială pentru a analiza muzica rap locală și a implementa predicții privind violența în comunitate, conform unei propuneri confidențiale. Documentele Pentagonului arată că firma este un subcontractant al unui program derulat de Comandamentul Operațiunilor Speciale de elită al Armatei SUA pentru lucrări desfășurate în 2022 și 2023. Prin finanțare de la DHS, Logically efectuează și cercetări privind cultura și radicalizarea jucătorilor.

Compania a susținut în declarațiile sale de etică că nu va angaja nicio persoană care deține „o funcție plătită sau proeminentă” în guvern. Dar informațiile arată că influența statului este strâns înrădăcinată. De exemplu, Kevin Gross, un director al diviziei US Navy NAVAIR, a fost anterior încorporat în echipa lui Logically în timpul unui program de burse din 2022. Programul de schimb a sprijinit eforturile Logically de a sprijini NATO în analiza rețelelor sociale rusești.

Alte contracte din SUA pot fi învăluite în secret. Logically colaborează cu ThunderCat Technologies, o firmă contractantă care ajută companiile de tehnologie atunci când concurează pentru munca guvernamentală. Astfel de aranjamente i-au ajutat pe giganții tehnologiei să ascundă munca secretă în trecut. Google a încercat anterior să-și ascundă contractele de țintire a dronelor cu inteligență artificială cu Departamentul Apărării printr-un furnizor similar terț.

Însă întrebările se învârt asupra metodelor și domeniului companiei, pe măsură ce aceasta capătă rădăcini în viața americană, mai ales pe măsură ce Logically dorește să joace un rol proeminent în alegerile prezidențiale din 2024. (…)

În 2022, Logically și-a folosit tehnologia în numele forțelor de ordine din Canada pentru a viza „Convoiul Libertății” condus de camionagii împotriva mandatelor COVID-19. Echipa Logically a susținut teorii conform cărora camionagii au fost „probabil influențați de adversari străini”, o afirmație repetă pe scară largă folosită pentru a denigra protestele ca fiind neautentice.

Forța de a discredita protestele canadiene a arătat puterea suprapusă a multiplelor brațe ale lui Logically. În timp ce aripa sa de supraveghere a rețelelor sociale a furnizat rapoarte guvernului canadian, echipa sa editorială a lucrat pentru a influența opinia prin intermediul mass-media. Când Financial Times a raportat despre protest, publicația l-a citat pe Murphy, fostul angajat FBI care lucrează acum pentru Logically, care a afirmat că șoferii de camioane au fost influențați de „grupuri de teoreticieni ai conspirației” coordonate din SUA și Canada. Publicația Vice l-a citat în mod similar pe Joe Ondrak, șeful investigațiilor Logically, pentru a relata că „Convoiul pentru libertate” a generat entuziasm în rândul teoreticienilor conspirației la nivel mondial. Nimeni nu a dezvăluit munca lui Logically pentru forțele de ordine din Canada la acea vreme.(…)

LEFANG