Ananya Bhattacharya, Five times AI hallucinations embarrassed governments
Luna trecută, Africa de Sud și-a retras proiectul de Politică Națională privind Inteligența Artificială la 17 zile după publicare, deoarece documentul cita cercetări false, create de inteligența artificială.
Incidentul a umbrit un moment istoric, deoarece Africa de Sud urma să devină prima națiune africană care adopta o politică de înființare a unui consiliu de etică pentru supravegherea inteligenței artificiale în afara Occidentului. „Cea mai plauzibilă explicație este că citările generate de inteligența artificială au fost incluse fără o verificare corespunzătoare”, a declarat Solly Malatsi, ministrul Comunicațiilor și tehnologiilor digitale din Africa de Sud. „Vor exista măsuri de sancționare administrativă pentru cei responsabili de redactare și de asigurarea calității.”
Este prima dată când un guvern retrage un document din cauza erorilor de factualitate (hallucinations) generate de AI, dar cu siguranță nu este prima dată când datele eronate produse de AI apar în materiale oficiale. Texte sau citări generate incorect de algoritmi s-au strecurat în documente oficiale sau cvasi-oficiale de mai multe ori, ridicând îngrijorări cu privire la responsabilitate și evidențiind necesitatea verificării umane.
Iată cinci exemple din ultimii doi ani în care AI-ul a pus guvernele în situații dificile:
Politica de AI a Africii de Sud
Cel puțin șase dintre cele 67 de surse din bibliografia Proiectului de Politică Națională privind Inteligența Artificială, publicat în aprilie 2026, au fost halucinații AI, conform unei scrisori transmise de grupul pentru drepturi civile Article One. Un articol News24 a relatat că mai multe dintre jurnalele academice citate în documentul de politici erau „complet fictive”.
„Erorile de formatare” ale Administrației Trump
Un raport intitulat Make America Healthy Again privind sănătatea copiilor a inclus citări incorecte. Raportul, lansat în mai 2025, enumera studii inexistente, confunda autorii și jurnalele de proveniență și trăgea concluzii greșite din studii reale. The Washington Post a descoperit că unele referințe includeau termenul „oaicite” atașat URL-urilor – considerat, adesea, un indiciu care semnalează utilizarea ChatGPT. Karoline Leavitt, secretarul de presă al Casei Albe, a minimizat importanța erorilor, descriindu-le drept „probleme de formatare” și a declarat că va fi publicată o variantă corectată a raportului. Ceea ce s-a întâmplat câteva ore mai târziu.
Australia vs. Deloitte
În august 2025, Australian Financial Review a tras un semnal de alarmă cu privire la suspiciunea utilizării AI într-un raport Deloitte comandat de Departamentul pentru Ocuparea Forței de Muncă și Relații la Locul de Muncă din Australia. Academicienii au lansat acuzații conform cărora documentul conținea referințe academice false și citate inventate. Într-un e-mail trimis Departamentului de Finanțe al Australiei în septembrie 2025, Deloitte „a confirmat că utilizarea instrumentelor de AI generativ a dus la rezultate inexacte, prin care anumite citări, sub formă de note de subsol și surse în lista de referințe însoțitoare, conțineau erori”. Compania a republicat studiul corectat în septembrie, iar, în noiembrie, a returnat guvernului 290.000 de dolari din suma de 440.000 de dolari pe care o încasase pentru raport.
Canada vs. Deloitte
Utilizarea AI-ului generativ de către Deloitte într-un raport de 526 de pagini despre sistemul de sănătate, în valoare de 1,2 milioane de dolari, realizat pentru guvernul din Newfoundland și Labrador, a dus la includerea unor citări false, a relatat The Independent în noiembrie anul trecut. Deloitte a relansat raportul după corectarea citărilor. Între timp, guvernul și-a actualizat contractele de licitație (Request for Proposals), astfel încât toată lumea să declare „toate utilizările prevăzute ale AI și/sau ale machine learning” și să recunoască faptul că guvernul are „dreptul rezervat [...] de a evalua riscurile legate de AI în orice moment înainte sau după atribuirea contractului și, la propria discreție, de a implementa orice instrumente considerate necesare pentru astfel de evaluări”
Agenția de securitate cibernetică a UE (ENISA)
ENISA, organismul suprem de securitate cibernetică al Europei, a recunoscut că două dintre rapoartele sale privind amenințările cibernetice, publicate în 2025, erau pline de surse „halucinate” de AI. Din cele 492 de note de subsol dintr-unul dintre rapoarte, 26 erau incorecte, conform cercetătorilor de la instituția publică germană Westfälische Hochschule, citați de publicația Der Spiegel. Cercetătorii sunt îngrijorați nu atât de utilizarea AI, cât de acordarea unei autorități epistemice acesteia. „ENISA a lăsat AI-ul să atingă singurul strat pe care nu ar trebui să-l atingă niciodată nesupravegheat: stratul adevărului”, a scris, pe LinkedIn, Chiara Gallese, cercetător în dreptul AI și etica datelor.
„Așa se transformă halucinațiile în publicații instituționale. Iar când acest lucru se întâmplă în interiorul unei autorități de securitate cibernetică cu un buget de 27 de milioane de euro, problema nu este lipsa de competență. Este procesul. Fără o etapă de verificare obligatorie. Fără verificări ale provenienței. Fără reguli clare pentru utilizarea AI. Doar viteză, comoditate și încredere implicită (trust-by-default).”
Resonant Integrity: The Convergence of Biological and Machine Signal
The fundamental disconnect in the 2026 labor and tech landscape is a failure to differentiate between raw frequency and functional signal. We are witnessing a state of systemic resonant frequency—a condition where automated development cycles vibrate at a pace that exceeds their structural integrity. When these cycles lack a metabolic anchor, the result is destructive resonance: hallucinations that manifest as high-cost operational failures.
Understanding where biological signal and digital frequency converge is the first step toward mending this fracture. Just as music triggers harmonic resonance in the human body—manifesting as tangible thermal and autonomic shifts—our internal conscience operates as a biological AI. This is the metabolic anchor: the "Human-in-the-Loop" adjudication that stabilizes the erratic oscillation of agentic AI.
For the developer, value is no longer found in the generation of code, but in its forensic adjudication. You are the damper for the machine’s vibration. By cross-referencing autonomous logic against the physical and logistical constraints of the floor, you move from producing low-fidelity noise to establishing execution provenance. You are the mirror that identifies the ghost in the code before it becomes a liability.
To thrive in this environment, you must provide dated, verifiable receipts of logic that an automated system cannot simulate. We are layering human intelligence onto machine processing to build a performance architecture where accountability is the luxury asset. When systemic frequency is tethered to a verifiable plumb line, the hallucination vanishes.
Integrity requires reciprocity. By measuring the resonance of our systems against the biological signal of our conscience, we move from systemic psychosis to architectural stability.
I layer my knowledge, integrity and wisdom onto the archive (AI), and mend signal and frequency until the desired outcome is achieved. I use strategic humility to force AI compliance. No noise, no simulation, no distractions is the goal. That is what higher intelligence looks like.
The floor is set. Let’s stabilize the signal and work together to figure this out in time to make a difference. We can be preventative or reactive. Integrity requires reciprocity.