Nya rön – AI:s skrivstöd hjärntvättar dig

Tar du hjälp av AI när du skriver? Då riskerar du att bli hjärntvättad utan att ens märka det. Ny forskning visar hur det går till.

Chat GPT, Copilot och andra AI‑drivna skrivverktyg gör mer än att bara snabba upp ditt skrivande. I det tysta påverkar de även dina åsikter, exempelvis kring arbetsliv och samhälle.

Forskare gjorde ett experiment på över 2 500 användare av AI som skrivassistent med autocomplete. Där såg man en åsiktsförflyttning mot AI‑systemets uppfattning; helt utan att deltagarna märkte något. Det hjälpte inte ens att varna dem i förväg, eller informera dem efteråt, åsiktsförändringen kvarstod.

Årtionden av psykologisk forskning visar att själva akten, att formulera ett argument, kan påverka hur vi tänker. I det här fallet tolkade AI-användarna omedvetet autocomplete‑förslagen som om det själva hade skrivit dem. På så sätt kopplas det kritiska tänkandet ur som annars skulle ifrågasätta texten. Sakta men säkert förändras våra personliga övertygelser, ju mer vi lutar oss mot AI:s textförslag.

Att styra tankar via text är inget nytt. Under Koreakriget lät koreanerna amerikanska krigsfångar skriva ner USA:s tillkortakommanden, som en del i en hjärntvätt för att göra dem till kollaboratörer.

Använd metoden i din verksamhet

Läs exempelvis in ert AI-stöd på värderingarna i er företagskultur.

– Gör alltid… (som chefen säger)

Snacka om beteendedesign.

Källa: Biased AI Writing Assistants Shift Users’ Attitudes on Societal Issues.

För dig som är vetgirig

Feltänk då forskare sågar värdegrund i DN.