Kom godt i gang
Strategisk arbejde med AI-genereret tekst
DETECT-modellen
Som jeg gennemgik her, er det input man giver en AI-teknologi afgørende for hvad der kommer ud i den anden ende. Det samme er sprogmodellerne og data der er trænet på (se her).
Men ser man isoleret på det tekstoutput som en sprogmodel har genereret, kan man bruge en række parametre til at vurdere kvaliteten. Garib & Coffelt (2024) har udviklet en model med en række trin man som underviser kan bruge som en metode til at identificere sproglige træk der adskiller det AI-genererede sprog fra sprog de studerende selv producerer.
Det valgte tekstmateriale gennemgås systematisk i 6 trin.
| Trin | Hvad man kan lede efter | |
|---|---|---|
| 1 | Identificer tegn på at der er tale om en AI-genereret tekst. | Eksempler kunne være generisk sprog, overdrevne udtryk og fraværet af en personlig stemme. |
| 2 | Analyser teksten ift. dens formål. | Her bruger man sin viden om tekstgenrer, kontekst og forventet målgruppe til at identificere hvilke genretræk og retoriske virkemidler der kendetegner teksten, og om den pågældende tekst lever op til det man kan forvente af en tekst skrevet af et menneske. |
| 3 | Udpeg sproglige træk der er afvigende og kan fungere som bevis for at der er tale om AI-genereret sprog. | Dette kunne omfatte uoverensstemmelser, gentagende strukturer, unaturligt sprog stilmæssigt, brug af ualmindelige ord, komplekse og ikke varierede sætningsstrukturer og formelt sprog. |
| 4 | Undersøg følelses- og holdningsudtryk i teksten. | AI-genereret tekst kendetegnes ofte ved at indeholde mere ekstreme og inkonsistente beskrivelser når de er til stede. |
| 5 | Check for sandhedsværdi, bias og hallucination. | Informationerne i teksten undersøges ift. om der kan findes belæg for dem i andre troværdige kilder. Tekster kendetegnet af upræcis og usand information samt manglende eller forkerte kilder er på nuværende tidspunkt ofte en god indikator på at der er tale om AI-genereret tekst. |
| 6 | Saml informationerne sammen i en informeret konklusion. | Arbejd evt. videre med teksten ud fra hvad du har identificeret af problemer med teksten i din analyse |
Trinene har Garib & Coffelt (2024) visualiseret således:
Brugt som pædagogisk metode til at bevidstgøre studerende om forskelle mellem tekster skrevet af mennesker og tekster genereret af AI, foreslår de at underviseren beder de studerende sammenligne en tekst, fx et personligt narrativ om et udvalgt emne, med en tekst inden for samme genre og emne genereret af en AI-teknologi.
Men man kan også bruge disse trin når man arbejder med tekstproduktion. Måske bruger du AI til at generere tekst til opslag på sociale medier, mødereferater eller hjemmesidetekster som du får et udkast til som du redigerer. De ovenstående trin kan bruges som en tjekliste til hvordan du kan gå til den videre tekstbearbejdning.
Reference
Garib, A., & Coffelt, T. A. (2024). DETECTing the anomalies: Exploring implications of qualitative research in identifying AI-generated text for AI-assisted composition instruction. Computers and Composition, 73, 102869.
Læs om vurdering af AI-genererede billeder.