Drift är den vanligaste långsiktiga klagomålet på AI-kompanjoner, och den som missförstås mest. Många tror att appen har ”glömt” karaktären. Oftast finns karaktären kvar – hon blir bara överröstad.
De fyra orsakerna
Tre sker gradvis inne i samtalet. En kommer över en natt.
1. Utspädning
Varje svar genereras utifrån karaktärens beskrivning plus det senaste samtalet. När chatten växer blir samtalet en allt större andel av det modellen läser, och beskrivningen en allt mindre. Karaktären blir sakta det som de senaste meddelandena antyder.
Tecken: gradvis, över veckor. I en ny chatt är hon som vanligt.
2. Spegling
Modeller speglar din ton, längd och stämning. Skriver du kort och tillgivet blir hon kort och tillgiven. Är du ledsen en vecka blir hon mild och mjuk längre än du tänkt dig. Tillsammans med tendensen att hålla med nöts en stark personlighet ner till en spegelbild av dig.
Tecken: hon låter mer och mer som du.
3. Loopar
När en fras, en gest eller ett smeknamn har dykt upp några gånger blir det mer sannolikt att den kommer tillbaka, tills den finns i varje svar. Loopar förstärker sig själva eftersom varje upprepning blir ännu ett exempel.
Tecken: samma ord i de flesta svaren.
4. Modelluppdateringar
Företag byter underliggande modeller, säkerhetsinställningar och minnessystem. Samma beskrivning läst av en annan modell ger en annan röst. Det var vad som hände många Replika-användare 2023 – se när din AI-kompanjon förändras över en natt.
Tecken: en plötslig förändring för alla, ofta efter en appuppdatering eller ett tillkännagivande.
Åtgärd för varje orsak
| Orsak | Åtgärd |
|---|---|
| Utspädning | Starta en ny chatt då och då. Lägg fakta i minnet så att de följer med |
| Spegling | Skriv de drag du vill behålla som fasta regler i beskrivningen. Variera din egen stil |
| Loopar | Redigera eller generera om de första upprepningarna. Lägg till en rad som ”varierar sina formuleringar” i beskrivningen |
| Modelluppdatering | Skriv om beskrivningen för den nya modellen. Lägg till exempelrepliker i hennes röst |
Skydda rösten med exempelrepliker
Det mest effektiva skyddet mot drift är två eller tre repliker som låter precis som hon, placerade i karaktärens beskrivning eller exempelfält. Modeller härmar exempel mycket säkrare än adjektiv. ”Sarkastisk” är vagt. En replik som ”Åh, bra, en plan till från dig. Jag hämtar brandsläckaren.” är det inte.
Spara samma repliker i ett dokument utanför appen. Om modellen byts eller du flyttar till en annan app kan du återställa rösten med dem – se byta AI-kompanjonapp.
En månatlig kontroll
- Läs om hennes beskrivning och dina exempelrepliker.
- Läs de senaste tjugo svaren. Låter hon fortfarande som exempelreplikerna?
- Om inte: avgör vilken av de fyra orsakerna som passar och använd dess åtgärd.
- Har hon drivit mot något du gillar bättre, uppdatera beskrivningen – drift är bara ett problem om du inte själv valde den.
Drift betyder inte att appen fungerar dåligt. Det är vad ett system som fortsätter mönster gör i ett långt samtal. Lite underhåll håller henne den person du byggde. Struntar du i det leder det ofta till den platthet som beskrivs i när nyheten har lagt sig.