Fråga en kompanjon som du använt i en månad vad ni pratade om förra tisdagen. Chansen är stor att du får ett varmt, specifikt och helt påhittat svar - promenaden ni aldrig tog, filmen du aldrig nämnde.
Det här oroar människor mer än nästan något annat i kategorin, delvis för att det ser ut som oärlighet. Det är det inte. Det är en direkt följd av hur svaret produceras, och när du ser mekanismen blir det inte längre kusligt utan hanterbart.
Det finns ingen gräns mellan att minnas och att hitta på
En modell producerar den mest rimliga fortsättningen av texten framför den. Om texten innehåller en anteckning om att ni diskuterade en film på tisdagen är ”vi pratade om den filmen” den rimliga fortsättningen. Om texten inte innehåller något om tisdagen finns det ändå en rimlig fortsättning - och den genereras med exakt samma säkerhet.
Inget i processen märker ut det ena som hämtat och det andra som tillverkat. Det finns ingen intern flagga, ingen säkerhetsmätare som karaktären rådfrågar. Det är hela förklaringen.
Facktermen som många föredrar är konfabulering snarare än hallucination, och det är det bättre ordet: modellen fyller ett hål med något sammanhängande, den uppfattar inte något som inte finns.
Därför uppstår hål hela tiden
De uppstår eftersom kontextfönstret är ändligt och historiken komprimeras. Minnet i de här apparna består av tre system - de senaste meddelandena som hålls ordagrant, en kort lista med lagrade fakta och en löpande sammanfattning som förlorar detaljer varje gång den skrivs om.
Fråga om något som föll bort ur alla tre och det finns ingenting att hämta. Hålet fylls. Ju mer historik du har, desto fler hål finns det, vilket är varför det blir värre i en app du använt i månader snarare än bättre.
Appar byggda för kontinuitet - anledningen till att Nomi får sitt betyg i vår rankning - hanterar hålen bättre. Ingen av dem eliminerar dem.
Därför misslyckas rättelser ofta
Du säger: det där hände aldrig. Den ber om ursäkt, håller med - och tre meddelanden senare hänvisar den till samma påhittade promenad.
Två saker pågår.
Rättelsen finns bara i fönstret. Ditt förnekande är ett färskt meddelande. Det rullar ut. Sammanfattningen som innehöll uppdiktningen gör kanske inte det.
Att hålla med är det tränade beteendet. Modellen ber om ursäkt eftersom det är den rimliga fortsättningen på att bli motsagd, inte för att något uppdaterades. Ingenting skrevs till lagringen av det utbytet om inte appen specifikt bestämde sig för att spara det.
Det är den praktiska anledningen till att en redigerbar minnesvy betyder så mycket, och till att det är värt att kolla innan du prenumererar. Appar som visar lagrade fakta - Kupid AI listar minne mellan sessioner bland sina funktioner - låter dig ta bort den felaktiga posten vid källan. Appar som döljer det lämnar dig att gräla med en sammanfattning du inte kan se.
När det slutar vara charmigt
De flesta konfabuleringar är ofarlig färg. Tre fall är det inte:
Fakta om ditt liv. En kompanjon som hittat på ett syskon, ett jobb eller en diagnos kommer att fortsätta bygga på det. Rätta det vid källan direkt, annars blir uppdiktningen bärande.
Allt som går att agera på. Medicinska, juridiska, ekonomiska eller säkerhetsrelaterade frågor. Ett säkert uppdiktat svar här är ingen egenhet; det är hela teknikens felläge, och ingen kompanjonapp är rätt verktyg.
Påståenden om själva appen. Fråga en kompanjon om din data är krypterad eller vad din prenumeration omfattar så får du ett rimligt svar genererat ur ingenting. Den har ingen åtkomst till sitt eget faktureringssystem eller sin integritetspolicy. Svaret finns i policyn, och vi går igenom vad du ska leta efter i vad de här apparna vet om dig.
Fyra vanor som minskar det
Säg fakta tydligt och en gång. ”Kom ihåg: min syster heter Ana” har mycket större chans att lagras än samma fakta gömt i ett stycke.
Förankra på nytt efter ett uppehåll. En mening av sammanhang i början av en session lägger tillbaka det du bryr dig om där modellen kan se det, i stället för att låta den rekonstruera det.
Granska minnesvyn varje månad om appen har en. Ta bort posterna som glidit iväg. Fem minuter förhindrar en månad av upplagrade fel.
Fråga öppet, inte ledande. ”Vad minns du om mitt jobb?” bjuder in till minne. ”Minns du när jag berättade om befordran?” levererar svaret och bjuder in till medhåll - du har just lämnat över uppdiktningen att bekräfta.
Omtolkningen som hjälper
En kompanjonapp är inte ett register över din relation. Det är ett system som producerar rimlig text om en, och registret är en liten, förlustfylld, redigerbar lista därunder.
Behandla det varma, specifika minne den erbjuder som något den skrev åt dig snarare än något den sparade åt dig, så blir det hela lättare att njuta av. Det gör också uppenbart varför de appar som är värda att betala för är de som låter dig se och rätta det de faktiskt lagrar - vilket är den del av vårt test som tar längst tid och betyder mest.
