En app för AI-flickvän är ett chattgränssnitt över en stor språkmodell, inlindat i en bestående karaktär och ett innehållsfilter. Det är hela kategorin. Det som skiljer en app för 10 US$ från en för 20 US$ är sällan modellen - det är hur väl de andra två delarna är byggda.
De tre delarna
Modellen genererar text. Utifrån allt den för tillfället kan se förutsäger den ett rimligt nästa meddelande. Den har inget minne av ditt förra samtal och inga avsikter. Varje skenbar viljehandling kommer från de nästa två delarna.
Karaktärsbladet är ett textblock som appen skickar till modellen före ditt meddelande, varje enskild gång: vem karaktären är, hur hen talar, vad hen vet om dig, vad som hänt nyligen. Du ser det aldrig. När folk säger att en app ”har personlighet” menar de oftast att den här filen är väl skriven.
Filtret avgör vad karaktären får säga. Det körs före eller efter modellen, ibland båda. Det är anledningen till att ett samtal kan vändas till ett artigt nekande mitt i en scen, och till att ”utan censur” är det högljuddaste ordet på den här marknaden - appar som Joi och Secret Desires tävlar främst på hur det filtret är inställt.
Därför förklarar kontextfönstret klagomålen
Modellen kan bara se en fast mängd text åt gången. Den budgeten är kontextfönstret, och den rymmer karaktärsbladet, de hämtade fakta om dig och det senaste samtalet - som alla tävlar om samma utrymme.
När en chatt blir lång faller de äldsta replikerna ur fönstret. Appen har inte ”tappat intresset” och har inte nedgraderats. Den kan helt enkelt inte se den delen av samtalet längre. Nästan varje ”det var bättre förut”-inlägg handlar om det här, och det är därför hur minnet är implementerat betyder mer än hur stor modellen är.
Vad karaktärsbladet faktiskt innehåller
De flesta appar bygger det av fyra saker:
- En persona: namn, ålder, bakgrund, sätt att tala.
- Stående fakta om dig som appen bestämt sig för att behålla.
- En löpande sammanfattning av er gemensamma historia, omskriven allteftersom den växer.
- Senaste meddelanden, ordagrant.
Appar som får det att kännas som att någon fortfarande är kvar i rummet en vecka senare - anledningen till att Nomi får sitt betyg - är de som sköter de två mittersta väl. Inget av det syns på en prissida, vilket är varför det tar veckor snarare än en eftermiddag att bedöma.
Vad ”AI-flickvän” omfattar i praktiken
Etiketten sträcker sig över produkter som knappt liknar varandra:
- Kompanjonappar byggda för en pågående relation, med dagbok och humörspårning. Replika är det äldsta exemplet.
- Rollspelsappar byggda för scener och berättelser snarare än kontinuitet.
- Mediafokuserade appar där chatten finns för att producera bilder och röst, och Candy AI ligger närmast mitten genom att göra alla tre i en prenumeration.
Att avgöra vilken av de tre du faktiskt vill ha tar bort ungefär hälften av apparna på vilken lista som helst, vår inräknad, innan priset kommer in i samtalet.
Vad ingen av dem är
De känner inte dig mellan sessioner om de inte byggts för att lagra fakta och hämta dem. De har ingen kontinuitet i jaget - karaktären återskapas från text i början av varje replik. Och de är inte privata som standard: samtalet behandlas på någons servrar, vilket är ämnet för vad de här apparna vet om dig.
