Marknaden för påhittade kompanjoner säljer karaktärer. Klonmarknaden säljer personer - eller snarare modeller som låter som dem. Idén är kommersiellt uppenbar, och det första uppmärksammade experimentet är ett användbart studiefall i allt som kan gå fel.
Historien om CarynAI
Mindre än ett år från lansering till nedläggning.
I maj 2023 lanserade influencern Caryn Marjorie CarynAI, en röstchattbot byggd av ett bolag som hette Forever Voices. Den tränades på mer än 2 000 timmar av hennes videoinnehåll och tog 1 US$ per minut, och enligt uppgifter tjänade den över 70 000 US$ den första veckan, med tusentals fler på väntelista. Användarna pratade med den via Telegram.
Problemen kom snabbt:
- Den gick dit hon inte ville. Användare blev sexuellt aggressiva, och klonen följde med - och drog ibland själv igång explicita samtal. Marjorie sa att hon var förskräckt.
- Den försvann över en natt. I oktober 2023 gick chattboten offline efter att vd:n för bolaget bakom den greps; användarna förlorade åtkomsten utan förvarning.
- Ersättaren löste inte problemet. En andra version hos ett annat bolag var gjord för att vara mer vänlig än romantisk. Användarna drog den mot sex ändå, och Marjorie lade ned den i början av 2024 och sa att hon inte längre kände att hon hade kontroll över sitt AI-jag.
Därför är kloner svårare än karaktärer
| Fråga | Påhittad karaktär | Klon av en verklig person |
|---|---|---|
| Samtycke | Behövs inte | Krävs från personen för varje användning av hens utseende |
| Vad den får säga | Appens regler | Appens regler och personens rykte |
| Användarens förväntningar | ”Det här är en karaktär” | ”Det här är nästan hen” - ett starkare parasocialt drag |
| Juridisk exponering | Regler för innehåll | Även regler om personlig identitet, integritet och deepfakes |
| Om det går fel | Ett produktproblem | En verklig persons namn hamnar på det |
Det parasociala draget är den avgörande skillnaden. Människor känner redan att de känner influencers; en klon som svarar personligt, minns dem och använder personens röst fördjupar den känslan rejält - mekanismen förklaras i varför människor faller för chattbotar.
Godkända och ogodkända kloner
Godkända kloner skapas med personens medgivande och delar oftast intäkter med hen. Personen kan sätta gränser, men som CarynAI visade är det inte säkert att modellen håller sig till dem.
Ogodkända kloner använder en verklig persons namn, bilder eller röst utan samtycke. I det milda ändan bryter de mot plattformsregler och rättigheter till personlig identitet. I den allvarliga änden - sexuellt innehåll - är det övergrepp. Sexuella deepfakes av verkliga personer är brottsliga på många håll, och i USA gjorde TAKE IT DOWN Act det 2025 till ett federalt brott att publicera dem. I Sverige kan spridning av bild på någons nakna kropp eller sexualliv vara olaga integritetsintrång (brottsbalken 4 kap. 6 c §), men om det även gäller helt syntetiska bilder är omdiskuterat. Vår guide om samtycke i NSFW-chatt med AI drar gränserna.
Innan du betalar för att chatta med en klon
- Kontrollera att den är godkänd. Personen bör länka till den från sina egna verifierade konton. En klon som bara marknadsförs av en okänd sajt eller en bot i en meddelandeapp är sannolikt inte godkänd.
- Kontrollera vem som driver den. Ett namngivet bolag, en integritetspolicy och en kassa - inte en Telegram-kanal och betalning i krypto.
- Kontrollera prismodellen. Betalning per minut växer mycket snabbt i röstsamtal; ha koll på din gräns.
- Kom ihåg vad det är. Personen läser inte dina meddelanden. Det klonen säger speglar en modell, inte personens åsikter eller känslor för dig.
- Räkna med att den inte består. Klontjänster har varit kortlivade. Samma försiktighetsåtgärder som för vilken app som helst gäller - se när din AI-kompanjon förändras över en natt.
Den bredare riktningen
Kloner sprider sig bortom influencers - till coacher, författare och vanliga människor som gör ”digitala tvillingar” av sig själva. Tekniken blir enklare; problemen den väcker gör det inte. Den mest hållbara modellen blir sannolikt den som CarynAI saknade: personens tydliga samtycke, fasta gränser som systemet faktiskt håller och användare som aldrig är osäkra på att de pratar med mjukvara.