Många unga anförtror AI sina mest personliga problem. Nu varnar Integritetsskyddsmyndigheten IMY för att anonymiteten är en fasad: chattar används för att träna språkmodeller och nästan 100 000 har blivit offentliga efter användarmisstag bara i år. – Ur ett säkerhetsperspektiv är det intressant att så få betalar för sin AI, säger Petter Flink på IMY.
Många unga anförtror AI sina mest personliga problem.
Nu varnar Integritetsskyddsmyndigheten IMY för att anonymiteten är en fasad: chattar används för att träna språkmodeller och nästan 100 000 har blivit offentliga efter användarmisstag bara i år.
– Ur ett säkerhetsperspektiv är det intressant att så få betalar för sin AI, säger Petter Flink på IMY.
Integritetsskyddsmyndigheten IMY har sett sig manad att i ett blogginlägg informera om riskerna med ett allt vanligare fenomen: unga som använder AI som psykolog och inte vet hur, var eller ens om chatten med känslig information lagras.
– Allt det här kan vara väldigt svårt att överblicka, särskilt för ett barn, säger Rebecka Ingelman som är jurist på IMY.
Enligt myndigheten bör användare utgå från att informationen användare matar in i AI-tjänster kan användas för att kartlägga dem.
– Vi skrev blogginlägget i syfte att sprida kunskap om ungas användning av AI. Med vissa AI-verktyg kan kommunikationen ske utan kryptering, vilket gör att det finns en risk att någon annan kan komma åt uppgifterna.
I ett annat inlägg på webbplatsen skriver myndigheten att AI-användare bör tänka likadant kring information som de delar med AI som kring information de delar publikt.
”Hade du publicerat informationen offentligt på internet? Är du bekväm med att vem som helst kan läsa informationen? Om inte bör du inte dela det med AI”, skriver IMY.
Fakta.Ungas AI-användning
En ny rapport från 2026, som baseras på en undersökning med 3 800 unga inklusive 1 000 svenskar i åldern 11–25, visar att AI-terapi är särskilt vanligt bland unga. I rapporten framkommer det att 54 procent av de svenska deltagarna vänder sig till AI för att diskutera personliga och intima problem. Bland unga med ångest är siffran ännu högre.
Motsvarande andel är 48 procent i Frankrike, 62 procent i Irland och 63 procent i Tyskland.
Rapporten visar samtidigt att kunskapen om var och hur AI-chattarna lagras är bristfälliga bland ungdomarna:
63 procent vet inte vad som händer med det som de skriver till en AI.
56 procent tycker att det är lätt att prata med en AI om sina problem.
54 procent pratar med AI om personliga och intima problem.
87 procent använder AI-verktyg.
Källor: Integritetsskyddsmyndigheten & rapporten IA conversationnelle et santé mentale des jeunes : résultats de l’enquête européenne.
Petter Flink, it- och informationssäkerhetsspecialist på IMY, hänvisar även till en ny undersökning som visar att AI-användare enkelt kan begå misstag som leder till att deras privata chattar oavsiktligt publiceras på webben. Det har förekommit på både Chat GPT, Gemini, Claude och Grok.
– Över 96 000 privata chattar har publicerats offentligt i år. Det är användare som trodde att ”dela” betyder att man skickar chatten vidare, men ”dela” betyder i det här sammanhanget att chatten publiceras offentligt, säger Petter Flink.
De nu publika chattarna innehåller personnummer, telefonnummer och uppgifter om en nyskild man som inlett sin AI-konversation med frågan: ”Kan det här stanna mellan oss?”.
I dag betalar bara mellan fem och tio procent av alla användare för den AI-tjänst de använder.
De flesta brukar i stället använda gratisversionen, men precis som med Facebook, Instagram och andra sociala medieplattformar tar AI-tjänsterna i stället betalt i en annan valuta: i det här fallet den information du matar AI med. Tjänsterna använder dina problem för att träna sina AI-modeller.
Över 96 000 privata chattar har publicerats offentligt i år, enligt Petter Flink på IMY. Foto: Jens Lindström/TT
Faktum är att varje chatt sparas i en databas i molnet. Ofta använder AI-tjänsten en underleverantör för att lagra informationen, vilket innebär att det krävs lite detektivarbete för att se vilka regler som gäller för databasen där just din information lagras.
– Om du använder gratisversionen är förinställningen att AI-tjänsterna sparar dina chattar i sina databaser för att träna sina modeller på det du har sagt, men om du använder en betalversion eller ett företagskonto brukar förinställningen vara den motsatta, säger Petter Flink.
För användare brukar en vanlig lösning vara att radera chattar som innehåller information de inte vill ska spridas offentligt. Petter Flink påpekar dock att chatten inte raderas omedelbart. Först lagras den osynligt i en databas i runt 30 dagar, beroende på lagen i landet där AI-leverantören bedriver sin verksamhet.
Det görs eftersom det finns exempel på användare som har bett AI om hjälp inför masskjutningar och bombtillverkning. Brottsutredande myndigheter har i flera fall använt sådana chattar som bevisföring mot misstänkta gärningspersoner.
– Det blir lite grann som när man gör en publicering på sociala medier och raderar den. Publiceringen raderas inte. Den flaggas dold, men ligger kvar i systemet, säger Petter Flink.
