AI-bilder med skolnamn sprids i sociala medier

Hotfulla bilder och videoklipp där svenska skolor och orter nämns sprids just nu i sociala medier. Fenomenet har uppmärksammats i flera länder och beskrivs av polisen som en global trend.

Ett sådant hot riktades tidigare i veckan mot Ullvigymnasiet i Köping. Eftersom hotet gällde en skola och även pekade ut personer valde polisen att inleda en förundersökning.

– Det stämmer, men utifrån att hotet var riktat mot skola och utpekade personer ansågs det viktigt att starta en förundersökning, säger Thomas Hoffmann, säkerhetschef i Köpings kommun.

Köpings kommun går nu ut med information om fenomenet efter att liknande inlägg har fortsatt att öka efter tisdagens händelse.

I många av inläggen förekommer figuren ”Cat in the Hat”, på svenska Katten i hatten. Figuren placeras i mörka eller hotfulla miljöer tillsammans med namn på skolor, orter och ibland även personer.

Bilder och videoklipp är ofta skapade eller manipulerade med hjälp av artificiell intelligens, AI. Själva inläggen publiceras däremot av personer på sociala medier, exempelvis TikTok och Snapchat.

Liknande inlägg har den senaste tiden uppmärksammats på flera håll i Sverige och i andra länder. Polisen beskriver det som ett internationellt fenomen där lokala skolor och orter används i materialet.

Enligt Köpings kommun innebär det inte automatiskt att hotbilden mot en skola eller ort är förhöjd bara för att namnet förekommer i ett sådant inlägg.

Samtidigt kan polisen inte utgå från att alla inlägg är ofarliga.

– Polisen kan inte bara avfärda allt. De måste följa och granska för att inte missa ett reellt hot som plötsligt dyker upp mitt i alla inlägg, säger Thomas Hoffmann.

Han pekar också på att den stora mängden inlägg kan bli resurskrävande för polisen.

– Detta tar stora resurser från polisen som vi behöver till annat, säger han.

Köpings kommun uppger att det inte finns några rapporter om att den här typen av ”Cat in the Hat”-inlägg har följts av faktiska attacker mot de skolor eller platser som nämnts.

Kommunen uppmanar därför allmänheten att inte bidra till ytterligare spridning. Bilder och videor bör inte delas vidare i sociala medier eller gruppchattar.

Vårdnadshavare uppmanas också att prata med barn och unga om varför man inte ska skapa eller sprida hotfullt innehåll.

Den som ser ett konkret hot mot en person eller en plats ska kontakta polisen. Misstänkt eller olämpligt innehåll kan också rapporteras till den sociala medieplattform där det publicerats.

Köpings kommun rekommenderar att information från skolan, kommunen, polisen och andra officiella källor följs framför rykten och obekräftade uppgifter i sociala medier.