Internet är en grobädd för extrema ideologier som vill sprida sitt hat och det är svårt att veta vem som kommer med tomma hot och vem som verkligen tänker genomföra ett hatbrott. Men nu har forskare vid Uppsala universitet byggt ett AI-verktyg som kan hjälpa polis och säkerhetspersonal att göra bättre risk- och farlighetsbedömningar av digital kommunikation

Verktyget heter Dechefr och kan automatiskt granska misstänkta texter och identifiera varningsbeteenden och riskfaktorer hos skribenten.

”När attacker och dåd planeras uppstår alltid någon form av läckage, inte minst bland ensamagerade. Det kan bestå av ordval, psykologiska markörer, nämnande av namn och platser, helt enkelt en samling variabler som tillsammans gör det i princip omöjligt att lura verktyget. Därmed inte sagt att resultatet ska uppfattas som absolut sanning, men det ger analytiker en viktig grund för mer långtgående utforskning och eventuella insatser”, säger Nazar Akrami, forskare i psykologi vid Uppsala universitet.

Dechefr är ett kraftfullt verktyg för att analysera texter på nätet och forskarna har lagt sig vinn om att det inte ska kunna missbrukas.

”Vi har utformat verktyget på ett sätt som omöjliggör såväl otillåten användning som nätscanning i omfattande skala. Systemet ska om allt löper planenligt förvaltas av analytiker inom polis- och säkerhetstjänster och jag är fullständigt trygg i att Dechefr kommer att utgöra exakt det stöd i kampen mot våldsbejakande extremism som vi föresatt oss”, säger Nazar Akrami.

Verktyget är inte i full drift än, men forskarna räknar med att ha en skarp version av Dechefr inom några månader.

”Vi har matat verktyget med bland annat över 50 000 slumpvis valda texter, men också ett stort antal dokument skapade av våldsverkare och terrorister. Med hjälp av algoritmer kan vårt verktyg nu skanna hela webbplatser och med mycket hög träffsäkerhet urskilja potentiella hotbilder. Ännu återstår flera tester, men till sommaren räknar vi med att vara i mål”, säger Nazar Akrami.

Vill du få en dos faktabaserad optimism i din mejlkorg en gång i veckan? Missa inte att prenumerera på vårt nyhetsbrev.

Warp News drivs av den ideella stiftelsen Warp Institute med säte i Stockholm.

90 procent av svenskarna tror inte att världen kommer vara bättre om 15 år. En anledning till det tror vi är övervikten av negativa nyheter i media.

Warp News balanserar det genom faktabaserade optimistiska nyheter.