Orosanmälan & NLP prediktioner
Strängnäs kommun har i samarbete med Peltarion tränat en språkmodell som redan i en tidig version skulle kunna ge verksamhetsstöd till socialsekreterare.
Målet är att modellen ska i både aktuella och tidigare anmälningar upptäcka eventuella tecken på våld och konflikt. Detta för varje nytt inkommen ärende till socialkontoret, för att möjliggöra en snabbare eller mer precis handläggning.
Tidseffektivisering kan till exempel användas till flera möten med utsatta barn och ungdomar.
Modellen har redan visat en kapacitet på 86% noggrannhet i sina prediktioner.
För en eventuell produktionssättning skulle följande aktiviteter behövas:
- säkerställande av informationssäkerheten om det finns ägarrelationer utanför EU gällande AI-plattformen
- och ytterligare träning – med mål att sikta på över 90% träffsäkerhet?
Strängnäs Municipality has in collaboration with Peltarion trained a language model that even in an early version could provide operational support to social workers. The goal is that in each new case received by the social services office, the model will detect in both current and previous reports eventual signs of violence and conflict, thus allowing a faster or more precise course of action. For example, meeting with the child. The model's capability has been demonstrated to a level of 86% accuracy in predictions. As future task remains addressing the information security aspects of the implementation.
Socialkontoret på Strängnäs kommun tar emot cirka 2 000 orosanmälningar för barn och ungdomar, per år. Förmågan att snabbt och korrekt handlägga dessa ärenden, och identifiera eventuella risker för våld och konflikt är extremt viktig. Detta för att snabbt stoppa ett eventuellt lidande hos de drabbade barn och ungdomar. I det syfte har vi tränat en svensk textklassificeringsmodell som kan påskynda responsen och hjälpa socialsekreterare att vidta snabbare och mer precisa åtgärder i ett specifikt fall.
Strängnäs kommun hade även det kommunövergripande målet att starta sin AI-resa och projektet finansierades delvis av Vinnova.
The Social Services department in Strängnäs Municipality in eastern Sweden receives approximately 2,000 welfare concern reports per year on children and youth. The ability to quickly process these reports accurately and identify the risks for conflict or violence is extremely important in order to swiftly stop the possible harm and abuse of the affected children. As a result, we have built a Swedish text classification model that can speed up its response and help social workers take faster and more precise actions in a specific case.
Another objective was for Strängnäs municipality to start their AI journey and the project was partly funded by Vinnova, the Swedish government agency for innovation.
XLM-R-modell, finetuned och tränad på manuellt annoterade och anonymiserade data från Strängnäs kommun.
Modellen är en flerspråkig klassificerare som hanterar flera kategorier, och kan predicera flera kategorier samtidigt. Huvudkategorin "Våld och konflikter" innehåller 7 underliggande kategorier.
XLM-R Finetuned on the manually annotated dataset from Strängnäs.
The model is a multilingual multi-label classifier, since it can predict several labels at once.: the main label “Violenvce and conflicts” has 7 underlying labels
Resultaten grupperas i följande kategorier:
1. Nationella systemeffekter
2. Kommunövergripande resultat
3. Verksamhetsnära resultat
1. Nationella systemeffekter:
- Nya erfarenheter och insikter kring tillämpad AI som används i verksamhetsutveckling
- Databeredskap: Strängnäs kommun bidrar nu till AI Swedens databeredskapsverkstaden
- Modellen och dess förmågan har presenterats för andra kommuner och organisationer, och kan vara av intresse för socialt arbete i ett bredare perspektiv.
2. Kommunövergripande resultat:
- Strängnäs är nu mer redo att sätta sin AI-vision, och har ökat sin förmåga att ta sig från ett utforskande stadie till att utöva AI.
- Projektet har även belyst vikten av databeredskap,
- och fördelar med att kombinera människa och teknologier som AI.
- Projektet har också belyst 3 relativt nya typer av utmaningar i följande kategorier:
a) Tekniker som utvecklas snabbare än tidigare
b) Flera områden att bevaka och hantera: nya etiska och filosofiska frågor (exempelvis) tillkommer, utöver tidigare områden såsom juridik, upphandling osv
c) Behov av allt utforskande utvecklingsmetoder för att exempelvis effektivt hantera ”överraskningar” mycket sent skede i utvecklingsprojekt med NLP
3. Verksamhetsnära resultat:
- Projektet har betonat hur AI höjer mänskliga förmågor, i det här fallet får socialarbetare möjlighet till en mer effektiv och precis ärendehandläggning av orosanmälan, vilket i slutändan skall gagna barn och ungdomar
- Förutsägelser: 86 % noggrannhet i version 2 (slutversion av nuvarande projekt)
The project highlights the importance of data readiness and the benefits of combining human-in-the-loop and technologies such as AI.
It also emphasizes how AI elevates human capabilities, in this instance social workers receive concerning flags more efficiently and could therefore intervene quicker, positively affecting the case outcomes for the involved children.
Predictions: 86% accuracy in version 2 (final version of current project)
The model concept and capability is presented to other Swedish municipalities and may be of interest for social services in a broader perspective.
