Erkennung von Suizidversuchen

Technisches System zur Erkennung von Suizidversuchen im Strafvollzug

Bei Gefangenen in Justizvollzugsanstalten ist die Suizidrate deutlich höher als in der übrigen Bevölkerung. Die Landesregierung hat es sich daher zur Aufgabe gemacht, zur Verbesserung der Suizidprävention auch die Möglichkeit eines Einsatzes von Künstlicher Intelligenz (KI) auszuloten. Dabei gilt es vor allem auch, den Anforderungen des Datenschutzes Rechnung zu tragen.

Als weiterer Baustein bei der Verbesserung der Suizidprävention in Justizvollzugsanstalten soll zukünftig eine ereignisgesteuerte Videoüberwachung von Gefangenen hinzutreten. Dieses Überwachungssystem soll potentielle Suizidvorhaben in den Hafträumen erkennen und an die Justizvollzugsbediensteten melden.

Die Bewertung als Suizidvorhaben soll dabei durch einen Abgleich der Videoaufnahme mit Bewegungsmustern erfolgen, die in dem System als typischerweise suizidale Handlung hinterlegt sind. Relevante Merkmale könnten beispielsweise bestimmte Bewegungsabläufe bei einem Strangulationsversuch oder der Einsatz gefährlicher Gegenständen (zum Beispiel Messer) sein. Das Einspeisen typischer Bewegungsmuster soll in der Entwicklungsphase des Systems stattfinden.

In diesem Stadium soll auch die technische Grundlage für sein selbständiges Lernen angelegt werden. Der eigentliche Lernprozess durch diese KI-Komponente soll sodann während des Einsatzes in der Praxis erfolgen. Die Justizvollzugsbediensteten führen dem System nach der Meldung eines Suizidvorhabens die Information zu, ob es die Situation richtig bewertet hat. Das System speichert diese Information ab und verwertet sie zur Verbesserung des verwendeten Algorithmus.

Im Jahr 2019 hat das Ministerium der Justiz NRW ein Forschungsprojekt ins Leben gerufen, in dessen Rahmen ein solches System entwickelt und getestet werden soll. Erweist es sich dabei als hilfreich, soll es zunächst in einer Justizvollzugsanstalt im Pilotbetrieb zum Einsatz kommen.

In der Stellungnahme des LDI an den Landtag vom 6. Mai 2020 (Landtag-Stellungnahme 17/2617) wurde unter anderem auf folgende Aspekte hingewiesen:

• Der Einsatz eines solchen technischen Systems kann sinnvoll sein und ist grundsätzlich datenschutzgerecht umsetzbar. Allerdings hängt das von der genauen Ausgestaltung des Systems ab, das heißt etwa dem Kreis der zugriffsberechtigten Personen, Speicherfristen, dem Ausschluss oder der Beschränkung von Zweckänderungen und der Nachvollziehbarkeit der Ergebnisse und Entscheidungen.
• Erforderlich ist eine Rechtsgrundlage für die Verarbeitung personenbezogener Daten. Dabei ist zwischen der Entwicklung und dem Einsatz des Systems zu unterscheiden.
• Unzulässig ist vor dem Hintergrund der in Art. 1 Grundgesetz verbrieften Menschenwürde jedenfalls, die Daten von Gefangenen für die erstmalige Entwicklung des Systems zu verwenden. Sie hat folglich ausnahmslos mit Schauspieler*innen zu erfolgen. Als Grundlage für die Datenverarbeitung kommt diesbezüglich eine Einwilligung oder ein Vertrag in Betracht (Art. 6 Abs. 1 Satz 1 Buchstaben a, b DSGVO). Der nähere rechtliche Rahmen für die erstmalige Einrichtung bzw. Entwicklung des Systems ist nach § 24 Abs. 8 Justizvollzugsdatenschutzgesetz NRW (JVollzDSG NRW) durch eine Rechtsverordnung festzulegen. Das ist bislang noch nicht erfolgt.
• § 24 Abs. 7 Satz 2 JVollzDSG NRW stellt die Rechtsgrundlage für die Verarbeitung personenbezogener Daten der Gefangenen beim Betrieb des Systems dar. Das umfasst grundsätzlich auch die Weiterentwicklung des Systems im Rahmen seiner Eigenschaft als KI-System. Für den späteren Lernprozess der Systeme dürfen Gefangenendaten somit grundsätzlich verwendet werden.
• Die gesetzgeberischen Wertungen sind auch bei der Fortentwicklung des Systems zu berücksichtigen. Hierzu gehören insbesondere die Auswahl der an der Fortentwicklung beteiligten Personenkreise, der nötige Umfang der Aufzeichnungen von Videosequenzen und die Sicherstellung der Zweckbindung der aufgezeichneten Videodaten ausschließlich zur Suizidprävention.

KI-Systeme zur Suizidprävention sind grundsätzlich datenschutzgerecht umsetzbar, soweit die aufgezeigten Leitplanken beachtet werden.

Quelle: LDI NRW

Weitere unterstützende Hinweise zum Datenschutz finden Sie in diesen Beiträgen:

• Kein Backup, kein Mitleid! Datensicherung mit NAS und Festplatte
• Datenpanne auf Reisen durch Visual Hacking- Blickschutz hilft.
• Denkanstoß – Daten(schutz)risiko USB-Stick, es passiert immer wieder
• Aktenvernichter für den Arbeitsplatz – Gegen Datenpannen auf Papier
• Tipp: Textpassagen mit einem Camoflage-Rollstempel unkenntlich machen
• Aufsichtsbehörde empfiehlt Buch: DSGVO /ePrivacy auf Websites umsetzen
• Recht im Online-Marketing: So schützen Sie sich vor Fallstricken zur DSGVO

Dieser Absatz enthält Affiliatelinks/Werbelinks