Beim Lesen der Kolumne «Polizeiarbeit mit KI – Herausforderung für die Justiz» von Professor Sarah Summers, Co-Direktorin der Digital Society Initiative (DSI), musste ich mehrmals leer schlucken. Auch wenn die Ausführungen ethische Bedenken streifen, bin ich doch schockiert, dass die Dystopie der prädiktiven Polizeiarbeit nicht stärker in den Vordergrund gerückt wird.
Was wäre, wenn man ein Verbrechen verhindern könnte, bevor es geschieht?
Solche Fragen helfen in der Diskussion nicht weiter. Die Frageform lenkt die Antwort in eine künstlich positive Richtung, indem sie impliziert, dass die Verhinderung eines Verbrechens vor seiner Begehung wünschenswert und vielleicht sogar eine moralische Pflicht ist. Die Formulierung «Was wäre, wenn…» eröffnet zwar einen hypothetischen Raum, aber der Kontext «Verbrechen verhindern» erzeugt bereits eine starke intuitive Zustimmung bei den Lesenden.
Wir müssen uns dringend von der utopischen Vorstellung verabschieden, dass wir mehr Sicherheit gewinnen, wenn wir noch mehr Daten sammeln. Das einzige, was wir damit erreichen, ist eine anlasslose Massenüberwachung und ein natürliches Misstrauen gegenüber der gesamten Bevölkerung. Diese Gefahr wird noch verstärkt durch Technologien wie die automatische Gesichtserkennung, die es ermöglichen, Bürgerinnen und Bürger in Echtzeit zu identifizieren und ihre Bewegungen zu verfolgen. Darüber hinaus stellen die Fehleranfälligkeit und das Missbrauchspotenzial solcher Systeme eine ernsthafte Bedrohung unserer bürgerlichen Freiheiten dar.
KI-gestützte Vorhersagen untergraben die digitale Integrität. Gerade deshalb ist es wichtig, dass wir die Gewährleistung der digitalen Integrität rasch in unseren kantonalen Gesetzen verankern (noch besser wäre es natürlich auf Bundesebene). Damit stellen wir sicher, dass wir ein Recht darauf haben, nicht von einer Maschine überwacht, vermessen, analysiert und bewertet zu werden.
Beim Lesen der Kolumne «Polizeiarbeit mit KI – Herausforderung für die Justiz» von Professor Sarah Summers, Co-Direktorin der Digital Society Initiative (DSI), musste ich mehrmals leer schlucken. Auch wenn die Ausführungen ethische Bedenken streifen, bin ich doch schockiert, dass die Dystopie der prädiktiven Polizeiarbeit nicht stärker in den Vordergrund gerückt wird.
Solche Fragen helfen in der Diskussion nicht weiter. Die Frageform lenkt die Antwort in eine künstlich positive Richtung, indem sie impliziert, dass die Verhinderung eines Verbrechens vor seiner Begehung wünschenswert und vielleicht sogar eine moralische Pflicht ist. Die Formulierung «Was wäre, wenn…» eröffnet zwar einen hypothetischen Raum, aber der Kontext «Verbrechen verhindern» erzeugt bereits eine starke intuitive Zustimmung bei den Lesenden.
Wir müssen uns dringend von der utopischen Vorstellung verabschieden, dass wir mehr Sicherheit gewinnen, wenn wir noch mehr Daten sammeln. Das einzige, was wir damit erreichen, ist eine anlasslose Massenüberwachung und ein natürliches Misstrauen gegenüber der gesamten Bevölkerung. Diese Gefahr wird noch verstärkt durch Technologien wie die automatische Gesichtserkennung, die es ermöglichen, Bürgerinnen und Bürger in Echtzeit zu identifizieren und ihre Bewegungen zu verfolgen. Darüber hinaus stellen die Fehleranfälligkeit und das Missbrauchspotenzial solcher Systeme eine ernsthafte Bedrohung unserer bürgerlichen Freiheiten dar.
KI-gestützte Vorhersagen untergraben die digitale Integrität. Gerade deshalb ist es wichtig, dass wir die Gewährleistung der digitalen Integrität rasch in unseren kantonalen Gesetzen verankern (noch besser wäre es natürlich auf Bundesebene). Damit stellen wir sicher, dass wir ein Recht darauf haben, nicht von einer Maschine überwacht, vermessen, analysiert und bewertet zu werden.