Wenn es darum geht, Datennutzung nicht nur aus betriebswirtschaftlichen Gründen, sondern auch aus ethischen Gründen zu hinterfragen, sind auch die Softwarehersteller in der Pflicht. Dabei wird echte Innovation nur dann geliefert, wenn es gelingt, neue digitale Produkte im Einklang mit unseren Werten der Bürgerrechte und der Freiheitsrechte zu entwickeln. Alles andere wäre nicht innovativ, sondern einfach nur neu, bringt es unsere Panelistin Ann Cathrin Riedel (LOAD e.V.) auf den Punkt.
An dieser Stelle ist aus ihrer Sicht die Entwicklung der Corona-Tracing App das Positivbeispiel schlechthin: demokratischer Dialog mit der Zivilgesellschaft und eine fundierte Auseinandersetzung damit, wie eine solche App unter Berücksichtigung der Datenschutz- und Bürgerrechte gestaltet werden kann. Eine echte Blaupause dafür, wie digitale Produkte durch die Verwaltung in Zukunft an den Markt gebracht werden sollen – echte Innovation eben. Und eine erfrischend andere Perspektive.
Immer wieder oszilliert die Diskussion um das Thema „Werte“. Über den Rechtsrahmen hinaus geht es unserem Panelisten Benjamin Brake (IBM) dabei auch darum, dass sich Softwarehersteller nicht nur über Werte unterhalten, sondern sich selbst auch entsprechende Prinzipien geben. Daten, die IBM bekommt, gehören deshalb grundsätzlich den Kunden; genauso wie die Erkenntnisse, die aus ihrer Verarbeitung gewonnen werden. Dabei spielt auch die Nachvollziehbarkeit und Transparenz von KI-basierten Entscheidungen eine kritische Rolle, denn viele Risiken der Datennutzung stammen nicht aus den Daten selbst, sondern aus den Algorithmen, die Daten verarbeiten. Hier müssen Institutionen finanziell und personell befähigt werden, als Ratgeber, Regulierer und Sanktionierer aufzutreten – nicht, um Freiheit einzuschränken, sondern um genau diese vor Überwachungs- und Datenmissbrauchsängsten zu schützen.