Schwärzwerk: Erst unkenntlich machen, dann darf die KI lesen

Tim Rietz hat mir bei unserem Treffen eine Geschichte erzählt, die ich erst für einen Witz gehalten habe: In einer Behörde musste ein Bericht raus, mit Namen drin, die niemand lesen sollte. Ein Programm zum Schwärzen gab es nicht, also hat jemand schwarze Kästen über die Namen gelegt. Ich weiß nicht, ob er dafür Paint genommen hat. Jedenfalls konnte man den Text darunter einfach rauskopieren. Bei dem Gespräch sitzen wir in der Sonne der Terrasse seines Büros in einem Space der DB direkt an der Spree. Er sagt dann noch: „Solche Geschichten begegnen mir immer wieder.“ Um Daten mit KI zu bearbeiten, muss man sie oft schwärzen. Und um sie zu schwärzen, müssten sie in die KI. Und damit Auftritt: Schwärzwerk.

Aber erstmal willkommen zu einer neuen Ausgabe von PAPIERSTAU, dem Newsletter über die Unternehmen, die die Verwaltung digitalisieren. Heute geht es um Schwärzwerk von Respeak und um eine Arbeit, die so banal klingt, dass man sie leicht übersieht: Dokumente schwärzen. Viel Spaß.

Bevor es weitergeht, noch ein Einschub: In jeder Ausgabe von PAPIERSTAU steckt Arbeit. Recherche, Schreiben, Korrekturlesen, all das. Mein Ziel ist es, diesen Newsletter als einen weiteren unabhängigen Kanal zur Berichterstattung über die Verwaltung aufzubauen. Das geht auf Dauer nur mit Geld. Ihr findet hier deshalb Möglichkeiten, ein Abo abzuschließen. Solltet ihr zudem jemanden kennen, der zum Jahresende noch ein bisschen Werbebudget herumliegen hat und in eine spannende Zielgruppe funken will – hit me up. Besten Dank und jetzt aber wirklich: Viel Spaß beim Lesen!

Fangen wir mal mit Rietz an, um in diese Geschichte einzusteigen: Rietz hat am KIT promoviert, einen Hintergrund im öffentlichen Sektor hat er nach eigener Aussage nicht. Somit gab es auch keinen großen Plan, die Verwaltung mit Technologie zu beglücken und zu revolutionieren. Sein erster Auftrag von öffentlicher Seite war einer, bei dem man das kaum vermutet: drei Spiele zum Tatort für den SWR. „Ich finde Spiele cool und hatte totalen Bock darauf“, sagt Rietz. Gelernt hat er dabei vor allem, wie man eine Ausschreibung gewinnt, und dass alles barrierefrei sein muss und was das bedeutet. Durch Aufträge und einem Inubator-Programm bei der Bahn kam dann noch hinzu, wie man ein System durch Datenschutzabstimmungen und Betriebsräte bringt. Learnings, die bei Behörden später helfen.

Und nun, bevor wir uns das Produkt Schwärzwerk anschauen, noch einen Blick auf Respeak. Das Unternehmen gibt es seit fünf Jahren, es sind drei Leute. In der Firma gibt es kein Wagniskapital, am Anfang ein EXIST-Stipendium, sonst finanziert aus Umsatz. Gebaut werden dort Systeme mit wenig Abhängigkeiten, die in der Cloud oder im eigenen Keller betrieben werden können.

Darauf laufen eine KI-Plattform bei den Bezirksregierungen Arnsberg, Münster und Köln, ein System für die Bahn und ein Dolmetscherwerkzeug fürs Sozialamt in Berlin-Reinickendorf. Ein Bauchladen, sagt Rietz selbst, aber alles auf derselben Technik, und er hängt nicht an einem einzigen Deal.

Auf Veranstaltungen werde er eher gefragt, wie viel Funding Respeak habe. „Wir sind zu dritt“ klinge dann nach Gründern, die gerade erst angefangen haben. Was ihn ärgert, sind Ausschreibungen mit einer Mindestzahl an Mitarbeitenden. „Eigentlich ist das eine komische Metrik.“ Und irgendwie ist es auch bezeichnend, dass Respeak “Direktvergabe möglich” auf seine Seite schreiben muss.

Und damit zu Schwärzwerk: Wer Akten herausgibt, muss vorher alles entfernen, was Menschen identifizierbar macht. Und personenbezogene Daten dürfen in viele KI-Werkzeuge schlicht nicht rein. Heißt: Wer mit KI an echten Akten arbeiten will, muss sie erst sauber machen.

Schwärzwerk malt deshalb keinen schwarzen Balken, sondern setzt einen Platzhalter. Aus mir, Bastian, wird „Person 0“, über das ganze Verfahren hinweg. Person 0 ist nicht Person 1, es ist also klar, dass das zwei verschiedene Personen sind. Das könne eine KI auswerten, ohne je zu wissen, um wen es geht. Aber warum sollte sie das?

Gebaut hat Respeak das Werkzeug aus der Not. Der Anlass war ein Fall, den ihr aus der Ausgabe über Crowdinsights kennt: Planfeststellungsverfahren, etwa für einen Windpark. Nach den Zahlen, die Rietz kennt, dauert allein die Auswertung der Einwendungen ein bis zwei Monate, der Bericht dazu dann noch mal rund sechs. Respeak wollte das mit KI beschleunigen. Aber: Der Datenschutz der Bezirksregierung spielte aber nur mit, wenn die Daten pseudonymisiert ankommen. Danach habe man die Auswertung in einer halben Stunde liefern können, sagt Rietz.

Dass es dafür ein eigenes Werkzeug braucht, hat ihn selbst überrascht. Er dachte, das sei bestimmt längst gelöst, und wenn nicht, löse er es eben mal kurz. Allerdings wird bis heute viel von Hand geschwärzt und bei einem 200-Seiten-Verfahren kann man sich vorstellen, wie lange das dauert. Adobe hat zwar eine Funktion dafür, markieren muss man aber selbst. Und die Akten machen es einem nicht leicht.

Vieles kommt gescannt oder als Foto, das System muss den Text also erst erkennen, dazu Unterschriften und andere Elemente finden. Die meisten KI-Modelle sind vor allem mit englischen Texten trainiert, und ein deutsches Verfahrensdokument ist noch mal eine eigene Sprache. Ein Kunde habe ihm von einer Lösung der EU erzählt, sagt Rietz, die laufe aber nur in der Cloud. Für eine Behörde wie Arnsberg, deren Daten das Haus nicht verlassen dürfen, fällt das aus. Also macht man es eben selbst.

„Wir haben es nicht gemacht, weil es einfach war, sondern weil wir dachten, es sei einfach“, sagt Rietz. Aber, dann geht es eben ins Nitty-Gritty: Ist „Tim Rietz UG“ eine Firma oder ein Name? Firma müsste nicht geschwärzt werden. Ein Name schon. Ein Bürgermeister, der einen Beschluss fasst, wird im Protokoll nicht geschwärzt. Wohnt er selbst im Gebiet des Bebauungsplans, aber schon, denn dann ist er dort Privatperson. Das sind ja auch Dinge, an denen Menschen Probleme haben. Die Maschine muss erst lernen, sowas zu erkennen und zu unterscheiden.

Deshalb gibt es einen Editor, in dem man sieht, was warum geschwärzt wurde, und eigene Regeln für jede Behörde. Nach eigenen Messungen findet das System rund 96 Prozent dessen, was raus muss, rund 85 Prozent der Treffer sind richtig.

Die Regeln, nach denen geschwärzt wird, sind am Ende Rechtsgrundlagen, im System hinterlegt sind gerade 53. Wer nur ab und zu schwärzt, hat die beim nächsten Mal wieder vergessen, sagt Rietz. Über ein Glossar kann jede Behörde eigene Regeln ergänzen, also festlegen, was immer und was nie geschwärzt wird. Das System trainiert sich dabei nicht selbst um, die Regeln bleiben nachprüfbar.

Und der Mensch? Der finde ungefähr genauso viel, werde aber ungenauer, je länger er am Stück schwärzt. Ein zehnseitiges Testdokument schafft ein erfahrener Mensch in fünf bis sechs Minuten. Das System braucht eine Sekunde pro Seite, eine kleine Testgruppe war mit dem Nachprüfen meist in unter einer Minute fertig. Prüfen geht eben schneller als von vorn anfangen, das kennt jeder, der mal einen Text mit ChatGPT vorgeschrieben hat. Also ist das System trotz potenzieller Nacharbeiten wesentlich schneller als der Edding.

Sieben Kunden hat Schwärzwerk bisher, viele Anfragen kommen inzwischen auch von Kanzleien und Praxen. Bis Verträge im öffentlichen Sektor geschlossen sind, dauert es eben, sagt Rietz. Wenn er aufmalt, was Respeak alles macht, landet Schwärzwerk ganz unten, als Unterbau. „Das Schwärzwerk ist am Ende ein Enabler.“ Erst wenn die Daten sauber sind, kommen die Fälle dran, an denen Behörden wirklich Monate sitzen. Respeak fragt seine Kunden deshalb immer, woran sie am längsten sitzen. Genannt werden dann etwa Verwendungsnachweise für Förderungen oder neue Gesetzentwürfe, bei denen jemand das alte und das neue Gesetz nebeneinanderlegt, um zu sehen, was sich geändert hat. Für den Gesetzesvergleich gibt es in der Plattform inzwischen einen Ablauf, der das in ein paar Sekunden erledigt.

Das Erste, was Respeak auf Wunsch von Kunden obendrauf gebaut hat, war ein Browser-Plugin. Es schwärzt, was jemand in ChatGPT eintippt, samt Anhängen, bevor es abgeschickt wird. Gedacht ist es gegen Schatten-KI, also gegen das, was Leute an der eigenen IT vorbei in irgendein Chatfenster kopieren. Die Schnittstelle dahinter ist offen, andere Anbieter könnten sie genauso nutzen. Rietz nennt das Ganze eine Jahrhundertaufgabe, weil noch so viel Papier in Kellern liegt, das digitalisiert und datenschutzkonform weiterverarbeitet werden muss. „Das Thema Schwärzen geht nicht weg“, sagt er.

Beim Wort „Schwärzen“ habe ich erstmal nicht viel erwartet. Rietz hatte mich per LinkedIn angeschrieben und ich musste ein paar Mal darüber nachdenken, ob das eine Geschichte ist. Inzwischen glaube ich, dass Respeak an einer Stelle sitzt, über die in der KI-Debatte zu wenig gesprochen wird. Die Verfahren, die wirklich Monate liegen, sind die mit personenbezogenen Daten. Hier Beschleunigung zu schaffen, ist immens wichtig.

Zwei Fragen bleiben. Ich mag natürlich keine geschwärzten Dokumente, das liegt in der Natur meines Jobs. Wenn sie aber dafür geschwärzt werden, dass hier der Datenschutz eingehalten wird, ist das natürlich was anderes. Ich möchte natürlich auch nicht, dass Daten in der KI landen, die da nicht hingehören. Ich hab mich natürlich trotzdem unweigerlich gefragt, ob so ein Tool nicht auch dafür genutzt werden kann, um Dokumente nach Anfragen zu schwärzen. Und wer lieber zu viel schwärzt, das hat aber gar nichts mit Schwärzwerk an sich zu tun, hat vielleicht kein Datenschutzproblem, aber womöglich eins mit der Transparenz. Was zu viel geschwärzt ist, fehlt bei einer IFG-Anfrage eben auch. Solange es aber bei personenbezogenen Daten bleibt, fine. Und ob drei Leute das alles dauerhaft tragen, wenn bald alle Bezirksregierungen in NRW wollen, darf man sich sicherlich mal fragen. Aber dann können sie ja auch nachjustieren.

Und eine Sache, die ich wirklich, wirklich großartig finde: den Namen Schwärzwerk. Sorry, aber der haut mich um.

Und hier noch mal der Aufruf, dass ich mich wirklich darüber freue, wenn ihr meine Arbeit hier unterstützt. Danke <3!

Wie wird bei euch geschwärzt? Und habt ihr schon mal einen schwarzen Kasten gesehen, unter dem noch etwas stand? Schreibt mir.

Schönes Wochenende!