Die Automatisierung der Demokratie mit Lorena Jaume-Palasi

Die diesjährige Innocracy Konferenz fand unter dem Motto „Democratic Transformations“ statt: Wie gestalten wir eine nachhaltige und inklusive Gesellschaft? Demokratie21 war als Partnerorganisation geladen, Teil eins dieser Zusammenarbeit ist der Livepodcast zur Zukunft der Institutionen. Hier folgt Teil zwei mit Lorena Jaume-Palasi. Sie ist Gründerin von The Ethical Tech Society und sprach über Algorithmen, Automatisierung, künstliche Intelligenz und den Einfluss auf Demokratie. Hier lesen Sie drei Stichpunkte:

Verzerrungen und Übersetzungsprobleme

„Ich versuche zu verstehen, wie die Interaktion zwischen Menschen und Technologie funktioniert“. Technologien werden zwar immer in einer mathematischen Sprache geschrieben, aber die Umstände der Menschen, die sie programmieren, bleibt dabei oft unbeachtet: „Welche Annahmen über die Welt, welche Vorurteile, welche Vorstellungen haben wir?“ Daraus entstehen schnell unbewusste Verzerrungen, sie erwähnt ein Beispiel.

Eine Schülerin mit schwarzer Hautfarbe hatte von Lymekrankheit gelernt. Diese Infektion hinterlässt ein Muster auf der Haut, Bilder aus Schulbüchern oder von Google zeigten nur Menschen mit heller Hautfarbe. „Das zeigt unsere Ausgangsposition. Mit welchem Duktus beginnen wir zu forschen, zu katalogisieren und zu visualisieren?“. Jeder der aus dem Raster fällt, kommt entweder gar nicht, oder zum Schluss dran. In diesem Beispiel aus der Medizin, gab es kein Erscheinungsbild einer Krankheit für Menschen mit dunkler Hautfarbe. „Wir brauchen eine breitere Palette an Standards. Dazu müssen wir im ersten Schritt auf solche Probleme hinweisen und sensibilisieren“.

Neue Dynamiken

„Wenn Technologie benutzt wird, wird sie auch angeeignet vom Nutzer. Wir machen alle etwas Anderes damit, als die Entwickler ursprünglich geplant hatten. Das ist eine Form von Mitentwicklung, weil wir sie damit verändern. Technik steht also nie für sich alleine, sie ist in einer Symbiose mit uns“. Durch diese Dynamik entstehen auch Lücken, die niemand sieht, aber gesehen werden müssten, wie das erwähnte Beispiel der Lymekrankheit.

Hier setzt die Arbeit der Ethical Tech Society an. Im ersten Schritt, sagt Jaume-Palasi, müsse man an die Quelle gehen: Für dieses Beispiel die Weltgesundheitsorganisation (WHO) auf internationaler Ebene und lokale Gesundheitsorganisationen in Deutschland. Um möglichst große Wirkung zu erzielen, muss die Presse und Öffentlichkeit mitgenommen werden. „Hier handelt es sich um eine Lücke in der Datenbank, das ist aber nur ein mögliches Problem. Andere Technologien würden bereits als Konzept einer starken Verzerrung unterliegen. Es braucht eine gute „Governance“ dieser Daten, Strukturen und Interaktionen. Neue Technologien stellen sich die Frage nach dem ethischen „Sollen wir das tun?“ oft gar nicht, meint sie.

Manuelle Arbeit schafft künstliche Intelligenz

Jaume-Palasi arbeitet auch mit dem öffentlichen Sektor und der Politik. Wie gehen die Menschen, die dazu Gesetze formulieren und exekutieren müssen, um? „Sehr unterschiedlich. Einerseits herrscht Angst, weil es eine Flut von Daten ist, man nicht weiß, was sie bedeuten und wie man sie in bestehende Verfahren eingliedert. Andererseits herrscht auch eine Faszination: Assistenz, mehr Systematik im eigenen Tun und Effizienz“. Gleich wie im privatwirtschaftlichen Bereich gebe es viele Projektionen und Wünsche, die von einer nüchternen Realität eingeholt werden. „Künstliche Intelligenz braucht viel manuelle Intelligenz. Das heißt Nein sagen, kalibrieren, viel Handarbeit und Aufsicht“.

Diese Prozesse unterliegen immer noch der erwähnten Dynamik. Das Muster, das heute noch gilt, kann morgen schon ein neues sein. „Diese ständig notwendigen Korrekturen gegenüber der Maschine implizieren ironischerweise eine Automatisierung der eigenen, menschlichen Arbeit“. Wenn wir etwas automatisieren wollen, übernimmt diese Arbeit nicht die Maschine, sondern Menschen, die wiederum äußerst monotonen Prozessen unterliegen, sagt sie. „Es ist sehr unklar, inwieweit Automatisierung und künstliche Intelligenz wirklich menschliche Arbeit ersetzen wird können“.

Wer jetzt? Biografie und Links

Lorena Jaume-Palasí ist Gründerin von The Ethical Tech Society, einer gemeinnützigen Organisation mit dem Ziel, Prozesse der Automatisierung und Digitalisierung zu betrachten und in Bezug auf ihre gesellschaftliche Relevanz einzuordnen. Sie forscht zur Ethik der Digitalisierung und Automatisierung. Sie finden Sie auf Twitter.