In digitaler Gesellschaft

Abstract

Der Alltag ist durchdrungen von digitalen, algorithmen-basierten Empfehlungssystemen, die als Entscheidungsfilter für verschiedene Angelegenheiten dienen. Algorithmen geben Kaufempfehlungen, sie sortieren Informationen in Suchmaschinen und News-Feeds oder wählen eine passende Route im Straßenverkehr aus. Damit sind Algorithmen zu grundlegenden Alltagshilfen geworden, doch ihre berechneten Handlungsvorschläge zu hinterfragen, fällt schwer. 1 Je nachdem, für welche Zwecke eine Empfehlung mittels Algorithmen eingeholt wird, gibt es immer wieder Situationen, in denen es sinnvoll sein kann, die »Grammatik« (Seaver 2019) zu kennen, nach denen algorithmische Empfehlungen zustande kommen. Ein solcher Einblick in die Entwicklung von Entscheidungsalgorithmen ist für Nutzer*innen derzeit jedoch nicht möglich. Obwohl Algorithmen das Handeln in digitalisierten Alltags-und Arbeitswelten heute in vielfältiger Weise beeinflussen, ist die Art und Weise dieser Beeinflussung undurchdringlich und nicht aushandelbar. Mit Algorithmen, wie sie aktuell konstruiert werden, bleibt unklar, wer aus welchen Gründen den ein oder anderen Handlungsvorschlag erhält. Algorithmische Entscheidungssysteme verteilen Wissen neu zwischen denen, die sie nutzen, und denen, die sie programmieren und verkaufen. Diese Umverteilungen gilt es öffentlich zu verhandeln und auszuhandeln. Für eine demokratische Technikgestaltung müssen Algorithmen erklärbar werden, das bedeutet, dass unterschiedlichen Gruppen, wie etwa den Nutzer*innen selbst aber auch Vertreter*innen des Verbraucherschutzes, sozialwissenschaftlichen Forschungsansätzen oder juristischem Personal eine