Algorithmen sind eine definierte Abfolge von Einzelschritten zur Lösung eines bestimmten Problems. Dabei orientieren sie sich an von Menschen vorsortierten Datenbanken und entwickeln auf Grundlage dieser Daten eine Lösung für einen Auftrag. Der Lösungsweg kann entweder vorprogrammiert werden oder sich durch Künstliche Intelligenz eigenständig entwickeln. Algorithmen werden insbesondere in der Privatwirtschaft vielfältig eingesetzt, was auch der Effizienz- und Qualitätssteigerung der Verarbeitung ständig wachsender Datensätze geschuldet ist.
Aus liberal-feministischer Perspektive bietet das die Chance schneller und gerechter Datenverarbeitung, die nicht von menschlichen Konzentrationsstörungen, Wertungen und Fähigkeiten negativ beeinflusst wird. Gleichzeitig besteht die Gefahr, dass der Algorithmus mithilfe der eingepflegten Daten geschlechterdiskriminierende Praktiken wertneutral übernimmt und dadurch bestimmte Ungleichheiten festschreibt. Dieser Konflikt zwischen Nutzung und Förderung moderner Techniken und Legitimität des Ergebnisses soll in einen angemessenen Ausgleich gebracht werden.
Aus diesem Grund unterstützen wir die Beratungen rund um den und die Einführung des EU AI Acts. Wir fordern die Bundesregierung dazu auf, sicherzustellen, dass Regelungsäquivalente des AGG bzw. ähnlicher Antidiskriminierungsmaßnahmen in diesen einfließen. Ziel muss es sein, dass feste Transparenznormen gesetzt werden und gleichzeitig datenbasierte (Black Box) Algorithmen wie KIs nach wie vor von Unternehmen genutzt werden können. Diese Transparenznormen sollen unabhängige Gutachten und somit insbesondere individuelle Rechtsdurchsetzung für geschädigte Verbraucherinnen und Verbraucher möglich machen.
Des Weiteren sollen folgende Punkte umgesetzt werden:
- Ist bei einer eine Verbraucherin oder einen Verbraucher betreffenden Entscheidung im Hochrisikobereich i.S.d. EU AI Acts ein Algorithmus eingesetzt worden, soll darüber informiert werden.
- Die Antidiskriminierungsstelle des Bundes soll personell um Fachexpertinnen und -experten aufgestockt werden, die den Aufgaben aus §27 Abs. 2 AGG bei Diskriminierungen durch Algorithmen gerecht werden. Falls das aus personellen Engpässen nicht möglich ist, ist die Antidiskriminierungsstelle bei der Suche und Finanzierung externer Expertinnen und Experten zu unterstützen. Weiterhin sollen in regelmäßigen Abständen Studien i.S.v. §27 Abs. 3 Nr. 3 AGG zur Diskriminierung durch Algorithmen durchgeführt werden, ähnlich wie schon die erste Studie aus dem Jahr 2018.
- Die Antidiskriminierungsstelle soll angelehnt an die Empfehlungen des New Yorker Instituts AI Now um ein Fachzentrum für Algorithmen ergänzt werden. Bei der Beschaffung von diskriminierungsanfälligen Computersystemen müssen öffentliche Stellen sich vorab mit der Antidiskriminierungsstelle beraten, wenn diese nicht bereits eine EU-Zulassung haben. Privaten Unternehmen wird dieser Dienst angeboten.
- In Studiengängen und Ausbildungen, die auf die Arbeit mit Algorithmen vorbereiten sollen, ist das Problemfeld – wenn möglich – zu behandeln.
Internet Ombudsstelle
Vor dem Hintergrund einer fortschreitenden Digitalisierung stehen wir vor zahlreichen Veränderungen auf nahezu allen gesellschaftlichen Ebenen. Wie genau sich die digitale Transformation entwickeln wird, kann niemand vorhersagen, aber es lassen sich eindeutige Tendenzen in vielen Bereichen feststellen. In diesen Bereichen braucht es neue, rasche und unbürokratische Lösungen, die es dem Individuum ermöglichen, seine Rechte durchzusetzen. Hierfür fordern wir eine bei der Verbraucherzentrale angesiedelte Internet-Ombudsstelle, die aus einer auf freiwilliger Basis aufgebauten Kooperationen mit Unternehmen gründet und von Bundesmitteln gefördert wird. Diese auf außergerichtliche ausgelegte Streitschlichtungsstelle soll als Online-Angebot allen Bürgerinnen und Bürgern zugänglich gemacht werden und neben der kostenlosen Beschwerdeannahme auch Informationen zur aktuellen Rechtslage beinhalten. Kommt es bei einem Streitfall zu keiner Lösung, unterstützt die Ombudsstelle bei der Vermittlung von rechtlichem Beistand.
RECHT AM EIGENEN BILD
Wer eigene Bilder ungewollt im Internet findet, hat einen rechtlichen Anspruch, diese entfernen zu lassen. Generell haben Betreiber von Internet-Plattformen ein hohes Interesse daran, gegen Rechtsverstöße vorzugehen. In der Regel gibt es einen entsprechenden Melde-Button für Betroffene. Jedoch kann es durch die hohe Anzahl von Meldungen dazu kommen, dass Betreiber sehr spät oder erst gar nicht handeln. Wenn die Bilder jedoch einmal online sind, können sie sich rasend schnell verbreiten. Ein Beispiel hierfür sind Rachepornos, bei denen Nacktbilder oder Videos mit sexuellem Inhalt ohne Zustimmung ins Internet gestellt werden. Diese Art der öffentlichen Bloßstellung kann schwerwiegende Folgen für die psychische Gesundheit der Betroffenen haben, da nicht selten auch der Name mit veröffentlicht wird. Um diesen Löschungsprozess effektiver zu gestalten, soll es am Vorbild des „Trusted Flagger- Programmes“ von YouTube eine priorisierte Bearbeitung von Meldungen der Internet- Ombudsstelle geben. Betroffene können sich direkt an die Internet-Ombudsstelle wenden und die Verletzung durch sie melden lassen, damit die Bilder möglichst schnell entfernt werden. Diese angestrebte freiwillige Kooperation mit Onlineplattformen soll Unternehmen dabei unterstützen, rechtswidrige Inhalte von ihrer Plattform zu entfernen.
HATESPEECH
Hass und Hetze findet heutzutage zunehmend digital statt. Wenn Betroffene über längere Zeit im Internet von einer Person belästigt werden, spricht man von Cybermobbing. Aktuelle Studien zeigen, dass ungefähr zwei Millionen Kinder und Jugendliche in Deutschland von Cybermobbing betroffen sind. Die COVID-19-Pandemie verschärfte diese Situation, da viele soziale Interaktionen ausschließlich über das Internet stattfinden. Viele Opfer von Cybermobbing scheuen sich davor, sich an Ermittlungsbehörden oder vorhandene Hilfsangebote zu wenden. Daher soll es möglich sein, der Internet-Ombudstelle öffentlich zugängliche Inhalte zu melden.
Die Internet-Ombudsstelle kann anschließend eine Abmahnungs-Empfehlung an den Betreiber weiterleiten. Dieser entscheidet dann, ob er den Täter oder die Täterin auf Basis einer für den Täter oder die Täterin anonymen Beschwerde abmahnen möchte oder nicht. Sollte der Fall im strafrechtlichen Bereich stattfinden, kann die Internet- Ombudsstelle nach Einwilligung der oder des Betroffenen den Fall an die Staatsanwaltschaft weiterleiten. Hierfür ist sie mit rechtlich ausgebildetem Personal auszustatten und zur Verschwiegenheit verpflichtet.
Automatisierte Cyber-Patrouillen im Internet bei öffentlich zugänglichen Inhalten
Die Einsatzmöglichkeiten für das Monitoring von öffentlich zugänglichen Inhalten sollen evaluiert und in einem Modellprojekt auf ihre Effektivität getestet werden. Hierbei sollen Methoden wie Web Scraping zum Einsatz kommen, um automatisiert Strafrechtlich relevante Inhalte herauszufiltern.
Beispiele für KI unterstütze Cyber-Patrouillen:
- Gezielten Monitoring von Missbrauchsdarstellungs-Foren im Darknet, um File-Hoster auf die Inhalte aufmerksam zu machen, damit sie gelöscht werden können.
- Das filtern von Incel Foren nach Beiträgen, die auf eine angekündigte Straftat deuten könnten.
Bei diesem proaktiven Ansatz muss sichergestellt werden, dass nur öffentlich zugänglich Inhalte analysiert werden.
