{"id":6810,"date":"2022-08-06T11:53:38","date_gmt":"2022-08-06T09:53:38","guid":{"rendered":"https:\/\/www.netz-barrierefrei.de\/wordpress\/?p=6810"},"modified":"2023-09-07T18:08:45","modified_gmt":"2023-09-07T16:08:45","slug":"koennen-daten-und-kuenstliche-intelligenz-diskriminierung-verringern","status":"publish","type":"post","link":"https:\/\/www.netz-barrierefrei.de\/wordpress\/koennen-daten-und-kuenstliche-intelligenz-diskriminierung-verringern\/","title":{"rendered":"K\u00f6nnen Daten und Algorithmen Diskriminierung verringern?"},"content":{"rendered":"<p><iframe loading=\"lazy\" src=\"https:\/\/digitale-barrierefreiheit.podigee.io\/71-diskriminierung\/embed?context=external&#038;theme=default\" style=\"border: 0\" frameBorder=\"0\" height=\"100\" width=\"100%\"><\/iframe><br \/>\nDas Thema Biasing\/Bias ist heute mehr oder weniger in das Bewusstsein vieler Entscheidungstragender angekommen. Beim Biasing geht es darum, dass Diskriminierung unbewusst stattfindet. Der Kern ist, dass wir unbewusst Personen bevorzugen, die uns \u00e4hnlich sind, was Alter, Bildung, Verhalten und Aussehen betrifft. Und dass es nicht reicht, dass wir das wissen, um dagegen vorzugehen. IM Zweifelsfall werden wir immer die Person bevorzugen, die uns sympathischer ist und hinterher sachlich erkl\u00e4ren, warum es diese Person sein muss. &#8222;Die Person passt ins Team&#8220; ist ein Totschlag-Argument, mit dem jede Entscheidung gerechtfertigt werden kann. Meines Erachtens ist das eine Grundkonstante menschlichen Verhaltens, die schwer bis gar nicht abzulegen ist.<br \/>\nVielmehr ben\u00f6tigen wir von Personen unabh\u00e4ngige Mechanismen, die diesen Bias beseitigen. Ein Weg daf\u00fcr sind anonyme Bewerbungen. Auch die soziale Inklusion kann helfen, denn wenn wir mit &#8222;den Anderen&#8220; aufwachsen, erleben wir sie nicht mehr als so anders als wir selbst.<br \/>\nDas ist mehr oder weniger ein alter Hut &#8211; sozusagen Mainstream im Diversity-Ansatz. Neu ist meiner Wahrnehmung nach der daten-basierte Ansatz. Beispiele daf\u00fcr sind die aktuellen B\u00fccher von Iris Bohnet &#8222;What Works&#8220; oder Caroline Criado-Perez &#8222;Unsichtbare Frauen&#8220;.<br \/>\nKlar ist, dass Daten heute bereits eine gro\u00dfe Rolle spielen und mit auf KI-basierten Prozessen immer wichtiger werden. Damit verbindet sich die Hoffnung, dass etwa Bewerbungs-Prozesse weniger diskriminierend sind.<br \/>\nEin Algorithmus ist leider nicht automatisch neutral, es h\u00e4ngt alles von der Programmierung und den Daten ab.<br \/>\nDas hei\u00dft auch, dass wir eine Software nicht wie eine Maschine hinstellen k\u00f6nnen und sie immer funktionieren wird. Vielmehr m\u00fcssen wir aktuelle Erkenntnisse einschlie\u00dfen und integrieren.<br \/>\nDer L\u00f6sungs-Ansatz ist erstaunlich einfach, es scheitert an der Umsetzung. Wenn Daten auf einer gef\u00fchlten Mehrheits-Gesellschaft basieren, sind die daraus folgenden Entscheidungen diskriminierend f\u00fcr diverse Minderheiten. Ein Algorithmus kann genau so diskriminieren wie ein Mensch, wenn er einfach nur menschliches Verhalten reproduziert.<br \/>\nNehmen wir an, der Bremsweg eines Autos ist f\u00fcr einen 1,80 Meter gro\u00dfen 35-j\u00e4hrigen Mann ausgelegt, dann wird der Algorithmus f\u00fcr einen f\u00fcnf-j\u00e4hrigen Jungen oder einen 80-j\u00e4hrigen Mann nicht so gut funktionieren. Oder ein Bewerbungs-Prozess sortiert alle Personen aus, die in einem bestimmten Stadteil zur Schule gegangen sind oder L\u00fccken in ihrem Lebenslauf haben.<br \/>\nWir alle diskriminieren &#8211; ich auch &#8211; ob bewusst oder unbewusst, lassen wir mal dahingestellt. Ein daten-basierter Antidiskriminierungs-Ansatz scheint mir deshalb eine M\u00f6glichkeit, dieses Problem zu l\u00f6sen. Das Problem mit vielen bisherigen Ans\u00e4tzen wie Anti-Bias-Training ist, dass sie gerne mal viel Geld kosten, oft ein gutes Gef\u00fchl verleihen, aber nicht beweisen k\u00f6nnen, dass sie erfolgreich sind. Das hei\u00dft, auch der Erfolg von daten-basierten Ans\u00e4tzen kann und muss mit Daten belegt werden k\u00f6nnen. Nur was man messen kann, ist relevant.<br \/>\nDas hei\u00dft nicht, dass man allein auf solche Methoden setzen muss. Vielmehr ist ein B\u00fcndel an Ma\u00dfnahmen notwendig. Aber wie im letzten Absatz beschrieben, sollten alle getroffenen Ma\u00dfnahmen auch auf Erfolg gepr\u00fcft werden. Wir neigen zu sehr dazu, an kosten-intensive, einfache oder Wohlf\u00fchl-Ma\u00dfnahmen zu setzen, statt darauf zu gucken, ob diese Ma\u00dfnahmen auch ziel-ad\u00e4quat sind. <\/p>\n<ul>\n<li><a href=\"https:\/\/www.netz-barrierefrei.de\/wordpress\/gesellschaft\/kuenstliche-intelligenz-und-barrierefreiheit\/\">Barrierefreiheit und K\u00fcnstliche Iltelligenz<\/a><\/li>\n<li><a href=\"https:\/\/www.netz-barrierefrei.de\/wordpress\/die-zukunft-der-bild-beschreibung\/\">Bild-Beschreibungen durch K\u00fcnstliche Intelligenz<\/a><\/li>\n<li><a href=\"https:\/\/netz-barrierefrei.de\/en\/datadriven.html\">Why digital Accessibility should be based on Data<\/a><\/li>\n<\/ul>\n","protected":false},"excerpt":{"rendered":"<p>Das Thema Biasing\/Bias ist heute mehr oder weniger in das Bewusstsein vieler Entscheidungstragender angekommen. Beim Biasing geht es darum, dass Diskriminierung unbewusst stattfindet. Der Kern&#8230;<\/p>\n<div class=\"more-link-wrapper\"><a class=\"more-link\" href=\"https:\/\/www.netz-barrierefrei.de\/wordpress\/koennen-daten-und-kuenstliche-intelligenz-diskriminierung-verringern\/\">Weiterlesen<span class=\"screen-reader-text\">K\u00f6nnen Daten und Algorithmen Diskriminierung verringern?<\/span><\/a><\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-6810","post","type-post","status-publish","format-standard","hentry","category-allgemein","entry"],"_links":{"self":[{"href":"https:\/\/www.netz-barrierefrei.de\/wordpress\/wp-json\/wp\/v2\/posts\/6810","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.netz-barrierefrei.de\/wordpress\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.netz-barrierefrei.de\/wordpress\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.netz-barrierefrei.de\/wordpress\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.netz-barrierefrei.de\/wordpress\/wp-json\/wp\/v2\/comments?post=6810"}],"version-history":[{"count":8,"href":"https:\/\/www.netz-barrierefrei.de\/wordpress\/wp-json\/wp\/v2\/posts\/6810\/revisions"}],"predecessor-version":[{"id":8426,"href":"https:\/\/www.netz-barrierefrei.de\/wordpress\/wp-json\/wp\/v2\/posts\/6810\/revisions\/8426"}],"wp:attachment":[{"href":"https:\/\/www.netz-barrierefrei.de\/wordpress\/wp-json\/wp\/v2\/media?parent=6810"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.netz-barrierefrei.de\/wordpress\/wp-json\/wp\/v2\/categories?post=6810"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.netz-barrierefrei.de\/wordpress\/wp-json\/wp\/v2\/tags?post=6810"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}