Leseempfehlung: Auch KI kann Vorurteile haben, wir brauchen aber eine KI, der wir vertrauen können | Romeo Kienzler

Quasi der „Nachbrenner“ zu meinem Lesezeichen „Letztlich existiert künstliche Intelligenz nicht“, einem Beitrag, den @Tante Jürgen Geuter auf ZEIT ONLINE geschrieben hat. Auch mein Kollege Romeo Kienzler befasst sich mit der Gläubigkeit an die Wahrheit von Daten und den Algorithmen, die sich bei der Einstellung von Mitarbeitern oder der Kreditvergabe darauf stützen:

Enthalten die Daten unbewusste Vorurteile, Stereotype und altmodische Rollenbilder, werden diese von den lernenden Algorithmen nicht nur übernommen, sondern noch zusätzlich verstärkt. Wenn Fotos und deren Beschriftungen Kochen überwiegend mit Frauen in Verbindung bringen, dann lernt die Software Kochen immer als Frauentätigkeit zu erkennen. Die Maschinen denken dann genauso in Rollenklischees wie wir Menschen.

über Data Natives unter sich – IBM THINK Blog

Zu entsprechenden „Fehlern“ ist ja auch schon gekommen, beispielsweise eben bei der Auswahl von Mitarbeitern. Damit so etwas möglichst nicht passiert, hat IBM  vor kurzem frei verfügbare Software angekündigt, die entsprechende „Fehler“ in Daten und Algorithmen aufdeckt und dabei hilft, diese „Verzerrungen“ zu beseitigen. Gerade Lösungen, die Künstliche Intelligenz einsetzen und Entscheidungen treffen oder empfehlen, müssen nachvollziehbar und transparent sein:

Um KI-Systemen vertrauen zu können, müssen wir verstehen, warum sie die Entscheidungen treffen, die sie treffen. Transparenz ist das Stichwort. … Wir Menschen haben daran einen entscheidenden Anteil, indem wir darauf achten, welche Daten wir preisgeben – und so für KI-Systeme verfügbar machen. Wir brauchen ein höheres Bewusstsein für den Datenschutz, insbesondere außerhalb der Europäischen Union. Selbst als digitale Data Natives übersteigt es oftmals schlicht unsere Vorstellungskraft, wie viele Daten Organisationen sammeln können. Das Problem der Datenhoheit kann jedoch nur auf Anwenderebene gelöst werden.

Wir brauchen keine KI, die versucht, uns Dinge zu verkaufen, die wir nicht brauchen. Wir brauchen eine KI, der wir vertrauen können. Es muss in unseren Händen liegen und von Menschen kontrolliert werden – nicht von multinationalen Unternehmen.

über Data Natives unter sich – IBM THINK Blog

Besser kann man es nicht formulieren.

(Stefan Pfeiffer)