|
„Erlesenes“ ist ein zweiwöchentlicher Newsletter von reframe[Tech] - Algorithmen fürs Gemeinwohl und bietet eine kuratierte Auswahl an wissenschaftlichen Studien, journalistischen Artikeln und Debattenbeiträgen sowie Fundstücken mit Augenzwinkern aus sozialen Medien zum Themenkomplex Algorithmen und KI. Mit „Erlesenes“ wollen wir den Diskurs rund um algorithmische Entscheidungssysteme und ihre Chancen sowie Risiken für das Gemeinwohl einordnen, wir möchten den Blick über den Tellerrand wagen und Perspektiven fernab des dominierenden Diskurses aufgreifen. So wollen wir die Abonnent:innen in dem sich rasch verändernden Themenfeld up-to-date halten. Jede Ausgabe finden Sie auch auf unserem Blog.
Hier geht's zum Blog!
|
|
|
|
|
|
|
|
|
Liebe Leser:innen,
kann die (chinesische) Onlinezensur mit Memes, Emojis und ähnlich klingenden Begriffen ausgetrickst werden? Hat die viel zitierte „Gender Shades“-Studie von Joy Buolamwini und Timnit Gebru zu mehr Diversität in Trainigsdatensets geführt? Und können Systeme maschinellen Lernens dabei unterstützen, die kritische Infrastruktur – ein derzeit ja viel diskutiertes Sicherheitsrisiko – zu schützen? Auch diese Woche widmen sich einige unserer Leseempfehlungen diesen Fragen. Des Weiteren spielt wieder die EU-KI-Verordnung eine Rolle sowie der ungesunde Druck, dem sich KI-Ethiker:innen ausgesetzt fühlen.
Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an teresa.staiger@bertelsmann-stiftung.de oder bei Twitter unter @reframeTech.
Viel Spaß beim Lesen wünschen
Teresa und Michael
|
|
|
|
|
Mit Memes gegen die Onlinezensur
How Chinese citizens use puns to get past internet censors, Rest of World, 11.10.2022
Wenn auf Weibo, einem Sozialen Netzwerk in China, der Satz „Wacht auf in den schläfrigen Niederlanden“ trendet, dann ist das keine Kritik an mangelnder Energie in Holland, sondern ein versteckter Protest gegen die chinesische Staatsführung. Denn das Wort für die Niederlande „Helan“, klingt sehr ähnlich wie „Henan“ – ein Ort in Zentralchina, in welchem Bürger:innen gegen das Einfrieren ihrer Bankkonten protestierten. Mit diesen und ähnlichen Techniken versuchen Menschen in China, die staatliche Zensur in den sozialen Medien zu umgehen. Denn während etwa Posts mit Henan blockiert würden, erkennen Algorithmen die Substitution durch ähnlich klingende Begriffe nicht, etwa weil die Schriftzeichen völlig unterschiedlich sind. Mithilfe von gleichklingenden Wörtern, Memes oder gar Bildern von Alltagsgegenständen können Chines:innen so online über die staatliche Coronapolitik, Zensur, Arbeitsbedingungen oder Korruption diskutieren. Der Artikel sammelt viele dieser Beispiele und zeigt damit, auf welche kreative Art Menschen Zensuralgorithmen umgehen.
Hier geht’s zum Artikel!
|
Der lange Schatten von „Gender Shades“
The unseen Black faces of AI algorithms, Nature, 19.10.2022
Das Feld der Algorithmenethik ist vergleichsweise jung. Das zeigt sich beispielsweise daran, dass die wegweisende „Gender Shades“-Studie von Joy Buolamwini und Timnit Gebru vor gerade einmal vier Jahren veröffentlicht wurde. Darin stellten die beiden Forscher:innen fest, dass Algorithmen zur Gesichtserkennung bei Menschen mit dunkleren Hauttönen wesentlich schlechter funktionieren als bei Weißen. Außerdem wurden Männer wesentlich besser erkannt als Frauen. Das lag auch an Verzerrungen in den Trainingsdaten. Forscherin Abeba Birhane fasst in diesem Artikel zusammen, welche Bedeutung diese Erkenntisse bis heute haben: Seitdem ist die Frage nach der Diversität in Datensets Standard geworden. Auch viele Unternehmen, die zunächst skeptisch reagierten, passten schlussendlich ihre Gesichtserkennungssysteme an und verringerten ihre Fehlerraten um bis zu 30 Prozent. Doch die in der Studie angesprochenen Verzerrungen bleiben und sind auch in anderen Systemen präsent – beispielsweise in Sensoren für die Sauerstoffsättigung des Blutes. Insofern bleiben die Probleme, die Buolamwini und Gebru ansprachen, (noch) ungelöst.
Hier geht’s zum Artikel!
|
|
|
|
|
Wie die US-Regierung für ihre Tech-Branche lobbyiert
The US unofficial position on upcoming EU Artificial Intelligence rules, Euractive, 24.10.2022
Die KI-Verordnung der EU befindet sich gerade in der Bearbeitungsphase. Entsprechend stark sind die Versuche von Wirtschaft und auch Zivilgesellschaft, die Inhalte der Norm zu beeinflussen. Nachdem die KI-Verordnung auch über die EU hinaus Strahlkraft haben wird (Erlesenes berichtete), arbeiten auch andere Staaten daran, auf den europäischen Gesetzgeber einzuwirken. Journalist Luca Bertuzzi fasst ein Dokument der US-Regierung zusammen, das an einige EU-Hauptstädte und an die Europäische Kommission geschickt wurde. Darin spiegeln sich viele Positionen der Tech-Branche: So wird darin eine engere KI-Definition auf Grundlage der OECD sowie eine Ausnahmeregelung für Allzweck-KI-Systeme gefordert. Letzteres sei notwendig, weil die Verpflichtungen zum Risikomanagement für die Anbieter sehr aufwendig, technisch schwierig oder sogar unmöglich sein könnten. Auch die weiteren Argumente liefern uns einen guten Blick in die Denkweise der US-Administration.
Hier geht's zum Artikel!
|
Verantwortungsvolle KI zu bauen schafft enormen persönlichen Druck
Responsible AI has a burnout problem, MIT Technology Review, 28.10.2022
Journalistin Melissa Heikkilä betrachtet in diesem Artikel einen besorgniserregenden Trend: Immer mehr Menschen, die an verantwortungsvoller KI arbeiten, leiden an Burnout. Auch wenn die Beweise eher anekdotisch sind, zeigen sie eine ungesunde Tendenz in diesem Sektor: Gerade diejenigen, die in Unternehmen beispielsweise in „KI-Ethik-Teams“ beschäftigt sind, arbeiten auf der einen Seite hochmotiviert daran, dass „ihre“ Anwendungen keine negativen Auswirkungen haben. Gleichzeitig fühlen sich viele aber alleine gelassen mit einer nie enden wollenden Aufgabe. Denn Herausforderungen wie Diskriminierungen durch algorithmische Systeme oder die bevorzugte Verbreitung von Falschinformationen durch Newsfeed-Algorithmen sind stets auf größere, gesellschaftliche Probleme zurückzuführen. Diese lassen sich aber nicht schnell lösen, auch wenn viele Firmenleitungen eher auf der Suche nach einfachen Lösungen sind. Das schafft zusätzlichen psychologischen Stress. In diesem Sinne: Gebt auf euch acht!
Hier geht's zum Artikel!
|
|
|
|
|
Steht KI für Kritische Infrastruktur?
So kann KI Wasser- und Stromnetze schützen, Tagesschau, 30.10.2022
Spätestens seit dem russischen Angriff auf die Ukraine und der davon ausgelösten Energiekrise diskutieren wir auch hierzulande zunehmend über den Schutz kritischer Infrastruktur. Darunter fallen Organisationen oder Einrichtungen, die besonders wichtig für das Gemeinwesen sind, wie beispielsweise das Bahnnetz oder die Strom- und Wasserversorgung. Forscher:innen des Karlsruher Instituts für Technologie und der Universität Oldenburg nutzen nun Systeme maschinellen Lernens, um mögliche Schwachstellen in technischen Systemen rechtzeitig zu erkennen und zu beheben. So werden beispielsweise in größeren Simulationen Fehler und Störungen ermittelt. Das gelang bisher insbesondere bei gut messbaren Systemen wie der Stromversorgung, soll später aber auch auf andere Sektoren der kritischen Infrastriktur ausgeweitet werden. Die Hoffnung ist, durch solche Simulationen Engpässe in der medizinischen Versorgung oder größere Stromausfälle zu vermeiden.
Hier geht's zum Artikel!
|
|
|
|
|
|
|
Follow-Empfehlung
Journalist bei Euractive, der über Tech-Policy berichtet. Sein Feed liefert einen guten Überblick über den Stand der KI-Verordnung und anderer Rechtsakte.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
