Apple
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
FILE - In this March 25, 2019, file photo, Jennifer Bailey, vice president of Apple Pay, speaks about the Apple Card at the Steve Jobs Theater in Cupertino, Calif. A spokeswoman for the New York Department of Financial Services confirmed Saturday, Nov. 9, 2019 that they are investigating Goldman Sachs for possible sex discrimination in the way it sets credit limits. (AP Photo/Tony Avelar, File)

Mit einer eigenen Kreditkarte will Apple Kunden enger an sich binden. Bild: AP

«Ich habe eine Apple Card beantragt. Was sie anboten, war eine sexistische Beleidigung»

Apple gibt in den USA zusammen mit Goldman Sachs eine Kreditkarte heraus. Jetzt erheben Nutzer Vorwürfe, dass die Bank bei der Vergabe der Kreditlimite Frauen diskriminiere. Apple versteckt sich hinter der Bank, die Bank hinter fragwürdigen Algorithmen.



«Apples Kreditkarte ist eine verdammt sexistische Angelegenheit.»

Software-Entwickler David Heinemeier Hansson

Apple und die US-Investmentbank Goldman Sachs stehen wegen Geschlechterdiskriminierung in der Kritik. Konkret geht es um die angeblich willkürlichen Ausgabenlimiten bei der Kreditkarte Apple Card. Das New York Department of Financial Services (NY DFS) hat deshalb eine Untersuchung gegen Apples Bankpartner Goldman Sachs eingeleitet, berichtet die Finanznachrichtenagentur Bloomberg. Die New Yorker Finanzaufsicht will demnach wissen, warum Männer bei gleicher Vermögenssituation offenbar deutlich höhere Kreditrahmen erhalten.

Kunden prangern Apple und Goldman Sachs an

Den Stein ins Rollen brachte letzte Woche der in den USA bekannte Software-Entwickler David Heinemeier Hansson. Er schrieb auf Twitter, dass ihm der undurchsichtige Algorithmus hinter der Apple Card das Zwanzigfache des Kreditrahmens seiner Frau beschert habe, obwohl er und seine langjährige Frau finanziell gleichgestellt seien. Er werde zusammen mit seiner Frau steuerlich veranlagt, sie besässen gemeinsam Immobilien und seien lange verheiratet. Tatsächlich habe seine Frau gar eine bessere Kreditwürdigkeit, sprich einen besseren Credit Score, als er. Dieser Wert wird in den USA von drei grossen Agenturen vergeben.

Seine Frau, Jamie Heinemeier Hansson, schildert in einem Blog-Artikel mit dem Titel «Ich habe eine Apple Card beantragt. Was sie anboten, war eine sexistische Beleidigung» ihre Erlebnisse mit Apple und Goldman Sachs – für die beiden Konzerne ist es wenig schmeichelhaft.

«Ich habe noch nie eine Zahlung zu spät beglichen. Ich habe keine Schulden. David und ich teilen alle Finanzkonten, und meine sehr gute Kreditwürdigkeit ist höher als die von David.»

Jamie Heinemeier Hansson fastcompany

«Kein Einspruch» habe gegen die diskriminierende Kreditlimite geholfen. Die individuelle Ausgabenlimite bei der Apple Card, die von Algorithmen bestimmt wird, sei eine «Blackbox», sprich völlig undurchsichtig, so Hansson.

David Heinemeier Hansson, dänischer IT-Unternehmer und Entwickler von Ruby on Rails, einer Programmiersprache zur Erstellung von Webanwendungen, enerviert sich auf Twitter.

Apples Antwort:

«Es liegt nur am Algorithmus.»

Apple-Card-Mitarbeiter fastcompany

«Es liegt nur an deiner Kreditwürdigkeit.»

Apple-Card-Mitarbeiter fastcompany

Apple-Mitgründer Wozniak und seine Frau sind auch betroffen

Schützenhilfe bekam Hansson ausgerechnet von Apple-Mitbegründer Steve Wozniak: Dieser antworte auf Twitter, ihm und seiner Frau sei genau das Gleiche passiert. Er habe die zehn Mal höhere Kreditlimite erhalten, obwohl «wir keine getrennten Bank- oder Kreditkartenkonten oder andere getrennte Vermögenswerte haben». Es sei ausserdem «schwer, einen Angestellten für eine Korrektur zu erreichen», so Wozniak. Das sei «Big Tech im Jahr 2019», bilanziert der Apple-Mitgründer.

Mehrere Twitter-Nutzer berichteten in den letzten Tagen über ähnliche Erfahrungen mit der Apple Card. Am Montag, als die Vorfälle in den Medien breit thematisiert wurden, reagierte Goldman Sachs und teilte mit, dass sich die Bewertung der Apple-Card-Bewerber «an der Kreditwürdigkeit des Kunden» orientiere, jedoch nicht an Faktoren wie «Geschlecht, Rasse, Hautfarbe, Alter, sexueller Orientierung oder irgendeiner anderen Bewertungsgrundlage, die gesetzlich verboten ist».

Da das Thema immer weitere Kreise zog und nun die Behörden ermitteln, wurde die Kreditlimite seiner Frau inzwischen erhöht, ohne dass Goldman Sachs zusätzliche Unterlagen verlangte, sagt Hansson. Der 40-jährige dänische Programmierer, der auch Sportwagenrennen fährt, glaubt selbst nicht, dass hinter den fragwürdigen Algorithmen eine «böse Person» stecke, die absichtlich «diskriminieren will».

Aber:

«Goldman und Apple delegieren die Bonitätsprüfung an eine Blackbox. Es besteht keine Absicht zur Geschlechterdiskriminierung, aber das Ergebnis ist Geschlechterdiskriminierung.»

David Heinemeier Hansson. bloomberg

Offenbar lernten die Algorithmen Diskriminierung und weder Apple noch Goldman Sachs könnten dieses Verhalten bislang erklären, sagt Hansson. Am Montag doppelte der Programmierer auf Twitter nach und schreibt:

«Niemand will unter der kapriziösen Herrschaft DER ALGORITHMEN leben. Nicht bei Finanzgeschäften, nicht beim Wohnen [Hypothekvergabe], nicht in der Werbung, nicht bei der Mitarbeiterauswahl, nicht in einem der Millionen anderen Bereiche, in denen maschinelles Lernen und Künstliche Intelligenz (KI) die Entscheidungsbefugnis übernehmen.»

David Heinemeier Hansson. twitter

Hansson geht es laut Eigenaussage darum, eine Diskussion über die Rolle der allgegenwärtigen Algorithmen, die wir nicht verstehen, anzustossen. Es dürfe nicht sein, dass Algorithmen über unser Leben entscheiden, während Firmen wie Goldman Sachs oder Apple nicht erklären können (oder wollen), was genau dahinter steckt.

Das Thema beschäftigt auch die linksliberale Präsidentschaftskandidatin Elizabeth Warren: Sie forderte im Juni, die Finanzaufsicht müsse «Massnahmen ergreifen, um sicherzustellen, dass die Antidiskriminierungsgesetze mit den technischen Innovationen Schritt halten».

Von der Finanzaufsicht heisst es: «Wir werden eine Untersuchung durchführen, um festzustellen, ob gegen New Yorker Recht verstossen wurde, und sicherstellen, dass alle Konsumenten unabhängig vom Geschlecht gleich behandelt werden». Und weiter: «Jeder Algorithmus, der bewusst oder unbewusst zu einer diskriminierenden Behandlung von Frauen oder anderen geschützten Gruppen von Menschen führt, verletzt New Yorker Recht.»

«Wie wenn man Foxconn anrufen müsste, wenn das iPhone kaputt ist»

Hansson wirft Apple zudem vor, sich nun hinter Goldman Sachs zu verstecken, obwohl man in der Werbung behauptet, es handle sich um eine Apple-Kreditkarte – und eben nicht um eine Kreditkarte einer Bank.

Warum Apple und Goldman Sachs gemeinsame Sache machen

Bei der Apple Card handelt es sich um ein gemeinsames Finanzprodukt von Apple, Goldman Sachs und Mastercard. Die Infrastruktur im Hintergrund wird von Goldman Sachs betrieben. Die Bank soll sicherstellen, dass Kreditkartenanträge schnell bearbeitet werden. Den Zahlungsverkehr selbst übernimmt Mastercard. Trotzdem wirbt Apple mit dem Slogan «Created by Apple, not a bank».

Die Karte besitzt ein Belohnungssystem mit dem Ziel, die Konsumenten zum Kauf immer neuer Apple-Produkte zu verführen – sprich eine langfristige Kundenbindung herzustellen. Für Apple ist die Karte nicht zuletzt ein Marketinginstrument, um seinen Bezahldienst Apple Pay zu pushen.

Der Name Apple Card dient Goldman Sachs primär dazu kaufkräftige Apple-Fans anzulocken, die lieber eine Kreditkarte von Apple als von einer Bank möchten. Effektiv steht hinter dem Produkt eine der mächtigsten und gleichzeitig berüchtigsten Banken der Wall Street. Goldman Sachs kann so neue Privatkunden gewinnen, die später allenfalls ein Darlehen aufnehmen müssen, weil sie Kreditkartenschulden haben (was in den USA weit verbreitet ist). Die Bank hat hierzu eine eigene Abteilung, die auf Kunden mit hohen Kreditkartenschulden spezialisiert ist.

Elizabeth Warren – wird sie die neue Präsidentin der USA?

So manipulieren Karten unser Kaufverhalten

Play Icon

Das könnte dich auch interessieren:

«Dieses Land ist beinahe am Ende»: Grossbritannien wählt – und ist zerrissen

Link zum Artikel

Die grösste Überraschung bei «Jumanji 2»? Sie haben es nicht (ganz) verbockt!

Link zum Artikel

Die Grossen in der Champions League unter sich – jetzt haben sie, was sie immer wollten

Link zum Artikel

Wann ist krank wirklich krank?

Link zum Artikel

Eine Enttäuschung für Cassis und Rytz. Nun darf es nicht einfach so weitergehen

Link zum Artikel

So würde Online-Shopping im «Real Life» aussehen

präsentiert vonMarkenlogo
Link zum Artikel

Die Generation Z bestimmt die grössten globalen Probleme – und es ist nicht nur das Klima

Link zum Artikel

Ta-ta-ta-taaaa: PICDUMP Nummer 300 ist da! 🎉

Link zum Artikel

SBB-Chef Ducrot ist der «Anti-Meyer» – aber mit einem dicken Tolggen im Reinheft

Link zum Artikel

Lehrer M. zur Pisa-Studie: «Schüler erzählen mir fast triumphierend, dass sie nicht lesen»

Link zum Artikel

Toiletgate im Weissen Haus: Wegen Trumps Klo-Tirade lacht das Internet Tränen

Link zum Artikel

Stell dir deine Pizza zusammen und wir sagen dir, ob du Gourmet oder Banause bist

Link zum Artikel

8 Zeichnungen des ersten Terrorhäftlings, die zeigen, wie die Amerikaner folterten

Link zum Artikel

Glück vor Geld – Island treibt Wirtschaft der Zukunft voran

Link zum Artikel

Shaqiri erhält nach Traum-Comeback ein Sonderlob von Klopp – und eine Entschuldigung

Link zum Artikel

Ho ho ho! Der Bundesrat schnürt das Budgetpäckli: Dafür gibt er am meisten Geld aus

Link zum Artikel

Das beste Kamera-Handy gibt's jetzt in der Schweiz – wir haben es getestet

Link zum Artikel

Diese Schweizer Organisationen erhalten am meisten Spendengelder

Link zum Artikel

TikTok zensiert Videos von Menschen mit Behinderung – um sie vor Mobbing zu schützen 🤔

Link zum Artikel

Wegen «Wildwest-Modell» von Uber & Co. – warum bald Millionen in den AHV-Kassen fehlen

Link zum Artikel

Alphabet Inc. – das macht der Mega-Konzern hinter Google wirklich

Link zum Artikel
Alle Artikel anzeigen

Das könnte dich auch interessieren:

«Dieses Land ist beinahe am Ende»: Grossbritannien wählt – und ist zerrissen

69
Link zum Artikel

Die grösste Überraschung bei «Jumanji 2»? Sie haben es nicht (ganz) verbockt!

5
Link zum Artikel

Die Grossen in der Champions League unter sich – jetzt haben sie, was sie immer wollten

54
Link zum Artikel

Wann ist krank wirklich krank?

107
Link zum Artikel

Eine Enttäuschung für Cassis und Rytz. Nun darf es nicht einfach so weitergehen

105
Link zum Artikel

So würde Online-Shopping im «Real Life» aussehen

10
Link zum Artikel

Die Generation Z bestimmt die grössten globalen Probleme – und es ist nicht nur das Klima

28
Link zum Artikel

Ta-ta-ta-taaaa: PICDUMP Nummer 300 ist da! 🎉

181
Link zum Artikel

SBB-Chef Ducrot ist der «Anti-Meyer» – aber mit einem dicken Tolggen im Reinheft

51
Link zum Artikel

Lehrer M. zur Pisa-Studie: «Schüler erzählen mir fast triumphierend, dass sie nicht lesen»

157
Link zum Artikel

Toiletgate im Weissen Haus: Wegen Trumps Klo-Tirade lacht das Internet Tränen

48
Link zum Artikel

Stell dir deine Pizza zusammen und wir sagen dir, ob du Gourmet oder Banause bist

158
Link zum Artikel

8 Zeichnungen des ersten Terrorhäftlings, die zeigen, wie die Amerikaner folterten

229
Link zum Artikel

Glück vor Geld – Island treibt Wirtschaft der Zukunft voran

103
Link zum Artikel

Shaqiri erhält nach Traum-Comeback ein Sonderlob von Klopp – und eine Entschuldigung

22
Link zum Artikel

Ho ho ho! Der Bundesrat schnürt das Budgetpäckli: Dafür gibt er am meisten Geld aus

62
Link zum Artikel

Das beste Kamera-Handy gibt's jetzt in der Schweiz – wir haben es getestet

33
Link zum Artikel

Diese Schweizer Organisationen erhalten am meisten Spendengelder

15
Link zum Artikel

TikTok zensiert Videos von Menschen mit Behinderung – um sie vor Mobbing zu schützen 🤔

6
Link zum Artikel

Wegen «Wildwest-Modell» von Uber & Co. – warum bald Millionen in den AHV-Kassen fehlen

31
Link zum Artikel

Alphabet Inc. – das macht der Mega-Konzern hinter Google wirklich

0
Link zum Artikel

Das könnte dich auch interessieren:

«Dieses Land ist beinahe am Ende»: Grossbritannien wählt – und ist zerrissen

69
Link zum Artikel

Die grösste Überraschung bei «Jumanji 2»? Sie haben es nicht (ganz) verbockt!

5
Link zum Artikel

Die Grossen in der Champions League unter sich – jetzt haben sie, was sie immer wollten

54
Link zum Artikel

Wann ist krank wirklich krank?

107
Link zum Artikel

Eine Enttäuschung für Cassis und Rytz. Nun darf es nicht einfach so weitergehen

105
Link zum Artikel

So würde Online-Shopping im «Real Life» aussehen

10
Link zum Artikel

Die Generation Z bestimmt die grössten globalen Probleme – und es ist nicht nur das Klima

28
Link zum Artikel

Ta-ta-ta-taaaa: PICDUMP Nummer 300 ist da! 🎉

181
Link zum Artikel

SBB-Chef Ducrot ist der «Anti-Meyer» – aber mit einem dicken Tolggen im Reinheft

51
Link zum Artikel

Lehrer M. zur Pisa-Studie: «Schüler erzählen mir fast triumphierend, dass sie nicht lesen»

157
Link zum Artikel

Toiletgate im Weissen Haus: Wegen Trumps Klo-Tirade lacht das Internet Tränen

48
Link zum Artikel

Stell dir deine Pizza zusammen und wir sagen dir, ob du Gourmet oder Banause bist

158
Link zum Artikel

8 Zeichnungen des ersten Terrorhäftlings, die zeigen, wie die Amerikaner folterten

229
Link zum Artikel

Glück vor Geld – Island treibt Wirtschaft der Zukunft voran

103
Link zum Artikel

Shaqiri erhält nach Traum-Comeback ein Sonderlob von Klopp – und eine Entschuldigung

22
Link zum Artikel

Ho ho ho! Der Bundesrat schnürt das Budgetpäckli: Dafür gibt er am meisten Geld aus

62
Link zum Artikel

Das beste Kamera-Handy gibt's jetzt in der Schweiz – wir haben es getestet

33
Link zum Artikel

Diese Schweizer Organisationen erhalten am meisten Spendengelder

15
Link zum Artikel

TikTok zensiert Videos von Menschen mit Behinderung – um sie vor Mobbing zu schützen 🤔

6
Link zum Artikel

Wegen «Wildwest-Modell» von Uber & Co. – warum bald Millionen in den AHV-Kassen fehlen

31
Link zum Artikel

Alphabet Inc. – das macht der Mega-Konzern hinter Google wirklich

0
Link zum Artikel

Abonniere unseren Newsletter

79
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 48 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
79Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • Joe-B 12.11.2019 08:37
    Highlight Highlight Ich kenne die im Artikel genannten betroffenen Personen nicht (mit Ausnahme von Wozniak), und kann daher nur folgende Mutmassung anstellen: falls die Ehefrauen der beiden Herren keiner Erwerbstätigkeit nachgehen, also kein regelmässiges Einkommen haben, wird auch ein kleineres Limit auf der Karte gewährt.
    Falls die beiden Frauen jedoch selber Jobs haben, greift diese Vermutung natürlich nicht.
  • trichie 12.11.2019 08:06
    Highlight Highlight Das klassische Risiko vollständig digitalisierter Entscheidungen.

    Gibt ein tolles Buch dazu: Cathy O'Neil: weapons of math destruction (auf englisch)

    https://weaponsofmathdestructionbook.com/

    Hab es selbst gelesen... wir müssen echt aufpassen dass der gesunde Menschenverstand in Entscheidungsprozessen nicht verloren geht.
  • TheClouder 11.11.2019 23:16
    Highlight Highlight Das ist ein Riesengeweine. Was will eine Bank? Genau, Riesengewinne. Das heisst sie wollen ihre Kredite an möglichst viele Personen vergeben, die möglichst kein Risiko sind. Es gibt keinen Grund für eine Bank hier sexistisch zu handeln, da sie so ihren Umsatz verkleinern würden ohne einen Vorteil zu haben.
    • Oliver Wietlisbach 12.11.2019 08:28
      Highlight Highlight Es sagt niemand, dass Goldman Sachs oder Apple absichtlich sexistisch handel würden. Hansson selbst sagt doch klipp und klar: "Es besteht keine Absicht zur Geschlechterdiskriminierung, aber das Ergebnis ist Geschlechterdiskriminierung."

      Seine Kritik zielt auf die Algorithmen ab und darauf, dass Apple und GS offenbar selbst nicht genau verstehen, was diese machen. Sinn ergeben ihre Algorithmen auf jeden Fall nicht, wie du selbst schreibst.

      Dass sich Apple bei Problemen hinter GS versteckt, aber sonst damit wirbt, die Apple Card sei keine Banken-Kreditkarte, ist ein weiterer Kritikpunkt.
    • just sayin' 12.11.2019 11:56
      Highlight Highlight really?
      Benutzer Bild
    • Oliver Wietlisbach 12.11.2019 15:35
      Highlight Highlight Hansson sagt mit keinem Wort, dass Apple oder Goldman Sachs ABSICHTLICH diskriminieren, sondern dass ihre Algorithmen eine Blackbox seien. Die Apple Card sei daher aufgrund der "fehlgeleiteten" Algorithmen ein sexistisches Produkt.
  • Evan 11.11.2019 22:27
    Highlight Highlight Das ganze Konzept des Credit Scores in Ländern wie den USA oder UK scheint mir ganz allgemein ziemlich diskriminierend zu sein.
    • TheClouder 12.11.2019 07:36
      Highlight Highlight Ist es nicht. Die Frau hat einen höheren Wert.
  • Töröö! 11.11.2019 20:48
    Highlight Highlight Wird halt nach Statistik berechnet. Aber Hauptsache wieder "Sexismus" geschrien...
    • ingmarbergman 12.11.2019 00:07
      Highlight Highlight Keine Ahnung von Machine Learning. Und dann fragt man sich, wieso die Schweiz in der Digitalisierung hinterherhängt. 🤦🏻‍♂️
  • B-Arche 11.11.2019 20:07
    Highlight Highlight Hintergrund: Der grösste Faktor bei Kreditentscheidungen - auch Kreditkarten - sind die Credit scores see drei grossen Agenturen.
    Meistens werden nach Eheschliessung alle Konten gemeinsam geführt was dazu führt dass beide Ehepartner exakt dieselbe Kredithistorie bekommen. Nach 20 Jahren Ehe ist da kein Unterschied mehr.
    Bei Joint income beim IRS (Finanzamt) bekommt man auch nur ein Einkommensnachweis. Der des Paares. Nirgendwo steht wieviel jeder dazu beiträgt.

    Das muss man wissen als Hintergrund.
    Mein Ehepartner hat die letzten drei Jahre auch schon fast denselben Score.
  • Michael Heldner 11.11.2019 19:21
    Highlight Highlight Seit Amazon und Microsoft wissen wir doch alle, dass KIs rassistisch und sexistisch sind. Jetzt ist Apple in die gleiche Falle getappt 😂
    • Adam Smith 11.11.2019 23:08
      Highlight Highlight Eine KI kennt kein Rassismus oder Sexismus. Er handelt nach Fakten und Statistiken und wenn er ein Muster bemerkt handelt er danach. Somit hat er vielleicht festgestellt, dass Frauen mehr überziehen oder ähnliches und dem entsprechend Massnahmen getroffen.
    • Dosenbier macht Schlau 12.11.2019 06:34
      Highlight Highlight Adam Smith, das ist falsch: Eine KI kennt keine Fakten, eine KI ist nur eine komplexe mathematische Gleichung. Und die Annahme das Überzug in die Bewertung einfliesst (und das dies negativ zu bewerten ist, in den USA sind Schulden der Kunden für eine Bank der beste weg Geld zu verdienen) ist auch Blöde, da ja eben keiner weiss wie der Vorgang geht (was ja auch einer der grössten Kritikpunkte ist.
      [1/2]
    • Dosenbier macht Schlau 12.11.2019 06:41
      Highlight Highlight [2/2]
      Es ist wahrscheinlicher das diese KI nur die entscheidungen der letzten Jahrzehnte anschaut, also als noch Menschen mit ihren Fehlern und bösen Absichten die Fäden ziehten, und Frauen generell weniger Rechte und Geld zur Verfügung hatten. Anschliessend dreht die KI dies halt auf Stufe 11 von 10 und das Resultat sehen wir.
      Warum ich mir da so sicher bin? Dies ist nicht das erste mal, dass solche deutlichen Entscheidungen einer KI präsentiert werden (z.B. Amazons Rekrutierings KI), die halt auch immer die gleichen Muster von einem vergifteten Datensatz zeigen.
    Weitere Antworten anzeigen
  • El Vals del Obrero 11.11.2019 19:18
    Highlight Highlight Letztendlich ist das Problem prinzipbedingt, einzelne werden auf Gruppenstatistiken reduziert.

    Wenn es z.B. heisst, "Leute aus diesem Land bereiten insgesamt statistisch mehr Probleme als jene aus jenem Land, also brauchen sie ein Visum und die anderen nicht" ist es ja eigentlich dasselbe. Und da man nicht in jeden Einzelnen hineinsehen kann, bleibt auch gar nichts anderes übrig.

    In diesem Fall fehlt aber eine Erklärung für das Algorithmus-Resultat: Frauen gelten ja eher als zuverlässiger als Männer, siehe Mikrokredite, die in Entwicklungsländer lieber an Frauen als an Männer vergeben werden
  • KeinMenschIstIllegal 11.11.2019 18:49
    Highlight Highlight DANKE für diesen Vorfall. So wird es (hoffentlich) massiv schwieriger für all jene, die behaupten, Algorithmen seien nicht sexistisch und nicht rassistisch.
    • Phillsen 11.11.2019 19:47
      Highlight Highlight Mach Dich mal etwas schlauer über machinelearning.
      Mal Vorausgesetzt man füttert den Computer mit genügend und nicht manipulierten Rohdaten, geht es überhaupt nicht mehr objektiver.

      Was Du als Mensch hinterher mit dem Klassifizierer machst ist natürlich eine ganz andere Geschichte.

      Selbstlernende Algorithmen per se als voreingenommen zu bezeichnen zeugt allerdings eher von Unverständnis.
    • Ylene 11.11.2019 19:48
    • Evan 11.11.2019 23:15
      Highlight Highlight Ich denke hier werden gewisse Dinge miteinander vermischt, die so nicht zusammengehören. klassische Algorithmen sind kaum bis gar nicht sexistisch oder rassistisch, ausser die wurden gezielt so programmiert. Wenn eine Kamera schwarze Haut weniger gut erkennt als weisse, dann hat das herzlich wenig mit Rassismus zu tun. Worum es hier geht, ist Machine Learning, wobei ein neuronales Netzwerk mit Rohdaten trainiert werden.
    Weitere Antworten anzeigen
  • Reggean 11.11.2019 18:37
    Highlight Highlight Interessant sind auch Werbe-Algorithmen
    Benutzer Bild
    • esmereldat 11.11.2019 23:26
      Highlight Highlight Find ich auch 😜
      Benutzer Bild
  • Madison Pierce 11.11.2019 18:27
    Highlight Highlight Ja, da ist halt das System schuld. Kann man nichts machen.

    Wenn bei YouTube fälschlicherweise ein Video gesperrt wird, ist ja auch nicht Google schuld, sondern das System.

    Oder wenn man beim Provider bei der Umstellung auf Glasfaser neue IP-Adressen bekommt. Kann der Supporter nichts dafür, das System lässt es halt nicht zu, dass man die Adressen behält.

    Oder wenn man ungerechtfertigterweise eine Maut-Busse erhält. Hat das System halt die Nummer nicht richtig erkannt.

    Wenn die Kunden das weiterhin akzeptieren, haben es die Firmen in Zukunft sehr leicht...
    • G.Oreb 11.11.2019 20:38
      Highlight Highlight Geil geschriebener Kommentar, dachte bis kurz vor Ende was geht denn mit der/dem ab 🙂
  • Mat_BL 11.11.2019 18:21
    Highlight Highlight Viell. sollte man nicht gleich das schlimmste annehmen. Es eigentlich recht simpel: Solche Algorithmen müssen "angelernt" werden. Das werden die gemacht mit Daten aus der Vergangenheit und das mit so vielen wie möglich. Wenn nun in einem älteren Zeitraum mehrheitlich Männer Kreditnehmer waren, geht das System davon aus, dass halt Anträge von Frauen früher nicht bewilligt wurden, die wohl daher scheinbar weniger kreditwürdig sind - sofern man bei der Programmierung nicht gerade explizit an das denkt und dem System das auch mitteilt. KI ist nicht wirklich viel intelligenter, als Ihre Designer.
  • Bruno S.1988 11.11.2019 18:20
    Highlight Highlight Die Höhe der Autoversicherung hier in der schweiz beruht auch auf demografische Eckdaten. Ich durfte damals als junger Portugiese ein vielfaches mehr bezahlen als meine gleichaltrigen Freunde mit dem Schweizerpass. Ich empfinde es heute noch als diskriminierend. Mag sein dass meine Landsleute eher dazu tendieren "seich" auf den Strassen zu machen, warum soll ich aber hierfür bestraft werden?
    • Garp 11.11.2019 18:58
      Highlight Highlight Ich verstehe Dich. Hat aber trotzdem nichts mit dem Thema zu tun, um das es in diesem Artikel geht.
    • Garp 11.11.2019 19:01
      Highlight Highlight Frauen machen weniger Schulden, gehen besser mit Geld um, laut Statistik. Dass sie dann ihr Kreditlimit beschränkt bekommen, wenn es nicht am Einkommen liegt, bei partnerschaftlichem Konto, lässt sich nur auf Grund von Sexismus erklären.

      Anders in Deinem Fall, da geht es um Statistik, aufgrund derer Du Opfer wirst.
    • Krise 11.11.2019 19:03
      Highlight Highlight Dann hättest du dich wehren können, dafür haben wir die Antirassismus-Gesetze.
    Weitere Antworten anzeigen
  • PC Principal 11.11.2019 18:08
    Highlight Highlight Interessant. Bedeutet das, dass der Computer sexistisch ist? Oder kann es sein, dass das Zahlungsverhalten von Frauen im Durchschnitt "anders" ist und das Programm dies gelernt hat? Schliesslich basiert das ganze auf unzähligen Daten und nicht auf irgendwelchen Wertvorstellungen.
    • Globidobi 11.11.2019 18:25
      Highlight Highlight Wichtig ist bei Machine Learning, welche Daten geliefert werden. So ist heutzutage ein Problem vorhanden, dass dunkelhäutige eher als gefährlich eingestuft werden, da bei den "guten" Menschen mehrheitlich Weisse und Asiaten verwendet werden, da diese dort programmiert wurden.
    • Tikvaw 11.11.2019 18:36
      Highlight Highlight Nein, das bedeutet, dass die Daten "schlecht" sind.
      Es ist das gleiche Problem wie damals bei Amazon und der automatischen Bewerbungs-Analyse.
      Der Algorithmus hat sexistische Entscheidungen getroffen und zwar deshalb weil die menschlichen Rekrutierer in der Vergangenheit sexistisch entschieden haben und dies sich in den Daten mit denen der Algorithmus gefüttert wurde wiederspiegelte.

  • Donald 11.11.2019 17:38
    Highlight Highlight In der Schweiz gibt es auch oft Krediwürdigkeits- oder Bonitätsprüfungen im Hintergrund. Davon bekommt man aber nur bei Ablehnung etwas mit.

    Wenn das geschieht, wird man einfach irgendwo abgelehnt. Weitere Informationen gibt es nicht und die Entscheidungen können willkürlich und falsch sein. Z.B. wenn es eine Person mit gleichem Namen oder einen Vorbesitzer einer Telefonnummer, Adresse etc. gibt.

    Deshalb muss es Pflicht sein, dass alle Entscheidungskritierien begründet und nachvollziehbar gemacht werden. Sonst läuft das auf einen unkontrollierten Social Score, wie in China, raus.
  • Zyniker haben es leichter 11.11.2019 17:37
    Highlight Highlight Vielleicht hat der Algorithmus einen Grund... Passt aber nicht ins Weltbild der linken "Equality of outcome"-Fraktion.
    • Donald 11.11.2019 19:12
      Highlight Highlight Algorithmen bzw. AI sind nur brauchbar, wenn sie erklärbar/nachvollziehbar/verstehbar sind. Die Erklärung "der Algorighmus hat einen Grund" ist nicht akzeptierbar.
    • Phillsen 11.11.2019 19:57
      Highlight Highlight @Donald
      Dahin bewegen wir uns aber mit grossen schritten Kollege.
      Sicher, mit genügend Aufwand könntest Du theoretisch jeden Trainingsschritt eines neronalen Netzes nachvollziehen. Aber wenn das Ding ein guter Klassifizierer werden soll braucht es in der Regel tonnenweise Daten zum Training und damit tausende wenn nicht eher Millionen von Trainingsschritten. Das macht schlicht keinen Sinn.
      Wichtig ist, dass die Trainingsdaten keinen menschlichen bias aufweisen. Es sei denn das wäre ausdrücklich erwünscht.
    • JaneSodaBorderless 11.11.2019 20:24
      Highlight Highlight So ein populistischer Käse.
      Der Grund sind die Daten mit denen er gefüttert wurde. Gefüttert wurde er von nem Menschen. Von nem Menschen, der anscheinend nicht viel von Gleichberechtigung hält.
    Weitere Antworten anzeigen
  • Zeit_Genosse 11.11.2019 17:20
    Highlight Highlight Wenn sich ein Algorithmus an der Kredit-Datenbank von GS orientiert und „lernt“, dann kommt so ein Mist raus. Das hätte vorhersehbar sein können. Da machen Leute einen Job von dem sie keine Ahnung haben.

    Der Schlüssel für die Zukunft ist „High Touch“ und „High Tech„. Wer nur „High Tech“ macht, muss so emotionale Produkte wie Apple haben. Da eine Kreditkarte aber eher uncool ist, muss ein emotionaler Gegenpool, eben „High Touch“, her. Eine Telefonnummer und ein echter Mensch den man versteht sollte sich dieser superreiche Konzern entgegen des Share-holder-value-Denkens leisten können.
  • Ohniznachtisbett 11.11.2019 17:20
    Highlight Highlight Nun, wenn Autoversicherungen Männern eine höhere Prämie abknöpfen, als Frauen, weil sie erwiesenermassen mehr Schäden verursachen, dann ist es OK. Wenn Frauen ein tieferes Limit bei der KK erhalten, dann ist es Diskriminierung. Denkbar wäre, dass die Kreditausfälle bei Frauen höher ist als bei Männern (ich weiss nicht ob dem tatsächlich so ist). Wenn dem so wäre, wäre es doch durchaus logisch oder?
    • bokl 11.11.2019 17:27
      Highlight Highlight Ein 10-20x höheres Schadenpotenzial bei Frauen? Da lachen ja die Hühner.
    • homo sapiens melior 11.11.2019 17:29
      Highlight Highlight Ich denke, es ist nicht nur in der Schweiz so, dass Männer mehr Schulden machen. Warum und wieso erklärt dieser Artikel:
      www.watson.ch/!399588266
    • Phoenix_0209 11.11.2019 17:38
      Highlight Highlight oder männer sind eher nachlässig im bezahlen der rechnung, können sie am ende dennoch aber begleichen, könnte mit dem geschlechterabhängigen risikoverhalten zusammen hangen. somit würden männer mit einer höheren limite schlichtweg mehr geld einbringen,
    Weitere Antworten anzeigen
  • Forrest Gump 11.11.2019 17:14
    Highlight Highlight Dumme Frage: Die Beiden schreiben hier jeweils nur, dass sie das gleiche Vermögen wie ihre Frauen haben. Fast wichtiger bei der Kreditvergabe ist aber das Einkommen. Kann mir kaum vorstellen, dass die Frau von Wozniak gleich viel verdient wie er (nicht weil sie eine Frau ist, sondern weil es einfach verdammt wenig Leute gibt, die so viel verdienen). Könnte nicht das die ziemlech simple Lösung sein?
    • bokl 11.11.2019 17:29
      Highlight Highlight The Woz schreibt ja, dass sie keine getrennte Konten haben. Darum spielt es keine Rolle, woher das Geld kommt.
    • Rolf Meyer 11.11.2019 17:38
      Highlight Highlight Wozniak verdient nicht viel, nur so zur Info.
    • Forrest Gump 11.11.2019 19:02
      Highlight Highlight @bokl: Sicher spielt das eine Rolle. Stellen sich vor, die beiden trennen sich. Beide haben, weil sie ja keine getrennten Konten haben, nachher das halbe Vermögen. Gebe ich nun lieber demjenigen einen Kredit, der viel verdient oder dem der kein Einkommen hat und nun von diesem Vermögen lebt? Nur weil jemand verheiratet ist, heisst das nicht, dass eine Kreditvergabe, insbesondere wenn sie wie hier separat für beide beantragt wurde, nicht auch für beide Einzelpersonen individuell beurteilt wird.
    Weitere Antworten anzeigen
  • Mansour 11.11.2019 17:10
    Highlight Highlight
    Das kommt raus, wenn Machine learning entscheidet und sich herausstellt, dass die ganzen "Vorurteile" alle auf statistischer Basis beruhen
    • homo sapiens melior 11.11.2019 17:29
      Highlight Highlight Für deine "Statistik":
      www.watson.ch/!399588266
    • Antinatalist 11.11.2019 18:12
      Highlight Highlight Die Maschine hat brav gelernt, dass man Frauen besser schützen müsse. Das hat die Maschine hat das sehr ernst genommen.
    • IZO 11.11.2019 18:13
      Highlight Highlight Du hast wohl den Beitrag nicht gelesen. Nicht die finanzwürdigkeit der Ladys lässt zu wünschen übrig sonder die mit Sch.... bestückten Programmierer. Kennen wir aus der Gamebranche. Oder? Das gleiche Prinzip" funktioniert" ja auch in Chefetagen. Nur keine Frauen, die sind weniger erpressbar. Na ja, söi häfeli, söi deckeli, gälled?
    Weitere Antworten anzeigen
  • Eledesh 11.11.2019 17:05
    Highlight Highlight Mal eine andere Frage: Werden dann auch nicht junge Männer bei der Autoversicherung nicht gleichberechtigt behandelt oder Frauen bei der Krankenkasse? Das wäre dann wohl auch nicht Gleichberechtigung oder?
    Weitere Antworten anzeigen
  • Count Suduku 11.11.2019 17:04
    Highlight Highlight Apple gibt in den USA zusammen mit Goldman Sachs eine Kreditkarte heraus.

    (Dazu muss man wirklich nichts weiter sagen oder?)
    • Pabloes 11.11.2019 17:17
      Highlight Highlight Da leiten alle alarmglocken😂

17 Tonnen CO2 für einen Elektroauto-Akku? Das steckt hinter dem Mythos

Für Kritiker der Elektromobilität war die «Schweden-Studie» vor zwei Jahren ein gefundenes Fressen: Sie sahen sie als Beleg, dass E-Autos kaum umweltfreundlicher als Verbrenner seien. Die gleichen Forscher kommen nun zu einem ganz anderen Schluss.

Haben Elektroautos wegen der aufwendigen Produktion der Batterien kaum ökologische Vorteile gegenüber konventionellen Fahrzeugen? Eine Studie aus Schweden vor zwei Jahren hatten Gegner der E-Mobilität so ausgelegt. Nun zeichnen neue Daten derselben Forscher ein ganz anderes Bild.

Bei der Produktion der Batterien von Elektroautos werden laut einer neuen Studie inzwischen weniger klimaschädliche Gase ausgestossen als vielfach angenommen. Einer der Hauptgründe dafür sei, dass die …

Artikel lesen
Link zum Artikel