アップルカードのAIが「シリコンバレーで性差別を学んだ」と女性CEOが指摘

米アップルと米投資銀行ゴールドマン・サックスが、共同で発行するクレジットカード「アップルカード」が、男女で利用限度額を変えるなど性差別をしているとして、米当局が調査に乗り出しことが、BBCなど複数の海外メディアで伝えられている。

イメージ画像：AdobeStock

AIが女性を差別している！

アップルカードをめぐっては、アップル社の共同創業者スティーヴ・ウォズニアック氏や起業家から、「限度額を設定するアルゴリズムが女性を差別している」といった声があがるなどした。

彼らは、妻に比べて自分たちのカードの利用限度額が遥かに高い点を指摘。

妻の方が信用スコアが高いにもかかわらず、夫である自分の利用限度額が10倍～20倍も高いというのだ。

シリコンバレーが生んだ性差別

専門家からは、「アップルカードの性差別は、長い間この問題に悩まされてきたシリコンバレーの教訓である」との声があがったと、FOX BUSINESSが伝えている。

テクノロジーとシステムにおける偏りをなくことを目指す、米Catalyst社のロレイン・ハリトンCEOは、同報道番組に出演した際「私は今回の事態に別に驚かなかった」と述べた。

70年代半ばからテクノロジーに関わってきたという、シリコンバレー出身の彼女によれば、「バイアス（偏見、先入観）は人だけでなく、テクノロジーでも起こるもの」だという。

現存するのシステムがすでに偏りを持っている場合、AIのアルゴリズムがそれを更に深刻化させる可能性があるそうだ。

逆にバイアスの識別にも利用可能

「データがすでに偏っていると、コンピューターはそれを助長し更なる悪化を招くでしょう」とハリトン女史。

一方、「別にAIには見込みがないというわけではなく、人工知能に偏見を組み込んで、バイアスを識別するために使用することも可能」とも。

バンク・オブ・アメリカやマイクロソフトを例にあげ、偏見に関するデータを注視し、これらの問題発生を防ぐべく積極的に取り組む企業もあるという。