AIとダイバーシティ
３つの会社でダイバーシティ推進と働き方改革をしてきたMeikoです。担当者として感じていること、学んだことなどを書いています。
英語の勉強用に見ていたTEDで「AIにもバイアスがある」という衝撃的な話を聞きました。
私はこの方面の知識は全く無いのですが、要は現状の問いと結果のデータを大量にコンピュータに入れたところで、それらはすでに私たちが下した「バイアスがかかった」判断の集積でしかないということです。したがって様々な理由で社長の多くが男性である現在の状況から導き出される答えは、どうしても「男性の方が社長になる可能性が高い」となります。
例えば社員の採用にAIを使った場合、データをそのまま使えば男性の方が有利になります。一方で秘書というポジションであればAIは女性を推奨するなどですね。我々のバイアスがそっくりそのままAIに入ってしまっているということになります。
厄介なのはこの判断を下すのが人間であれば「それはバイアスですね」と指摘する人がいたり、極端なものは法律で排除できるのですが、コンピュータにはこの歯止めがきかないことです。人であれば研修や意識啓発の話を聞いてハッと自分のバイアスに気が付くこともありますし、それで気を付けることもできるのですが。コンピュータが自分の中の差別にハッと気がつくなんてさすがに無理ですよね。
TEDの講演者はエンジニアなので、AIを設計するエンジニアがこの傾向に注意して、多様性を意識しましょうと訴えていました。つまりAIにもダイバーシティを！ということですね。
イケてるアメリカのテクノロジーカンパニーが作ったGoogleアシスタントやSiri、アレクサが女性で、ビジネスにおけるハイレベルの意思決定をするIBMのWatson、AI弁護士のRossは男性の設定というのは我々のバイアスの根深さを物語っています(と講演者は言っていたと思います)。
英語の字幕で英語のTEDを見るのは確かに勉強になると思うのですが、内容がものすごく面白いものでない限り、速やかに眠りの神様が降りてくるMeikoでした。
