自動運転カーは歩行者の肌の色が濃いと衝突事故を起こしやすい

いくつかの顔認証システムが肌の色が濃い人を正確に識別することに苦労していることは既に知られていますが、新たに自動運転カーに搭載されている人工知能(AI)システムも同様の問題を抱えていることが明らかになっています。
研究によると、肌の色が濃い歩行者の方が自動運転カーによる事故に遭遇する確率が高まるそうです。

Predictive Inequity in Object Detection
(PDF)https://arxiv.org/pdf/1902.11097.pdf
Self-Driving Cars May Hit People With Darker Skin More Often
https://futurism.com/the-byte/biased-self-driving-cars-darker-skin

ジョージア工科大学の研究者たちが、自動運転カーなどに用いられる最先端の物体認識システムで用いられている8つのAIモデルの精度を詳しく調査し、その結果を論文として論文投稿サイトのarXivで掲載しています。
研究チームが調査した物体認識システムは、自動運転カーが道路標識や歩行者、その他の物体を正しく認識するために用いられるものです。

調査では物体認識システムにチェックさせる歩行者の写真を、一般的に人間の肌の色を分類するために使用される「フィッツパトリック分類」のスコアに基づいて、「肌の色が薄いカテゴリ」と「肌の色が濃いカテゴリ」の2つに分けました。
そして、物体認識システムに歩行者が「肌の色が薄い人」「肌の色が濃い人」「肌の色は判別できないが人間」「人ではない」のどれかを判断させるというテストを実施しています。

テストの結果、フィッツパトリック分類においては肌の色が濃いとされる「淡褐色」「褐色」「黒色」を持つ歩行者に対しては、物体認識システムが「一様に劣ったパフォーマンス」を示すことが明らかになっています。
研究者によると、日中または夜間といった写真を撮影したタイミングに関する変数を考慮したとしても、肌の色が濃い歩行者の画像を含むグループは物体認識システムの精度を平均で5％も低下させていたそうです。

ジョージア工科大学の研究チームによる研究結果から、自動運転カーの物体認識システムがこのままの精度で普及すれば、肌の色によって交通事故に遭遇する確率が変わってくるということになります。
しかし、研究グループは調査結果を基に「データセットに肌の色が濃い歩行者の画像をより多く使うことで、より正確に歩行者を検知できるようになる」としています。