2023.09.10

TEDx要約:犯罪司法における予測アルゴリズムの危険性

marugotoyoten

アメリカの大学教授であるハニー・ファリードが「犯罪司法における予測アルゴリズムの危険性」について語りました。この動画の要点と要約をまとめました

スピーカー

ハニー・ファリード

専門分野:デジタル画像の分析とディープフェイクの検出
経歴:UCバークレー情報学部の学部長を務めた経歴を持つ。非営利団体や政府機関、ニュース機関のコンサルタントも務めている。著書『フォトフォレンジックス』（2016年）の著者。

３つの要点

要点１
予測アルゴリズムは、様々な分野で使用されており、私たちの生活に大きな影響を与えている。
要点２
予測アルゴリズムには人種的なバイアスが存在し、刑事司法制度における公平性に疑問が投げかけられている。
要点３
予測アルゴリズムと人間の予測の比較では、両者ともに正確性が似ているが、人種的なバイアスを示している。

要約

様々な分野での予測アルゴリズムの影響
予測アルゴリズムは、音楽や映画のストリーミングサービス、オンラインショッピングプラットフォーム、銀行、求人選考プロセス、大学入学試験、さらには刑事司法制度など、私たちの生活の多くの側面で使用されています。これらのアルゴリズムは、私たちの行動パターンや個人の属性に基づいて予測を行います。しかし、その正確性や公平性について疑問が呈されています。

予測アルゴリズムにおける人種的バイアス
裁判所で使用されている特定の予測アルゴリズムには人種的なバイアスがあることが判明しています。調査ジャーナリストたちは、このアルゴリズムが黒人被告に対してバイアスを持っていることを発見しました。彼らが再犯すると予測する間違った予測を行い、彼らが犯罪を犯さないと予測する間違った予測を行いました。このバイアスは、刑事司法制度におけるこれらのアルゴリズムの公平性について懸念を引き起こします。

人間と予測アルゴリズムの比較
私たちのチームは、商用ソフトウェアとインターネット上のランダムな人々による予測の比較を行う研究を行いました。驚くことに、ソフトウェアと人間の両方が似たような正確性を示しました。ソフトウェアは65%、人間は67%の正確性でした。しかし、ソフトウェアと人間の両方が人種的なバイアスを示し、黒人被告をより高い割合で誤分類しました。これは、これらのアルゴリズムの信頼性と信頼性について疑問を投げかけます。

倫理的な考慮と責任の必要性
予測アルゴリズムの完全な理解と透明性を確保することは非常に重要です。これらのアルゴリズムを完全に理解せずに依存することは危険で軽率です。私は、1980年代に設立されたバイオ倫理パネルに類似した、国内または国際的なサイバー倫理パネルの設立を提案します。私たちは技術の影響に責任を持ち、それが進歩の力となるようにし、デジタルなディストピアに私たちを導くことはありません。

▼今回の動画