2023.08.28 2023.09.03

TED要約:ビッグデータへの盲信の時代は終わらなければならない

marugotoyoten

アメリカ人の数学者、データサイエンティスト、作家であるキャサリン・ヘレン・オニールが「ビッグデータへの盲信の時代は終わらなければならない」について語りました。この動画の要点と要約をまとめました

スピーカー

キャサリン・ヘレン・オニール

専門分野:専門領域は数学とデータサイエンス
経歴:ニューヨーク・タイムズのベストセラー『WeaponsofMathDestruction』の著者であり、BloombergViewでコラムを執筆しています

３つの要点

要点１
アルゴリズムは意見であり、盲目的な信頼の危険性である。
要点２
アルゴリズムによる不公平と差別がある。
要点３
アルゴリズムは数学の破壊の武器となり、監査と責任の必要性がある。

要約

アルゴリズムは意見であり、盲目的な信頼の危険性
アルゴリズムは、客観的または科学的ではなく、コードに埋め込まれた意見です。アルゴリズムは、人々をさまざまな人生の側面でスコアリングや判断するために使用されるため、誤った場合には深刻な影響を及ぼすことがあります。これらの秘密の数式はしばしば透明性や申し立てのシステムを欠いており、個人は理解できないアルゴリズムに任されることになります。

アルゴリズムによる不公平と差別
アルゴリズムによる意思決定は不公平や差別を助長することがあります。教育制度や採用プロセスからの例は、アルゴリズムがバイアスのある結果をもたらすことを示しています。アルゴリズムは既存の偏見やパターンを強化し、現状を自動化することがあります。アルゴリズムを盲目的に信頼することは、性差別や人種差別などの偏見を法制化することにつながる可能性があります。

数学の破壊の武器
アルゴリズムは、醜い真実を隠し、不平等を永続させるために使用されると、数学の破壊の武器になることがあります。民間企業は透明性や説明責任を欠いたまま、自分たちの利益のためにアルゴリズムを構築しています。これらのアルゴリズムは「数学の破壊の武器」と呼ばれ、どこにでも存在し、個人や社会全体に破壊的な影響を与える可能性があります。

アルゴリズムの監査と責任の必要性
アルゴリズムの問題に対処するためには、アルゴリズムの監査を実施する必要があります。これらの監査には、データの整合性の確認、成功の定義の再評価、正確性とエラーの考慮、アルゴリズムの長期的な影響の検証が含まれるべきです。アルゴリズムを利用する企業や機関に対して透明性を求め、アルゴリズムを責任に追いやることが重要です。これは単なる数学の問題ではなく、集団行動を必要とする政治的な戦いです。

▼今回の動画