2023.08.30 2023.11.11

TED要約:機械知能が人間の道徳をより重要にする-ゼイネップ・テュフェクチ

marugotoyoten

トルコ系アメリカ人社会学者であるゼイネップ・テュフェクチが「機械知能が人間の道徳をより重要にする」について語りました。この動画の要点と要約をまとめました

スピーカー

ゼイネップ・テュフェクチ

専門分野:社会メディア、メディア倫理、新技術の社会的影響、複雑なシステム思考を用いた社会的課題
経歴:プリンストン大学のヘンリー・G・ブライアント教授。ニューヨーク・タイムズのコラムニスト。社会メディアや新しい技術（人工知能やビッグデータ）の社会的影響、COVID-19パンデミックなどの社会的課題について、複雑なシステム思考を用いて研究している。

３つの要点

要点１
コンピュータは非常に強力で影響力があり、採用、コンテンツの推奨、刑事司法などの主観的で価値のある分野での意思決定を形成することになる。
要点２
機械学習はブラックボックスとして動作し、バイアスのあるまたは倫理的でない意思決定を行っているかどうかを判断するのが難しい。
要点３
アルゴリズムは知らず知らずのうちに個人を排除し、バイアスを永続化させることがある。

要約

コンピュータプログラミングの予期せぬ結果
私がコンピュータプログラマーとして初めての頃、私は選んだ分野から生じる倫理的なジレンマを想像することはできませんでした。最初は科学の倫理的な問題を避けるためにコンピュータを選びました。しかし、コンピュータは非常に強力で影響力があり、採用、コンテンツの推奨、刑事司法などの主観的で価値のある分野での意思決定を形成することになるとは知りませんでした。

機械学習の力と不透明さ
データから学習することを可能にする機械学習は、人工知能の分野を革新しました。これらのシステムは顔を認識したり、手書きを解読したり、チェスや囲碁のような複雑なゲームで人間に勝つことさえできます。しかし、問題は、これらのシステムがどのように結論に至るのか理解できないことです。彼らはブラックボックスとして動作し、バイアスのあるまたは倫理的でない意思決定を行っているかどうかを判断するのが難しいです。

アルゴリズムの隠れたバイアス
デジタルの足跡から個人の情報を推測する計算システムは、性格特性から将来のうつ病まで、非常に正確な予測ができます。これは、メンタルヘルスの早期介入などの一部の文脈では有益な場合もありますが、採用の意思決定に使用される場合に問題が発生します。これらのシステムは将来のうつ病や妊娠などの要素に基づいて知らず知らずのうちに個人を排除することがあり、私たちの知識なしにバイアスを永続化させることがあります。

アルゴリズムの説明責任の必要性
アルゴリズムの力は個別のバイアスを超えています。これはFacebookのニュースフィードアルゴリズムで見ることができます。このアルゴリズムはエンゲージメントを優先し、重要なが難しい会話を私たちの視界から隠す可能性があります。さらに、アルゴリズムは予期しない方法で失敗することがあり、人間が決してしないようなエラーを起こすことがあります。アルゴリズムを責任に追い込むことは重要であり、透明性、監査、意味のある検証を要求し、人間の価値観と倫理に合致していることを確認する必要があります。

▼今回の動画