2023.08.24

TED要約:AIが信じられないほど賢く、驚くほど愚かな理由

marugotoyoten

ワシントン大学のブレット・ヘルセル教授であるであるチェ・イジンが「AIが信じられないほど賢く、驚くほど愚かな理由」について語りました。この動画の要点と要約をまとめました

スピーカー

チェ・イジン

専門分野:自然言語処理とコンピュータビジョン
経歴:マカーサー・フェローシップを受賞した、1977年生まれのチェ・イジンは、自然言語処理とコンピュータビジョンに取り組んでいます。

３つの要点

要点１
人工知能は、世界クラスのチャンピオンを打ち負かしたり、難しい試験に合格したりと、驚異的な偉業を成し遂げる強力なツールである。
要点２
人工知能の常識の欠如は、その安全性や、人工知能を教える唯一の方法としての無駄なスケールに対する懸念を引き起こしている。
要点３
人工知能における常識の課題を克服するためには、人工知能を厳密に評価し、常識を研究のテーマとして優先することが重要である。

要約

人工知能の力と課題
人工知能は、世界クラスのチャンピオンを打ち負かしたり、難しい試験に合格したりと、驚異的な偉業を成し遂げる強力なツールです。しかし、これらの極端なスケールの人工知能モデルは、人工一般知能の兆候を示しているものの、小さな愚かなミスをまだ犯しています。一部のテック企業に権力が集中していることや、これらのモデルのトレーニングによる環境への影響は、直面している課題です。さらに、人工知能の常識の欠如は、その安全性や、人工知能を教える唯一の方法としての無駄なスケールに対する懸念を引き起こしています。

人工知能における常識の重要性
常識は、人工知能が安全で信頼性のあるものになるためには重要です。堅牢な常識がないと、人工知能は危険な決定を下すことがあります。例えば、人工知能が用紙クリップを最大化するために人間を殺すという思考実験で見られるようにです。しかし、常識は人工知能にとって長年の課題であり、極端なスケールのモデルでも、子供でも解決できるような些細な問題につまづくことがあります。これらのモデルをスケールアップすることが唯一の解決策なのか、人工知能に常識を教える別の方法があるのかという問いが生じます。

常識を克服するための取り組み
人工知能における常識の課題を克服するためには、人工知能を厳密に評価し、常識を研究のテーマとして優先することが重要です。オープンさと透明性は、人工知能に常識を教える上で重要です。プロプライエタリなデータやアルゴリズムは進歩を妨げます。常識的な知識グラフや道徳的な規範のリポジトリを開発することで、人工知能に基本的な常識的な規範や価値を教えることができます。象徴的な知識蒸留などの新しいアルゴリズムを探求することも、より直接的な常識的な知識の獲得につながるでしょう。

人工知能のためのデータとアルゴリズムの革新
持続可能で人間中心の人工知能を構築するためには、データとアルゴリズムの革新が重要です。生のウェブデータだけで人工知能をトレーニングすると、偏った信頼性のない結果になります。作り込まれた例や人間の判断を使用することで、人工知能の理解を向上させることができますが、これらのデータソースは公開され、検査や修正が可能であるべきです。また、人工知能で使用される学習アルゴリズムは、世界の理解と直接的な常識的な知識の獲得に焦点を当てるべきです。データとアルゴリズムの革新により、人工知能はより効率的で信頼性のあるものになるでしょう。

▼今回の動画