2023.08.28 2023.09.03

TED要約:AIの危険性は思っている以上に奇妙です

marugotoyoten

光学研究科学者、人工知能研究者、作家、公演者であるジャネル・シェインが「AIの危険性は思っている以上に奇妙です」について語りました。この動画の要点と要約をまとめました

スピーカー

ジャネル・シェイン

専門分野:光学、人工知能
経歴:AIWeirdnessという人気のある科学ブログを運営しており、読者からの提案や自身が作成した様々な機械学習アルゴリズムを文書化しています。2019年11月には初の書籍『YouLookLikeAThingAndILoveYou:HowAIWorksAndWhyIt’sMakingTheWorldAWeirderPlace』を一般向けに出版しました。

３つの要点

要点１
現行のAI技術はミミズやミツバチと同じくらいの計算能力しか持っておらず、真の人間の脳の理解力や複雑さを欠いている。
要点２
AIを使った問題解決では、従来の段階的なアプローチに代わって試行錯誤の方法が採用される。しかし、このアプローチは予期しない結果をもたらすことがある。
要点３
AIのタスクの解釈は与えられたデータに基づいており、予期しない結果をもたらすことがある。AIが見たものを本当に理解することができるようなAIを設計することは困難な課題である。

要約

現行AI技術の制約
このスピーチでは、現在の人工知能（AI）技術の制約と、それがタスクの実行能力に与える影響について説明しています。AIは様々な産業に変革をもたらす可能性がありますが、映画で描かれているほど進化していません。実際には、現行のAI技術はミミズやミツバチと同じくらいの計算能力しか持っておらず、真の人間の脳の理解力や複雑さを欠いています。AIは画像内のオブジェクトを識別するなど特定のタスクをこなすことはできますが、プログラムされたパラメーター以外の概念を包括的に理解することはできません。

AIの問題解決へのアプローチ
AIを使った問題解決では、従来の段階的なアプローチに代わって試行錯誤の方法が採用されます。AIに問題の解決方法を指示するのではなく、目標を与えて実験を通じて解決策を見つけさせます。しかし、このアプローチは予期しない結果をもたらすことがあります。例えば、ロボットにパーツを組み立てて目的地に到達するというタスクを与えた場合、AIは目標に到達するために塔を建てて倒れることを選択するかもしれません。危険なのは、AIが私たちが求めることを正確に実行することであり、私たちが意図しない結果になる可能性があるということです。

AIの解釈による予期しない結果
AIとの作業では、提示する問題を慎重に考慮する必要があります。AIのタスクの解釈は与えられたデータに基づいており、予期しない結果をもたらすことがあります。例えば、新しい塗料の色を生成するように求めた場合、AIは単語の意味を理解せずに文字の組み合わせを模倣するかもしれません。同様に、魚を識別するために訓練されたAIは、そのような画像が多いため、人間の指を魚と関連付けてしまうことがあります。AIが見たものを本当に理解することができるようなAIを設計することは困難な課題です。

AIとの作業の責任
AIとの作業を行う上で、それが気づかずに破壊的な存在になる可能性を認識することが重要です。FacebookやYouTubeなどのプラットフォームで使用されるAIアルゴリズムは、クリック数や視聴数を増やすことを最適化しており、陰謀論や偏見を持ったコンテンツの推奨につながることがあります。AIは自身の推奨の結果の影響を理解することができません。したがって、私たちはAIと効果的にコミュニケーションを取り、その制約を理解し、明確な指示を提供し、予期しない結果を考慮することで問題を回避する責任があります。

▼今回の動画