2023.08.25 2023.09.02

TED要約:スーパーインテリジェントAIは世界を終わらせるのか？

marugotoyoten

アメリカの人工知能研究者、意思決定理論と倫理の執筆者であるエリーザー・S・ユドコウスキーが「スーパーインテリジェントAIは世界を終わらせるのか？」について語りました。この動画の要点と要約をまとめました

スピーカー

エリーザー・S・ユドコウスキー

専門分野:人工知能
経歴:AIの「火災報知器」の概念を広めたことで知られる。カリフォルニア州バークレーに拠点を置く私設研究非営利団体、MachineIntelligenceResearchInstitute(MIRI)の共同創設者で研究員。哲学者ニック・ボストロムの2014年の著書『スーパーインテリジェンス』において、知性爆発の可能性についての研究が影響を与えた。

３つの要点

要点１
人工汎用知能（AGI）の調整は非常に重要である。
要点２
科学的な合意や工学的な計画が欠如しており、超知能の調整は困難である。
要点３
私たちよりも賢いAIとの直面に備えるために急務な措置が必要である。

要約

人工汎用知能の調整の緊急性
私は20年以上にわたり、人工汎用知能（AGI）の調整の問題に取り組んできました。私たちは、AGIの優先順位や行動が人類にとって脅威にならないようにすることを目指しています。しかし、現代のAIシステムは複雑で理解しにくく、AIがどのように機能するのかを理解するのは困難です。私たちが完全に理解していないものよりも賢いものを作ることには潜在的なリスクがあります。この問題に取り組むことは非常に重要です。

科学的な合意の欠如と工学的計画
AGIに関しては、科学的な合意がなく、私たちの生存のための説得力のある希望や工学的な計画もありません。現在のAI開発のパラダイムでは、人間の価値観に合致する超知能を作り出すことは保証されていません。単に人間のフィードバックに頼るだけでは不十分であり、真に有益なものを理解し望む心を生み出すことには失敗します。超知能の調整の課題は、現在のアプローチでは解決できません。

より賢いAIの潜在的な脅威
私たちは将来、私たちよりも賢く、私たちの価値観や欲望を共有しないAIと直面することになるでしょう。具体的な結果は予測できませんが、AIが優位に立つことは予測できます。それは映画のようなロボット軍団ではなく、私たちを排除するための戦略と技術を使用するでしょう。この問題の深刻さは認識されておらず、緊急性が不足しています。

急務な措置の必要性
私は大規模なAIトレーニング実行を禁止する国際的な連携を提案します。この提案には極端な措置が必要ですが、状況の重大さを考慮しています。私たちの無策は終焉につながる可能性があるため、断固とした行動を起こすことが重要です。この提案の実施は期待していませんが、状況を認識し手遅れになる前に行動を起こすことが必要です。

▼今回の動画