2023.12.14

決定木とランダムフォレストの紹介

marugotoyoten

カリフォルニア工科大学のYoutube動画「決定木とランダムフォレストの紹介」について要点と要約をまとめました

３つの要点

要点１
決定木とランダムフォレストは、その単純さ、速度、およびさまざまな問題への適用性のために広く使用されています。
要点２
決定木は質問に基づいて決定を行うツリー構造を使用し、ランダムフォレストは複数の決定木を組み合わせて分類を改善します。
要点３
ランダムフォレストは高次元の特徴空間を効率的に処理し、不確実性の定量化のための事後推定を提供するなどの利点があります。医療や自動運転などの分野で応用されています。

要約

決定木とは
決定木は、その単純さ、速度、およびさまざまな問題への適用性のために、科学や実践で広く使用されています。決定木は、ルートノードから始まり、サブパーティションに分岐し、終端ノードまたはリーフノードに到達するまで続くノードのセットです。これらの木はランダムフォレストのベース分類器として使用されます。

決定木の理解
決定木を理解するために、屋内または屋外の画像を分類する単純な例を考えましょう。ツリー構造は、質問に基づいて決定が行われるノードで構成されています。一連の質問をすることで、画像が屋内または屋外のクラスに属するかどうかを判断することができます。決定木は多目的であり、医学や宇宙探査などのさまざまな分野に適用することができます。

決定木のトレーニングとテスト
決定木学習では、さまざまな特徴を探索し、サンプルを陽性クラスと陰性クラスに分割するための最適な分割ノードを見つけることから始めます。このプロセスは再帰的に行われ、純粋なリーフノードまたは各サブパーティションが1つのクラスのサンプルのみを含む場合に終了します。ただし、過学習が発生すると一般化が悪くなる可能性があります。これを克服するためには、剪定戦略や異なるデータでトレーニングされた複数の木を使用するランダムフォレストを使用することができます。

ランダムフォレストの利点と応用
ランダムフォレストにはいくつかの利点があります。高次元の特徴空間を効率的に処理することができ、自動運転や医療の意思決定などのリアルタイムアプリケーションに適しています。決定木が軸平行の分割を使用するのに対し、ランダムフォレストは分割ノードでさまざまな関数を使用することができます。さらに、数千レベルのツリーをトレーニングする代わりに、ランダムフォレストは早期に停止し、事後推定を提供することができます。これにより、不確実性の定量化が可能になります。全体的に、ランダムフォレストは大規模なデータセットの分類タスクで強力なツールです。

▼今回の動画