本文へスキップ
SignaRoot

決定木とは?条件をたどって予測する仕組みと、業務での使い方

決定木とは、質問を順にたどって結果を予測する仕組みです。過去の記録から条件を作る流れ、必要なデータ、使える業務、メリットと注意点を、営業部の問い合わせの例で数式なしで説明します。

公開 更新 約 16 分
上から入った問い合わせカードが分かれ道の標識を下りて、下の 3 つのかごへ振り分けられる絵
この記事の目次

決定木とは、「見積依頼はあるか」のような質問を順にたどり、行き着いた先に置いた結果を予測にする仕組みです。質問の並びは、過去の記録から作ります1。過去の記録に「結果がどうなったか」が残っている判断なら試せます。

こんな困りごとはありませんか

営業部の社員たちがそれぞれ電話と問い合わせの一覧を手に、困った顔をしている絵 図 1 受注しそうな問い合わせから折り返したいが、受注は条件の組み合わせで変わる(仮想シナリオ)

問い合わせが多い日は、受注につながりそうなものから折り返したいと考えています。ただ、受注するかどうかは、見積依頼があるか、電話か Web かといった条件の組み合わせで変わります。今は経験で折り返す順を決めていて、根拠を言葉にできていません。

  • ある条件が効くかどうかがほかの条件で変わるので、条件を 1 つずつ見ても判断できない
  • 見積依頼の有無と、電話か Web かのどちらを先に見ればよいかを、経験ではなく過去の記録から決めたい
  • どの条件で折り返す順を決めたかを、ほかの担当者に条件の言葉で伝えたい

この記事では、営業部の問い合わせを例に、決定木が過去の記録から条件を作り、新しい問い合わせを予測する流れを数式なしで説明します。例のデータと場面は説明用の架空のものです。

決定木とは?条件をたどって結果を予測する仕組み

**決定木は、過去の記録から条件の並びを木の形に作り、新しい記録をその条件に当てて結果を予測します。**データの傾向から予測のルールを作る「機械学習」の手法の 1 つです。

見積依頼の箱から枝が分かれ、Web と電話の箱を経て、受注の握手と失注の印の葉に着く木を、指先が見積依頼あり・Web・受注の順にたどる図 図 2 根に最初の条件を置き、枝を下りて、葉の予測を読む

木は逆さに描きます。いちばん上の「根」に最初の条件を置き、答えに応じて「枝」を下り、行き止まりの「葉」に予測を置きます1。どの条件をたどって予測が出たかがそのまま読めるのが、決定木の特徴です。

受注か失注かのグループを当てる「分類」では、葉にいちばん多い結果を置きます。金額のような数値を当てる「回帰」にも使えます23。

決定木はどうやって予測するのか?

決定木は、結果がいちばんそろう条件を過去の記録から選んで木を作り(学習)、新しい記録をその木でたどります(予測)。分けた先ごとに条件を選び直すので、条件の組み合わせも扱えます。

記録を集める、条件で分ける、葉に予測を置く、新しい記録をたどるの 4 段階を順に並べた図 図 3 前の 3 段で木を作り(学習)、最後の 1 段で使う(予測)

4 段で流れを追う

  1. 記録を集める(学習):過去の問い合わせに、経路(Web か電話か)や見積依頼の有無と、受注したかどうかの結果を並べます。どちらも問い合わせを受けた時点で分かる情報です
  2. 条件で分ける(学習):分けたあとに結果がいちばんそろう条件を選び、記録を分けます。木の作り方にはいくつか種類があり、そのうちの 1 つでは毎回 2 つに分けます。分けた先でも同じことを繰り返します4
  3. 葉に予測を置く(学習):結果が 1 種類にそろった、残りの件数が少なくなった、決めた深さに達した、などの条件で分けるのを止めます4。止めた先の葉には、その記録でいちばん多い結果を予測として置きます4
  4. 新しい記録をたどる(予測):新しい問い合わせが来たら、根から条件どおりに枝を下り、行き着いた葉の予測を読みます

予測は問い合わせが来るたびに行い、記録がたまったら木を作り直します。

分け方は、分けたあとの混ざり具合で比べる

上の流れの「条件で分ける」では、結果がいちばんそろう条件を選びます。その選び方を、架空の問い合わせ 10 件(受注 4 件・失注 6 件)で確かめます。根に置く条件の候補として、見積依頼の有無と経路の 2 つを比べます。

  • 見積依頼の有無で分ける:なしの 4 件はすべて失注です。ありの 6 件は受注 4 件・失注 2 件です
  • 経路で分ける:電話の 3 件はすべて失注です。Web(自社サイトのフォーム)の 7 件は受注 4 件・失注 3 件です

見積依頼で分ける場合と経路で分ける場合を左右に並べて比べた図 図 4 分けたあとの混ざりが少ないのは、見積依頼で分けた方

分けた先で多い方の結果と違う記録(少数派)を数えます。見積依頼の「なし」と経路の「電話」の側はどちらもすべて失注なので、少数派は 0 件です。残りの側では、見積依頼の「あり」が 6 件中 2 件、経路の Web が 7 件中 3 件です。見積依頼で分けた方が 10 件中 2 件と少ないので、これを根の条件にします。実際の計算では、混ざり具合を「ジニ不純度」(0 なら結果が 1 種類にそろっている値)などで測り、いちばん小さくなる条件を選びます5。この例をジニ不純度で計算しても、見積依頼で分けた方が小さくなります。

このように、どの条件で分けるかは記録から決まります。人が決めるのは、候補にする列や、木の深さなどの止め方です。どの条件をどの順に使うかまで人が決める判断表とは、ここが違います。

分けた先ごとに、次の条件を選び直す

例に戻ると、根で分けたあと、見積依頼ありの 6 件は、次に経路で分けると Web の 4 件が受注、電話の 2 件が失注にそろいます。一方、見積依頼なしの 4 件は、経路で分けても Web・電話ともに失注のままです。経路が効くのは、見積依頼がある問い合わせの中だけです。

この例では、どの葉も結果が 1 種類にそろいました。実際の記録では、例えば 5 件のうち受注 4 件・失注 1 件のように、混ざった葉が残ります。葉には予測とあわせて、その葉で受注した割合も残ります。

見積依頼と経路で分けてできた木で、4 段の流れの最後にあたる予測を試します。Web から届き、見積依頼がある問い合わせなら、根で「見積依頼あり」へ、次に「Web」へ下り、葉に置いた「受注」を予測として読みます。

決定木にはどんなデータが必要?

必要なのは、条件にする「入力の列」と、当てたい「結果の列」がそろった過去の記録です。

決定木に必要なデータを表にまとめ、注記を添えた図 図 5 入力の列と結果の列がそろっていれば、木を作れる

結果の列が記録に無い業務では、まず結果を書き残すところから始めます。入力の列に使えるのは、予測する時点で分かっている情報だけです。例えば「商談の回数」は折り返したあとに増えていく情報なので、問い合わせが来た時点の予測には使えません。

件数と偏りも先に数えます。受注と失注の一方が極端に少ないと、木は多い方の結果ばかりを予測しやすくなります6。件数が足りるかに一律の目安はなく、木を作るのに使わなかった記録で成績を確かめて判断します7。

決定木はどんな業務に使える?

向いているのは、過去の記録に結果が残っていて、判断の理由を説明しながら試したい業務です。

問い合わせの折り返し順、請求書の確認順、解約しそうな顧客の見分け、欠品しそうな品目の見分けの 4 つを並べた図 図 6 結果の列が記録に残る判断が候補になる

冒頭の折り返し順に使うなら、葉に入った記録のうち受注した割合を見込みの高さとして使い、高い葉から折り返します1。

ただし、葉に数件しか残らないところまで分けると、割合は 0%・50%・100% のような粗い値になり、見込みの高さとしてはあてになりません8。例えば前の節の 10 件で作った木も、葉は 2〜4 件ずつしかなく、割合は 0% か 100% だけです。記録を増やし、葉ごとに割合を読めるだけの件数が残るところで分けるのを止めてから使います8。

結果が記録に残る判断なら、ほかの業務でも試せます。

  • 問い合わせのうち、どれを先に折り返すか(結果:受注したか)
  • 請求書のうち、どれを先に確かめるか(結果:差し戻しになったか)
  • 解約しそうな顧客をどう見分けるか(結果:解約したか)
  • 欠品しそうな品目をどう見分けるか(結果:欠品したか)

最初に試すなら、外れても人が見直せば済む判断が向いています。逆に、結果が記録に残らない判断や、外れたときの損失が大きい判断は、最初の候補から外します。

決定木のメリットと注意点

**決定木はたどった条件を読める一方で、必ず当たるわけではありません。**新しいデータで確かめてから業務に使います。

決定木のメリットと注意点を左右に並べて比べた図 図 7 読みやすさと引き換えに、確かめ方を決めておく

どの条件をたどって予測が出たかは、人が読めます。読めた条件を、現場の経験と照らし合わせられます。ほかの担当者にも「見積依頼があり Web から届いたので、受注の割合が高い葉に入る」と、たどった条件と割合を根拠として示せます。

読みやすさのほかに、準備の手間が少ない利点もあります。手法によっては、金額と件数のように桁の違う列の大きさをそろえてから使いますが、決定木ではその下ごしらえがほとんど要りません9。

注意点は次の 3 つです。

  • 深くしすぎると、新しいデータで外れやすくなる:条件を何段も重ねると、手元の記録に合わせすぎた木になりやすくなります。これを「過学習」と呼びます910。木を浅く始めて様子を見ながら深くするか8、作ったあとで効きの小さい枝を刈り込み(剪定)11、木を作るのに使わなかった記録で成績を確かめます7
  • 分岐は、原因を示すとは限らない:「Web からの問い合わせは受注しやすい」は、一緒に起きやすい関係を示すだけです。Web にすれば受注が増える、という因果までは分かりません
  • データが少し変わるだけで、木の形が変わる:記録が少し入れ替わるだけで、まったく違う木ができることがあります。たくさんの木を組み合わせる方法(アンサンブル)で、この揺れを和らげられます9。ただし、数百本の木を組み合わせると、図を見ても読めません9

まとめ

  • 決定木は、過去のデータから結果を分ける条件を見つけ、条件をたどって予測する仕組み。分けた先ごとに条件を選び直すので、条件の組み合わせも扱える
  • 木を作る「学習」では、分けたあとの混ざり具合が小さい条件を記録から選ぶ
  • 必要なのは、予測する時点で分かる入力の列と、結果の列
  • 最初は結果が記録に残り、外れても見直せる判断で試す。折り返し順には葉の受注の割合を使い、たどった条件を根拠として示す
  • 新しい問い合わせでも当たるかは、木を作るのに使わなかった記録で確かめる

明日はまず、手元の記録に結果の列があるかを確かめ、結果ごとの件数を数えてください。

ご相談

手元の記録に結果の列があるか、件数は足りるかを一緒に確かめたい方はお問い合わせへ。決定木で試せる判断かどうかを、記録を見ながら整理します。

次に読む

参考文献

  1. Decision trees | Machine Learning | Google for Developers(Google、Google for Developers)、DecisionTreeClassifier(scikit-learn developers、scikit-learn 公式ドキュメント)

  2. DecisionTreeRegressor、1.10. Decision Trees(scikit-learn developers、scikit-learn 公式ドキュメント)、Decision trees | Machine Learning | Google for Developers(Google、Google for Developers)

  3. DecisionTreeRegressor、1.10. Decision Trees(scikit-learn developers、scikit-learn 公式ドキュメント)

  4. 1.10. Decision Trees、DecisionTreeClassifier(scikit-learn developers、scikit-learn 公式ドキュメント)

  5. DecisionTreeClassifier、1.10. Decision Trees(scikit-learn developers、scikit-learn 公式ドキュメント)

  6. 1.10. Decision Trees(scikit-learn developers、scikit-learn 公式ドキュメント)

  7. 3.1. Cross-validation: evaluating estimator performance(scikit-learn developers、scikit-learn 公式ドキュメント)

  8. Tips on practical use(1.10. Decision Trees)(scikit-learn developers、scikit-learn 公式ドキュメント)

  9. 1.10. Decision Trees(scikit-learn developers、scikit-learn 公式ドキュメント)、Overfitting | Machine Learning | Google for Developers(Google、Machine Learning Crash Course)、1.11. Ensembles(scikit-learn developers、scikit-learn 公式ドキュメント)

  10. Overfitting | Machine Learning | Google for Developers(Google、Machine Learning Crash Course)

  11. Post pruning decision trees with cost complexity pruning、1.10. Decision Trees(scikit-learn developers、scikit-learn 公式ドキュメント)

更新履歴

  • 公開
  • 更新