AI・機械学習を中心に

AI/機械学習/データ分析/子育て/日々の雑感

[翻訳]あなたは悪い意思決定者か

原文

Cassie Kozyrkov氏の記事(2020/5/18)より

blog.usejournal.com

 

decision analysis(意思決定分析)の専門家は、熟練していない意思決定者をかぎ分けるためのトリックを持っています。それを知りたいですか?先週からの質問を調べてください。

クイズタイム!

ヘザーはカナダ人で、親切で、フレンドリーで、頭が良く、動物が大好きです。彼女はサステナビリティコンサルタントです。大学では彼女は数学と心理学を学びました。彼女は長めの散歩に行くのが好きで、いくつかのハイキングコースの近くに住んでいます。

以下2つのうち、ヘザーはどちらの方が可能性が高いと思いますか?

  1. ヘザーはPhDを持っている
  2. ヘザーはPhDを持っており、犬を飼っている

スクロールする前に、あなたの回答を準備してください。

1を選んだあなた、おめでとうございます。あなたはconjunction fallacy(合接の誤謬)を回避しました。2は間違う可能性を高めているため、1の方が正しいです。数学好きのために、P(A) ≥ P(A ∩ B)です。合接の誤謬についての詳細な説明と、ステレオタイプによって過度に複雑な結論に至ってしまう理由について知りたい場合は、私の記事 Don’t fall for the conjunction fallacy! を読んでください。

その記事では、バイアス、ステレオタイプ、科学、そして悪いアナリストにならない方法について述べました。

実際にヘザーは犬を飼っています。

では、ヘザーが犬を飼っていることが分かったとして、以前の選択肢においてあなたの気持ちをよりよく表しているのはどちらですか?(1. ヘザーはPhDを持っている / 2. ヘザーはPhDを持っており、犬を飼っている)

 

A) 私はもともと1を選んだが、代わりに2を選ぶべきだった

B) 私はもともと2を選んだが、代わりに1を選ぶべきだった

C) 私はもともと1を選んだが、それは賢明な選択であり正しかった

D) 私はもともと2を選んだが、それは賢明な選択であり正しかった

 

Cを選びましたか?

decision scienceの専門家はC, B, A, Dのように各回答をランク付けするでしょう。つまり"C"以外は"BAD"であると言えます。

優れた意思決定者は、outcome bias(成果バイアス)に陥らない

decision analysisの最初の原則は、outcome bias(成果バイアス)を回避することです。それは授業初日に生徒に教えることです。成果バイアスに対し耐性を持つことは、基本的な意思決定能力の最低要件です。優れた意思決定へ勝ち得で学ぶことはたくさんありますが、この最初のハードルをクリアするまで先には進めません。

成果バイアスとは何か?

心理学において、成果バイアスとは、意思決定を下す時点では知りえなかったことに基づいて意思決定を評価する誤りのことです。成果バイアスと後知恵バイアス(答えを知った後、知らなかったのに「私はその答えを知っていた」と記憶を調整してしまうバイアス)とを混同しないでください。

 成果バイアス的な思考の良い例として、スウェーデン政府のCOVID-19に関する意思決定について評価することを考えてみて下さい。一般市民と意思決定のプロの違いは、(成果バイアスを持った)一般市民は「どのような事態になるか」でスウェーデン政府を評価しますが、意思決定のプロはそうはしません。状況の評価はdecision scientistの間で異なる場合はありますが、決定が行われた時点で分かっていたことに基づいて政府を評価するだけです。

 成果バイアスは社会的に受け入れられるレベルの集団非合理性であるため、多くの人がこれを聞いて驚くでしょう。ましてや、”結果物事がどうなるか”が意思決定の質を評価する方法であると教わって育った人にとっては、怒りすら覚えるかもしれません。成果バイアスが幻想である理由について知りたい人は、私の記事”The problem with analyzing policy decisions in hindsight"を読んでください。

Decision analysisの基本原則

この記事の目的は次に述べるDecision analysisの基本原則を伝えることです。

意思決定の質は、意思決定時に意思決定者が入手できる情報のみを使用して評価する必要がある。

言い換えれば、後から知った知識で混乱しないようにしてください(特に2020年においては)。

意思決定のエキスパートはいつも、成果から意思決定を分離します

しかし、ヘザーと犬の例に戻りましょう。

各選択肢を回答した人について言えること

C)を選択した人

良い選択です!あなたは最初の質問に対して賢く回答し、その時点で知っていることに基づいてそれが最良の選択であると認識したので、あなたは自分の意思決定プロセスに自信を持っていたことでしょう。

犬の写真を見ても、あなたは成果バイアスに陥りませんでした。トレーニングを受けたDecision Scientistと同様な決定を下したことになります。おめでとう!

(だからと言ってあなたが優れた意思決定者であるというわけではありません。あなたは最初のハードルを越えただけにすぎません。)

B)を選択した人

あなたは間違ってはいましたが、Bを選択するということは、あなたは自分の間違いから正しい方向に学ぶことができる人であるということがわかります。

合説の誤謬に陥ってはいけない理由を理解して、正しく学習しています。あなたはこの記事の中で成長しました!

A)を選択した人

あなたは直感的に最初正しい選択をしましたが、結果的には間違った学習をしました。後から知った知識があなたの意思決定プロセスに間違ったことを教えたのです。間違いから学ぶことは良いことですが、間違ったことを学ばないようにしてください。しばしば、人生はあなたの意思決定レベルとは関係なく、あなたが予期できないランダムなカーブボールを投げます。それが起こった時、あなたの意思決定プロセスをそれに適用させてしまうことは悪い考えです。あなたの考え方は有能なリーダーを後押しし保持する社会の機能を脅かしてしまいます。その理由を知りたければ、こちらを読んでください。

D)を選択した人

あなたはポイントを激しく見逃しており、2倍のバイアスを示しています。”ほらみろ!彼女は犬を飼っていたじゃないか!私は正しかったし、次回も同じようにするさ!”

いいえ、あなたはラッキーだっただけです。あなたは悪い判断をしましたが、たまたまいい結果が得られただけです。あなたは運とスキルの違いが分かっていません。

選択肢Aと同様にこの考えは熟練した意思決定者を社会に送り出すことを否定しますが、他のバイアスと混ざり合って、誤った偏見が長続きします。

意思決定スキルの欠如は偏見を助長する

もしよい意思決定の習慣を身に着けない場合、心理学的には次にあげるようなことを行う可能性が高いと言えます。

1. 利用可能性ヒューリスティック:あなたが感知した事例が起きる可能性を過大評価する

2. 確証バイアス:あなたの固定観念と矛盾する情報などを無視する

3. 合説の誤謬:証拠が示されていないにもかかわらず「正しいと感じる」固定観念に基づいて、見当違いな結論に達する

4. 成果バイアス:自分の意思決定プロセスを無視し、成果にフォーカスしすぎてしまう

5. 自己奉仕バイアス:運よく良い成果が得られた時は自分のおかげだとし、悪い成果が得られた時は他者のせいにする

あなたにはこのフィードバックループが見えますか?

代わりに何をすべきか

1. 利用可能性ヒューリスティックは、不完全な人間の記憶から起きるため、人間よりも優れた記憶力を持つ機械(または鉛筆)に頼るべきでしょう。可能ならば、人間の記憶よりも統計的にバイアスを排除した記録を重視します。

2. 不確実性が存在する場合には、心を開いて、確証バイアスを減らすための対策を講じてください。

3. 証拠が示すよりもややこしい結論にジャンプすることを避けてください(たとえそれが正しそうだと”感じた”としても)。

4. 成果を無視し、意思決定時にわかっていたことだけに基づき意思決定と意思決定者を評価してください。

5. 意思決定を行う前に不確実性を評価し、不確実性の大きさを意思決定者と管轄外の要素の間で分配します。ギャンブルの結果について意思決定者を非難するのではなく、そもそも不適切なギャンブルをしたことについて意思決定者を非難してください、、、たとえ運が良かったとしても。次のようなことを含む場合、意思決定者の意思決定スキル不足を非難してください。

(ⅰ)掛け金よりも少ない努力をした

(ⅱ)過剰なリスクを取った

(ⅲ)利用可能な情報を無視した

(ⅳ)情報を誤って利用した

 

もし、より深く学びたいなら、私の記事”The problem with analyzing policy decisions in hindsight"を読んでください。