フレーム問題とは、AI（人工知能）が現実の様々な状況において適切な判断を下すことが難しくなる課題のことです。人間は経験や直感に基づいて、無視すべき要素や重要な要素を迅速に判断しますがAIには困難です。AIは処理能力が高くても、可能性を無限に検討するため、計算量が膨大になり、適切な判断ができなくなることがあります。フレーム問題は、特定のフレームを使い、AIの思考を制限することで解決できると考えられていますが、フレームの選択自体がまた無数の計算を必要とするため解決が容易ではありません。
【無料配布中】「企業版AIの導入アプローチ」
ChatGPT、Copilot、ExabaseといったAI関連ツールが多くサービス提供される中で、企業におけるAI導入アプローチを俯瞰的に整理しています。どのようなタイプのツールがあり、結局何を使ったら良いのか、シンプルかつ感覚的に、かつ短時間で理解されたい方におすすめです。
フレーム問題とは
フレーム問題とは、処理能力に上限のあるAI（人工知能）では、現実に起きる様々な問題に対処しきれないという問題のことです。科学者のジョン・マッカーシーとパトリック・ヘイズによって提唱されました。
人間が問題に対処する場合、経験からある程度の選択肢を除外して最適だと考えられる方法を取ります。AIは現実的には考えられるが人間には考えもしないような可能性を考慮してプロセスを組み立てようとします。しかし、処理すべき要素は無限にあり、AIの計算速度が高速であっても処理できずに正常に機能しなくなることがありえます。
通常はAIが無限に計算を行わないように事前にフレーム（指定した条件下でAIやコンピュータが思考するための枠組み）を作成することで制限をするのですが、複数制作したフレームのどれを使うかを決める過程でも計算が無数に存在することになる点が課題です。
人間では通常は考えない要素、考える必要のない要素まで考慮して計算しようとすることで正常に機能しなくなることをフレーム問題といいかえることもできます。
フレーム問題の解決が難しい理由
フレーム問題の解決が難しい理由として次の2つが挙げられます。
- 情報量多さと選別の難しさ
- 状況変化による予測の難しさ
人間には検討事項に挙がらないことであっても、AIの立場では考慮すべき要素は無数にあります。無数の情報の中から判断すべき要素を選び判断することは、一般に非常に困難です。
一例として、人間にとって歩くという動作は非常に簡単なことですが、コンピュータが歩く場合には右足からなのか、左足からなのか、進行方向に何があるか、周囲の状況はどうなっているかなどを全て判断することになります。進行方向に物があれば迂回することを検討しますが、小石があったり、草が生えていた場合に迂回しているようでは目的地に最短でたどり着くことはできなくなります。このような取捨選択を瞬時に判断する必要があり、状況変化が起きたときの予測を難しくしています。
そのため、フレーム問題を解決するためには人間の曖昧さが重要であるといわれています。コンピュータにも人間のように過去の経験や思考の選択肢を実装することで、一定の条件では無視してよい情報を設定し、最適解を出すための動作をどのように実装するかがフレーム問題解決の糸口です。与える選択肢が少なすぎると最適解は出せませんが、選択肢が広すぎることで計算量が膨れ上がってしまい動作停止の原因になります。
人間もフレーム問題を解決していない
フレーム問題を解決するためには人間の曖昧さが重要ではありますが、人間には曖昧さがあるからフレーム問題が起こらないというわけではありません。人間にもフレーム問題が解決できていない例として、次のものがあります。
人間にもフレーム問題が解決できない例として,家庭用電化製品としてかなり普及した電子レンジの話を取り上げよう.アメリカである主婦が雨でびしょ濡れになった飼い猫を乾かそうとして電子レンジに入れてしまうという事件が起きた.当然その猫は死んでしまったが,その主婦は電子レンジの説明書に「生き物を入れてはいけない」とは書いてなかったとして製造会社を相手取って損害賠償の訴えを起こした.そして主婦はその裁判に勝訴し,電子レンジの使用説明書に「生き物を入れてはいけない」という一文が加えられた。
暗黙知におけるフレーム問題（松原仁）
緊急時の対応や複雑な状況ではフレーム問題が起きる可能性は高くなります。人間だから誤った行動をしない、とはいえません。しかし、人間の場合には時間を考慮せずに延々と思考を続けるということは起きないため、疑似的にフレーム問題を解決しているといえます。
フレーム問題を扱う例題
ルート最適化
目的地まで移動する際のルート最適化を考えたとき、人間の場合は現在地から目的地に向かって移動するルートを最初に考えます。AIの場合は情報を網羅的に検討する性質があるため、最短ルートだけではなく、遠回りになるルートや反対方向へ移動するルートも検討します。これは距離、混雑状況、信号の有無、時間帯、曜日、天気など人間が考えない可能性まで網羅するためですが、状況によってはそもそも検討する必要がないものもあります。移動に考えられるルートは非常に多いため、膨大な計算量が必要になり、現実的な時間内で処理できないということが考えられます。
電話帳
ジョン・マッカーシーとパトリック・ヘイズが提唱したフレーム問題に電話帳というものがあります。電話帳を使って電話をかけるとき、人間の場合は電話帳を開いて対象者を見つけたら電話をかけます。一方、AIの場合は「電話帳で番号を見つけたとしても、その時点で電話を持っているかどうか」というような当たり前のことまで計算することがあります。
そのため、単純な処理にも膨大な計算が必要になってしまい、スムーズな動作が難しくなります。電話を掛ける相手が増えると計算量も増大するので、処理能力に上限があるAIは機能を停止することになります。
h3:爆弾とロボット
ダニエル・デネットからは爆弾とロボットというフレーム問題が提唱されています。ここでは時限爆弾が仕掛けられた洞窟からバッテリーを運び出すまでの思考について述べられています。
時限爆弾が設置された洞窟内にロボットのバッテリーが格納されており、爆発によりバッテリーが破壊されることを防ぐため、ロボットに洞窟からバッテリーを運び出すという命令を出します。ロボットはバッテリーを運び出したものの、爆弾はバッテリーの上に仕掛けられていたため爆発してしまったというものです。このケースでは「バッテリーを運ぶ」ことが重視され、バッテリーを爆発から避けるということが考慮されておりません。
そこで、バッテリーを運び出す際に起こる副次的要素を計算するロボットを向かわせたところ、検討事項が多すぎて思考停止し、洞窟内で爆発が起きてしまいました。
フレーム問題の具体例
自動運転
自動運転の実用化には複雑な条件の中で膨大な計算量をリアルタイムで処理する必要があります。道路状況、周辺状況、歩行者の動き、周辺車両、信号の状態、障害物の有無など情報量が多く、歩行者の動きが予測しづらいため、安全性を担保するために減速する、停止する、ルートを変えるなどを瞬時に判断しなければなりません。
2023年5月に福井県永平寺町で運転手が不要になる日本初のレベル4による無人での自動運転移動サービスを開始しました。速度制限を設け、遠隔監視や専用道路を走るなどの制限がかけられましたが、自転車との接触事故が起きています。幸いけが人は出ませんでしたが、今後の課題として検討されています。
参考：永平寺町でレベル4の自動運転が実現、「その次」はどうなる？（日経BP 総合研究所）
遠隔診療での判断
診断支援システムでは、AIが患者の症状や検査結果を分析し、適切な診断や治療法を医師に提案する役割があります。最終的な診察は医師により行われますが、医療データは膨大であり、複雑なデータ全てを正確に処理することは簡単なことではありません。どのデータが重要であり、どのデータを無視してもよいかを迅速に判断するには高度な情報選別能力が必要です。診断以外にも手術や介護を支援するロボットが情報の取捨選択を行い、適切な動作を行わなければなりません。
フレーム問題の解決案
現在のAIは弱いAIとして知られていますが、将来的には強いAIへと進化し、フレーム問題の解決に寄与する可能性が高いと考えられています。しかし、現時点では強いAIを実現するための具体的な方法は確立されていません。そのため、次のようなアプローチはフレーム問題を解決し、AIの進化に大きく貢献する可能性を秘めています。
重要度と優先順位を明確にする
AIに情報の重要度と優先順位を明確に指示することでフレーム問題は解決できると考えられています。フレーム問題の課題は選択肢が無限にあるために計算量が膨大になってしまうことです。そのため、AIの思考法に優先順位をつけ、最適解を出すためには不要な情報を除外する命令を出すことで重要度の低い思考を避けることができます。結果、限られた計算で処理することができるようになることが想定されます。
強化学習とアンサンブル学習を組み合わせる
強化学習とはコンピュータが繰り返し試行錯誤を繰り返すことでタスクを実行できるようになる手法のことであり、アンサンブル学習とは複数のAIモデルが算出した解の平均値を選択する手法のことです。強化学習とアンサンブル学習を組み合わせることで人間の持つ過去の経験から選択肢を絞るという行動を模倣し、より人間らしい行動に近づけることができます。
知識ベースを拡充させる
AIの持つ知識ベースを拡充させることでフレーム問題に対処できるといわれています。より多くの事例やパターン、ルールを学習することで、AIはより正確に選別する能力を向上させることができます。十分な学習をすることでAIの精度を高めるというのはフレーム問題に限らず、AIを強化するために行われる一般的な手法です。
AIが抱える問題点
フレーム問題に限らず、AI全般において指摘される課題としては次のようなものがあります。
- 学習に必要なデータが膨大
- ブラックボックス化と責任問題
- 破局的忘却
AIが正確な答えを導くためには膨大なデータが必要であり、データが不足すると適切なモデルを作成することが難しくなります。AIのブラックボックス問題により、特に医療や自動運転などの分野で事故が発生した際に、その原因を究明することが困難になり、責任の所在が不明確になるリスクがあります。また、ディープラーニングには破局的忘却という欠点があり、既存の知識を維持しつつ新しい情報を学習させるためには特別な工夫が必要です。
学習に必要なデータが膨大
AIが正確な答えを導くためには膨大なデータが必要であり、特にディープラーニングではデータの量が重要です。データが不足していると適切なAIモデルを作成することが難しく、現場での活用が困難になります。
ブラックボックス化と責任問題
AIのブラックボックス問題とは、AIがどのようにして特定の答えに到達したかが分からない状況を指します。これは、特に医療や自動運転のように人命に関わる分野で重大な懸念となります。AIの判断プロセスが不明なため、事故などが発生した際に原因を特定し改善することが難しく、同じ問題が繰り返されるリスクが生じます。
AIが普及することで医療や自動運転などの分野で人命に関わる事故が起きた場合、事故の原因を究明しようとしてもブラックボックス化により原因不明となり、事故の責任の所在が不明確になることが考えられます。
破局的忘却
AIの代表的な学習方法であるディープラーニングには破局的忘却と呼ばれる欠点があります。これは既に学習済みのモデルに新しい要素を学習させようとすると、既存の学習内容を忘れてしまうというものです。つまり、AIは最後に学習したものしか保持できないという特徴があります。破局的忘却を防ぐためには学習させたい内容を同時に進めたり、既に学習した内容をパターンとして記憶させたりするなどの工夫が必要です。
まとめ
フレーム問題はAIが現実の複雑な状況において適切な判断を下す際に直面する課題です。この問題の解決には情報の取捨選択や優先順位の明確化が必要ですが、AIの計算能力には限界があり、膨大な選択肢により正常に機能しないリスクが生じます。また、強化学習やアンサンブル学習、知識ベースの拡充などの手法が提案されていますが、根本的な解決には至っていません。今後、AIが進化することで、この問題の解決が期待されますが、現段階では未解決の課題が多く残されています。
