AIの研究が盛んな昨今。極めて部分的な能力ではありますがAI技術はすでに私たちの生活に馴染みつつありますね。
AIとは直訳で「人工知能」のこと。AIなんて使ったことないよと思われるかもしれませんが、スマホの音声アシスタントやGoogleの検索エンジンなどにもAIによる学習システムがすでに用いられています。
しかしながら私たちが普段使っているような”AI”と言われる技術は本来的な意味での「人工知能」ではありません。
私たちが日常的に使うことのできるAI機能は本質的には知能を持たず、そのため「人工無脳」と言われたりもします。”無脳”とはまた失礼な物言いですが、知性を持つ”脳”との対比表現なので「何もできないダメなやつ」という意味での”無能”はありません。
これらAI搭載機器が”知能”ではないのになぜAI（人工知能）と言われるのかというと、AI研究における学習システムを利用しているという点で広い意味で「AI」という言葉が使われているのです。
では、本質的な意味でAIは知能を持つことができるのでしょうか。
今回はそんなAI研究における最大の壁「フレーム問題」を紹介しながらロボットが現実世界を認識することは可能かついて取り上げます。
目次
・閉じた世界の局所的AI
・開けた世界の「フレーム問題」
・バッテリーを取りに行くロボットの話
・人間が抱えるフレーム問題
・自動運転AIは世界を認識しているか
・【帰納による学習】ディープラーニング
・ロボットは世界を認識できるのか
閉じた世界の局所的AI
昨今話題の「将棋AI」などをはじめとしたゲームの中のAIたち。
2017年に将棋AIとして有名な「PONANZA（ポナンザ）」がプロ棋士との対局で勝利したこと、そして近年では藤井聡太さんが将棋AIとの対局でその実力を伸ばして行ったという話をよく見聞きします。
プロ棋士でさえ負けてしまうほどの実力がある「将棋AI」に趣味程度の将棋指しが勝てるはずもありません。
このような「最強の将棋AI」は知性や知能を持っているのでしょうか。
残念ながら持っていません。
将棋AIなどの人工知能も文頭で述べたような「人工無脳」の一種です。
ゲームの中で活躍するAIたちはそのゲームのルールの中、つまり「閉じた世界」でしか活躍することができません。将棋AIに朝食を頼んでもパンを焼いてはくれませんし、暇な時の遊び相手になってはくれても将棋相手にしかなってくれません。
「将棋AI」はゲームのルールという「閉じた世界」のことは全て把握していますが、無限のルールが存在する開けた現実世界に対して極めて局所的で有限の世界です。
現行のAIはこの「閉じた世界」においては人間を凌駕するほどの”能力”を持っていますが、汎用的な知性としての性質はありません。
では、その驚異的な能力をもっと開けた世界である現実世界で発揮してもらおうではありませんか。
将棋AIの例で言えば将棋のルールをプログラムすること同じように、現実世界のあらゆる物理法則（ルール）をプログラムすることができれば人智を超える驚異のAIが誕生するかもしれません。
ここで大きな壁となるのが今回の話の中心である「フレーム問題」というもの。
もちろん物理法則の計算式だけであればロボットにプログラムして実行させることは可能ですが、この宇宙を含む開けた世界において”将棋の駒”は分子レベルでほぼ無限とも言える量の”駒”があり、それらの位置や運動を観測し記録し予測させることは現在の科学では不可能です。
そもそもそれができるのであれば天気予報が外れてずぶ濡れになることなんてありません。
そんな無理難題をAI開発のプログラマーに押し付けるよりも、AIが自立して現実世界の開けたルールを学習することができれば良いではないですか。
昨今話題のディープラーニング（深層学習）はまさにそう言った学習方法を用いていて、人間側が逐一全てのルールをプログラムせずとも一定のルール（法則）を自ら見つけ出して行きます。
さてはて、ディープラーニングの登場で本質的な意味での人工知能に期待を持てたところでやっと本題に行きましょう。
開けた世界の「フレーム問題」
「フレーム問題」とは端的に言えば情報処理能力が有限であるロボット（AI）は現実世界（開けた世界）で起こりうる全ての問題を対処しながら行動することができないという指摘です。
この「フレーム問題」は人工知能研究の第一人者であるジョン・マッカーシーとパトリック・ヘイズの論文「人工知能の観点からのいくつかの哲学的問題（原題：SOME PHILOSOPHICAL PROBLEMS FROM THE STANDPOINT OF ARTIFICIAL INTELLIGENCE）」にて指摘されました。
この論文の大筋としてはAIに知能を持たせるには現実世界の構造とその変化の法則をAIに情報として与えなくてはならず、逆説的に言えば「現実世界の構造を全て記述することなんて無理でしょ」という指摘と同時に、では、だからこそ、どのように記述すれば良いのかを考えていきます。
論文の後半では「意味論」であるとか「様相論理」であるとかを端的に定義した知性の「公理」を導き出す難しさに触れ、認識論的な哲学的問題へと発展していきます。
この論文を読み解くのはなかなかに骨が折れる上、簡潔に紹介するのも私には難しいので気になる方はぜひweb上で公開されている以下の論文を読んでみてください。
全文英語ですがブラウザの翻訳機能で日本語化すれば特に問題なく読めます。
SOME PHILOSOPHICAL PROBLEMS FROM THE STANDPOINT OF ARTIFICIAL INTELLIGENCE
（人工知能の観点からのいくつかの哲学的問題,1969年）
とまぁ、ほんと一般人である私にはとてつもなく難しい（っていうか読みにくい）内容です。
そんな「フレーム問題」をわかりやすく説明してくれたのが次に紹介する哲学者ダニエル・デネットによる例え話です。
バッテリーを取りに行くロボットの話
「フレーム問題」が抱える諸々の問題を全て理解するのは非常に苦労します。そこで、ダニエル・デネットが「フレーム問題」が持つ部分的な問題点だけを抽出して簡潔に説明してくれました。
ダニエル・デネットの「コグニティブ・ホイール：AIのフレーム問題」という論文から要約して紹介します。
あるところに科学者とロボットが住んでいました。
ロボットの名前はR1です。
R1の仕事は”自活すること”であり、自分のことは自分でしなさいという行動規範に則って動いています。
R1はバッテリーで動いており、バッテリーの取り替えはいわば食事です。バッテリーが切れる前に新しいバッテリーを取りに行かねばなりません。
科学者にバッテリーの場所を尋ねると「倉庫に入っている。ただし、倉庫には時限爆弾も置いてあるからね。」と言われました。
R1は倉庫の中で都合よく台車の上に置かれたバッテリーを見つけることができました。しかし、ひとつ問題が。その台車にはあの時限爆弾も一緒に乗っていたのです。
この台車をそのまま引き出せばバッテリーを持ち出すことができると考えたR1は台車の上に時限爆弾が乗っていることを知っていながら、時限爆弾ごとバッテリーの乗った台車を運び出し……。
運搬途中で爆発してしまうのでした。
これではいけない、と科学者はR1のないが問題だったのかを考えます。
「R1は自分の目的行動の帰結が自分の意図しない副産物も生むと認識できていなかった。周囲の状況（時限爆弾があること）は認識できていたはずだから、それら周囲の状況が行動によってどのような副産物を生み出すか（副産物の帰結）も考えさせれば良いだろう。」
科学者は次世代型のR1-D1を開発します。
R1-D1も初期型と同じく、時限爆弾入りの倉庫にバッテリーを取りに行かされます。状況は以前と同じ、台車の上にバッテリーと時限爆弾が置いてあります。
R1-D1は考えます。
まずは目的の帰結からだ。
台車を動かせばバッテリーを取り出すことができるだろう。
では次に副産物の帰結だ。
台車を動かせば時限爆弾も一緒についてくるだろう。
台車を動かしても壁の色は変わらないだろう。
台車を動かせば車輪が回るだろう。
台車を動かすと車輪が床と接することでゴロゴロと音を立てるだろう。
台車を動かしたことで……
…………
R1-D1が副産物の帰結について思考を巡らしているその時、時限爆弾は爆発してしまいました。
科学者は再び問題点を考えます。
R1-D1は”関係のある帰結”と”関係のない帰結”を区別できていなかった。次の世代のロボットには”関係のない帰結”は無視することをプログラムしなければならない。
次々世代機R1-D2が開発されました。R1-D2にも同じ課題を与え、倉庫にバッテリーを取りに行かせます。
……………………
……………………………
……………………………………
倉庫の前にたどり着いたR1-D2は……動こうとしません。科学者はR1-D2に問ます。
何をやっているんだ。早くバッテリーを取ってきなさい。
するとR1-D2が答えます。
今、無関係な帰結を全て探し出してそれを無視することに忙しい。あれは関係のない帰結だ……これも関係のない帰結だ……それも関係のない帰結のリストに加えなければ……
かくして時限爆弾はまたもや爆発してしまうのでした。
何だか落語のようなお話ですね。
ちなみにロボットの名前は某SF映画とは関係なくデネットの論文にもこの名前でロボットが出てきます。デネットの論文は1969年、スターウォーズの公開は1977年です。
科学者とロボットが直面したこのような不毛な帰結問題こそが「フレーム問題」であり、つまり知能が持つ認識論の問題なのです。
人間の直感として”無視すべきものを無視する”というのは簡単なように思えますが、その”無視すべきもの”ということ自体を認識論的にどのように扱っているのかが全くわからないのです。
ロボットに何を無視させるかを定義するにあたり「これは無視しても良い」「あれも無視しても良い」とひとつひとつ教えることは非常に困難です。そのためどのような状況にも適応可能な「無視をして良い事柄の公理（※1）」を教えなくてはいけません。
このような現実世界で起こる諸々の事象の枠組みを「フレーム公理」と呼び、それが解決できないために「フレーム問題」と言われます。
（※1）「公理」とはひとつの命題を導き出すための最も基本的な「仮定」や「前提」のこと。
今あなたがこのブログ記事を読みながら周囲の出来事を無視できているその状態を端的に定義できるでしょうか。
あなた自身は今いる場所でのTPOをわきまえて行動をしているとは思いますが、電車の中で誰かが鼻を啜ったり、誰かが背中をポリポリ掻いたり、部屋の中なら外から聞こえる救急車のサイレンや冷めていくコーヒーについて常に気を配りながらこの記事を読んでいるでしょうか。
確かに周囲の状況が気になることはありますが、自分の行動を直ちにやめさせるような出来事（例えば電車が急停止したり、救急車が家の目の前で止まったり）がない限りは無意識に周囲の状況を無視できているはずです。
それはなぜなのでしょう。
この「フレーム問題」におけるロボットの比喩の話は結構有名ですが、論文自体を読んだことがある人は少ないかもしれません。ダニエル・デネットの論文「コグニティブ・ホイール：AIのフレーム問題」はほとんど日本語訳されていなそうですが、青土社から出版されている「現代思想 vol.15-5 機械じかけの心 」にて信原幸弘氏のによる翻訳を読むことができます。
人間が抱えるフレーム問題
無視しても良いことを無視できる。これは普段私たちが感じている以上に難しいことです。
ロボットには無視できていないことを人間は無視できているというのではありません。
根本的な問題として人間もまた「フレーム問題」を抱えています。
それは人間をはじめとする動物の”不注意”です。
知能・知性を持つ動物が「フレーム問題」を解決できているのなら”不注意”は起こりえません。
ペン立てからボールペンを取るときに服の袖がマグカップに引っかかってしまいコーヒーをこぼしたり（私がよくやる）。段差があるのがわかっているのに躓いてしまったり（私がよくやる）。
周囲の状況が”見えていても”そうしたミスや不注意をした経験は誰にでもあるものです。つまり、無視すべきでない事柄を無視してしまっているという意味で「フレーム問題」を起こしています。
なぜ「フレーム問題」を抱えているはずの私たちがR1-D2のように思考の渦に巻き込まれて脱出できないような不毛な思慮に惑わされないのでしょうか。
なぜ人間はフレーム問題を無視できるのか
この疑問にはまだ誰も答えられません。もちろん多くの科学者や哲学者が多くの仮説を立てそれぞれの学問で様々な答えを導き出そうとしていますが、明確にこれと言った答えはまだわかっていません。
「『無関係な事柄を完全に無視することはできない』ということを擬似的に無視できている」という認識の曖昧さこそ知性の根幹なのかもしれないと思ったりするのですが、その”曖昧さ”をはっちりさせようやというのが科学や哲学であったりもするのですよね……。難儀なことだ。
自動運転AIは世界を認識しているか
そもそもの話として「認識とは何か」という問題もあるのですが、今回のところはその話は脇に置いておいて、「フレーム問題」を擬似的にでも解決して開けた世界を自由に闊歩できるのかという点に焦点を絞りたいと思います。
R1-D2の超次世代機R2-D2が開発されて、某SF映画のように自由に動き回ることができるとしたら……。
生物である虫たちの感情や感覚は私たち人間には分かりませんが、少なくとも自立して状況把握し目的のために行動することにおいて虫は世界を認識していると多くの人は捉えます。
同じように、R2-D2に感情や感覚があるのか否かは別にして、どのような場所のどのような状況下でも自立して状況把握し目的のために行動することができたなら、それは世界を認識できていると言って差し支えないでしょう。
このような技術は実現可能なのでしょうか。
自動車の完全な自動運転システムは一見自立して状況把握しているようにも思えますが、道路標識や交通規則などのルールが予めプログラムされており、構造としては閉じた世界の「将棋AI」とほぼ同じものです。
ただし、自動運転AIはゲームではなく現実世界の社会構造の中で存在するため急な道路工事や事故による道路規制などが発生した時にどのように対処するかや「トロッコ問題」をはじめとした倫理的な問題までをも含む非常に複雑な問題に直面することもあります。
将棋AIの閉じた世界に対すれば比較的大きく開けた世界に身を置く自動運転AIは将棋AIに比べれば世界に対する認識能力は高いと言えるのかもしれません。
それでもやはり世界を認識しているかという点では程遠く、自動運転AIをそのまま人型ロボットに載せても倉庫からバッテリーを取ってくるのは困難でしょう。
先述の通り、本質的な人工知能には汎用性が求められるため自動車だろうが人型だろうが道路だろうが家の中だろうがその状況を自由に行動できる程度には把握できなくてはいけません。
たとえ家の中と道路が区別できたとしても、自動車のまま家の中に突っ込んできてもらっては困るので、ロボットにとっては自分の身体という概念すらも必要となるのかもしれません。これは体をひとつしか持たない人間にとってなかなか”教えづらい”感覚ですね……。
【帰納による学習】ディープラーニング
ロボットと生物の対比において、感情や感覚の有無（ひいてはクオリア問題）が取り沙汰されることが多いですが、それ以前の問題として物理的な現実世界を自由に動き回り様々な課題や命令をこなすことすらとても難しいのです。
ロボット掃除機や簡単なお手伝いロボットはすでに一般商品化され、ある種どのような環境（どのような部屋）でも隅々まで掃除をしてくれたり新聞を取ってきてくれたり、片付けまでしてくれたりします。
このようないわゆる家政婦ロボットの認識能力は凄まじく高いものだと見えますが、今後もっと汎用性のあるロボットを作るためにはやはりそこに「フレーム問題」が立ちはだかります。
ただし、フレーム問題を擬似的に無視する能力がロボットに備われば話は別です。
「『無関係な事柄を完全に無視することはできない』ということを擬似的に無視できている」という認識の曖昧さこそ知性の根幹なのかもしれないという話をしましたが、この認識の曖昧さがディープラーニング（深層学習）における帰納による認識能力によって現実のものになってきたとも捉えられます。
デネットの例で出てくるR1ロボットでは、猫を猫としてロボットに認識させるためには猫の特徴を人間が「耳はこんなで、目はこんなで……」といちいちプログラムしてやらねばならずこれは演繹的な手法であったのですが
ディープラーニングでは、ロボット側が大量の情報からその情報が持つ”特徴量”と言う非常に曖昧な概念的特徴を抽出することによって帰納法的に”猫”の概念を”学習”します。
そこで学習される情報は人間の目から見て非常に曖昧で断片的な特徴情報で、それこそ「耳はこんなで……」なんて風には記述されていません。
ディープラーニングにおける学習方法と”特徴量”について詳しくは
【ニューラルネットーワーク】と言う記事と【ミームネットワークのノード】と言う記事で詳しく触れていますので具体例などはそちらでご参照ください。
ディープラーニングが持つ認識能力の曖昧に見える概念的な像は「フレーム問題」が課題としてきた論理的な演繹によるプログラムではなく、帰納による学習システムであることで得られます。
もしもデネット式のR1ロボットがディープラーニング（深層学習）を取り入れることができれば数万世代後には難なく倉庫からバッテリーだけを取り出すことができるようになるでしょう。
つまり「こうすれば成功する（演繹）」と教えるのではなく、実際にやらせて「失敗から学ばせる（帰納）」のです。
人間をはじめとする生物は先天的に空間や時間に対する認知能力を持っているのかと言う哲学的ないし心理学的な諸問題もあるのですが、少なくとも人間は生まれてから十数年かけて様々な経験から帰納法的に多くを学びます。
ディープラーニングはまさにそのような経験による学習方法なので生物で言うところの体に値する外的環境の感覚入力機器と脳に値する思考回路を”適切に”設計することができれば理論上は可能であるように考えられます。
ロボットは世界を認識できるのか
ロボットが世界を認識することは可能か不可能かで言えば、不可能ではないのでしょう。
ただ今現時点での科学技術ではまだまだ難しい問題であるのは確かです。
森羅万象を学習するためのロボットにはどのような入力機器が適切で、どのような回路で処理させることが最適なのかはまだまだ全然分かりません。
それでも昨今の人工知能の研究を素人ながらに眺めている者としては結構大きな光明が差し込んでいるとは感じます。
あくまでもクオリア問題を排除した視点ですが、「フレーム問題」を無視できる程度にまで汎用性のある人工知能と言う点ではSF映画に出てくるような汎用人型ロボ（人型でなくてもいいけど）は結構近い将来に一家に一台とか居そうだなぁと私は感じています。
数十年前の人々がスマホを持つ未来を誰も予測していなかったように、一家に一台汎用お手伝いロボットがいるなんてのも全然あり得る話でしょう。