2017年11月27日

曖昧さとコンピュータ

「逆説の法則」 西成 活裕  新潮新書 2017年

第一章 世界は逆説に満ちている より

フレーム問題

 「将来社会で人工知能が汎用的に使われるためには、実はまだ解決しなければならない大きな課題がいくつか残っている。その一つに「フレーム問題」といわれるものがあり、実はこれが30年前の人工頭脳ブームが失敗した原因の一つであった。これは簡単にいえば、現実をどのような枠組み(フレーム)で見るか、を決めることであり、関係があるものと無いものを切り分ける、というタスクである。これはまさに物事の目的や意味を定めることに他ならない。コンピューターは、枠組みが決まった問題を解くのは得意だが、設計仕様から外れた問題を解けるほどまだ柔軟にできていない。

 例えば、部屋を掃除しておいて、と言われたら、我々ならば普通はさっと床を掃いたり、ゴミを捨てたり、あるいは時間があれば窓をふいたり、と臨機応変に対応できるだろう。特に何をすべきで何をすべきでないか、大抵の場合はいちいち相手に伝える必要もない。しかしコンピューターはこれらをすべて指定しないとまともに動かず、下手をすると、そのまま家全体に水を撒き散らすこともありうるのだ。

 実はすべきことは通常有限であるが、してはいけないことは無限にある。例えば窓を拭くときは傷がつかないように、とか、燃えないゴミは一緒に捨てない、とか、リストを書き出すときりがない。これは、法律の中に社会でしてはいけないことをすべて記述することはできないのと同じである。そして我々は無限の可能性の中から通常すぐに目的にあった行為をすることができるが、計算機にはそれが苦手である。仮に無限の可能性をもし入力できたとしても、それを検索するのは無限の時間がかかり、行動が停止してしまうだろう。もちろん人間もクレーム問題で停止してしまうことがあるが、我々は大抵の場合、不思議とこれをクリアしているように見える。そしてその根本にあるのが、かけがえのない、有限の命である人間の、自らの身体を守る、という大きな目的であろう。

 コンピューターにはこうした身体性は存在せず、ここが機械と生物の根本的な違いであると考えられる。…」

---
人間的時間の不思議。
posted by Fukutake at 14:50| 日記