西垣通 (2016) 『ビッグデータと人工知能』 中公新書

この記事は学部1年生向けの授業（「英語教師のためのコンピュータ入門」）の資料の一つとして作成しました。

西垣通先生はまさに文理統合の識者で、私にとっても、ルーマンをきちんと読むことの必要性を感じさせていただいた先生（といっても読書を通じての一方的な関係です）ですので、西垣先生の著作はできるだけ読むようにしています。

今回の『ビッグデータと人工知能』も、時期に適った出版でありながら、単に現在の流れを報告するだけでなく、いくつかの本質的な問題を示しているように思えます。

ここでは私なりに重要と感じた論点を簡単にまとめます。ただ、そのまとめを理解するための最低限の前提として、人工知能の歴史をごく簡単におさえておきます。

人工知能の第一次ブームは1950年代後半に生じました。キーワードは「論理」 (logic) で、機械にルール・アルゴリズムを与え、それを基に高速論理処理させることによってオセロのような簡単なゲームを行うといったものでした (p.58)　。

しかし「論理」だけでは、人工知能がそもそも目指していた "General Problem Solver" （ざっくりと言うなら、汎用型人工知能と同じ） とは程遠いところにあります。その理想を目指すための動きが高まったのが1980年代の第二次人工知能ブームです。この時のキーワードは「知識」 (knowledge) で、コンピュータに人間の獲得した知識を溜め込ませて「論理プラス知識」で知性を実現させようとしました（この動きは「知識工学」 (knowledge engineering) や「エキスパート・システム」(expert system)  といった概念でも説明できます）。(p.60)

しかしまだ人工知能は人間の知性に近づきませんでした。そもそも「人間の知識の大半は、たとえ表面上は論理的な命題のような形式で記述されていても、絶対的な正確さをもっているわけではない」 (p.62)　からです。ですから、「曖昧さの残る知識にもとづいてコンピュータで厳密な演繹推論をしても、結論は不確かになってしまう」 (p.62)  ことは十分に考えられます。

そこで第二次人工ブームも停滞期を迎えますが、やがて2010年代半ばから第三次人工知能ブームが生じます。その要因の一つは、コンピュータの性能向上で「ビッグデータ」が扱えるようになったことです。ビッグデータの特徴は、データを「質より量」でとにかくかたっぱしからすべて集めて分析し （「全件処理」）、大まかな傾向性が判明すればいい（「因果から相関へ」）の三つですが (p.73)、このようにビッグデータを活用する方法は、そもそも曖昧な人間の知識を扱うには適しているとも考えられます。

さらにビッグデータに基いてコンピュータに「ディープラーニング・深層学習」をさせれば、人工知能は人間の知性に近づきやがてはそれを超えるのではないか(参考：「シンギュラリティ」）というのが、現在の第三次人工知能ブームでしばしば言われていることです。

こういった前提を踏まえて、以下、西垣先生が提示した論点で、言語教育にも関連があると思われる点を私なりにまとめてみます。



■　汎用人工知能　（強い人工知能）は人間の概念を獲得できない？

西垣先生は、ディープラーニング（深層学習）によって、人工知能が人間の概念を獲得できるとするのは楽天的すぎるのではないかと考えておられます。

もちろん現在、人工知能はディープラーニングなどで概念の獲得をしていますが、西垣先生が指摘するのは、その概念は、「人間社会で通用する概念とぴったり一致するとは限らない」 (p.86) ということです。なぜなら機械は人間のように「意味」を理解しているのではなく、ビッグデータを -- まさに「機械的」に -- 処理しているだけだからです。人間の意味や知能は、「生きる」という価値軸にそって行われています（p.148）。人間が「生きる」というということは、人間の身体に基づいた活動ですから、人間の身体をもたない機械（コンピュータ）は、人間からすれば奇妙なパターン分類（概念獲得）をしてしまうかもしれません。 (p.86)。

そもそもさまざまなSF作品で、機械の理解と人間の理解が異なるというエピソードはいろいろと描かれているかと思います。そうなると、人間が身体を有しているという身体性、さらにその身体から生じる情感性（情動と感情）、ひいてはその情感性に基づく（人間の）意味について理解しておくことが、今後のコンピュータの進化に伴いますます重要になると思われます。



■　人間にとっての言語と機械にとっての「言語」の違い

身体性・情感性・意味を理解することが重要といいますのは、現在、英語教育にせよ、その成果がコンピュータに処理できる形（典型的にはマークシート方式）で評価・判定・決定されたり、学習そのものもコンピュータによって支援できる形でなされる傾向が強くなることが予測されるからです。しばしば人間は道具を使いこなしているように見えて、実は機械に飼いならされてしまい思考行動様式を変えているものだと私は考えています（例、車に慣れてしまい、運動不足のまま残業して健康を損ねてでも車のローンを払おうとする。コピーに慣れてしまい、熟読玩味する習慣をなくしてしまう。スマホ画面の操作性に慣れてしまい、紙の本で提供される長い文章を疎んじてしまうようになる、など。）

もちろん私は（英語）教育におけるコンピュータ利用に反対しているわけではありません（そもそもこのブログ自体、コンピュータ抜きには不可能です）。私が言いたいのは、人間とコンピュータの違いをきちんと理解していないと、ますます普及するコンピュータという道具・媒体により私たち自体が変化を受け、どんどんと機械化する一方で　（チャップリンはかつて "machine men" を批判しました）、失うべきではない人間性を失ってしまうかもしれないからです。そして（英語）が、その非人間化のお先棒を担ぐことになりかねないからです。

西垣先生のまとめ (pp.124-126) に従うなら、人間の言語では、意味がコミュニケーションによって多義的・多次元的にふくらんでゆきます。「椅子」ということばでも、人間はそれを切り株に対して使ったり（山登りの途中の「ああ、ここにいい椅子があった」といった発言など）、比喩的に使ったりします（「彼は社長の椅子をねらっている」という発言など）。「比喩的にイメージを重ね、ふくらませていく詩的作用が、人間の言語コミュニケーションの最大の特色に他ならない」(pp.124-125) と西垣先生は総括します。この人間の言語使用は、「コンピュータにさまざまな画像を見せて、その共通特徴を抽出する深層学習とは逆の作用」 (p.124) です。別の言い方をすれば、「人間が比喩によって言語記号の意味解釈を動的に広げていく傾向をもつのに対し、人工知能は逆に意味解釈の幅をせばめ固定しようとする」 (p.125) わけです。

しかしマークシート方式といった教育測定は、そういった意味の広がりを嫌います。正解は、いくつかの選択肢の中の一つとして定められなければならないからです。比喩をマークシート方式で問うにせよ、せいぜいそれは典型的な正解とされる比喩的意味を特定することぐらいにしか使われません。比喩から連想的に広がるコミュニケーションの力は、（少なくとも現在のところは）機械では評価できません。

しかし、それにもかかわらず、多くの人々はコンピュータ採点のテストを「客観的」な英語力として信じて疑いません。英語教育の成果は、その「客観的」な（しかし実は極めて限定的な）力によって測定されるべきだと考え、実際、その数値によって多くのことを決定してゆこうという傾向は強まっています（ハーバマスにしたがって、「流通するあまり、人々がそれに対して何の疑念も抱かなくなってしまった思考法」をイデオロギーと呼ぶならば、「客観的数値は現実を十全に表現している」というのは現代のイデオロギーでしょう）。

このように考えてゆくと、現代は、言語教育が、言語テストの一形態にすぎない「客観式テスト」という道具によって、その本質を歪められている状態であり、その傾向はコンピュータ・人工知能の今後の普及に伴いますます強くなっていくことが考えられます。言語教育を考える人間の一人としては懸念を覚えざるをえません。



■　機械と生物の違い

西垣先生が「本書をつらぬく基調テーマ」 (p.105) として掲げておられるのが生物と機械の違いです。「えっ、なぜそんなことが大切なの？」とお思いの方も多いかもしれませんが、しばし共に考えましょう。こういった根源的理解により、プログラミングで機械に学習することと人間という生物が自ら学習することの違いが明らかになり、前者の学習観で後者の学習を設計しようとする現代の傾向の危険性が明らかになるからです。

そもそもコンピュータとはプログラム、すなわち「前もって (pro) 書く (gram)」ことによって作成された指示によってのみ動くものです (p.106)。その意味で、コンピュータとは「純粋に「過去」に囚われた存在」 (p.106) だと西垣先生は指摘します。コンピュータが高速計算をしているのは、プログラムが書かれた過去のある時点で想定されていた論理空間の中でのことであり、コンピュータは時々刻々と思考する論理空間を自ら書き換えているわけではありません。

それに対して人間をはじめとした生物は、もちろん過去の経験を踏まえて行動しますが、基本的には「現在」の時点で判断して生きています (p.106)。とりわけ人間は、自ら思考する論理空間を書き換えることもできます。（例「これまではこの観点ばかりから考えてきたが、今からはこの新たな観点からも同時に考えてゆこう。）例えば将棋や囲碁といった限定された論理空間での計算の速さに関して、人間は人工知能に勝てませんが、人間の現実世界での生活あるいは人生の論理空間は限定されていません。

機械と生物の違いについて西垣先生は次のようにまとめています。

コンピュータにかぎらず、一般に機械とは再現性にもとづく静的な存在である。（中略）　これに対して、生物とは、流れ行く時間のなかで状況に対処しつつ、たえず自分を変えながら生きる動的な存在である。（中略）　あらかじめ設計されたルールに基いて作動を繰り返す空間的な存在が機械だとすれば、一回性のある出来事を重ねていく時間的存在が生物というものなのである。 (pp.107-108)

「空間的存在」と「時間的存在」という表現は、私にとってわかるようでわからない表現なので書き換えますと、「機械とは再現性にもとづく静的な存在であり、生物とは出来事性にもとづく動的な存在」とまとめられましょうか。（ちなみに「出来事」 (events) とは、「安定した単位 (stable units) ではなく、現れては消えるもの (vanish as soon as they appear) だとルーマンは説明しています）。

関連記事
ルーマン (1990) 「複合性と意味」のまとめ
http://yanaseyosuke.blogspot.jp/2016/05/1990.html

この機械と生物の違いは、「要素群の組み立て方や作動の仕方が生物と機械では違うのではないか」 (p.113) というシステム論の観点からもさらに明確にできると西垣先生はお考えです。

機械は、それ自身以外の存在（人間）によって設計され作成され、設計・作成されたプログラム通りに動く「他律的 (heteronomous)」システムです。それに対して、生物は「自律的 (autonomous)」システムです。(p.116)　別の言い方をすれば、機械は人間という異物（アロ）（＝自分自身以外のもの）によってつくられ、作動結果という異物（≒自分自身を変更しないもの）をつくりだす「アロポイエティック・システム」（allopoietic system) であり、生物は「自ら（オート）にもとづいて自らをつくる（ポイエーシスする）存在つまり自己循環的に作動する「オートポイエティック・システム」 (autopoietic system)です。(pp.116-117) 。

この区別は、ルーマンも使う「オートポイエーシス理論」（自己創出理論、自己生成理論） ですが、この理論は最初はわかりにくいかもしれません。そこで、直観的理解を促進するため例え話を導入します。

教育はしばしば教師が知っていることを生徒に覚えさせることだと考えられています。つまり教師が予め書いた (pro-gram) 教育内容を生徒がそのまま暗記し、生徒がそれをテストできちんと再生できたら教師は教育が成功したとする考え方です（私はこのように退屈で役に立たない「教育」に辟易していますが、まあ、それはそれとして）。

しかし、現実には、一部の情報をそのように丸暗記してしまうことはたまにはありますが、生徒は教師が言ったことをそのまま丸暗記するのではありません。生徒は自分なりに自分のことばや自分の思考枠組みにしたがって理解し、自分なりにその理解を展開します。つまり、教師のことばは生徒にとって外的な刺激にすぎず、生徒はそれを契機としますが、あくまでも生徒自身が、生徒自身のこれまでの知的能力を使ってそれを理解し、その理解を加えた新しい自分自身を作り出しているわけです。生徒は、異物（アロ）（＝自分自身以外のもの）によってつくられ、作動結果という異物（≒自分自身を変更しないもの）をつくりだす「アロポイエティック・システム」ではなく、「自ら（オート）にもとづいて自らをつくる（ポイエーシスする）存在つまり自己循環的に作動する「オートポイエティック・システム」なのです。

オートポイエーシス理論は、これからますます重要になっていくと私は思っています。学部一年生には明らかに難しすぎるでしょうが、次の論文は非常によくまとめられているので、未来の自分が自分自身とするべき異物として、自分なりに読んでみてください。

河島茂生「生命・心理領域における現実構成」『図書館情報学研究』Vol.4, pp.81-104 2008
http://www.seigakuin.jp/course/library/images/5.pdf

■　脳と心の違い

ついでながら、西垣先生は、脳と心の違いについても明確に述べていらっしゃいますので、それもここで紹介しておきます。これからの教師にとって脳科学（神経科学）は、必須の専門的教養の一つとなってゆくでしょうが、その知識だけで人間の心を理解できると誤解しないためにも次の区別を理解しておいてください。

西垣先生はこうまとめています。

「脳」とは、われわれが外側から、なるべく客観的・絶対的に分析把握するものであり、一方、「心」とは、われわれが内側から、主観的・相対的に分析把握するものだ。 (p. 111)

脳と心は、観察の仕方や視点に伴って出現するもので、それぞれのカテゴリー（範疇）は異なっています。 (p. 111) 神経学者は、ある人の「脳」の状態について外側から精密な記述をすることができます（そしてその記述は他の神経学者の記述とほぼ同じものとなるでしょう）。ですが、その当人が心で感じている内容（クオリア）は、その当人の心の内側からしか体験することができません。外的観察記述は客観的であり万人にとって理解できるものですが、クオリアはその個人の主観世界の出来事であり、他人は理解できません（もちろん、他人はそのクオリアがどのようなものかを、それぞれのクオリアの経験に基いてそれなりに推測することはできますが）。

「究極のところで、人間はお互いを完全に理解できない」というのは私たちが覚悟して受け入れるべき理（ことわり）だと私は考えます。だからこそ、私たちは全身を使って共感的に互いを理解しようとする責務を有するとも私は考えています。私のこの考え方は、（一部の人からすれば）悲観的前提に基づいた建設的な考え方だと自負しています。この考え方は「人間はお互いの完全な理解が可能だ」という（私からすれば）楽観的前提に基いて努力し挫折するという否定的結果を得られるよりも有益だと私は考えています。


と、いろいろ脱線しながらまとめましたが、よい本ですので、学部生はこういった書物を自主的にたくさん読んで下さい。仮に大学の成績表がオールAでも、自主的に本を読んだことがない人を私は個人的には信頼していません。そういう人は、「オートポイエティック・システム」というよりもむしろ「アロポイエティック・システム」に近く、そのような人は未知の課題にはうろたえるばかりだからです。学校教育の目的の一つは、卒業生が人生で、未知の課題に直面した時に、その課題専用の学校も教師もない状況でも、自ら何とか状況を打開できるように育てることだと私は考えています。




追記　1

以下は、西垣先生も関与している会議の報告です。文理統合という観点からも面白く読めます。

日本学術会議　大学教育の分野別質保証委員会
http://www.scj.go.jp/ja/member/iinkai/daigakuhosyo/daigakuhosyo.html

大学教育の分野別質保証のための教育課程編成上の参照基準 情報学分野
http://www.scj.go.jp/ja/info/kohyo/pdf/kohyo-23-h160323-2.pdf


追記　2
この本で紹介されている「記号接地問題」 (symbol grounding problem) という問いの立て方はなかなか興味深いので、ここに備忘録として付記しておきます。
https://en.wikipedia.org/wiki/Symbol_grounding_problem