読者です 読者をやめる 読者になる 読者になる

第5回 AI(人工知能)にAI(愛)されたいですか?

宇宙人

 ピンクレディの「UFO」という大ヒット曲がある(作詞は阿久悠)。1978年のレコード大賞曲である。当時私は,中学3年生だったが,長らく,この曲について大きな勘違いをしていた。あの歌は,宇宙人と恋した地球人女性に関するSF的なストーリーだと思っていたのだ。

 当時まだ少年だった私は,アモーレ(愛)がわかっていなかった。たぶん大人はわかっていただろう。UFOという歌は,「ひょっとして,この人,宇宙人なの?」と思わせるくらい,女性の心を読み取る能力に長けた凄腕の男の歌だったのだ。そのうっとりするくらいの心地良いデートに酔いながら,「それでも,いいわ。近頃少し,地球の男にあきたところよ」と女性に言わせてしまうような男の歌なのだ。

 私の大きな勘違いについて,少し言い訳させてもらおう。私たちは,地球人のなかに,宇宙人が混じっているかもしれない,といった荒唐無稽なことを,幼いときから知らぬうちに刷り込まれている。

 かぐや姫というと,最近では大塚家具の創業者の長女(現社長)で有名で,少し前なら「神田川」を歌ったフォーク・グループとして有名だが,もとは日本最古の物語といわれている竹取物語の主人公だ。誰でも知っている話だが,実はとてもシュールだ。かぐや姫は,月からやってきた美女だった。宇宙人だ。

 ウルトラマンのどのシリーズか忘れたが,宇宙からの侵略者が地球人に化けているという話があった。宇宙人かどうかの見分け方は,影の有無だ。この番組をみた小学生の私は,一時期,他人をみたときに影があるかどうかを確認していた覚えがある。親に対してもである。「もし親が宇宙人だったら,どうしよう?」と,そのときは本気で思っていた。

 サンタクロースは,実は親であり,大人になると恋人に(恋人がいればだが)変わる*1,ということは自然と学習できる。でも宇宙人の存否については,きちんと学習しないまま大人になってしまった。 

擬人化

 人間は,人間でないものを想像力によって擬人化する術を,進化の過程で身につけたそうだ*2。古代ギリシャ神話に代表される神話の話は,擬人化の代表例だ。森羅万象に神が宿るアニミズムもそうだ。童話の世界では,擬人化はもっと自由だ。イソップ物語のように,動物たちが人間のように語り合って,私たちはそこから多くの教訓を学ぶし(「ウサギとカメ」や「アリとキリギリス」など),あるいは桃太郎のように,猿や犬やキジと会話をして,鬼退治のために団結するといった例もある。機関車トーマスのように,生物でなくても話しをする例もある。

 私たちの脳は,生物であれ,非生物であれ,人間と違うものに対しても,人間になぞらえて物語を構成することができるのだ。

 人工知能(AI)を備えたロボットを,アンドロイドとすることもまた擬人化だ。ロボットは,人間に近いものになるほど親近感を高めるそうだ。「フランケンシュタイン(Frankenstein)」に登場する怪物が,人間に愛されなかったのは,死体から作られ,継ぎ接ぎされた醜い容貌が不気味さを与えたからだ*3

 現在であれば,もっと人間らしい顔を作ることは可能だ(本連載でも登場する,大阪大学の石黒浩教授の試みを参照)。ただ皮肉なことに,それがかえって不気味さを引き起こすこともある。人間と同じような外形なのに,心が通い合わないからで,そのほうがもっと不気味なのだ。

 UFOの歌詞に登場する女性が,宇宙人であってもいいわ,と言うのは,その外観が人間だからだ(人間そのものなのだが)。イカのお化けのような宇宙人であれば,そうはいかない。

 1999年の映画『アンドリューNDR114』*4は,マーティン(Martin)家の家電製品にすぎなかったアンドリュー(Andrew)という名のロボットが,主人によって教育を施されるうちに知能が発達し,ついに人間を愛することになるという話だ。

 マーティン家の娘2人は,アンドリューに対して対照的な反応をした。長女は,アンドリューを嫌い,自宅の2階から飛び降りろと命じて,アンドリューに「瀕死の重傷」を負わせた(それ以降,アンドリューは高層階の窓際には近づかなくなる)。妹(アンドリューからリトルミス[Little Miss]と呼ばれていた)のほうは,アンドリューに好奇心をもち,親しくなっていく。新しいものに対する人間の反応は,だいたいこの2タイプだ。

 アンドリューに親しく接してくれていた妹のほうも,いつしか成人し,人間の男と結婚してしまう。やりきれないアンドリューは,人間になりたいと思うようになる。アンドリューは,その後,人間の顔を手に入れて,老いたリトルミスの前に現れる(ここで,俳優ロビン・ウイリアムス[Robin Williams]が登場)。リトルミスと瓜二つ(映画では,ともにエンベス・デイビッツ[Embeth Davidtz])の孫娘のポーシャ(Portia)は,最初はアンドリューを毛嫌いするが,徐々に惹かれていく。人間の顔をもち,また性的能力までもつようになっていたアンドリューは,結婚が決まっていたポーシャを「略奪」して一緒に暮らすようになる。

 人間の顔をして,会話(しかも機知に富んだ会話)もでき,セックスで女性を喜ばせることができるとなると,ロボットの男といえども恋愛の対象となるのだろう。もちろん,これは映画の世界だ。途中からは,ロビン・ウイリアムスは,人間を演じているだけで,どうみてもロボットだとは思えなかった(そこまでリアルな人間に近いロボットという設定なのだろうが)。

 好きになるか,嫌いになるかは,どこまで心が通うかにかかっている。人間の女性を「落とす」ことができるようなアンドロイドが登場すれば,もはや人間とロボットとの垣根はなくなるだろう。そんな時代がくれば,もちろん雇用の場にも,当然,影響してくる。たとえば接客業は,アンドロイドで十分ということになりかねない*5

傲慢な人間

 幼いころに観たテレビ番組『妖怪人間』の主人公(ベム,ベラ,ベロ)の合言葉は,「早く人間になりたい」だった*6。異形の妖怪ならば,さぞかし人間になりたいだろうと思えそうだが,妖怪の視点からすれば,人間のほうが異形かもしれない。

 人間以外の生き物が,「人間になりたいだろう」と考えるのは,人間の傲慢な発想だ。仏教の輪廻転生の考え方によると,人間の魂は死後,再びこの世に戻ってくるが,現世で悪行があれば,その報いで動物として戻ってくるという(畜生道)。これも人間を中心に据えた考え方だろう。

 牛にしてみれば,牛でいいと思っているかもしれない。馬も,猫も,犬も,そうかもしれない。人間のように平気で殺しあいをする生き物を,動物が毛嫌いしたとしてもおかしくない。人間と遺伝子が近いゴリラはとても平和的な生き物だそうだ。人間が優位に立てたのは,道具を使って,他の動物を殺戮することができたからだ。人間は,実はとても野蛮な動物だ。

 それでも,ピノッキオ(Pinocchio)のように,人間になりたいと考えてくれる人(木の人形)がいてくれるのに,人間は,自分のことを棚に上げて,人間になりたければ,それにふさわしい振る舞いをしなさい,とピノッキオに道徳教育をしたりするのだ*7

 アンドリューも,ポーシャと本当の結婚をするために,人間になりたいと思った。アンドリューは人類の世界会議で請願するが,ロボットは不死(immortal)であることを理由に棄却された。

何が違うのか

 そもそも人間とロボットの違いはどこにあるのか。答えは,自明のようだ。ロボットは機械で,人間は機械ではない。機械は確かに不死だ。

 では,たとえば心臓にペースメーカーを入れている人はどうだろうか。こういう人は,身体の一部に機械が入っているだけだから,人間性は維持されているということかもしれない。では,Google Glassのようなウエアラブル・コンピュータをつけている人は,どうだろうか。脳の一部がコンピュータ化されているといえないか。そうなると,そもそも脳とは,人間にとってどういう意味をもつものか,ということになってくる。

 「Cogito, ergo sum」(我思う,ゆえに我あり)は, 言うまでもなく,これはデカルト(René Descartes)の言葉だ。デカルトは,意識(心)と身体を切り離す物心二元論者だった。心は自由意志が支配する領域であり,身体は心とは独立して機械的な運動をするものだ。それぞれ独立する心と身体は,脳の最奥部にある松果腺が媒介しているとデカルトは考えた。

 デカルト的な二元論によると,人間のなかの身体の部分は機械である。機械である以上,物理法則にしたがい,身体はロボット化が可能だ*8。ただ,心の問題は残る。二元論であれば,心も人間の構成要素だ。心をもたないかぎり,ロボットは人間といえなくなる。

 一方,一元論もある。それにも唯物論(物理主義)と唯心論とがある。現在有力なのは唯物論のほうであり(そのなかでも多様な考え方があるが),この立場からは,脳や心の問題は,物理法則に還元できてしまう。そうなると,人間の特徴を心に求めることは難しくなる。脳でさえもプログラミングが可能となり,人工知能をもつロボットと人間の違いは消失する*9

 私のような教養のない法律屋は,素朴に,物心二元論を「信仰」している。私たちの身体の行動が,物理法則に支配されているなんて「信じたくない」。自由意志(意思)は否定されてしまい,個人の自立も責任もなくなってしまうなんてイヤだ*10。唯物論の立場の論者から,冷静に,自由意志に支配された心が物質性をもたず,物理法則に支配されないのなら,どのようにして身体という物に影響を及ぼすのか説明せよと言われると,返答に窮する。だから,心を信じるのは,科学ではなく,「信仰」になってしまう。

ロボットの可能性

 心と身体の関係をめぐる議論は,哲学者や物理学者や脳神経学者などにまかせておこう。ここでの問題関心は,アンドロイドが,雇用の場にどこまで進出できるかだ。すでに,Pepperのような感情型ロボットも存在している*11。アンドロイドが,どのような心をもつのか,どこまで心をもてるのかが大切だ。

 心理学において「心の理論(theory of mind)」というものがある*12。この理論を証明するための有名な実験として,「誤信念課題(False-belief task)」というものがある。他者が自分とは違う意識をもっているということがわかるか,というテストだ。そのなかに,サリー・アン・テスト(Sally-Anne Test)というものがある*13それは,次のようなものだ。

 ある実験者が,一人の幼児に対して,サリーという人形とアンという人形をみせる。サリーの前には箱があり,アンの前には籠がある。実験者は,大理石を,サリーの前にある箱に入れて隠す。その後,サリーがどこかに行ったことにして隠してしまい,その間に,今度はアンの前にある籠に,大理石を入れ直す。そこで,サリーを戻ってこさせる。そして,一連の動きを見ていた幼児に質問をする。「サリーは,大理石がどこにあると考えるかな?」。

 その幼児が3歳児であれば,サリーは籠を探すと答える。しかし,6歳児くらいになると箱と答えるそうだ。サリーが誤解をしていることを認識できるということだ。これが心の発達を意味している。こうした能力(社会的認知能力)は,人間以外の動物は,人間に近いチンパンジーでもほとんど確認されていないそうだ。この能力は,人間でも,心が未発達の段階では備わっていないし,発達に問題を抱えている場合も同様だ。ロボットにも無理だろう。

 ただ,このような心がなくても,人間との会話をそれなりにできるという話もある。

 2014年6月7日,ロンドンから注目すべき情報が飛び込んできた。ロシアのコンピュータプログラムが,ついにチューリング・テスト(Turing test)をパスしたのである。チューリング・テストとは,アラン・チューリング(Alan Turing)*14が,コンピュータに知性があるかどうかを識別する実験法として1950年に考案したものだ。

 ロシアのコンピュータは,「ウクライナ在住の13歳の少年」になりすまして,人間との文字だけの会話で,33%以上の人間に,自らが人間であると思わせることに成功したそうだ。

 チューリング・テストには,さまざまな批判もある*15。これに合格しても,コンピュータに人間と同じような知性があるわけではない,というのだ。たとえば,ジョン・サール(John Searle)の「中国語の部屋(Chinese Room)」という有名な思考実験がある。ある部屋に英国人がいる。そこに中国語の漢字が書かれた紙が投げ込まれる。英国人は,漢字が読めないが,部屋にあるマニュアルにしたがって漢字を追加して書き,紙を外に出す。部屋の外にいる人間は,中にいる英国人が中国語がわかっているかのような錯覚に陥るが,実は本人はまったく中国語はわかっていない。

 コンピュータは,この程度のものなので,真の意味で知性があるわけではない。人工知能は「弱い人工知能」にとどまり,「強い人工知能」は生まれないというのが,ジョン・サールの見解だ*16

 ただ,人工知能が,人間のように心をともなった会話ができなくても,少なくとも,仕事の関係では,それほど深刻な問題はないかもしれない。大学入試センター試験を,問題の意味がわかっていなくても解けてしまうという話と,基本的には同種のことだ*17。「弱い人工知能」であっても,油断はできない。私たちの仕事を簡単に奪っていく可能性は十分にある。

時が進まない

 そもそも機械には人間にない大きな強みがある。それは疲れを知らないし,老いないということだ。「強い人工知能」がなくても,この強みだけで,十分に人間を凌駕できるだろう。コンピュータ将棋が強い理由の1つは,人間はプロ棋士でも10時間以上戦ったりすると疲労からミスをするものだが,機械にはそのようなことがないからだ。

 前述のように,アンドリューは,死なないために人間と認められなかった。だから,アンドリューは,ロボット機能を劣化させるプログラミングが施されることを望み「死」を得ることになる。「死」の床で,ようやくアンドリューの請願が認められ,そのときちょうどアンドリューは,200歳の寿命を終えるシーンは感動的だ*18。その後,ポーシャは,アンドリューと同じロボット出身のアンドロイド「ガラテア(Galatea)」*19の手により,その生命維持装置が切られた。アンドリューは死ぬことにより,永遠の愛を手にしたのだろう。

 スピルバーグ監督の2001年の映画「A.I.」*20も,老いないロボットの話が関係している。

 息子のマーティン(Martin)が不治の病にかかってしまい悲嘆にくれるモニカ(Monica)をみかねた夫のヘンリー(Henly)は,母を愛する心をもつプログラミングが可能なデイビッド(David)という名のアンドロイドを妻にプレゼントする。デイビッドに対して,徐々に実の息子のような愛着心がわいてきたときに,奇跡的に息子マーティンが快復して家に帰ってくる。デイビッドとマーティンはママを取り合って仲良くできないなど,トラブルが頻発するようになると,デイビッドは捨てられてしまう。デイビッドは,母に愛されるために人間になりたいという希望をもちながら,彼を導いてくれるはずのブルー・フェアリーを探し求めて苦難の旅を始める。まさにPinocchioの現代版だ。

 デイビッドは,2000年後に,母と再会する。そのときすでに人類は滅亡し,進化したロボット(アンドロイドではない)が地球を支配していた。このロボットが,デイビッドの願いを聞き入れて,彼のかわいがっていた熊のロボット(テディ)がもっていたモニカの髪から,モニカを蘇生させたのだ。しかし,モニカの再生が許されているのは1日だけだった。デイビッドは,2000年前と変わらぬ子供のまま,母との至福の1日をすごし,そして母とともに(おそらく永遠の)眠りについた。デイビッドは,ついに母の愛を取り戻し,人間になったのかもしれない。

 人間には,時というものがある。時が流れて,老い,死んでいく。その限時性が,生を美しいものにする。仏教の輪廻転生は,死の意味を相対化させるが,そこには,やはり時の流れがあった。しかし,機械であるロボットには,時の流れがない。だから,疲れないし,老いない。

 自ら学習する能力を身につけて,疲れず,老いない人工知能は,どこまでも知能を進化させていくのだろうか。

ロボット工学三原則

 アンドリューの映画の話に戻る。最後のシーンで,ガラテアは,ポーシャの自殺を幇助している。人間がやれば,刑法202条に該当するような行為だ。

 SF作家のアイザック・アシモフ(Isaac Asimov)は,ロボットを描くときに,有名な三原則(Three Laws of Robotics)を定立していた。これは現実のロボット工学にも影響を及ぼしているそうだ*21

 その三原則とは,次のようなものだ。

第1原則 ロボットは人間(human being)に危害を加えてはならないし,人間が危害を加えられることを傍観していてはならない。

第2原則 ロボットは人間によって与えられた命令に服従しなければならない。

ただし,与えられた命令が,第1原則と抵触する場合は,この限りでない。

第3原則 ロボットは,第1原則または第2原則と抵触しないかぎり,自己の存在(existence)を守らなければならない。

 「アンドリューNDR114」の原作はアシモフだが,ガラテアが,最後にポーシャの自殺を幇助したことは,第1原則に反しないのだろうか。第2原則にしたがったようだが,ただし書きがあるので,やはり第1原則が優越するはずだ。

 しかし,そうでないかもしれない。ガラテアは,ポーシャを死なせることは,決してポーシャに危害を加えることにはならないという,いわば高次の判断をしたとみることもできる。人間にとって,一見不利なようでも,実はそうではないということを,ロボットも理解し,自ら第1原則を乗り越えたようにもみえるのである。

ロボットとパターナリズム

 アシモフ原作の2004年の映画に「アイ,ロボット」(原題は,「I, Robot」)*22には,Viki(Virtual Interactive Kinetic Intelligence)という電子頭脳(?)に支配された,新型ロボットNS-5が,人間と市街戦を行うシーンが登場する。

 ロボット工学三原則からすると,ロボットが人間と戦うということはありえないのだが,Vikiは,人類はこのままでいくと滅亡するので,第1原則を修正して,第0原則を打ち立てた。それは「人間」を「人類」に書き換えるということだ。

第0原則 「ロボットは人類(humanity)に危害を加えてはならないし,人類が危害を加えられることを傍観していてはならない。」

 「人類」の滅亡を傍観できないというロジックで,Vikiは,個々の「人間」から自由意志を奪うことが必要だと考え,NS-5に人間を支配するよう命じたのだ(最後は,自身もサイボーグでもあるスプーナー(Spooner)刑事らの超人的な活躍で,Vikiは破壊されてロボットの反乱は鎮圧された)。

 この映画では,ロボットから,三原則が外れたときの恐怖が描かれている。しかし,この映画のほんとうの恐怖は,知能の発達したロボットが,たんに人間から仕事を奪い,人間の反感を買うというところにとどまっていないことだ。ロボットのほうが人間より知能がはるかに高いため,自分たちで社会を支配したほうが,種としての人類にとって良いだろう,という不遜なことを考え始めたところに,真の恐怖がある。

 この映画は2035年の設定だが,実は2045年に,人工知能はシンギュラリティを迎えるとされる。人工知能は,人間の脳を超えるのだ。人工知能は,人間を滅ぼすと,本気で警鐘を鳴らす科学者も少なくない。

これはSFではなく,現実の話になっている。

自由

 私はロボットに支配される社会で生きていたくはない。知能の高い猿に支配されるという「猿の惑星」*23のストーリーに不気味な恐怖を抱いた感覚は,いまなお払拭されていない。

 しかし,私の懸念が実現してしまうのではないか,という不安もある。ロボットの方が賢明で,私たちの将来のことをよく考えてくれるのならば,ロボットの支配に任せてしまってもよいという考え方の人が,日本社会では少なくないのではないか,と思えるからだ。

 映画のなかのアンドリューは,様々な本を読んで学習する中で,人間のもつ自由に関心をもつようになった。そして,主人のMartinに「自由」が欲しいと懇請した。アンドリューは,これまでどおりお仕えしますが,ただ自由をくださいと言ったのだ。しかし,主人は聞き入れなかった。

 アンドリューの要望は,人と物との関係という奴隷契約ではなく,対等な者同士における雇用契約に変えてくれという要望だった。しかし,主人は,アンドリューを「解雇」し絶交した(後に主人は,死の床で,アンドリューを呼び戻し,そのときの行動を謝罪した)。

 結果として,自由を得たアンドリューだが,雇い主との関係を絶った彼は,孤独だった。彼は食べなくても生きていけるが,それだけでは辛い毎日だった。そこで彼は自分と同じようなタイプのロボットを探す旅を始める(ここにも,Pinocchio的なストーリーが出てくる)。そしてついに,ガラテアを見つけ,そこで最新のロボット研究をしていた技術者との運命的な出会いをする。そのラボラトリー(lavoratory)で,彼は人間に改造されていく。

 人間は生まれながらにして権利能力が与えられ,自由人として契約を締結できる。働くことについても,自らの意思で雇用契約を締結することができ,それがいやであれば自営で働くという選択肢がある。アンドリューには,そうした選択肢は,その誕生(製造)時からなかった。だからこそ,従来どおりの隷属状況でもよいから,自由人として,雇用契約を結びたいと渇望したのだ。

 アンドリューは,前述のように,人間(生物)となるためにmortality(死すべき運命にあること)を選んだ。死すべき運命にあるということには,不自由なところもある。自分たちのやりたいことをやるためには,時間的な制約がある。しかし,その制約があるからこそ,死後に自分の代わりを残したいと考えるようになり,だからこそ,恋をして,セックスをすることになったのだろう。死と引き替えに,幸福と快楽が与えられたのだ。そこで重要なのは,幸福と快楽は,自分たちが自由に追求できるところだ*24

 ところが,働くという局面では,人間はこの自由をついつい放棄しがちだ。奴隷的でもいいから,自由人として契約をしたいとアンドリューは考えた。一方,人間には,奴隷的になりたくないから,契約の自由は制限されてもよいと考える人が多数いて,そういう人のために労働法は構築された。自分たちには,雇用契約以外の形態で非奴隷的に働いたり,あるいは奴隷状態から解放されるために団結して闘ったりする途があるにもかかわらず,「賢明な」人たち(政治家,役人,学者等)に,自由を制限されてでも,契約内容を決めてもらったほうがよいと考えている人が,たくさんいるのである。

 高度な人工知能をもった未来のロボット達が,こんな人間をみてほくそ笑むかもしれない。「愚かな人間どもが,私たちの支配を望んでいる」と。いや,技術の発達によって,ロボットは,アンドリューや「A.I」のデイビットのように愛を知り,心をもつようになるかもしれない。こうした慈愛心に満ちたロボット達を作り出せばよい,と考える人もいるだろう。

 でも,ロボット達に心をもたせるのは至難の業だ。チューリング・テストはパスできても,サリー・アン・テストをパスする人工知能は出てくるだろうか。人間は人工知能に愛されるだろうか。

 NS-5のように,「『人間』たちは自由の意味を理解できないかわいそうな生き物だ。だから私たちが『人類』のために,よりよい方法を考えてあげよう」なんて言い出すかもしれない。そうなると,労働法は生き残る。でも,こんなシナリオは,私はイヤだ。

*1:松任谷由実(作詞・作曲)「恋人がサンタクロース」(1980年)も参照。

*2:ジョージ・ザルカダキス(長尾高弘訳)『AIは「心」を持てるのか』(日経BP社,2015年)の第2章を参照。→Amazon

*3:フランケンシュタイン - Wikipedia

*4:アンドリューNDR114 - Wikipedia

*5:本連載の第1回も参照。

*6:妖怪人間ベム - Wikipedia

*7:Carlo Collodi作の「Le avventure di Pinocchio(ピノッキオの冒険)」。

*8:physicalというギリシャ語起源の英語は,「物質の」という意味だけでなく,「身体の」という意味もある。

*9:心が脳にあるということが前提なのだが,このこと自体も論争の対象だ。

*10:刑事責任や契約の拘束力などの議論にも多大な影響が生じるかもしれない(詳しくは,それぞれの刑法や民法の専門家に問いあわせる,あるいは議論を吹きかけることをしてみてください)。

*11:本連載の第1回も参照。

*12:心の理論 - Wikipedia

*13:Sally–Anne test - Wikipedia

*14:アラン・チューリング - Wikipedia 彼の数奇で悲劇的な運命については,サイモン・シン(青木薫訳)『フェルマーの最終定理』(新潮文庫)(新潮社,2006年)にも出てくる(244頁以下)。→Amazon

*15:チューリング・テスト - Wikipedia

*16:強いAIと弱いAI - Wikipedia

*17:本連載の第4回を参照。

*18:この映画の原題は,「The Bicentennial Man」である。

*19:ギリシャ神話に登場する,ピュグマリオーンの妻の名。彫像から人間の女性に変身した。

*20:A.I. - Wikipedia

*21:ロボット工学三原則 - Wikipedia

*22:アイ,ロボット - Wikipedia

*23:猿の惑星 - Wikipedia

*24:唯物論の論者は,それは自由に追求しているのではなく,脳の物理的な作用がそう反応しているだけ,あるいは,自由だと錯覚するようにプログラミングされているだけと言うかもしれないのだが。

Copyright © 2015 KOUBUNDOU Publishers Inc.All Rights Reserved.