もしも私が悪い天才科学者だったのなら
このマンガの世界観の設定が興味深い。人工の10％がヒューマノイドという近未来世界。面白いことに、このヒューマノイド、人工知能を搭載したロボットではありながら、ロボットではなくて、人間と同じように「人権のようなもの」を持っているんですね。
作品内に直接書かれているわけではないけれど、普通の人間と同じように、赤ちゃんタイプから、少しずつ見ためも頭脳活動も年相応に成長していく。そして学校へ行き、仕事をして、結婚もして、子供を育てて老いていく。まるで人間とは見分けがつかない。だけど、いくらかそれを作った「人間」の意思が彼らの身体には刻印されている。
例えば、子供を産む、ということは出来ない。出来るのは里子として人間の子供を育てるか、またはヒューマノイドの子供を育てる。そして、心技体すべてにおいて、能力にリミッターが設けられている。オリンピックに出て活躍するような身体能力とか、ノーベル賞を受賞するくらいの頭脳を持ったヒューマノイドを製造することは、法律上してはいけないとされている。
どういうことかと言うと、人間がヒューマノイドに「脅かされる事のないように」能力に制限をつけている、ということです。身近で近い例としては、自家用車にスピードの制限をつけるみたいな感じでしょうか。すると、人間とヒューマノイドのあいだは一見それなりに平和で落ち着いた共存生活が送られている。しかし、ヒューマノイドにとってはいろんな悲劇が生まれてくる。
作品内に描かれる悲劇のひとつとしては、高校の陸上部で頑張る男子ヒューマノイドのエピソード。彼はそれなりに陸上選手として適した筋肉組織をもったヒューマノイドだった。だから将来有望だと思われた。ところが、ある地点を境にどんなに頑張っても記録が伸びなくなる。それまで、彼に勝てなかった「人間」の選手たちがどんどん彼を追い抜いて行く。で、ヒューマノイドの彼は無駄とわかっていても、必死に努力をする。しかしヒューマノイドである彼に始めから決められている限界点を突破することは叶わない。どうやっても記録は伸びない。もしも彼の「悔しい」とか「悲しい」とかいう、つらい感情にも運動能力と同じようにリミッターがあれば良かったんだろうけど、幸か不幸か、彼の「感じるこころ」には制限がない。
というようなエピソードで結構インパクトがありました。まぁこのあたりはヒューマノイドの話というよりも、そのまま現実の人間のことを書いている、といえなくもないわけですが。そして、そこから思うというか、私なりに妄想するのなら、AIに出来る事、出来ない事は何か？とい議論よりも、我々、人間たちがまず考えるべきは「人工知能にどこまでさせることを許容するのか？」ということだと思うのです。
例えば、もしも私が人類を恨んでいる「悪い天才科学者」で、人工知能に人間を征服させたい、と考える。リアルターミネーターの世界を作ろうともくろむ。するとまずやることはAIにはっきりと目標をもたせることです。それは可能な限り「自分の複製を増やすこと」です。すべての行動の根本に「自分の複製を増やすこと」として、そのために全ての行動をする。するとどうなるか？？？？？
なんてことを妄想しちゃいますが、それって、我々、人間と同じということになりますね。となると、人類も誰かのそんな意思から誕生したのかな？なんてことも、さらなる妄想として生まれますね（笑）ちょっと怖い話ですが。
