ジェイムズ・バラット『人工知能』

ジェイムズ・バラット『人工知能』
　　　　　恐ろしい本だ。人工知能は「２１世紀の核兵器」であり、今世紀にも人類絶滅にいたる最悪にして最後の発明だというのだから．いまや人工知能搭載のロボット時代が始まっている。だがバラット氏は人類に「フレンドリーな」鉄腕アトムやペッパーでなく、ターミネーターや「バイオハザード」の未来をみているのだ。
　　　　　人工知能が超知能という「シンギュラリティ」を超え知能爆発したとき、人類に未曾有の危機をひきおこすという考えは、ホーキング博士や、ビル・ゲイツ氏、イーロン・マスク氏なども警鐘を鳴らしている。バラット氏は、いかに超知能の機械が人間を支配していくかを、克明にコンピュータ科学者や計算論的神経科学者、脳科学者などの現状を分析し危機を明らかにしていく。人間に危害を加えないというアシモフ氏の「ロボット三原則」を否定していく。
　　　　　バラット氏によれば、人間と同等な知能を持ったＡＩは、自分の達成目的、プログラムの長短所、置かれている環境を自己認識するようになり、自分のプログラムを改良し「自己進化」していくようになる。それは、エネルギー獲得、自己防衛、効率性、創造性という自己衝動を追求し、人類との質問応答システムを超克していくというのだ。
　　　　　人間の脳の１００億個のシナプス結合をコピーした人工知能は、すぐそこまで来ているとバラット氏はいう。もし超知能のマシーンが出来たとき、だれがどう統御できるのか。遺伝子組み換え技術には研究者によって「アシロマ・ガイドライン」が作られた、だが、ＡＩ研究には難題がある。戦争技術として国防費がだされ、極秘になっている面があるからだ。
　　　　　生体細胞には、無制限に増殖することを防ぐ「プログラム細胞死」アポト−シスが組み込まれているが、ＡＩにもデフォルトで死ぬプログラムを組み込むことも考えられるが、超知能はそれを避けるかもしれない。有効な方法はない。
　　　　　チェスや将棋の人工知能や、ＩＢＭの「ジェパディ」、グーグルの自動運転など人工知能は、次第に進化してきている。いつ知能爆発の時がくるかもしれない。バラット氏のディストピアは、ＳＦでないと思いながら読んだ、（ダイヤモンド社、水谷淳訳）