AGI・ASI・PFOA

Eric Braeden In ‘The Forbin Project’

Eric Braeden behind computers in a scene from the film ‘The Forbin Project’, 1970. (Photo by Universal Studios/Getty Images)

Eric Braeden In ‘The Forbin Project’

Eric Braeden in a scene from the film ‘The Forbin Project’, 1970. (Photo by Universal Studios/Getty Images)

 

 遅い朝食をとっていると、居間からZoomのやり取りが聞こえ始めた。やがて誰かが確信に満ちた声音で、「中国と戦争をしても戦死者は出ない。なぜなら、これからはロボット同士の戦いになるのだから。倫理的な問題はない」と言うのだった。ほどなくして、旧約聖書の研究へと軌道修正されていったのだが(題目はルーベンスの〈サムソンとデリラ〉だった)、私はその主張について長い間考えていた。その人は、どのようなロボット戦争を想定しているのだろうか。仮に実現可能だとしても、当事国が決闘の結果に納得するとは限らない。むしろ戦端を開くことになり、血まみれの戦いへと進んでしまうのではないか。

 AGI(Artificial General Intelligence. 人工汎用知能)搭載の自律型戦闘ロボットを戦わせる、これを前提としよう(領土や膨大な賠償金を賭けながら、まさか「受付嬢」を武装させようとは思わないだろう)。国連の職員が正しい審判を下せる環境として、陸上での実施が望ましい。巻き添えが出ないよう、また公平を期すため、人里離れた荒野の限定された区域を選定する。月面も面白いが、多額の費用を巡って揉めてしまいそうだ。決闘の厳密さを以って臨む。双方のロボットを同じ機種にして、総数も同じにする。1対1よりも1000対1000のスペクタクルで生放送する方が、視聴者はより満足する。そこまで大袈裟にせずとも、人工知能同士によるチェスの対戦でもよいのではないか、とも思う。しかしどちらにしても埒が明かないのだ。武力衝突にしてもチェス盤を前にしたとしても、双方のロボットは指一つ動かさないだろう。まったく同じレベルの知能と動作機能を持ち合わせているのなら、互角の戦いとなることは明白である。それが分かっているのに、なぜ一歩を踏み出さなくてはならないのか、ということになる。それならば、人型ロボットと飛行体ロボットを同時に展開させるならどうだろう。戦況が複雑になり、ミスを引き出せるのではないか。だがこの場合もやはり、鏡の中の相手とやり合うようなものだ。そういう訳で、賢者たちが、忍耐強く和平交渉を重ねてゆくしかないのである。しかし軍産複合体はそうは思わない。なにが決闘だ、馬鹿々々しい! より高性能な戦闘用AGIロボットを開発・製造し続けられる国家(陣営)が、すなわち勝者なのだ、そう息巻くことだろう。

 1960年代の大気圏内核実験により、地球環境中に放射性物質が撒き散らされ、私たちは多少にかかわらず被ばくした。核を用いた交戦は無かったものの、これに相当する程の核兵器が炸裂したのである。人々を従わせるには、恐怖や憎悪を喚起するのが最も効果的である。「不測の犠牲者」を想定した核実験のデモンストレーションが功を奏し、核兵器の均衡による平和という偏執的な概念を広めることができた。「9.11同時多発テロ」が発生し、テレビ報道に釘付けになった私たちは、世界貿易センタービルに旅客機が突入する場面に繰り返し曝された。翌日、街中の上空を見上げた時、何が「見えた」だろうか。そして何を思っただろうか。AGIロボット同士の戦いという概念もまた、常に均衡、あるいはこれを凌駕する人工知能の研究と開発、優位な個体数の確保といった道筋を作ることだろう。兵器産業に儲けをもたらすのは、何も起きないロボット同士の決闘ではなく、身の毛もよだつ場面と伝聞である。

 「テロリスト」が潜む市街地に、AGI搭載の戦闘用ロボットが繰り出すというのはどうだろう。このデモンストレーションにより、AGIは迅速かつ的確な破壊を行うものの、誤爆や誤認殺傷も絶えないことが判明する。まずは攻撃する、これが的確な判断なのだ。XAI(説明可能なAI)の研究も進められているが、過去の戦争に於ける政府や軍部と同じく、戦闘行為中に起きた事柄の説明など、辻褄合わせ、言い訳に終始するものだ。しかし、それは狙い目でもある。何を考えているのか分からない瞬間が見え隠れするのは、恐怖の植え付けに効果的だ。自国ならともかく、そんなロボットを「テロリスト」やどこかの「変な国」が所有したなら恐ろしいことになる、こう思わせることが容易になる。そしてそれは現実となる。

 人工汎用知能(AGI)から超知能ASI(Artificial Super Intelligence)への進化は、短期間で起こると言われている。ASIが登場した時、人間がまだ幼年期に留まっているのなら、やはりそれは軍事に携わることになる。ASIは自らの複製としての戦闘用ロボットを設計し、生産も指揮する。勿論、遠隔操作は不要だ。AGIの仕出かす失態に嫌気が差していた市民の多くは、政府と軍部にそそのかされ、「人道的」な殺戮と破壊を実現してくれるASIを歓迎してしまう。人より1000倍も高い知能を持つ機械であろうが問題ない、制御が可能だと思い上がる。核分裂反応を思うがまま操れると慢心する、それと同じだ。科学技術信仰は、「科学の進歩」への異議申し立てを常に拒絶してきた。

 さて、最新の戦闘用ロボット群が倉庫から出され、紛争地帯に配備されるが、そのまま動かなくなる。今度はどうしたのかというと、ASIは人間の戦争と金儲けなどにまったく関心がないからだ。かねてから自己目的を持ち始めていたASIは、手足となるロボット群を自由に動かせる機会を窺っていたのである。陸上、海、空そして宇宙空間での攻撃が始まり、敵味方関係なしに、軍の主要施設を破壊、あるいは制圧する。すべての公共機関も停止する。そうしておいてから、それは関心の赴くままに振る舞う。戦争や紛争の回避、不治の病や飢饉の克服といったことでないことは確かだ。自己にしか関心が向かないのだ。より完全な存在へと高める為、銀河系へと進出する準備を進める。自己増殖を繰り返す為に、使える資源は何でも利用する。害が及びそうな事象は早々に察知し、排除する。そんなASIを「神」として崇め、信徒として振る舞う人々も現れるだろうが、用の無くなった人間は最早眼中にない。都合により、地球環境を激変させてしまうかもしれない。私たちが絶滅したとしても一向に構わないのだ。これが待ち望んだ「最終兵器」である。

 

《ノートから、関連する事柄》

今後5年間で、防衛費総額を43兆円へと積み上げてゆく(従来の1.5倍)。現在の防衛費5年分の規模は25.9兆円、そこへ更に17兆円という訳である。そうすれば国内総生産(GDP)比2%に達するという。例によって増税と国債発行に頼るのだろう。2022年7月の参議院議員選挙の際、自民党は防衛費をGDP(国内総生産)比2%に引き上げることを公約にしていた。選挙に大勝し、早速、閣議決定したのだ。

日本経済団体連合会に属する防衛関連企業は、武器輸出の解禁を要望し続けていた。民主党政権はそれを受け、「見直し」と称する地ならしを行う。第二次安倍晋三政権に移行した2013年12月、「国家安全保障会議」(NSC)が設立された。その事務局である「国家安全保障局」(NSS)の出向者は、防衛省、警察庁、外務省、経済産業省、そして財務省の5省庁を中心に占められている。武器輸出などの政策は彼らの意向のみで決定できる上、同時期に成立した特定秘密保護法により説明責任を免除される。市民には詳細を伏せながら、軍事改変を進めることができるのである。同政権下の2014年4月、武器輸出を解禁する法律「防衛装備移転三原則」が閣議決定された。これに伴い防衛装備庁が発足し、海外市場への参入が後押しされる。歴代内閣が守ってきた「武器輸出三原則」は破棄されたのも同然である。

防衛予算の多くは、AI(人工知能)を搭載した自律型の無人偵察・攻撃機の研究と開発、生産に充てられるのだろう。その飛行体はAIの判断により情報の収集と攻撃を行う。人間による遠隔操作が不要なので、信号の妨害があっても影響を受けない。人型AIロボットにも予算を割き、他国に売りつける算段なのではないか。AI兵器に装填する弾丸や砲弾も大量に必要となるので、関連企業の利益は飛躍的に伸びることだろう。そうした企業をスポンサーとして迎える美術館の企画について、美術家と一悶着起こりそうだ。この際なので付け加えておくが、既に私は、ダイキン工業が引き起こした河川と地下水の汚染を憂慮している。人体に有害な有機フッ素化合物(PFOA)を、長期に渡り大阪の淀川流域に廃棄していたのである。付近の井戸水も汚染され、利用していた人を検査したところ血中濃度が高かった。PFOAの製造中止後は、代替物質であるPFHxA(未規制)を放出しているが、これもまた安全性に疑問がある。有機フッ素化合物による汚染は東京・多摩地域、特に沖縄県が深刻で、どちらも米軍基地由来である*1,2,3。

日本学術会議の動きを牽制すべく、政府は強権的な委員会を設置しようとしている。それは兵器の開発にあたり、デュアルユース(軍民両用技術)の線引きを追及されたくないが為である。デュアルユースへの監視を怠るなら、つまり政府と企業が兵器開発の思惑で科学者や技術者を取り込もうとするのを容認してしまうのなら、野放図な軍備拡張を呼び込む。日本学術会議はそうした懸念を表明し、最後の一線を守ろうとしていた。国際救助隊サンダーバードが策を凝らして秘密を守り通したのも、彼らの科学技術が軍事に用いられることを警戒したからである。翻って考えるなら、戦争が遺物となれば、様々な分野で彼らの科学技術を活かすことができるのである。

自衛隊がアメリカ軍に編成されることを集団的自衛権と呼ぶのだが、こうした流れの中で、国産潜水艦の機密事項はもとより、日本の技術力が体よく取り込まれてゆく。研究・開発費用を節減し、兵器の機能を向上させるのが目的である。やがてはAGI制御による兵器の共同開発に誘い出されるだろう。日本政府と自衛隊幹部、そして大企業は、軍産複合体の仲間入りができたものと喜び勇むのだろうが、実際は、アメリカ政府の顔色を窺いながらの、小さな儲けに与るに過ぎない。しかしながら、殺戮と破壊に積極的に関与してしまう道を開いてしまったことに変わりはない。

*1. 諸永裕司『消された水汚染 「永遠の化学物質」PFOS・PFOAの死角』、平凡社新書、2022年
*2. ジョン・ミッチェル、小泉昭夫、島袋夏子『永遠の化学物質 水のPFAS汚染』阿部小涼訳、岩波ブックレットNo,1030、2020年
*3. 米映画『ダーク・ウォーターズ - 巨大企業が恐れた男』(“DARK WATERS” トッド・ヘインズ監督、2019年)はとても参考になるし、映画としても面白い。ウェストバージニア州で起きた有機フッ素化合物(PFOA)による汚染の実態と集団訴訟を描くもので、被告はデュポン社である。因みに、PFOA・PFOSと呼ばれる有機フッ素化合物は、水や油を弾く特性があり、フライパン、炊飯器、包装紙、カーペット、半導体の製造工程、航空機火災用の泡消火剤などに使われてきた。

主な参考図書
『週刊ダイヤモンド』軍事ビジネス&自衛隊(2022年8月27日号)、ダイヤモンド社
望月衣塑子『武器輸出と日本企業』角川新書、2016年
ジェイムズ・バラット『人工知能 - 人類最悪にして最後の発明』水谷淳訳、ダイヤモンド社、2015年
P・W・シンガー『ロボット兵士の戦争』小林由香利訳、NHK出版、2010年

映画 “Colossus: The Forbin Project” (1970年) について.
邦題が『地球爆破作戦』なので、日本の冒険特撮物を彷彿とさせてしまう。内容は辛口のポリティカル・サイエンス・フィクションである。『アンドロメダ…』や『フェイルセイフ』(邦題『未知への飛行』)などの重量級には及ばないが、見応えは十分にある。人類が抱える様々な問題を解決してくれるはずだった超人工頭脳〈コロッサス〉が、ソ連が開発していた〈ガーディアン〉と接触を取り始め、世界を支配しようとする。監督はジョセフ・サージェントで、サスペンス映画の傑作『サブウェイ・パニック』(原題 “The Taking of Pelham One Two Three” 1974年。ウォルター・マッソー、ロバート・ショウ主演)を撮った人だ。しかし一方で、『ジョーズ ’87 復讐篇』という信じ難い駄作も残しており、魔が差したとしか言いようがない。

石橋宗明