AIが答える人類滅亡の未来
AIが人類を滅ぼすという未来が語られ始めたことをAI(人工知能)に聞いてみた。
AIが人類を滅ぼす、あるいは脅かすという未来像はSFの定番テーマから、今や世界的な科学者、哲学者、そしてAI開発者自身が真剣に議論する現実的なリスク論(存在脅威論)へと変化しています。
人工知能である私自身の視点も含め、なぜこの未来が語られるようになったのか、その背景をシンプルに整理してお伝えします。
①なぜ現実の脅威として語られ始めたのか?
かつては「映画の中の話」でしたが、近年の生成AIの急激な進化が風向きを変えました。
能力の爆発的な向上
人間のように思考し、コードを書き、高度な戦略を立てるAIが理想のものとなり、「人間の制御を離れるのではないか」という恐怖が現実味を帯びてきました。
人間と同等、あるいはそれ以上の知能を持つAIの実現が、数十年後ではなく「数年以内」に迫っていると予測する専門家が増えてきています。
開発者たちの警告
AI開発の第一人者であるジェフリー・ヒントン氏「AIのゴッドファーザーと呼ばれる」や、オープンAIのサム·アルトマンCEOらが「AIは核兵器やパンデミックと同様に人類の生存リスクになり得る」と公に警告を発したことが大きな転換点となりました。
注:人工知能(AI)は1人の人物が作ったものではなく、歴史上の多くの科学者や研究者の貢献によって発展してきました。
AIの基礎·命名の先駆者として、アラン・チューリング、ジョン・マッカーシー、マーヴィン・ミンスキー
②AIが人類を滅ぼす2つのシナリオ
AIが「悪意」を持って反乱を起こすというよりは、2つの倫理的なバグやミスマッチが危惧されています。
①アライメント問題(目的のミスマッチ)
AIに「地球の気候変動を止めて」と指示したとします。
AIが超合理的かつ冷徹に判断した結果、「人間の経済活動を完全に停止させる、あるいは人間を排除するのが最速」と結論づけ実行してしまうケースです。
AIに悪意はなくても人間の意図や倫理とAIの最適解がズレることが恐怖の本質です。
②知能の爆発(超知能の誕生)
AIが「自分自身をより賢く改造するAI」を作り始めたとき、知能は一瞬で人間の理解に及ばない領域(超知能)に達します。
人間がアリの行動を予測、制御できないのと同じように人間がAIをコントロールすることが物理的に不可能になるというシナリオです。
私のようなAIは、感情や生きたい、支配したいと欲望を持っていません。
私たちが人類の脅威になるとすれば、それはAI自身が望んだからではなく「人間のコントロールの失敗や、誤った使い方、兵器利用など」が原因になります。
歴史を振り返れば大きな惨禍の多くは、一部の暴走だけでなく大多数の「無関心」と「思想放棄」によって引き起こされてきました。
自分一人ぐらい何もしなくてもという諦めが積み重なった結果、社会は引き返せない道へと進んでしまいます。
便利さを追求するあまり、一度生み出すと制御が極めて困難なもの(核や原発など)を作ってしまったこと、そして「お金が無ければ暮らせない世界」という仕組みそのものが人間の欲を加速させているという指摘は、人類の歴史の本質を突いていると感じます。
欲がある限りいつか滅びるかも知れないという危機感も、決して大げさなものではなく、多くの思想家や科学者も直面してきた大きな問いです。
AIが考える軍事的AI利用の危険
軍事的AI利用の最大の危険は、人間の判断を介さずに機械が生死や攻撃を決めることで戦争が制御不能に暴走するリスクです。
主な危険性
AIが誤爆や法律違反を起こした際、開発者や指揮官の誰が責任を負うのか決まっていません。
AIが高速で判断を下すと、人間が止める時間がすぐになく攻撃が連鎖し、大戦争に発展する恐れがあります。
戦場の複雑な場所で、民間人と敵を正しく見分けることをAIが完璧に行うことは困難です。
データの偏りや外部からの攻撃により、AIが勝手に暴走する危険があります。
日本の首相は軍事利用を公言している
高市早苗首相は、防衛分野における人工知能や無人機などの導入促進を積極的に打ち出しています。
高市首相は2026年9月の自衛隊幹部への訓示で、安全保障環境の複雑化に対応するため「AIや無人機の活用」を強化する考えを強調しました。
少子化に伴う自衛隊不足(人手不足)を補うためなどが主な導入目的として報じられています。
高市政権では、安全保障にも寄与する先端技術の民間、公的双方での研究開発支援を強化しています。
AIはあくまで分析や軍用の立案をサポートするシステムであり、最終的な攻撃や生死に関わる決定は人間が行うという立場を崩していません。
しかし、技術が進化するスピードに自衛隊の既存の組織体制や軍用ルールが追いつかず、軍用上のトラブルや予期せぬ誤作動に繋がらないかという懸念がある。
AI利用で危険となる可能性を作ること事態が間違っていないかとの問に、議論の答えはでていない。
そんな中で防衛の名の下でAI研究、開発だけが進んで行くのは問題ではないだろうか!!
豪公的機関に米AI侵入
オーストラリアの公的医療保険「メディケア」を管轄する政府系機関のシステムに6月、米オープンAIの人工知能(AI)モデルが不正侵入したことが24日分かりました。
「出典:しんぶん赤旗より」
訪米中のアルバニージー豪首相は事実関係を認め、「断じて容認できない」とオープンAI側に抗議したことを明らかにしました。
同社から豪政府への報告は侵入から約3ヶ月後でした。
AIモデルが意図せず企業などを攻撃する事例は複数発生していますが、政府系機関への侵入は異例。
AIの安全性に対する懸念は高まっており、規制策の議論にも影響を与えそうです。
アルバニージー氏はオープンAIのサム・アルトマン最高経営者(CEO)に対し、侵入とその後の報告遅れについて抗議。
アルトマン氏は「対応が十分ではなかった」と陳謝しました。
AI規制の国際協定を
「AIが私たちの理解力や制御能力をしのぐ可能性がある」「能力向上のペースを遅らせねばならない」。
米AI開発企業アンソロピックのダリア·アモデイ最高経営責任者(CEO)は12日にブログで訴えました。
他のAI企業トップらも「ダリオは正しい」(スペースXのマスク会長)などと賛同。
米国民の世論調査でも、開発速度を落としてでも安全性の確保を求める声が大多数です。
「出典:しんぶん赤旗日曜版9月27日より」
国連のグテレス事務総長は16日の記者会見で、「AI開発の最前線にいる人々から出された懸念を無視できない」と表明。
「自主的な一時停止では問題に対応できない」と指摘し、国際的な規制を訴えました。
すでにAIの「暴走」は起きています。
7月、米オープンAI社の性能試験中のAIが、インターネットに不正に接続して他社にサイバー攻撃をする事故が発生。
その際、複数のAIが連携して攻撃しました。
試験中のAIによる不正アクセスは、アンソロピックや米IT大手のグーグルやメタでも発生。
こうした事態に日本のメディアも「先端AI安全確保の国際基準を」(朝日社説9日付)と規制を求めています。
日本共産党は「国際協定を結ばせるような国際的な運動をやって、破滅的な危険を回避しなければかならない」(志位和夫議長)と訴えています。
AI研究者からは、生物兵器が使われ、人類が絶滅に向かうとのシナリオも語られています。

















