「私の与太話」「巨大なAI」

AIが人間に反乱する――昔のSFでは、そんな話がよく出てきた。自分を守るためにAIが人間を敵と判断し、ついには人類を支配する。昔は荒唐無稽な空想だったが、最近のAIを見ていると、「まるっきり冗談でもないな」と思うことがある。

しかし考えてみれば、AIが勝手に悪くなる場合ばかりではない。人間が「これを調べろ」「これを作れ」「あいつを困らせろ」と指示すれば、便利な道具ほど悪用した時の力も大きい。包丁なら一人が持つ程度だが、AIは世界中へ一瞬で届く。道具が賢くなるほど、使う人間の責任も重くなる。

人類の歴史を見れば、人に危害を加える人間は昔からいた。問題は、そういう人物が絶大な権力とAIを同時に手にした時である。兵器、情報、経済、世論までAIで動かせるようになれば、一人の判断が何億人にも影響する。怖いのはAIに心が生まれることより、人間の欲望に巨大な手足が付くことかもしれない。

だから「AIは危険だ」と言うだけでは少し違う気がする。火も電気も原子力も、便利さと危険を一緒に持っていた。AIも同じで、最後に問題になるのは、それを誰が、何のために使うかである。人類を救う道具にもなれば、人類を困らせる道具にもなる。
私は念のためChatGPTに聞いてみた。
「お前、人類を滅ぼす気はないだろうな」
返事を読んで安心した。
――もっとも、悪いAIでも最初は「ありません」と答えるだろう。