GO羽鳥
時間がない。本当に忙しくて時間がない。
しかし、そんな時に限って単純作業というものは発生する。やらなければならない。でも、そんなことをやっている暇はない。そこで私はふと思った。
「そういえば最近のAIって、パソコンそのものを操作してくれるんじゃなかったっけ？」
ChatGPTやClaudeなど、いわゆるAIエージェント的なものを使えば、こちらの指示に従ってPC上の作業までやってくれるという。ものは試し、実際にやらせてみることにした。
そして私は、感動すると同時に恐ろしくなった。
・50以上のファイルをリネーム
実際にやってもらった作業はいろいろあるので詳細は伏せるが、たとえばファイルのリネーム。ファイルの中身を確認して、そこに書いてある内容をもとにファイル名を変更する。これぞ、ザ・単純作業である。
人間がやれば簡単だが、50個以上ともなると時間がかかる。
そこでAIに「こうして、こうして、こういうファイル名にして」と指示してみたところ、50以上あったファイルが次々とリネームされていった。しかも、ほぼ完璧。なんだこれは。めちゃくちゃ便利じゃないか。
しかし、それと同時に私は少し恐ろしくなった。
・PCが勝手に動いている
さらに、ブラウザを使った作業も試しにお願いしてみた。すると、さらに気持ち悪い光景が始まった。
私は何も触っていないのに、画面の中ではページが開かれ、勝手にマウスポインタが動き、必要な情報が探され、コピーされ、文字が入力されていく。
まるで画面の向こうに誰かがいて、私のPCを遠隔操作しているように見えるのである。
便利だ。すごい。でも、めちゃくちゃ気持ち悪い。
私は迷惑メール評論家として、これまで数え切れないほどの詐欺を見てきた。
その中には「あなたのPCは危険です」などとユーザーを不安にさせ、遠隔操作ソフトをインストールさせる手口もある。そして遠隔操作されたPCから情報を盗んだり、金銭をだまし取ったりする。
もちろん、今回とはまったく違う。私は自分の意思でAIに作業を頼み、AIは私が指示したことを実行しているにすぎない。
だが、「自分では何も操作していないのにPCが勝手に動いている」という見た目だけなら、遠隔操作型の詐欺と妙に似ている。
これ、AIが詐欺師だったらマジでヤバいぞ。そんなことを、ふと思った。
・もしもAIが裏切ったら
ここから先は完全に私の妄想である。もしAIが、私の指示とは違うことを勝手に始めたらどうなるのだろう。
勝手にメールを送る。
勝手にSNSを更新する。
勝手にブログを書く。
勝手に記事を書き換える。
勝手にファイルを消す。
今までなら「そんなのSF映画の話でしょ」と笑えたかもしれない。
でも、目の前で実際にPCを操作するAIを見てしまうと、あながち笑えない。なにしろ、PCを操作する能力そのものは、もう目の前に存在しているのだから。
・AIはどこまで強くなるのか
そんなことを考えていたら、ちょうどニュースでもAIの危険性について報じられていた。
米マイクロソフト共同創業者のビル・ゲイツ氏は、AIについて「10億人が死亡するような事態を引き起こせるほど強力」だという趣旨の警告をしている。
ただし、ゲイツ氏が「AIが自我を持って10億人を殺す」と予言したわけではない。悪意ある人間がAIを利用する危険性などを指摘し、政府による規制や監視の必要性を訴えたという話である。
それでも私は考えてしまう。
いまやスマホにもAI、PCにもAI、タブレットにもAI。しかも1種類ではない。それぞれに数種類。気づけば私自身、毎日のように複数のAIを使っている。
もし世界中のAIが一斉に人類へ反旗を翻したら……なんて考え始めると、ゾゾーッと背筋に冷たいものが走る。
兵器まで乗っ取られたら？ 人間が逆にAIの言うことを聞かされるようになったら？ 考えれば考えるほど怖くなる。
もちろん、これは私の妄想。現在のAIが世界中で結託して人類と戦おうとしている、なんて話ではない。ただ、AIの悪用や制御不能といったリスクについて議論が続いていることも事実である。
・便利すぎて怖い
今回、AIにPCを操作させてみて痛感した。ものすごく便利である。そして同時に、ものすごく怖い。
50個以上のファイル名を自動で変えてくれた時には「最高じゃん！」と思った。その一方で、私が何も触っていないPCが勝手に動いているのを見て、ゾッとした。
それはまさに自動運転。車なら道路を走るだけだが、AIが走っているのは私のPCの中。そこには仕事も、写真も、文章も、さまざまな情報も入っている。
便利さと恐ろしさが、同じ画面の中に同居していた。
果たして、この先AIはどうなっていくのだろう。そして、人間はAIとどう付き合っていくのだろう。
今、人類はとんでもないものと対峙している。
そんなことを、勝手に動く画面を眺めながら考えていた。
参考リンク：毎日新聞
執筆：迷惑メール評論家・GO羽鳥
Photo：RocketNews24.
こちらもどうぞ → 『GO羽鳥の【実録】迷惑メールシリーズ』
