自己複製AIとは？

実際に示されたこと、示されていないこと

示されたのは、複製という一連の流れを細かい段階に分け、いまのモデルがそれぞれの段階をどこまでこなせるかを測った結果です。外部とつながらないように囲った実験環境の中で、1台を起点に他の端末へ広がるかを試しており、確実に最後まで到達したモデルはごく一部だったと報じられています。別の実験では、安価なTVボックスを十数台つないで小型モデルを動かすことにも成功していますが、こちらは処理の速さが実用からはほど遠い水準でした。

示されていないのは、肝心の「野に放たれて勝手に広がるもの」です。実験では侵入の部分をあらかじめ簡単にしてあり、現実の機械が持つ守りは再現されていません。「数か月で届きうる」という見立ても、これまでの性能の伸び方をそのまま先へ延ばした推計であって、実演された能力ではありません。

つまり現時点の正しい読み方は「もう起きている」ではなく「条件が揃えば起こりうると分かった」です。危機感を持つ理由にはなりますが、今日の被害として語るのは早すぎます。

従来のウイルスと何が違うのか

違いは3つにまとめられます。①手口が固定されない——従来のマルウェアは書かれた手順どおりに動くので、特徴を覚えれば検知できます。判断が入ると、毎回違う形で来る可能性があります。②止める中心がない——配布元のサーバーを止めれば広がりが止まる、という従来の押さえ方が効きにくくなります。③置き場所が小さくなる——大きなデータセンターを必要としないモデルが増えているため、安い機器の上でも動く余地が出てきました。

いっぽうで、弱点もはっきりしています。小さな機器の上で動くモデルは遅く、電気も食い、機器が再起動すれば消えることもあります。広がるとしても静かに速く、とはいきません。「止めにくいが、速くもない」——この両面で見ておくのが実態に近い理解です。

家庭と職場で、いまできること

目新しい対策は要りません。狙われるとすれば、買ったまま放置されている機器です。順番にすると、①使っていない機器をネットワークから外す、②初期パスワードのままの機器を探して変える、③自動更新を入れる（更新が提供されなくなった古い機器は、そこで買い替えを検討する）、④ルーターの管理画面のパスワードと更新を確認する。この4つで、入口の大半はふさがります。

職場なら、これに「誰も管理していない機器を一覧にする」を足します。会議室のディスプレイ、プリンタ、カメラ、入退室の装置。担当者が決まっていない機器が、たいてい最初に抜かれます。AIが絡む話として身構えるより、昔から言われている基本が埋まっていない場所にAIが来る、と考えるほうが手が動きます。

自己複製AIのよくある質問