2045年には、AIが人間のコントロールを超えて自律発展し始める技術的な特異点（シンギュラリティ）が訪れる、という不気味な未来予測が広まっているが、しかし、一般市民としては、そうした「警告」を心配するよりも目下の課題解決にAIをどう使うか、というのが火急の開発ニーズである。

最近の話題の1つが、サイバー攻撃からシステムを守ることにAIを使う研究である。

情報システムの正常運用をAIに学習させ、そのパターンに合わない例外を判別して「攻撃」の可能性があるとして対応策を打つ、というものである。

とはいえ、この発想は「AI」の一面しか見ていない。防御側がAIを使えば、今度は攻撃側も防御AIのすきを見つけ出して新しい攻撃方法を編み出す可能性があるのではないか。人間が入り込むすきのない「AI対AI」のバトルに発展しそうな気がする。その際にAIにデータを提供するのが人間であればコントロールが可能だが、AIが作り出した計算結果を自動的にAIに再投入するという「回帰的な仕組み」ができて人間の関与が消えてゆけば、どちらが勝つのか見当がつかなくなる。

攻撃側のAIが勝てば、情報システムに依存した現代社会は崩壊するかもしれない。シンギュラリティは、崩壊の方向に向かうのか、継続・発展に向かうのか、その分かれ道、「追分」なのである。AIは人間の役に立つ味方で居続けてくれるのか、人間に害を及ぼす敵なのか。「AIで守る」というのは単純な話ではない。

仮に人間の役に立つAIだとしても、手放しで歓迎できない未来予測がある。「AI（やロボット）が仕事を奪う」という危険である。

昨年末に野村総研がまとめた研究結果では、AIやロボットによって「代替可能性がある」とされる業務は、日本の調査対象職種601のうち、49％に及ぶという。職業のうち、半分は将来、消えてしまうという予想である。AIやロボットが仕事を奪ってしまう。これは、働く人にとって「敵」ではないか。「役に立つ」ことが「敵」になる。直近の適用分野では輝かしい未来の応用分野の夢が語られているが、裏側では、不安な要素も残っている。「敵」に回さないようにAIを成長させる手立てを早い段階に考えておかないと、とんでもない未来が待ち構えているかもしれない。