AIとセキュリティをどう考えるか

株式会社エアー　製品調査担当

最近、AIの分野が華やかです。便利が良いので各企業が評価または取り込みに向けたプロジェクトを推進されているかと思います。
特に、昨今の自然言語処理のAIの発展ぶりは目を見張るものがありますね。これはLLM（Large Language Model） と呼ばれる技術が利用されています。これには大きな言語情報やイメージを分類するための多次元空間に保管する仕組みも利用されているようです。文章やイメージなどベクトル化して埋め込んだデータベースのようなものということでした。ベクトルとベクトルの距離が近い時、その情報は類似性が高いそうです。頭痛がしてきました。

今流行りのChatBotを動かすには大きな計算機リソースが必要になるでしょうね。ChatBotに投げた文章は、どこに流れていくのでしょうか。どこで評価されて、戻ってくるのでしょうか。これはクラウド内の話でさっぱりわかりません。

便利が良いということで、ついつい使ってしまいがちですが、一度この点を考えた方が良いと思われます。

Chat Botに問い合わせするにしても代わりにインターネットを検索させる程度だと被害などは無いと思います。インターネットマーケティングなんかはフル活用できそうですね。しかし、検索サイトの代わり以上に利用できる方法はないのでしょうか。

どうやっていけば良いか、一人のエンジニアとしてフロンティア精神を持って切り込んでいかないとと考えている今日この頃です。

ここから先どういう基準でAIに取り組んでいくべきなのか、簡単に考えられるのは次のことかと思います。

AIがどこで動作しているのか、そのAIは他社との共有なのか。他社とは別々なのか、知っておく必要があると思われます。社内システムと連携させる場合、社内のIP資産を利用しないようにと考えることは重要かもしれません。しかし、AIの旨みを得るためには、ある程度の情報をAIに流すべきですが、どの程度にしたら良いのか。そして、どういう旨みを手に入れたいのか。
この情報の仕分けから目的達成まで大変な仕事だと感じます。「ううっ面倒」と考えてしまう自分がいます。

考え方によっては、AI提供元が大手なので、安心できるから。何か問題があったら、皆も一緒だから、と諦める方法も一つですね。

みなさんはどうお考えになりますか。

これまでの不正アクセス、Emotet、情報持ちだしのニュースをチェック「情報漏えいニュース」一覧を見る

これまでの社員コラムをチェックコラム一覧を見る