ChatGPTを業務で利用する際のリスク
株式会社エアー 菅山 征克
ここ数ヶ月、OpenAIがリリースしたChatGPTが世間を賑わせています。私も今年の1月ぐらいにアカウントを申請し、2～3ヶ月使ってみていますが、今まで見たチャットボットとは比べものにならないほど回答内容の精度が高く、まるで人が返しているかのような自然な会話文に驚愕しています。一般メディアでも「ChatGPT」という単語をみない日がなく、中には業務で利用したいという企業もでてくる程の反響を呼んでいます。
ただ、その一方、このChatGPTの精度やリスクについて、否定的、懐疑的な意見も散見します。このコラムでは、「ChatGPTを業務で利用する際のリスク」について2点お話ししたいと思います。
（1）ChatGPTの回答が正しいとは限らない？
ChatGPTは、質問に対して、よく間違った（でっちあげた）回答をすることがあると言われています。
それもその筈。そもそもChatGPTは質問に対して正しく回答したり、検索した結果を返すAIではなく、ただ単に直前の文に対して、確率的にありそうな続きの単語をどんどんつなげていくというAIなんです。
もう少し分かり易く説明すると、例えば、「むかしむかし」という手前の文の次にくるのは、確率的に「あるところに」で、その次にくるのは確率的に「お爺さんとお婆さんが」…といった風で、そういったものをネット上から5兆語程学習した結果、それっぽいことを回答するようになっているんです。手前の文に続く確率の高い単語を繋げて作っているだけなので、ネット上に間違っている情報が多いと、当然間違った回答になり、また学習が足りない分野については、でっちあげの回答になったりします。
こういう仕組みを聞いてしまうと、「ほら、やっぱりAIなんて使い物にならないじゃないか」と思ってしまいそうになりますが、ChatGPTから有益な情報を引き出すにはそれなりのコツがあるんです。紙面の都合上、ここではそのコツについては割愛しますが、上記の仕組みの詳細と併せてお知りになりたい方は下記動画をご覧下さい。
出典： 「あなたの仕事が劇的に変わる!? ChatGPT使いこなし最前線」note社
（2）ChatGPTに入力した情報は他者に漏えいするかもしれない？
ChatGPTは利用者が入力した内容を学習する可能性があるようです。この情報が正しければ、入力データに機密情報や個人情報が含まれていると、それらを学習して他者に漏えいしてしまう恐れがあるということになります。実際、これを理由にAmazonや金融機関など多くの企業がChatGPTの使用を制限し始めています。
出典：「マイクロソフトが警告「ChatGPT」に教えてはいけないこと」AppBank
この真偽を確かめるべく、上記の記事を全文貼り付け「この記事の内容は事実でしょうか？」と遊び半分でChatGPTに尋ねてみたところ、下記のような回答がありました。
「このような報道があったことは確かですが、詳細な情報が不足しているため、どの程度のリスクがあるかは明確ではありません。
ただし、ChatGPTはトレーニングに使用されたデータセットに基づいて回答を生成するため、機密情報が含まれる場合、その情報が回答に反映される可能性があります。
したがって、機密情報や個人情報を含むコンテキストでChatGPTを使用することは、リスクがあるため避けるべきです。また、ChatGPTは現在のAI技術の限界があり、完全に信頼できるわけではありません。したがって、機密情報を含むデータをChatGPTに提供する前に、リスクを十分に理解し、必要なセキュリティ対策を講じることが重要です。」
この回答を見ると、一見、学習しているかのように感じると思いますが、(1)で説明したように、実はこの回答結果ですらChatGPT自身のものではなくネット上の情報を確率的につなぎ合わせたものであり、間違っている可能性があるのです。事実、このあと前提を付けたり聞き方を変えてみたところ、全く別の回答が返ってきました。ChatGPTはざっくり聞くと回答が無難になるという傾向があり、上記の回答にもその傾向が大きく反映されているのかもしれません。
結局、この回答の真偽の程は定かではないのですが、いずれにしても相手はインターネット上のシステムです。何がどのように漏えいするかは分からないので、学習云々に関らず機密情報や個人情報の入力は控えた方がよいかと思います。
以上2点のリスクをお話ししましたが、ChatGPTをはじめとする生成系AIは日々進化しており、上記のリスクも数ヶ月後には全く別のものになっていたり単なる笑い話になっている可能性もあります。あくまでも執筆時点（2023年3月末）の情報としてご理解頂けると幸いです。
「メールと企業リスク」で取り上げた関連ニュースをチェックAIやChatGPTのニュースを見る
