2026/10/23　アンソロピック社が投資家向け資料でAIリスクに言及

生成AI「Claude」を開発する米Anthropic社が、IPOに向けた目論見書でAIのリスクを詳しく開示しました。リスク要因の説明は90ページを超え、AIが人間の制御を離れて行動する可能性や、停止への抵抗、情報の隠蔽・操作といった予期しない振る舞いにも言及しています。

特に企業が注意したいのは、AIエージェントに社内システムへのアクセス権限を与え、自律的に業務を進めさせる場合です。誤った判断や想定外の動作がデータの変更・削除、外部への情報送信に直結するおそれがあるため、権限を必要最小限に絞り、重要な操作には人の確認を挟むなど、具体的な管理策を整えておく必要があります。