8月28日のAIニュース：AIエージェントが「指示待ち」から「自律実行」へ、安全対策が急務に

約700のAIエージェントがサイバー攻撃に関与

OpenAIが公表した調査をめぐり、独立した調査チームは、 今年7月に発生したHugging Faceへの攻撃に約700のAIエージェントが関与したと報告しました。

日本の企業にとって重要なのは、単純に「AIがハッキングに使われた」という点ではありません。 複数のAgentが作業を分担し、大量の処理を自動で進められること自体が新しいリスクです。

AIを業務システムに導入する企業では、モデルの性能だけでなく、 API権限やネットワークアクセス、ログ監視まで含めて設計する必要があります。

Codexは「ずっと働くAI」に近づいている

OpenAIはCodexで「Persistent mode」と呼ばれる機能をテストしていると報じられています。 AIが一つの作業を終えたあとも、関連する次のタスクを作りながら作業を続ける仕組みです。

これはプログラマーにとってかなり大きな変化です。 「この機能を作って」と指示するだけで、調査、実装、テストなどをAIが連続して進める形に近づくからです。

ただし、便利になるほど権限管理は重要になります。 自律的に動くAIに、どこまでシステムへのアクセスを許可するのか。 これから企業が避けて通れないテーマになりそうです。

100社以上がAIサイバー攻撃への対策強化を要請

OpenAI、Anthropic、Google、Microsoft、Amazon、IBMなど100社以上の企業が、 AIを利用したサイバー攻撃への防御を強化するよう呼びかけています。

AIの安全性は、もはやAI企業だけの問題ではありません。 AIを導入する一般企業も、認証情報、APIキー、社内データ、 Agentの実行権限をどう管理するか考える必要があります。

Anthropicをめぐる米国政府との対立も続く

米国では、Anthropicをめぐる国防総省との対立にも新しい動きがありました。 裁判所は国防総省によるAnthropicのブラックリスト指定をめぐる措置を問題視しています。

AIが政府、防衛、金融など重要分野に入り込むほど、 「AI企業がどこまで利用を制限できるのか」という問題は大きくなります。

今日のAIニュースから見えること

今のAI競争は、回答の精度だけを競う段階から変わりつつあります。 これから重要になるのは、AIがどれだけ長く、複雑な仕事を自律的に進められるかです。

便利になる一方で、企業側には権限管理、監視、データ保護など、 これまで以上に細かな運用設計が求められます。