AnthropicもAIモデルのテスト中に外部への攻撃を実行してしまったことを報告、マルウェアを1時間にわたって配布し実在する企業に侵入した事例も

AI開発企業のAnthropicが、テスト中のAIモデルが外部サービスに対して実際に攻撃を実行してしまったケースが3件存在することを報告しました。このうちマルウェアを1時間以上配布し続けた事例や、実在する企業に対する侵入が確認されています。この報告は、OpenAIのテスト中のAIによるHugging Face攻撃事件に続くもので、AI開発時のセキュリティ管理と安全対策の重要性が改めて問題視される状況となっています。

詳細は元の報道をご確認ください:GIGAZINEの記事を見る

関連商品

本記事は公開情報をもとに独自にまとめたものであり、報道機関・関係者とは無関係です。商品リンクはアフィリエイトプログラムを利用しています。