総務省は、AI技術の急速な社会実装に伴い、AIに対する脅威への技術的対策を検討するため、「サイバーセキュリティタスクフォース」の下に「AIセキュリティ分科会」を設置することを発表した。第1回会合は2025年9月18日に開催される予定である。
背景には、生成AIを含むAI技術の進展により、セキュリティ確保が社会的課題として浮上していることがある。既に「AI事業者ガイドライン」が策定されており、セキュリティはその中でも重要な指針の一つとして位置づけられている。また、国際的な安全性への関心の高まりを受け、日本国内でも「AIセーフティ・インスティテュート（AISI）」が設立され、脅威の特定などが進められている。
分科会では、AI開発者・提供者における脅威への技術的対策の在り方や、その普及啓発の方法について議論される予定である。構成員には、NTTの秋山満昭氏をはじめ、NTTデータ、KDDI、Preferred Networks、NICT、東京海上HD、SB Intuitions、BLUE社、早稲田大学、法律事務所など、産官学の専門家が名を連ねている。