産業技術総合研究所（産総研）は、生成AIを対象とした品質マネジメントのためのガイドライン第1版を発行した。対象は、大規模言語モデル（LLM）を部品として利用し、生成AIシステムを開発・運用する企業である。ガイドラインでは、LLMの特性や限界を前提としつつ、従来型ソフトウェアの品質マネジメント手法を活用して、全体として高品質な生成AIシステムを構築するための体系的な方法を提示している。
生成AIは、従来の識別・予測型AIとは異なり、出力の多様性や不確実性が高く、誤情報や差別的表現のリスクもある。そのため、従来の品質管理手法では対応が困難であり、新たな枠組みの整備が求められていた。今回のガイドラインは、LLMを外部から調達するという現実的な前提に立ち、プロンプト設計、RAG（検索拡張生成）、出力フィルター、HMI（人間・機械インターフェース）などの各コンポーネントに対して、品質特性と管理策を具体的に示している。
品質特性は、国際標準ISO/IEC25000シリーズに基づきつつ、生成AI特有の課題に対応するために一部を再定義・拡張している。たとえば、出力の一貫性や説明可能性、データの信頼性などが重視されている。これにより、開発者と利用者の間で品質に関する合理的な合意形成が可能となり、社会的信頼の確保にもつながる。
本ガイドラインは、2025年5月27日に開催された人工知能学会全国大会のチュートリアル講演で発表された。背景には、2022年以降の生成AIの急速な普及と、国際的なAIセーフティ体制の整備がある。日本国内でも、総務省・経済産業省による「AI事業者ガイドライン」や、AIセーフティ・インスティテュートによる評価指針が発行されているが、生成AIの開発・運用現場における品質マネジメント全体を網羅した文書はこれが初となる。
なお、本研究はNEDO（新エネルギー・産業技術総合開発機構）の委託事業の一環として実施された。