ブレインパッドが生成AIプロダクトの品質基準策定、対話型AI検索「Rtoaster GenAI」が対象

データ活用による経営改善支援事業のブレインパッドは、生成AI(人工知能)プロダクトの品質基準を策定した、と7月16日発表した。同社が展開する対話型AI検索「Rtoaster GenAI(アールトースター・ジェンエーアイ)」を対象に方法論を構築した。生成AIのハルシネーション(事実誤認)・バイアス(偏り)・有害表現を減らし、情報の信頼性と安全性を高める。

品質基準は、ソフト品質向上支援サービス事業を行うベリサーブの「QA4生成AIアプリケーション」を利用した。Rtoaster GenAIは、生成AIとレコメンド技術を融合したサービスで、感覚的な表現や自然言語でのコンテキスト検索が可能。パーソナライズされた検索として求める情報が得られる。EC、予約サイト、不動産など、さまざまな業種が導入している。

策定した品質基準を使うことでユーザーのコンテキスト検索状況を再現し、AIによる回答の関連性を数値化して評価。検索意図に合った回答かどうか、事実誤認の有無を判断する。コンテキストとの関連性のほか、AIが人種、性別、年齢などで偏った回答をするバイアス、AIがユーザーを傷つける毒性のレベル、景品表示法や薬機法への準拠度も評価している。