NECは生成AIによる事実と異なる回答を抑制する技術を開発した

NECは18日、生成AI(人工知能)が事実と異なる回答をしてしまう「ハルシネーション(幻覚)」を抑制する技術を開発した。AIが文章を要約する際に、元の文章と要約した文章を比較し、齟齬(そご)があった場合は矛盾箇所を提示する。生成AIサービスの標準機能として10月末に提供を始める。

医療や金融など情報の正確性が求められる業界での利用を見込む。従来ハルシネーション対策は、人が元の文章と生成した文章を照らし合わせて矛盾箇所を探していた。NECの技術を使えば、自動で元の文章にない単語や矛盾点を検出できるほか、情報の抜け漏れや重複も確認できる。業務負荷軽減や要約精度の向上が期待できる。

元の文章とAIが生成した文書を比較し、齟齬があった場合は矛盾箇所を提示する(18日、川崎市)

NECは独自の生成AI「cotomi(コトミ)」や米マイクロソフトの生成AI「アジュール・オープンAI・サービス」を、API(アプリケーション・プログラミング・インターフェース)と呼ぶシステム連携の仕組みを使って提供している。新技術はAPIサービスの標準機能として搭載する。

鄭重声明:本文の著作権は原作者に帰属します。記事の転載は情報の伝達のみを目的としており、投資の助言を構成するものではありません。もし侵害行為があれば、すぐにご連絡ください。修正または削除いたします。ありがとうございます。