2024.09.20 NECがハルシネーション対策で新機能 出力文書の確認作業効率化

原文にない単語が生成されていると、色分けして警告し、その理由を説明する文書も掲示する

生成AIの業務活用支援

 NECは、生成AI(人工知能)が誤情報をもっともらしく出力してしまう「ハルシネーション」を検出して確認作業を効率化する新機能を開発した。ハルシネーション対策には全ての資料を確認する必要があり、結局確認や訂正に人手を費やすことが生成AI活用の障壁になっていた。新機能は単語や文単位で確認ポイントを絞り込んで確認作業を効率化し、...  (つづく)