インターネット上の不適切な投稿をAI（人工知能）で高精度に検知する――。AIの社会実装で実績を持つ「PKSHA Technology」（パークシャテクノロジー、東京都文京区）が、そんなサービスの提供に乗り出した。誹謗（ひぼう）中傷などの有害コンテンツが深刻な社会問題として顕在化する中、コンテンツの監視業務を効率化するツールとして注目を集めそうだ。 

　2月に提供を始めた不適切投稿の検知サービスは「PKSHA Security for Post Guard」。同社は、金融業界を中心にカード不正利用の検知システムを手掛けてきたほか、大手マッチングアプリ事業者などとの協業を通じて投稿の監視業務に携わってきた。そこで培った技術やノウハウを生かし、今回のサービスを用意した。 

　背景には、プラットフォームの大規模化と匿名性を悪用した悪質な投稿が年々巧妙化している動きがある。総務省が運営委託する「違法・有害情報相談センター」に寄せられた相談件数は2023年度に6463件に達し、9年連続で5000件を超えている状況だ。こうした中でプラットフォーム事業者は、大量の投稿を24時間365日体制で監視する業務が追い付かないという課題に直面。不適切な投稿のトレンドに迅速に対応する体制づくりや監視業務に関するコストの抑制が求められていた。 

　そこで開発したのが、今回のサービスだ。マッチングアプリ事業者や監視事業者などでの実用実績に基づく独自のテキスト解析技術を生かしたことが特徴で、文脈を考慮した高精度な判定を実現できるようにした。ネット上の投稿ごとに「不適切度合い」を示すスコアを算出して可視化することで、監視業務の効率化を支援する。 

　検知の対象とするコンテンツには、公序良俗に反する投稿や従業員の不適切行為なども含まれる。投稿されたデータをAIに取り込み、「不適切な投稿の疑いがあるのか」という観点から評価。その点数がサービス利用者による設定基準を超えると、担当者がチェックして投稿の削除などの対応をとるという流れだ。 

婉曲的な表現にも威力を発揮

　とりわけ誹謗中傷は、婉曲的な表現が含まれるため検知が難しい。同社はテキストデータを要約したり文脈を読み取ったりする自然言語処理技術の実装で実績を持っており、そうした強みを高精度に検知できるサービスに役立てた。サービスを利用する顧客自身が実際に遭遇した不正事例のデータを随時投入すると、その不正パターンに特化した検知を実現するとともに、新たな不正トレンドにもAIが早期に追従できるという。 

　人とソフトウエアがともに進化する豊かな社会を目指す同社。取材に応じた執行役員でAI Solution 事業本部事業責任者の佐野長紀氏は「テクノロジーの進化によって、さまざまな社会問題を解決していきたい」と述べ、今後も社会課題の解決に役立つサービスを拡充することに意欲を示した。例えば、闇バイトの勧誘などの不正行為をAIで検知する展開を探りたい考えで、安全なウェブ空間を支える同社の挑戦の舞台は一段と広がりそうだ。