炎上リスク 誹謗中傷 犯罪表現 / NGワードフィルター

アプリやサービスの健全化に貢献

  • 導入実績

  • ドコモ
  • パン・パシフィック・インターナショナルホールディングス
  • ヤマハ
  • イオン
  • TBSラジオ

有害ワード監視の義務化

SNSやインターネット掲示板、マッチングアプリでは隠語を利用した闇バイトへの勧誘が巧妙化し
自社サービスの利用者が犯罪に巻き込まれる恐れがあります

当社のNGワードフィルターはこのようなリスクを軽減するため以下の特徴をもち、多角的にNGワード判定を行います
「差別・人権侵害・犯罪などの語彙」
「特殊詐欺や出会い系への勧誘で使用される注意すべき表現の検知」
「感情分析を用いたネガティブ表現の検知」
「隠語・略語・スラングなどの見落としやすい表現を検知」
「日本人名(姓)、住所や電話番号、マイナンバーなどの個人情報を検知」

NGワードの属性と有害ワードのサンプル

多数のアプリやサービスで採用

情報流通プラットフォーム対処法(情プラ法)の施行による誹謗中傷や誤情報への対応
大手ディスカウントストアのアプリやマッチングアプリなどへ導入
またSNSやオンラインゲームの健全な運営、カスタマーハラスメント(カスハラ)の早期検知などにも活用されています

検知対象一覧

No 検知項目
1 個人情報
2 法令違反表現、またはその恐れのある表現
3 知的財産権、プライバシーの侵害
4 自殺や自傷表現、恐喝表現
5 アダルト表現、暴力やいじめなどの不快な表現
6 誹謗中傷、人権侵害などの表現
7 差別的表現、LGBTQ+表現
8 蔑称や決めつけ、勧誘表現
9 誤情報
10 なりすまし、詐欺表現
11 情報流通プラットフォーム対処法(情プラ法)の対策

感情判定は文脈の推移から強度まで総合的に評価

感情判定は、文脈の推移をポジティブ、ネガティブで評価。感情の強弱とその継続性をストーリーラインで表示します

感情強度と推移 感情強度と推移グラフ


NGワードフィルターの品質はセンシティブ判定APIの無料トライアルでお試しください

Sensitive sample

NGワード判定 解析例


闇バイト検知