炎上リスク 誹謗中傷 犯罪表現 / センシティブフィルター
炎上リスク 誹謗中傷 犯罪表現 / センシティブフィルター
有害ワード監視の義務化
SNSやインターネット掲示板、マッチングアプリでは隠語を利用した闇バイトへの勧誘が巧妙化しており
意図せず自社サービスが犯罪に加担してしまう事も考えられます
当社のセンシティブワードはこのようなリスクを軽減するため以下の特徴をもち、網羅的にセンシティブ判定を行います
「差別・人権侵害・犯罪などの大量の語彙」
「言葉の意味を集約、表記ゆれを吸収」
「感情分析を用いたネガティブ表現の検知」
「隠語・略語・スラングなどの見落としやすい表現も検知」
![センシティブワードの属性と有害ワードのサンプル センシティブワードの属性と有害ワードのサンプル](./img/sensitive.png)
多数のアプリやサービスで採用
大手ディスカウントストアのアプリやマッチングアプリなどにも続々導入
またSNSやオンラインゲームの健全な運営、カスハラ(カスタマーハラスメント)の早期検知などにも活用されています
その文章、本当に炎上リスクが無いか「不適切コム」で投稿チェックしてみませんか?
Sensitive sample / 不適切コムはこちら
センシティブ判定 解析例
![センシティブリスト センシティブリスト](./img/sensitive_genre.png)
![不適切コム解析結果 不適切コム解析結果](./img/futekisetu1.png)
![不適切コム解析結果 センシティブ判定 不適切コム解析結果 センシティブ判定](./img/futekisetu2.png)