ヤフーは「Yahoo!ニュース」が提供する「Yahoo!ニュース コメント」において、暴力的、差別的、過度に品位に欠けるなどの違反コメントへの対策をさらに強化したと発表した。
今回、1,100万件のコメントデータなどを活用して、新たに開発した最先端の「深層学習を用いた自然言語処理による判定モデル（AI）」と、独自に開発した深層学習特化型スーパーコンピュータ（以下、スパコン）「kukai」の活用を開始。
同モデルを、実際に1週間分のコメントデータを使い、「従来の機械学習を用いた自然言語処理による判定モデル（AI）」と比較したところ、違反コメントの検知数が約2.2倍に向上したという。
Yahoo!ニュースは、ユーザーから違反報告のある記事、閲覧数の多い記事、特定ジャンルの記事など優先順位をつけ、人力や機械学習（AI）を用いてパトロールをし、人力を中心に違反コメントの削除、悪質なユーザーのアカウント停止などを行ってきた。
今回導入した同モデルで判断された結果は今後、コメント表示順の改善にも採用し、ニュースを多角的に理解するきっかけになるコメントなど、より多くのユーザーぶ読んでほしいコメントが上位に表示されるようにしていくとのことだ。
なお、2019年11月からは、これまで人力でパトロール・削除を行っていた「記事との関連性の低いコメント」を機械的に検知するために、同モデルとkukaiを活用し、対策を行っているという。