LINEヤフーは、「Yahoo!ニュース」が提供する「Yahoo!ニュース コメント」において、コメントポリシーに違反するコメントや、閲覧者が不快と感じる可能性がある表現に対し、AIが投稿前に表現の見直しを提案する「コメント添削モデル」の導入を開始したと発表した。これにより、コメント欄のさらなる健全化を目指すという。

「コメント添削モデル」の発動イメージ（画像の内容は一例）

「Yahoo!ニュース」は、ユーザーがニュースに関する意見を共有し、新たな視点を得る場として、2007年からコメント欄を提供している。表現の自由を尊重しつつも、誹謗中傷などを防ぐために、コメントポリシーを策定し、24時間体制での監視やAI技術を活用した対策を行っているという。

また、建設的なコメントをAIが判定し上位表示する「建設的コメント順位付けモデル」や、多様な切り口のコメントを上位へ優先表示する「コメント多様化モデル」なども導入してきた。

今回の「コメント添削モデル」は、コメントポリシーに違反するコメントや、コメントポリシーに違反しないが不快とされる可能性のある表現に対し、投稿前にユーザーに見直しを提案するもの。ユーザーが「投稿する」ボタンを押すと、AIが不適切と判断した箇所をハイライトし、表現の修正を促すポップアップが表示される仕組みとなっている。

「コメント添削モデル」の挙動イメージ（画像の内容は一例）