LINEヤフー株式会社(以下、LINEヤフー)が運営する「Yahoo!ニュース」のコメント欄において、「コメント添削モデル」の導入を開始しました。
AIが「Yahoo!ニュース コメントポリシーに違反するコメント」や「不快と感じる可能性のあるコメント」を判定し、利用者が投稿しようとする際に、該当箇所をハイライトで示す機能だといいます。
「コメント添削モデル」とは?
投稿フォームにコメントを入力し「投稿する」ボタンを押すと、全体の文脈から「コメント添削モデル」が不快と感じられる可能性のある内容判定を実施。
該当箇所がなければ、そのままコメントは投稿されます。該当箇所がある場合はその箇所をハイライトで示し、表現の見直しを提案するポップアップが表示されるのだといいます。
この時点では、コメントの投稿は完了しておらず、「コメント入力に戻る」ボタンを押すとコメントを再編集する画面が表示されます。
再編集画面では、投稿フォームの下に「コメント添削モデル」が指摘したすべての該当箇所が表示。必要に応じてコメント本文の見直しを行い「投稿する」ボタンを押下すると投稿が完了します。
ただし、修正は任意であり、修正せずに「投稿する」ボタンを押すと、そのままでも投稿は可能です。
現時点では、ブラウザやYahoo!アプリでは発動する一方、Yahoo!ニュースアプリからのコメント投稿では発動対象外となります。
ヤフコメ健全化への取り組み
「Yahoo!ニュース」は、ユーザーが発信主体としてもニュースに多様な意見を共有し、新たな視点を得る場を提供することを目的として、2007年からコメント欄を設置しました。
ユーザーによる表現の自由を尊重しつつ、より安心して利用できる環境を目指して誹謗中傷や個人情報・無関係な情報などを含む投稿を禁止し、コメントポリシーとして整備。24時間体制の専門チームによる人的なパトロールに加え、LINEヤフーが開発したAI技術「深層学習を用いた自然言語処理モデル」などを活用し、違反コメントの削除などを行っているといいます。
また、建設的なコメントをAIが判定し上位表示させる「建設的コメント順位付けモデル」や、多様な意見を優先的に表示する「コメント多様化モデル」なども導入してきました。
今回の「コメント添削モデル」導入によって、コメント投稿前に表現を見直す機会を提供し、ポリシー内や周りの人が不快に感じる恐れが少ない表現への改善を促していきたい考えです。
<参照>
【Yahoo!ニュース】コメント欄のさらなる健全化を目指しAIが表現の見直しを提案する「コメント添削モデル」の導入を開始
【関連記事】
ANAとJALが共同で「カスハラに対する方針」を策定 「脅威を感じさせる言動」や「事実に反する会社や社員への誹謗中傷をSNSに投稿」など例を列挙
昨今、社会問題として認知が高まっている‘‘カスタマーハラスメント(カスハラ)’’。航空業界においても同様に、従業員の働く環境の問題の1つとなっているといいます。 ANAグループとJALグル...
芸能界のハラスメント・誹謗中傷問題を法的視点から考える ジュリスト3月号の特集「芸能活動と法」が発売
六法全書などを刊行する1877年(明治10年)創業の出版社、株式会社有斐閣は、3月15日(金)に『芸能活動と法 Jurist DIGITAL BOOK』を発売しました。 実用法律雑誌ジュリ...
証券口座で使われる「eKYC」って一体何だ!? xID株式会社代表に聞く「オンライン本人確認の現状」【前編】
いまでは、若い人でも人生で初めての証券口座を開設する人は少なくないと思います。 証券会社を含めた金融機関の口座開設、もしくはクレジットカードの発行においても、今や「eKYC」が当たり前にな...
U-NOTEをフォローしておすすめ記事を購読しよう