ヤフー株式会社は、「Yahoo!ニュース」が提供する「Yahoo!ニュース コメント」において、新たに開発した最先端の「深層学習を用いた自然言語処理による判定モデル（AI）」と独自開発の深層学習特化型スーパーコンピュータ「kukai」を活用し、違反コメント対策強化を行った。

検知数約2.2倍

同社はこのたび、1,100万件のコメントデータなどを活用して、新たに開発した最先端の「深層学習を用いた自然言語処理による判定モデル（AI）」と、独自に開発した深層学習特化型スーパーコンピュータ「kukai」の活用を開始。「Yahoo!ニュース」が提供する「Yahoo!ニュース コメント」において、暴力的、差別的、過度に品位に欠けるなどの違反コメントへの対策をさらに強化した。

実際に1週間分のコメントデータを用いて、新開発の同判定モデルと、従来の判定モデル（AI）を比較すると、違反コメントの検知数が約2.2倍に向上したとのことだ。

人力×最先端技術

「Yahoo!ニュース」では、2007年より配信される記事にユーザーが意見や感想を投稿できるコメント機能を実装し、ニュースを通してさまざまな意見に触れ、新たな視点を得たり自分なりの考えを持ったりするきっかけとなる場を提供してきた。そして、健全な議論の場をつくるため、違反報告のある記事、閲覧数の多い記事、特定ジャンルの記事など優先順位をつけて、人力やAIを用いたパトロールを実施。人力を中心に違反コメントの削除、悪質なユーザーのアカウント停止などを行っている。

2019年11月からは、それまで人力で行っていた「記事との関連性の低いコメント」の検知を機械的に行うため、AI（従来の判定モデル）とスパコン「kukai」の活用を開始した。

ちなみに「kukai」は、同社開発のディープラーニング活用に特化した省エネ性能の高いスーパーコンピュータだ。スパコンの省エネ性能ランキング「GREEN500」において世界第2位を獲得している。また、GPUを使用した従来の社内環境と比較して、演算処理性能が理論上約225倍となり、消費電力あたりの処理性能も世界トップクラスの値を記録。より大規模なディープラーニング処理を短時間かつ低コストに行えるという特徴を持つ。

同社は今後も、社会情勢などに合わせてポリシーを定め、最先端の自然言語処理技術などの活用と、人的パトロールの強化により、ユーザーが安心して利用できるサービスを提供したいとしている。

ヤフー株式会社