ソーシャルネットワークは人とつながったり、話題を共有したりと便利なツールではあるが、特に若い世代の間ではオンラインいじめという暗い側面を持つ。

そこで若いユーザーを多く抱える写真共有サービスのInstagramは、写真やビデオのキャプションに攻撃的な文言が含まれていないかどうかAIを使ってチェックする機能を導入する。

・機械学習を活用

同社は今年7月から、中傷するようなコメントをAIで発見する機能を展開している。機械学習を使っていじめにつながるような文言を検出するというものだが、今回はその機能をキャプションに広げた格好だ。

具体的には、ユーザーが投稿する写真やビデオのキャプションに、他人を傷つけたり不快な思いをさせたりするような文言が含まれていないかをチェックする。

・再考を促す

もしそうした文言が含まれていた場合、「Edit Caption（キャプションを編集する）」「Learn More（学ぶ）」という再考を促す選択肢が表示される。

「Share Anyway（公開する）」もあり、必ずしも全てを阻止できるわけではないが、一定の抑制にはつながりそうだ。

Instagramは16日からすでにいくつかのマーケットでこの機能を開始していて、今後数カ月以内にグローバル展開する計画だ。

Instagram

（文・Mizoguchi）