ネットのひぼう中傷 やわらかい表現変換や注意喚起の機能開発

このうち文字入力アプリ「Simeji」を開発した企業は、表現が強く、誤解されやすい文章の投稿を防ごうと、ことし8月から新たな機能を搭載しました。

例えば、「だからなに？」と打つと、「なるほどね、それからどうしたいの？」とやわらかい表現の文章が変換の候補として表示されるほか、注意喚起も行います。

アプリの運用を担当する古谷由宇さんは「文章を打つ一番最初の部分でユーザーにアプローチできるので、送る前に気付くことのできるきっかけを作りたい」と話していました。

このほかLINEヤフーは配信されたニュースに閲覧者がコメントする際、文章の内容によって注意喚起のメッセージを出す機能を9月に追加しました。

入力されたコメントが投稿される前に、AIが該当する表現を抽出して表現を見直すよう促す仕組みです。

総務省が設置するインターネット違法・有害情報相談センターによりますと、ひぼう中傷を含めたトラブルに関する相談件数は、昨年度1年間で6400件余りと増加傾向にあり、IT企業の間でこうした被害を減らすための開発の動きが相次いでいます。