AppleやGoogleがモデレーションフリーのSNSのアプリを排除しはじめた。AWSは、AWS上に構築されたシステムを停止するという。言葉ばかり先行するので、モデレーションフリーについて調べてみた。
コンテンツモデレーションは、ネット上の書き込みをモニタリングする投稿監視を指す。モデレーションは、節度や適度のことなので、節度ある投稿（コンテンツ）なのかを監視する対応。FacebookなどのSNSでは、コンテンツモデレーションにより、デマやヘイトの投稿を拡散しないようにしている。
モデレーションフリーのSNSでは、デマやヘイトの内容であっても、抑制されることはない。モデレーションフリーなので、そもそも投稿が程度かどうかなどのチェックをしないため。そのため、デマやヘイトの内容が拡散されやすく、注目されることにより、さらに広まりやすくなる。発信者にとって都合のよい内容を拡散できるメリットがあり、悪用することで間違った方向への扇動もできるため、危険視される。しかし、内容をチェックされないということは、運営側にとって不都合な内容であっても、拡散ができるということだ。
コンテンツモデレーションとモデレーションフリーで難しいのは、コンテンツをチェックするということは、検閲にあたる可能性があるということ。情報や発言は自由であるべきだが、他人を不快にさせる投稿などは抑止されるべきという矛盾にも近い状況だ。モデレーションフリーであれば、言論統制されることもない、でも悪意あるコンテンツも広まる、なんとも難しい線引きだともいえる。
ちなみに数年前のFacebookのコンテンツモデレーションの現場は、悲惨なようだ。
暴かれるブラックな実態–Facebook「コンテンツモデレーション」現場の凄まじさ – CNET Japan
https://japan.cnet.com/article/35138993/