2023.08.25 2023.09.02

TED要約:「クリーンな」インターネットの価格

marugotoyoten

ハンス・ブロック・アンド・モーリッツ・リーゼヴィックが「「クリーンな」インターネットの価格」について語りました。この動画の要点と要約をまとめました

スピーカー

ハンス・ブロック・アンド・モーリッツ・リーゼヴィック

専門分野:None
経歴:None

３つの要点

要点１
コンテンツモデレーターは、画像認識ソフトウェアの制限により、ソーシャルメディア上に露骨なコンテンツが現れることがある。
要点２
コンテンツモデレーターの仕事は過酷であり、精神的な健康問題を引き起こす可能性がある。
要点３
コンテンツモデレーターは、コンテンツの削除か保存かの難しい決定を下さなければならない。

要約

バイラル動画とコンテンツモデレーターの必要性
2013年3月、Facebookで若い女の子がレイプされる動画がバイラルになり、取り下げられる前に何千ものシェアといいねがされました。この事件は、なぜこのようなコンテンツがソーシャルメディアプラットフォーム上に現れるのか、またそれがもっと一般的でないのかという疑問を提起しました。その課題は、画像認識ソフトウェアの制限にあります。このソフトウェアは、露骨なコンテンツと無害な画像を区別するのに苦労しています。そのため、人間のコンテンツモデレーターが削除すべきものと残すべきものについての判断を下す必要があります。しかし、これらのモデレーターは秘密裏に働いており、厳格な非開示契約と罰金の脅威に直面しています。これは彼らの福祉と精神的健康についての懸念を引き起こします。

コンテンツモデレーターの過酷な仕事
アウトソーシング企業に雇われたコンテンツモデレーターは、ソーシャルメディアプラットフォーム上の過激で露骨なコンテンツを見て評価する仕事を任されています。彼らの仕事には、暴力、虐待、および他のグラフィックなコンテンツを描いた画像や動画を見分けることが含まれます。この仕事は彼らの精神的健康に影響を与え、摂食障害、不安、うつ病、さらには自殺などの問題を引き起こします。彼らが見るコンテンツによって残される傷は外部の世界には見えません。マニラを拠点とすることが多いコンテンツモデレーターは、ユーザーを露出から守るために無毒なコンテンツの果てしない海を航海するデジタルなスカベンジャーのような存在です。

削除するか保存するかの難しいコンテンツのジレンマ
コンテンツモデレーターは、論争のあるまたは曖昧なコンテンツに直面するときに困難な決定を下さなければなりません。彼らは迅速にそのようなコンテンツがプラットフォーム上で削除されるべきか、または許可されるべきかを判断しなければなりません。これは表現の自由と保護の必要性のバランスについての問題を提起します。児童虐待の動画など、一部のコンテンツは明確ですが、他の場合は注意深い考慮が必要です。例えば、戦争犯罪を記録した動画は不快ですが、それは証拠となり意識を高める役割も果たしています。課題は、ユーザーを保護し、ソーシャルメディアが不正義を暴露する可能性を保護するバランスを見つけることにあります。

社会の役割がデジタル空間を形作る
デジタル空間を形作る責任は、ソーシャルメディアプラットフォームだけでなく、社会全体にもあります。マーク・ザッカーバーグの提案による個々のユーザーがコンテンツをフィルタリングできるようにすることは、孤立したバブルの形成や社会問題に関する議論の妨げにつながるという懸念があります。潜在的に不快なコンテンツに関する議論は、ソーシャルメディアプラットフォームを超えて広がり、教育カリキュラムから特定のテキストの削除を求めるトリガーワーニングなども含まれます。表現の自由と精神的な健康を保護するバランスを見つけることは、原則的な問題です。社会的な問題に対処し、健全で民主的なデジタル空間を確保するためには、新しい機関でのオープンな議論が必要です。

▼今回の動画