2023.08.10 2023.09.02

TED要約:テクノロジーが過激主義とオンラインでの嫌がらせと戦う方法

marugotoyoten

ヤスミングリーンが「テクノロジーが過激主義とオンラインでの嫌がらせと戦う方法」について語りました。この動画の要点と要約をまとめました

スピーカー

ヤスミングリーン

専門分野:None
経歴:None

３つの要点

要点１
インターネットの闇面への導入は、犯罪者やテロリストなどの悪意のある行為者がプラットフォームを逆手に取る方法を学んでいることを理解する必要がある
要点２
極端主義に対する人間の洞察と対策は、感受性のある個人と極端主義メッセージを論破する信頼できる声とのギャップを埋めることが重要である
要点３
オンラインハラスメントへの対処は、共感を可能にするAI技術を活用して、建設的な対話を促進し、異なる意見の空間を維持することである

要約

インターネットの闇面への導入：脅威への理解
2006年にGoogleで働き始めた私は、インターネットの潜在能力に感銘を受けました。しかし、その後、犯罪者やテロリストなどの悪意のある行為者が、私たちのプラットフォームを逆手に取る方法を学んでいることが明らかになりました。Jigsawというグループを設立し、オンラインでの安全を確保するための取り組みを始めました。極端主義や検閲などの脅威に焦点を当て、被害者と加害者の人間の経験を理解する必要性を認識しました。

極端主義に対する人間の洞察と対策：テロリズムの理解
私は13歳の少女と話す機会があり、彼女がISISに勧誘されそうになった経験を聞きました。極端主義グループの広範なマーケティング手法に驚かされました。しかし、重要なのは人々の感情と動機を理解することです。RedirectMethodなどの取り組みにより、感受性のある個人と極端主義メッセージを論破する信頼できる声とのギャップを埋めました。この方法は、イスラム過激派だけでなく、他の暴力的なイデオロギーにも適用されます。

オンラインハラスメントへの対処：共感の構築と言論の保護
オンラインハラスメントは、人々を恐怖や怒りにさせる要素を特定し、それらの圧力点を押し上げる暗黒の技術です。ハラスメントが放置されると、言論の自由を抑圧し、極端化と誤情報を助長します。私たちは、技術が共感を可能にすることができるのかと自問しました。Perspectiveという言語の感情的な影響を理解するAI技術に取り組みました。これにより、より建設的な対話が可能になり、異なる意見の空間を維持するのに役立ちます。

結論：技術の戦いにおける人間の必要性
技術の進歩だけに頼ることは十分ではありません。これらの問題の人間の側面を認識し、関与する必要があります。極端主義の脅威からオンラインハラスメントの災厄まで、答えは私たちの共有する人間の経験を理解し、共感することにあります。インターネットには暗い側面があるかもしれませんが、人々の共同の努力により、これらの脅威に対抗し、より思いやりのある安全なオンライン環境を作り出すことができます。これは私たち全員に対する行動の呼びかけです。実現しましょう。ありがとうございました。（拍手）

▼今回の動画