2020年5月18日月曜日

自警団とアプリ(自粛ポリス考 その2)

自粛ポリス考その1では、パンデミックによる不安・ストレスと、インターネット利用時間が増えデータ(ニュースやSNSでの情報)との付き合いが多くなっていく中、Web2.0以前から指摘されてきたヘイトやデマの問題に加え、より効率的に最適化された近年のアルゴリズム等によって拍車がかかっていくこと、その背景にる広告ビジネスモデルについて目を向けてみました。

考えてみるとインターネット以前においても、デマとヘイト・人種差別と私刑行為はいつもタッグを組んで厭うべき対象を共有し、排斥行為を繰り返してきました。私刑行為の正当化はほとんどの場合、不安の中、デマや誤情報が拡散されヘイトの対象となるグループにより命の危険にされるとして自身や家族(特に女性や子供)を守るためとして自警団を組織していきます。

銃の所有が容認されている米国ではボランティアでパトロールを行う自警団員が、丸腰の少年を結果的に銃殺してしまったケースがありその背景として世間からは人種差別が指摘されました。さらに古くは検証済みでないデマが発端となり自警団の行動が大量虐殺を引き起こした100年前のケースなど、挙げればきりがありません。ヘイトの被害にあうのは、特定のグループに属する人種に限定されず、実際にはその特定グループ以外の人々も被害が及びます。

'Watchmen' revived it. But the history of the 1921 Tulsa race massacre was nearly lost

The explosive opening in the first episode of HBO's "Watchmen," with citizens of a black Tulsa, Okla., neighborhood being gunned down by white vigilantes, black businesses deliberately burned and even aerial attacks, has brought new attention to the nearly buried history of what the Oklahoma Historical Society calls "the single worst incident of racial violence in American history."

日本においても不安やストレスが強い環境において特定のグループへのヘイトが高まり、ヘイトの対象と同一視され殺害されてしまった歴史もあります。自粛ポリスをインターネットのせいだ、として悪者扱いしても(というかインターネットを相手にしても・・・)何の糸口にもなりません。自粛ポリス考その1で書いたように、サイバースペースの問題と物理世界の問題をそれぞれ別の問題として断絶させてしまう事態が続かないよう包括的なアプローチが必要です。

パンデミックにおけるテクノロジーへのまなざしも分断しています。情報の加工や収集、拡散が容易になったことでインフォデミックが起こり、その原因として予てから指摘されてきたリテラシー教育の不十分さや、プラットフォームの推薦アルゴリズムどを問題視する声も生まれます。一方で、感染拡大の防止にテクノロジーが打開策を提供してくれるだろうとして、データの集積やGPS等に希望を見出すものもいます。

人間の尊い命を奪うウイルスによる未曽有の事態においてテクノロジーとどう向き合い、取り組むべきなのか。このブログでも過去に何度か参照し、テクノロジーの解決主義(Solutionism)批判で知られるEvegeny Morozoffは、今般もガーディアン紙に「パンデミックを”IT政策”で乗り切るのは大間違い」と寄せています。相手が未知のウイルスであっても、教訓となる事柄は充分にあると考えます。同様に過去に参照したユヴァル・ノア・ハラリは「パンデミックよりも恐ろしいのは人間のヘイト、欲、無知」だとし、さらに個人データ収集については「市民への監視が進むのであれば、政府への監視も併せて強めなければならない」と話しています。


私が思い出したのは、過去に国内で議論を巻き起こしたテクノロジーによる浅はかな解決主義に対する批判です。日本のGoogleによるインパクトチャレンジという社会課題解決にICTを使うビジネスコンテストで、あるNPOが起案した「GPSによる治安維持とホームレス雇用の両立)事業」が、ホームレスの当事者支援団体などにより批判を浴びました。突っ込みどころが多すぎるから詳しくは書きませんが、先に触れたパトロールや不安と差別、ヘイトなど様々な問題を含有します。善意が、意図せずこういう方向に向かってしまうのは残念と思うとともに、では何を理解しておくべきだったのか、というと大学の講義で体系だって教わることでもないのかもしれないので、想像しようもなかったのかもと思うと、どのような手立てでこうしたことが防げるのかな、というのが私にとってテーマでもあります。

NPO法人Homedoor「CRIMELESS(GPSによる治安維持とホームレス雇用の両立)事業」への批判

Googleインパクトチャレンジ受賞『CRIMELESS(GPS による治安維持とホームレス雇用の両立)』の問題点 参考:「日本におけるGoogleインパクトチャレンジ」のグランプリを受賞した事業「CRIMELESS」についての意見書 http://lluvia.tea-nifty.com/homelesssogosodan/2015/03/googlecrimeless.html

テクノロジーをどう利用するのか、政治とデータの関係は一層密を極めています。個人がデータの行きつく先について理解せずともテクノロジーの利用は増える一方です。最近ではトランプ陣営が新たなアプリをリリースし話題になっています。これに対し、シンクタンクのTactical Technology Collectiveは、「キャンペーンアプリは同じ考えを持つユーザを集めるので、思想的多様性が避けられてしまい一層フィルターバブルやコンファメーションバイアスを強化するリスクがある.  」と警鐘を鳴らしています。

また最近になって、トランプ陣営が勝利したのは単に他の候補者よりもFacebookに莫大な広告費をかけ、Facebook広告が算出した最適化された広告を活用したことが勝因になったのでは(つまりキャンペーンマネージャーという人間による戦略的に案を練って低コストで最適な効果を得る広告を作るという意思決定ではなく、Facebook広告に内在する計算機が導いた)との分析も改めて注目されています。そして政治的キャンペーン、選挙活動としてトランプ陣営はパンデミックを利用し、憎悪を増幅させるキャンペーンを展開しています。
画像:https://www.anotheracronym.orgによる選挙広告に関する分析記事


 問題は、こうした憎悪は特定のグループに作用するだけでなく、ひいてはそれ以外の人々にも被害をもたらします。パンデミックをもたらしたウイルスを裁いたりリンチしたりできないフラストレーションが、さらなる憎悪や分断を生むなか、過去の教訓に学びながらテクノロジーへのバランスの取れた視座を得ようと試みることが必要なのではないでしょうか。

0 件のコメント:

コメントを投稿