フェイスブックを叩いてインターネットの自由を狭めたら思うつぼ

 前回の投稿で、フェイスブックの内部告発をきっかけとした、フェイスブックに対する大バッシングについて紹介しました。フェイスブックへの強まる批判とともに、規制強化へ共和党、民主党の両党の議員が強くうなづく、そんな風潮が高まっています。しかし、もしこの規制強化が、通信品位法の230条を改め、プラットフォーム企業に対してユーザの投稿の責任を持たせることとすれば、それはフェイスブックの思うつぼかもしれない、とテクノロジーとインターネットの自由に関するブログTechdirtのMike Masonicは懸念しています。

適法に業務を行いながらも、どっちつかずで時代遅れの規制（もしくはそれが無いこと）のせいで、たびたび公聴会に呼ばれたり、多額のロビー費用をかけたり、年中裁判しなければいけないなら、もう、規制法つくってくれよ、その通りにするからさ、とさすがのフェイスブックも思いたいのではないでしょうか。  

 実際に上記動画が表すのは、フェイスブックのがインターネット規制の立法を求める意見広告。実際に今年春の公聴会でもマークザッカーバーグは、２３０条項の改正賛成を示唆していました。通信品位法の230条によって、プラットフォーム企業はユーザ投稿についての責務を逃れてきました。もし、通信品位法230条の改定でユーザ投稿についてプラットフォームが責任を負うことになるとしたら、一見すると巨大プラットフォーム企業をお仕置きする手立てとなりそうに見えますが、実際には、寡占状態をさらに加速し、参入障壁を高くし、市場のバランスがさらに悪化することが懸念されるのです。

フェイスブックの問題を直すための正解はわかりませんが、いくつかの論点が明らかになってきています。感情的なフェイスブック批判が横行しがちな中、規制強化がかえって悪影響を及ぼすことについても十分に留意が必要です。

特に巨大プラットフォーム企業は、通信品位法で免除されていた責任を、新たに負わなければならなくなったところで、十分な法的対応資源を有し、準拠するよう舵取りをすることができます。しかし、もし新たなプラットフォームサービスをゼロからつくるようなスタートアップにとっては、ユーザ投稿についてまでぬかりなく、新たな事業を展開していくのは非常に障壁が高くなってしまうことが考えられます。

同様の指摘をCory Doctrowもしています。今月のACMの雑誌に寄稿し、（フェイスブックのような）巨大テック企業を直すんじゃなくて、インターネットを直すんだという視座から、（そして得意の著作権侵害をリラックスさせることを含みつつ）ユーザ側のコントロールを優位にし、相互運用性を強化する仕組みをつくることを提案しています。

面白いことに、この案だと、改正すべきは、コンピュータ詐欺と濫用に関する法律と、デジタルミレニアム著作権法になります（笑！！）しかも、雑にとらえて種別分けするとしたら、規制緩和ですね。（一方で、併せてACCESS ACT＝Augmenting Compatibility and Competition by Enabling Service Switching Act、ざっくりした説明をするなら、データポータビリティを保障する法律かな。。。の立法も支持しているようだし、おおよそEFFの主張とかぶる、というかそもそもEFFの特別顧問みたいな立場でもある）

内部告発に関連するなかででてくる問題解消案の一つの選択肢にビッグテック規制監督官庁の設立があります。

嗚呼、ビッグテック規制（Politicoが行った最近の国際パネルディスカッション）

元FCCのTom Wheelerはかなり前から、対象セクター向けの監督官庁Digital Platform Agency (DPA)を作るべきだと言っています。（前にも紹介したような気がするが、ブルッキングス研究所の寄稿や、あとパブリックナレッジも似たような規制官庁を提言してたので、今回改めてその語気を強めている）

監督官庁が有効かどうかわかりませんが、EFFやCory Doctrowが目指すような相互運用性を現実のものとするためには、その実施を義務付けるような根拠法のようなものがいるのかもしれない（もしくは、それを実施したときに、著作権侵害で訴えられたり買収されて消えたりしないように）ような気がします。ええ、法律の専門家じゃないからわかりませんけど。。この相互運用性は、もしかすると、ちょっとずれ気味だったフランシスフクヤマが過去に仕上げたホワイトペーパーで「ミドルウェア」と呼んでいたものを、実際にはオープンな相互運用性の実装で、担保するというところのような気がします。

巨大テック問題ーでも批判するマスコミも同じ

 フェイスブックの内部告発者が６０ミニッツに出演し話題を呼んでいます。フェイスブックは、若い子たちへの有害性を知りながらも調査資料に蓋をし、コンテンツの掲示に関わるアルゴリズムについて利益を追求のために使い続けたことが批判されています。

ちょうど上院での公聴会の最中だったり、欧州が米巨大テック企業への規制を強めていたところという時勢的な状況も重なって、新聞テレビ等のマスコミはフェイスブックを大バッシング。国際的にも問題となっています。フェイスブックが独占的な立場を優位に利用して、ユーザのエンゲージメント（という名の従事時間）を最大化するよう、特に弱い立場にある10代への影響を知りながら、十分な対応をしてこなかったのは、そりゃーいかんだろう。（Timeの表紙はこんなふうになっちゃってる、キツっ）

一方、このメディアからの大バッシングに、冷めた目を向ける人もいます。（一言でいうと、もっとも基本的なU.Y.C.の事例) 落ち着いてみてみましょう。マスコミがフェイスブックを批判しているのは、「利益を最大化して、若者への悪影響を蔑ろにした」からですが、マスコミはその常習犯です。先ほどのTIMEの表紙がわかりやすいですが、今回の報道では、Facebook＝ザッカーバーグとして象徴、一般化し、フェイスブックが悪い、というようにことをずいぶんと単純化してしまいがちです。これに対して、ウェブの世界の長老ともいうべきでしょうか（ブログ始めて27年だそう）Dave WinerはFacebookの内在する複雑性を単純化することを批判し、フェイスブックは我々だ、と投稿しています。その投稿の中では

「フェイスブックは言ってみればニューヨークみたいなものだ。もしタバコ会社の本拠地がすべてニューヨークにあったら、ニューヨーク市長が癌の元凶の犯罪者だって言っているようなもんだ。実際にフェイスブックはニューヨークの何百倍も大きいんだから、いろんなことがあるってことを理解してよ」と。

そして「フェイスブックがー」と言うのは焦点が定まらなさ過ぎので、その意味するところをしっかり検討するようにと口を酸っぱくして言っています。

Facebookとは・・・ 

1.マークザッカーバーグのこと
2.パブリックコーポレーションとしてのFB
3.60Kの従業員
4.サーバー、ソフトなどの技術
5. 広告プラットフォーム
6. ユーザコミュニティ
7.ウェブへと接続するもの
8. ビデオや画像、投稿、ライブ配信など、現在過去のあらゆるコンテンツのこと

How to radically restructure FB in a tweet.

Given what we know about what FB is, I would say the best line to draw when splitting up "Facebook" is to separate the users and the content from everything else.

Now figure out what that means and we have a plan. ;-) pic.twitter.com/x8Lh2DSaPQ

— Dave Winer (@davewiner) October 5, 2021

マスコミのほとんども現在は、トラフィックの大部分やシステムをGAFAに頼っている（ニュースサイト訪問のほとんどはSNSからの流入）わけだし、確かにやっていることの構造はほとんど一緒です。

同様の指摘はこちらにも。

フェイスブックについて人よりもカネを優先する悪いと世間に伝えるなら、プレス（マスコミ）だって、同じことをしちゃいけないはずだ（でもしてる）。クリックベイト記事やとんでも記事でトラフィックを捻出したりしないってこと。

If we tell the world that profit over people is unacceptable on Facebook, then as the press, we should make sure that we are not trying to drive traffic to outrage-type articles, with click-bait style headlines for clicks (but we do)

— Thomas Baekdal (@baekdal) October 11, 2021

あと、面白かったのはコレ↓。新聞が、フェイスブック閉鎖や解体をに声を強めながら、この論争の最中、フェイスブックのサイトが一時アクセスできなかったことについて、咎める新聞記事に、どっちやねん！と突っ込みをいれている投稿。

新聞記事：「フェイスブックは邪悪！閉鎖すべき」
これも新聞記事：「フェイスブックは６時間落ちてたので、再発防止に努めるべき」（どっちやねん）

Newspapers: Facebook is bad and should be closed
Also newspapers: Facebook was down for six hours, they must promise that never happens again.

— Thomas Baekdal (@baekdal) October 6, 2021

「私の言いたいことは、我々プレスが、他者にアカウンタビリティを求めるなら、自分自身についても、より高い水準を保つよう努めなければおかしい。もし、フェイスブックが人々のプライバシーを侵害していると、世間に伝えるならば、我々プレスも、同じように人々のプライバシーを侵害してはならないはず（だが、している） 」

My main point is simply this. If we, as the press, hold someone else to account. The least we can do is to have a higher standard ourselves.

If we tell the world that Facebook violated people's privacy, then, as the press, we shouldn't do it either (but we do)

— Thomas Baekdal (@baekdal) October 11, 2021

内部告発から、単なるフェイスブック叩きに終始してしまうと、ことの論点を単純化しゆがめてしまい、本来議論すべき事柄や検討すべき選択肢がぼやけてしまうように見えます。

今回は、フェイスブックの内部告発により明らかにされた巨大テックの持つ強いパワーや不均衡について報道するはずのプレス（マスコミ）に対する批評をいくつか紹介しました。フェイスブックの問題をひも解いていくと、実はそれは自然と、インターネット以前の時代に、これまでマスコミが指摘されてきたことといくつかは同じ性質を持っている、ということに気づくと、マスコミ批評がこれまで展開してきた論点や規制のありかた（うまくいってないけど！）を巨大テック企業にも応用することができるというヒントをくれているように思います。

もちろん、編集者によるニュースの選別と、アルゴリズムにより自動化された選別や掲示というのは、背景の仕組みやその規模のインパクトが大きくちがうし、テック周りの法整備が未発達である、テクノロジーの複雑性への理解をほとんどの人は持ち合わせていないことから、巨大テック問題をどう解消すべきか、みんなで落ち着て議論するのがかなり難しい現状にあります。そうすると、今回の一件で、マスコミがフェイスブック叩きに走ることで、なんだか違う、インターネットの自由を侵す方向に走ってしまう可能性もあるということは留意しておかなければいけなさそうです。

次回は、くわしくそれ。

ミドルウェアはテックから民主主義を取り戻すか

珍しく、Foreign Affairsから。フランシス・フクヤマ（The End of Historyの人）や何人かスタンフォードのグループが、寡占テック産業がどのように民主主義の脅威となるか説明する記事を公開した。 

Foreign Affairs ビッグテックが民主主義を脅す

ビッグテックが民主主義を脅かす――　情報の独占と操作を阻止するには　――フランシス・フクヤマ 　スタンフォード大学 フリーマン・スポグリ国際研究所シニアフェロー バラク・リッチマン 　デューク大学法科大学院教授、経営学教授 アシシュ・ゴエル　 スタンフォード大学教授（経営科学）...

ここ数年英語圏では、テクノロジー企業が様々なコントロールパワーを持っていることへの批判が増大し、「テックラッシュ(techlash)」と呼ばれるテクノロジー企業の台頭へのバックラッシュを意味する造語が生まれた。同時に、巨大な力を持つプラットフォーム企業はGAFAという四文字となって、GAFAに対する批評がIT専門誌だけでなく、AtlanticやSalonなど現代文芸系の媒体で展開されてきた。こういう流れの中で、フランシス・フクヤマのような著名な政治経済学者が、民主主義の脅威という文脈でテクノロジー企業の寡占とその対策について執筆するのは自然だ。

記事の元となったのは、フランシス・フクヤマらによるスタンフォードの「プラットフォーム・スケール」ワーキンググループのホワイトペーパーだ。

Stanford Cyber Policy Center | Report of the Working Group on Platform Scale

The Program on Democracy and the Internet at Stanford University convened a working group in January 2020 to consider the scale, scope, and power exhibited by the digital platforms, study the potential harms they cause, and, if appropriate, recommend remedial policies....

Foreign Affairsの記事では、アメリカが直面する巨大テック企業がいかに民主主義を脅しているか、その脅威に気づいた規制当局がここ数年になって訴訟を起こしていること、こうした規制の強化は、テクノロジーの進化のペースにあまり効果を持たないこと、イノベーションの余地を残そうと解体してもまた同じようなことが起こること、と既存の取り組みの方向性が不十分であることをわかりやすく示している。これについてはその通りだと思う。

そして提案するのが、「ミドルウェア」なのである。

Image: Francis Fukuyama, Barak Richman, Ashish Goel,Roberta R. Katz, A. Douglas Melamed,Marietje Schaake,"REPORTOF THE WORKING GROUPON PLATFORM SCALE", STANFORD UNIVERSITY

雑に説明すると、プラットフォームとユーザの間にミドルウェアをかましましょう、それによってユーザが主体的に意思決定ができる、ないしはミドルウェアは機能として信頼性の高い情報をラベリングする、などというものだそうである。正直申し上げてシステムの絵としてしっくりこないのだが、ひとまず記事の描くミドルウェアを私の解釈に基づいて説明するとすればつぎのようなものがあると考えられる；

①プラットフォーム企業がミドルウェアを提供する。

ミドルウェアが情報に適切なラベル付けをする（例えば未検証情報のラベルをつけるなど）ことで、ユーザはミドルウェアを通じて信頼度の高い情報を入手できる。

②独立したミドルウェア提供会社がミドルウェアサービスを提供する。

ユーザの志向に合わせて、GAFAのコンテンツの上位に表示されるアイテムの重みを変動させるミドルウェアを提供する。例えば、国産のエコな商品だけを上位に表示させるなど。

③学校や非営利機関がミドルウェアを提供する。

地域の教育委員会が地域の出来事に比重を置いた結果を表示させるミドルウェアを提供するなどの例が考えらる。

①～③のいずれのパターンであっても、実現するうえで満たさなければいけない次のような要件があると考えられている。

• まず、ミドルウェア提供側が技術的な透明性を持たなければならない。

• またミドルウェア提供側が巨大な力を持つプラットフォーム上の別レイヤーとならないような仕組みが必要である。 

• また、政策面ではプラットフォーム企業がAPIを提供するように義務付けなければいけない。 

• さらに、ミドルウェアの健全な市場競争のために、プラットフォームへのアクセスによってミドルウェアにその収益の一部が入るようにしなければならない。（つまり、GAFAの利益をミドルウェアとシェアする）その共益がまともな関係になるよう政府が監督する。

正直、夢物語のように聞こえる。

この記事への反応をみると、テクノロジーによる民主主義への脅威や寡占問題の本質を詳細に定義していると評価するコメントが目立った。一方で、「ミドルウェア」という技術的な解決策については、あまりコメントがなかった。どうしてゆめっ物語のように聞こえるかというと、かつてミドルウェアのようなサービスがあったような気がするんだけど、GAFAにつぶされたんじゃなかったっけ？

その記憶を少したどってみよう。

そうでした、そんなようなサービスありました。
（ミドルウェアではなくサードパーティでしたが）

記憶①FriendFeed（その後Facebookが買収）
いろんなソーシャルメディアのフィードを一度に見れるサービスだった。Facebookに買収されてサービスは停止した。

@akihitoさんのブログの画像をお借りしています

記憶②Power.com

2008年頃にあったブラジル発のソーシャルメディアのアグリゲーションサービス。プラットフォームを跨ってコミュニケーションできるツールだった。が、著作権侵害等でFacebookに訴えられる。Power.com側はFacebookを外したが、裁判中にサービス終了。

記憶③Meebo（Googleが買収）
いろんなプラットフォームを跨いでチャット・メッセージができたが、のちにGoogleが買収してサービス終了。

記事は決してサードパーティーサービスを指しているのではなくミドルウェアを指しているので、この記憶というのは直接記事に疑いをかける論点にはならないが、どうもミドルウェア解決案が腑に落ちない・・・。

記事中のミドルウェアは、オープンAPIのことを指しているのだろうか、と読んでいる最中に思った。しかし、ホワイトペーパーのほうにもオープンAPIによる解決策というような視点は出てこない。あくまで、プラットフォームのAPIを使う、なんらかの主体が提供するミドルウェアのようである。

そこに私はますます困惑。そもそもAPIを義務付けるぐらいなら、一層のこと相互運用性とオープンAPIを義務付ければプラットフォーム企業と共益関係を結ぶミドルウェア企業を制御しなくてもいいのでは・・・。

このあたりの理解を悩んでいたところ、TechdirtのMike Masonicが明確な指摘をツイートしていました。

In theory it could, but the way FF describes it is entirely focused on companies "owning" the middleware and doesn't seem to have any conception of open APIs or protocols run by standards bodies/etc.

— Mike Masnick (@mmasnick) February 24, 2021

ちょっと、安心。

フランシスフクヤマの指すのミドルウェアとはちょっと違うけれども、ユーザが選択するというような意味あいでは、元FCCのTom Wheelerが支持するOpen APIの形があるのを思い出した。これ聞いたのけっこう前だぞ・・・。

 

How to Monitor Fake News |Opinion NYT Tom Wheeler

This is true. And one effective form of information-sharing would be legally mandated open application programming interfaces for social media platforms. They would help the public identify what is being delivered by social media algorithms, and thus help protect our democracy...

しかし、Tom Wheelerさん、最近では、プラットフォーム規制監督庁(DPA)をつくるのがよい、というようなことも言っているようである。え・・・。

もう少し、テック企業のモノポリーについて、暗くならないように考えてみたいのだけど、いろいろてんこ盛りなので、次回に。

イタリアとCOVID19陽性接触者アプリ #MoneyLab8 （前半）

スロベニアにある非営利の文化機関であるAksiomaが主催しているMoneyLabというカンファレンスがとても面白いので紹介します。

Aksiomaはクリティカルな視座から新しいメディアアートや倫理等について学際的に研究・実践する取組を行っています。そのプロジェクトの一つであるMoneyLabは「お金」という切り口から社会を根底から考え直すカンファレンスです。今年のMoneyLabは約1か月にわたり毎週バーチャルに開催しているので、毎週リアルタイムに（または事後の動画）を視聴することができます。

MoneyLab #8

SHARE IDEAS, COMMENTS, QUESTIONS 👇🏿 OPEN CHAT IN NEW WINDOW The next appointment with the MoneyLab #8 streaming series is set for Monday, 1 June at 5 PM CET. The panel Care: Solidarity is Disobedience foresees the participation of Tomislav Medak as representative of the Pirate.Care research project, which focuses on autonomous responses to the...

なぜマネーなのか、というと公平な社会をつくり出すためのディスコースとして、欧州では非常にインパクトの強かったタックスヘイブンという社会問題を含みつつ、暗号通貨やキャッシュレス、グローバル金融システムなどについてアーティストや技術者、アクティビストらとともに検討するという目的意識からです。タックスヘイブンの問題は、日本ではスノーデンの暴露と同様に過少に見過ごされてしまった社会的問題のひとつですね・・・。タックスヘイブン問題が欧州で意識されるのは、日頃の文芸・哲学系の研究者のさかんな議論と欧州の芸術・学術研究支援の助成金の成果だと個人的には感じます。いわゆる”ボーダースタディ”という領域があって、以前から国境、境界という概念について議論・検討がなされていたからこそ、パナマ文書がでてきたときに、その哲学的示唆をより深く考察できています。

さて、今回は「データ主権(data soverignty)と接触記録(Proximity Tracing)」をテーマにスロベニアで活動するNGO Citizen DのCEOであるDomen Savičさんが、イタリア南部にいるJeromiの通称で知られるDenis Roioさん（フリーソフトウェアを創造する非営利組織のDYNE.ORGの設立者でEUのDECODEプロジェクトのCTO）へインタビューするもの。Jeromiは開発者でありながら、社会正義や倫理について強い意識を持っていることで知られています。Jeromiの発言が、すごく本質的で私の問題意識をうまく表現してくれているので救われます。

字幕設定を自動翻訳＞英語に

インタビューが始まるとDomenはこう口火を切ります。

「ジェロミーにぜひ聞きたい。COVID19パンデミック以来、いつパンデミックの世界を救ってくれるアプリが登場するのか、ボタンで解決できるようななんらかの技術、またそういった問題についてどう思われますか？」

//ちょっとある意味でエフゲニー・モロゾフの本CLICK HERE TO SAVE EVERYTHINGを彷彿とさせる 問いですね。

この問いに対してジェロミーは「簡潔に答えるとどんなアプリが現れようとも私たちが現在直面している問題を解決できません。なんでそんな問いから始めるんでしょう」ときっぱり。そして次のように補足します。「まずは問題の定義から始めましょう。今起きていることは、あらゆるやりとり(interaction)において媒介(mediation)が増大していることです。」

媒介(mediation)とその増大というフレームから社会を捉える、というのはまさにメディアコミュニケーション研究の根っこの部分。

「デジタル技術の発展による媒介の増大は、新たなコミュニケーションの形やアートを生み出しています。媒介するということは、人間の表現、思想、コミュニケーションになんらかの第三者※の側面が介入し、場合によっては所謂『ミドルマン』となってそのコミュニケーションに対し盗聴、追加、削除、逸脱することがあります。」

「ほかのメディアのことを思い出してください。例えば電話、メール、写真。それぞれ良い点、悪い点をもたらしました。それぞれが人々の認識をどう変えたか。」

そしてさらに、哲学者ヴィレム・フルッサーの理論を踏まえ、次のようにコメントしています。（本気で理解したいと、ここやここが参考になるかと）

「フルッサーが予見したようなテクノイメージの置かれる状況、つまりテクノイメージがリアリティに先行し、テクノイメージがその後を作る、ということは、まさに今我々が困っているフェイクニュース問題に相当すると考えられます。画像や音声の合成(synthesis)によるCovid19にまつわる陰謀論の拡散などは見事にフルッサーの理論が言い当たっているのではないでしょうか。」

「またデータビジュアライゼーションはテクノイメージの創造であると捉えることができるとすれば、データビジュアライゼーションもまた、リアリティを定義し説明するもので、やり様によっては、真実を隠したり明らかにすることになるので、どうデータを使うかが重要。」

さて、ようやく接触アプリの話に移ります。ジェロミーは、接触アプリが果たすべき役割は、あくまで個人が自身のリスクアセスメントをし、それに基づいて意思決定することであるとしています。SARS-COV2は、無症状の潜伏期間が長く、その期間中に接触したことを知ることができれば、個人がよりよい判断（自己隔離をしたり、その期間に接触した友人や家族にリスクを伝える）をすることができる、という前提からです。これに対し、接触アプリの悪い例は、トップダウンで、個人をトラッキングし、リスク評価をされる（リスク評価をするのは個人ではなく、上意下達的にモニタリングする側）ようなケースだとしています。あるべき姿はプライベートなアプリであり、自分に関するデータが他者によって集積され、そのことが自分にはわからないような状態であれば問題のあるアプリになってしまう、と述べています。

自警団とアプリ（自粛ポリス考 その２）

自粛ポリス考その１では、パンデミックによる不安・ストレスと、インターネット利用時間が増えデータ（ニュースやSNSでの情報）との付き合いが多くなっていく中、Web2.0以前から指摘されてきたヘイトやデマの問題に加え、より効率的に最適化された近年のアルゴリズム等によって拍車がかかっていくこと、その背景にる広告ビジネスモデルについて目を向けてみました。

考えてみるとインターネット以前においても、デマとヘイト・人種差別と私刑行為はいつもタッグを組んで厭うべき対象を共有し、排斥行為を繰り返してきました。私刑行為の正当化はほとんどの場合、不安の中、デマや誤情報が拡散されヘイトの対象となるグループにより命の危険にされるとして自身や家族（特に女性や子供）を守るためとして自警団を組織していきます。

銃の所有が容認されている米国ではボランティアでパトロールを行う自警団員が、丸腰の少年を結果的に銃殺してしまったケースがありその背景として世間からは人種差別が指摘されました。さらに古くは検証済みでないデマが発端となり自警団の行動が大量虐殺を引き起こした100年前のケースなど、挙げればきりがありません。ヘイトの被害にあうのは、特定のグループに属する人種に限定されず、実際にはその特定グループ以外の人々も被害が及びます。

'Watchmen' revived it. But the history of the 1921 Tulsa race massacre was nearly lost

The explosive opening in the first episode of HBO's "Watchmen," with citizens of a black Tulsa, Okla., neighborhood being gunned down by white vigilantes, black businesses deliberately burned and even aerial attacks, has brought new attention to the nearly buried history of what the Oklahoma Historical Society calls "the single worst incident of racial violence in American history."

日本においても不安やストレスが強い環境において特定のグループへのヘイトが高まり、ヘイトの対象と同一視され殺害されてしまった歴史もあります。自粛ポリスをインターネットのせいだ、として悪者扱いしても（というかインターネットを相手にしても・・・）何の糸口にもなりません。自粛ポリス考その１で書いたように、サイバースペースの問題と物理世界の問題をそれぞれ別の問題として断絶させてしまう事態が続かないよう包括的なアプローチが必要です。

パンデミックにおけるテクノロジーへのまなざしも分断しています。情報の加工や収集、拡散が容易になったことでインフォデミックが起こり、その原因として予てから指摘されてきたリテラシー教育の不十分さや、プラットフォームの推薦アルゴリズムどを問題視する声も生まれます。一方で、感染拡大の防止にテクノロジーが打開策を提供してくれるだろうとして、データの集積やGPS等に希望を見出すものもいます。

人間の尊い命を奪うウイルスによる未曽有の事態においてテクノロジーとどう向き合い、取り組むべきなのか。このブログでも過去に何度か参照し、テクノロジーの解決主義（Solutionism)批判で知られるEvegeny Morozoffは、今般もガーディアン紙に「パンデミックを”IT政策”で乗り切るのは大間違い」と寄せています。相手が未知のウイルスであっても、教訓となる事柄は充分にあると考えます。同様に過去に参照したユヴァル・ノア・ハラリは「パンデミックよりも恐ろしいのは人間のヘイト、欲、無知」だとし、さらに個人データ収集については「市民への監視が進むのであれば、政府への監視も併せて強めなければならない」と話しています。

私が思い出したのは、過去に国内で議論を巻き起こしたテクノロジーによる浅はかな解決主義に対する批判です。日本のGoogleによるインパクトチャレンジという社会課題解決にICTを使うビジネスコンテストで、あるNPOが起案した「GPSによる治安維持とホームレス雇用の両立）事業」が、ホームレスの当事者支援団体などにより批判を浴びました。突っ込みどころが多すぎるから詳しくは書きませんが、先に触れたパトロールや不安と差別、ヘイトなど様々な問題を含有します。善意が、意図せずこういう方向に向かってしまうのは残念と思うとともに、では何を理解しておくべきだったのか、というと大学の講義で体系だって教わることでもないのかもしれないので、想像しようもなかったのかもと思うと、どのような手立てでこうしたことが防げるのかな、というのが私にとってテーマでもあります。

NPO法人Homedoor「CRIMELESS（GPSによる治安維持とホームレス雇用の両立）事業」への批判

Googleインパクトチャレンジ受賞『CRIMELESS（GPS による治安維持とホームレス雇用の両立）』の問題点 参考：「日本におけるGoogleインパクトチャレンジ」のグランプリを受賞した事業「CRIMELESS」についての意見書 http://lluvia.tea-nifty.com/homelesssogosodan/2015/03/googlecrimeless.html

テクノロジーをどう利用するのか、政治とデータの関係は一層密を極めています。個人がデータの行きつく先について理解せずともテクノロジーの利用は増える一方です。最近ではトランプ陣営が新たなアプリをリリースし話題になっています。これに対し、シンクタンクのTactical Technology Collectiveは、「キャンペーンアプリは同じ考えを持つユーザを集めるので、思想的多様性が避けられてしまい一層フィルターバブルやコンファメーションバイアスを強化するリスクがある.  」と警鐘を鳴らしています。

また最近になって、トランプ陣営が勝利したのは単に他の候補者よりもFacebookに莫大な広告費をかけ、Facebook広告が算出した最適化された広告を活用したことが勝因になったのでは（つまりキャンペーンマネージャーという人間による戦略的に案を練って低コストで最適な効果を得る広告を作るという意思決定ではなく、Facebook広告に内在する計算機が導いた）との分析も改めて注目されています。そして政治的キャンペーン、選挙活動としてトランプ陣営はパンデミックを利用し、憎悪を増幅させるキャンペーンを展開しています。

画像：https://www.anotheracronym.orgによる選挙広告に関する分析記事

 問題は、こうした憎悪は特定のグループに作用するだけでなく、ひいてはそれ以外の人々にも被害をもたらします。パンデミックをもたらしたウイルスを裁いたりリンチしたりできないフラストレーションが、さらなる憎悪や分断を生むなか、過去の教訓に学びながらテクノロジーへのバランスの取れた視座を得ようと試みることが必要なのではないでしょうか。

パンデミック、インフォデミック（自粛ポリス考その１）

緊急事態宣言で外出自粛が続く中、日本では「自粛ポリス」が問題になっています。今回は、自粛ポリス考（その１）として、その背景にある個人情報晒し（Doxxing）やヘイト、誤情報の関係について考えてみたいと思います。

他県ナンバー狩り、ネットで中傷...暴走する"自粛ポリス" | 2ページ目

「自粛警察」の事例 「自粛」とどう向き合うか 感染不安...他人にぶつけてカタルシス 　休業要請の有無にかかわらず営業する店舗を非難したり、外出する人々をインターネット上で"告発"したり－。会員制 交流サイト （SNS）で「自粛警察（ポリス）」と呼ばれる動きによって、人権侵害につながるケースも生じている。 ...

自粛ポリスとは、外出や営業をする他者の行動に対してネット上で非難し個人攻撃することによって取り締まろうとする私刑行為と捉えればよいでしょう。今般のパンデミック以前からネット上で気にくわない他者に対して個人情報を晒すなどの嫌がらせをすることで自分の思う正義を果たそうとしてしまうネット私刑が定期的に表面化し問題となってきました。

加速するネットリンチの残酷、住所など個人情報晒しは法律的に「アウト」

10月に発覚した神戸市の教員間いじめ・暴行事件。加害者とされる教員たちの実名はもちろん、住所や家族の名前、職業などがネットで晒されている。個人情報を安易にネット上に書き込んでしまうネットユーザーたちが増えているからだ。しかし、こうした行動の多くは、法律的には「アウト」である。（フリージャーナリスト　秋山謙一郎） ...

こうしたネット私刑の問題は今に始まったことでもなければ、日本人特有の問題ではありません。ネットでの個人情報を晒す行為は、英語で"dox"と呼ばれています。情報を専門的に扱うプロフェッショナルである記者を囲うニューヨークタイムズは、情報セキュリティ研修の一環としてdoxxingの慣行から記者を守る方法を教え、その教材を公開しています。

How to Dox Yourself on the Internet

By Kristen Kozinski and Neena Kapur No one wants their home address on the internet. That is personal information we typically only give out to friends, family and maybe our favorite online stores. Yet, for many of us, that information is available and accessible to anyone with an internet connection.

ネット中傷の歴史を遡れば、1999年のスマイリーキクチ中傷被害事件も有名です。これには、ネットでの個人への行き過ぎた中傷とデマが横行することで相乗的に悪い影響をもたらした事例ですが、近年はSNSの特定のユーザにはより好ましい情報だけを提供するようなアルゴリズムなどがより効果的に作用しフィルターバブルを作ることでサイバーカスケードが一層起こりやすくなり、フェイクニュース問題が生まれ、世界的にデマや意見の先鋭化の温床となっています。

COVID19のパンデミックに際しては、感染症に加えて誤情報が蔓延する危機的な事態「インフォデミック」への懸念から、誤情報への対策が声高に叫ばれてきましたが、誤情報対策だけではなく「ヘイト」対策の視点が重要だと私は思います。

今のような形のSNSが一般化する以前、ヘイトの拡散に影響力を持つ主体はマスメディアで、日本は国連自主差別撤廃委員会から2010年の勧告（日本語PDF）で次のような指摘を受けていました。

26．人権相談窓ロの設置や人権教育や促進など締約国によってとられた人種的偏見をなくすための措置に留意しながら、委員会はメディアに関して、そしてテレビやラジオ番組への人権の取リ込みに関して具体的な情報が欠如していることに懸念をもち続ける（第７条）。 委員会は締約国が、人種差別撤廃を目的として、寛容および尊重の教育目的を取り入れながら、日本国籍者および非日本国籍者双方の社会的に弱い立場にある集団に関する問題が、適切にメディアで表現されることを保障する公教育および啓発キャンペーンを強化するよう勧告する。委員会はまた、締約国が、人権教育の向上におけるメディアの役割に特に注意を払い、メディアや報道における人種差別につながる人種的偏見に対する措置を強化することを勧告する。加えて、ジヤーナリストやメディア部門で働く人びとに人種差別に関する意識を向上させるための教育および研修を勧告する。

またインターネット上のヘイトに関連する事項では

13．締約国が提供した説明に留意しつつも、委員会は条約第４条(a)(b)の留保を懸念する。委員会はまた、韓国・朝鮮学校に通う子どもたちなどの集団に向けられる露骨で粗野な発言と行動の相次ぐ事件と、特に部落民に向けられたインターネット上の有害で人種差別的な表現と攻撃に懸念をもって留意する。

この勧告と事態の発展からその後2014年以降の日本のヘイトスピーチ規制への流れへ向かっていきます。この時点ではヘイトスピーチ規制はあくまでエスニックマイノリティなど特定の集団を攻撃から保護・救済するというような受け取られ方が中心的だったように思いますが、もっと本質的な懸念は、この特定の集団というのがいつ自分の所属する集団と同義になるやもしれない、という点です。定義としてヘイトスピーチやヘイトクライムは弱い立場にある特定集団に限定されていますが、ヘイト行そのものが拡散する原理は、ヘイトの対象に限らず同じ環境にあります。かつてインターネット上の問題はインターネット上の問題（としてとどまる）、と捉えられていた時期がありましたが、Web2.0以降から徐々にシフトし、それは現実社会にも害をもたらすので合算して取り組まなければいけない（つまりインターネットの安心安全を扱うものと、例えば実際の人権問題を扱うもの、とが合同で取り組まなければならない課題）という課題意識が共有されてきています。それでも、取り組む当局および市民社会の体制としてはその二者がいまだ断絶しているケースも少なくないように感じられます。

前置きが恐ろしく長くなりましたが、今回の自粛ポリス、というのもデマとヘイトが手を結んで大きな力をネットから飛び出して現実社会へ影響をもたらしてきている延長です。かつてメディアではヘイトの拡散の防止の措置として、記者やメディアで働く人々への教育や研修が有効な手段として提言されていたという過去を振り返ることができます。このことは、誰でも情報発信できるようになった今、ネットメディアやユーザへの教育に期待されるものと捉えられます。

さらにメディア批評の過去を振り返ると、専門集団であってもマスコミが誤報や中傷を拡散してしまった経緯としてそのビジネスモデルや構造が指摘されていました。商業メディアにとってはセンセーショナルであればウケる、感情的で扇動的であれば部数が伸びる、視聴率を武器に広告収入を得る、スクープをとれば賞をもらえたり昇進できる、というような点です。こうした構造的な問題は、広義での広告収入で成り立つネットメディアも引き継いでいます。ではこれについてどうすればいいのか。

センセーショナルであることで知られるイギリスのタブロイド紙が流布するヘイトに対抗しようと2016年に始まったキャンペーンの母体となるStop Funding Hateは、デジタル広告を出稿する企業が道徳的に広告出稿先を選ぶべき、と取り組んでいます。具体的には、タブロイド紙のヘイト記事のモニタリングや、ヘイトを増幅させるような見出し（いわゆるクリックベイト clickbait）をつける媒体へ広告を出す企業への抗議や不買運動のような取組です。下記のリンクでは、今回のパンデミックにおいてもタブロイド紙が、移民や特定の宗教を信じる人々に対して誤った情報からセンセーショナルな記事を誤報発覚後も掲載し続け広告収入を得てていることや、恐怖や不安に取り組んで陰謀論を展開するYoutube動画が広告収入を得ていることなどを指摘しています。この取組の興味深い点は、一般に誤情報やヘイトの拡散の問題についてはSNSなどのプラットフォームが原因として注視されがちであるのに対し、Stop Funding Hateは、原因追及の矛先をプラットフォームではなく広告（または広告主）に向けているという点です。そして、ユーザが自分の好きな企業の広告が危うい誤情報記事に掲載されていたのなら、広告主に知らせてあげましょう、と呼び掛けています。

The drive for clicks: The coronavirus, misinformation and digital advertising

Online media and digital advertising go hand in hand. Media companies need advertising to make money, so they write articles that get as many clicks as possible. This often means sensationalism, the use of fear and, sometimes, using hate. And sadly, this doesn't change in times of a global pandemic.

ただネット広告の仕組みは多くの場合、技術的に非常に複雑・高度で、具体的にどのようなコンテンツに広告が掲載されるか広告主には自明ではありません（たとえばRTB）。だから、Stop Funding Hateがいくら広告主に知らせたところで「広告主が目視で選別したわけじゃない、そういうアドテクだから仕方がない」と言われればそこまでのような気もします。おそらく媒体のモニタリング活動と併せて行うことで、特定のタブロイド紙には広告出すな、とし、こうした意識を広めることで、媒体そのものが利益のためにはヘイトや偏見を流布しないほうがよい（そうしないと広告が入らない）、と判断してくれる旗振りしていくことは（頑張れば）できるでしょうが、アドネットワークの仕組みを考えるとずいぶん限定的な効果しかもたらさないような気もします。（というかユーザ側もそういうネット広告はスキップ、スクロールしちゃうからなんの広告が出てたか記憶さえしてなよね？！レイバンくらい！？あとコメントボックスとかでヘイトが展開されたらそれも？）

余談ですが広告の話になってきて、なんだかぶり返すものがありますよね。―漫画村です。

「望んで広告を出しているものではない」　海賊サイト広告問題、出稿していた大手企業の言い分は

海賊版サイトの主な資金源となっていた「広告主」が問題になっている件で、ねとらぼ編集部は海賊版動画サイト「MioMio」に広告を表示していた企業に取材しました。なお取材との関連性は不明ですが、編集部が取材した翌日、当該部分の広告枠が削除されたのを確認しています（また時を同じくして、動画の再生ページ自体も削除され、現在は動画が見られない状態となってます）。 ...

誤情報の拡散を断ち切るには、なんらかの法律でもって当局による規制をするか、業界団体などによる自主規定（そういえばその後どうなったのかな）、媒体やプラットフォーム企業が自らを律する、もしくは一般ユーザの教育啓蒙などが常套手段のようですが、今回パンデミックに際しては、ネットの問題と実際社会で起きていることをあわせて考える必要があることをより一層明らかにしているように思います。

自粛ポリスのような過剰な個人攻撃が増えたり、炎上案件がでてきたりするのには、パンデミックの影響で人との接点が減り、ネットを利用する機会や時間が急激に増え、パンデミックの不安やストレスを抱え、やり場のない気持ちを、ネットで得た正しくない情報やな知識を根拠に、自分より非難されるのが妥当であると考える相手に向けてしまっていることがあります。逆に言えば、パンデミック以前にヘイトクライムやネットの言説を真に受けて犯罪手前に向かってしまった人たちは、そういう環境にあった。たとえ、規制をしていってクリーンなインターネットを一時的につくったとしても、現実世界に救いがなく荒れたままなら、いたちごっこのような気がします。（なんだかヒップホップVSアメリカ論争を思い出しませんか？）

ネットの利用時間が増えることで増大する不安については、データデトックスを普及させることが有効ですが、それにしても、メディアとしての問題から一歩（や、もっと？）外に出て、悪者探しに怒り嫌悪を抱くというような時代の精神性を見つめていかなければいけないのかもしれません。

自粛ポリス考（その２）は、自粛ポリスについてアメリカの自警団、アプリによる政治キャンペーンについて参考に考えてみたいと思います。

インサイドアウト:AIに仕事をとられる危機より憂慮すべき人類史の転換

　

Yuval Noah Harari: Homo Deus: A Brief History of Tomorrow

バイオエンジニアリングや、データ主義が、人類を新たな進化へ導く、と語るのはイスラエルの歴史学者ユヴァルノアハラリ氏。先日のカーネギーカウンシルでの講演が興味深かったので少しかいつまんで、雑にですが、紹介したいと思います。（わたしは著書を読んだことはありません）

• これまでホモ・サピエンスは、大した変化を遂げていないが、次にこれから起こる進化は、人間を全く変えてしまうものとなる
• これまで人間は外的な環境に対して様々な働きかけをして改変していったが、今度はバイオエンジニアリングなどテクノロジーを通して内部（自分の脳や身体）を書き換えていくことになる
• その結果、これまでにないほどの格差が巻き起こる
• 人間が外的な環境に起こした変化には、環境問題をはじめとして好ましくないものも多々あり、今後、人間に起こる内的な変化も、同様にネガティヴな影響をもたらすだろう

人間の価値、巻き起こるだろう格差

これから起きる変化について、すでに起きている分野として軍事を例にあげている。かつて、国家が、強い軍隊を作りたければ、賢い参謀や学ある隊員が多数必要だった。ところが今は、アルゴリズム、ドローンなどが、すでに人間の知能や肉体を代替えしている。これと同等のことが、文民の経済にも起こる。この格差が起きたとき、途上国は、一層貧困に苦しむことになる、と話している。雇用が、自動化によって人間からAIを備えたマシンに取って代わったとき、例えばバングラデシュの織物工場で働く人たちは、急にプログラマーに転職することは不可能である。また次の世代がどんなスキルを習得すべきか全くわからない状態で従来どおりの教育を学校は提供したままであり、テクノロジーの発展で新たな雇用が創出されることを否定している。

権限の移譲～ヒューマニズムからデータ主義に～

人類史において、権威というのは最初雲の上にあった。つまり、宗教、神または神に担保された王位、聖書が、まつりごとに限らず全てを指し示す権威だった。それが、ルネッサンスを経て、権威は人間の意思にあるとしたヒューマニズムが興り、物事の善悪も、人が決めるようになり、経済においてはお客さまが王様というよう、民に（経済においては消費者に）権威は移った。今度はその権威が、また雲の上に戻ろうとしていて、それはAmazonクラウドであり、グーグルといったIT企業である、と語る。この比喩の示すところは、著者の言う"データ主義dataism "を指し、膨大なデータをもとにAIとアルゴリズムが、人間には認識できないようなパターンを算術して判断を下し、それが正となる世界が訪れる、と言うこと。身近なところで言えば、ローンの審査や、病気の診断において、AI、アルゴリズムが判断をしていくだろう。

わたしの感想

肝心な内的な変化について、具体的に紹介する記述をしませんでしたが人間をalterする、つまり人の有り様を変えてしまうことです。単に雇用がAIやマシンに取って代わってしまうことでなく、富める者はマシンやAIを持ち、自らの身体についても、その能力を拡張したり、健康、長寿を手に入れさらに富を増幅させるのに対して、持たざる者は、仕事もなく労働価値もなく、政府の福祉や保護があるわけでもなく、自らのデータは無料で提供する一方自分が何か得られるわけでもなく、時代についていくスキルもなく、新たに取得するのも困難で、路頭に迷うばかり。この格差の根源となるデータ主義というのは、権威はデータないしアルゴリズムにあり、人間は判断をマシンに委ねるだけでなく、その判断の理由さえ理解できないまま、アルゴリズムの判断に追従する世界が到来することを指しています。

総じて、テクノロジーの発展と社会への影響に関する言説はいつも性悪説的なものと性善説的なものの二者択一に陥りがちだと感じています。大概が、AIの本質を理解せず映画のようなロボットが人類を襲来するような危機をイメージさせるといったディストピア的論考か、技術を理解しながらお祭り騒ぎのように新たな技術が医療や寿命、経済、人間性まで解決し大儲けができるといった資金調達を招こうとするスタートアップないしIT企業側のユートピア的論考のいずれかです。そんな中、ユヴァル氏の歴史とテクノロジーの両者の深い理解に基づいた忠告は非常に貴重で価値あるものだと感じます。

おまけですが、著者が、イスラエルの占領について、イスラエルが、アルゴリズムを駆使して占領を行なっていることを示しているのが興味深かったです。（なんか、悠長な表現ですいません）。完全なる監視(surveillance)、ドローン、アルゴリズムによる行動パターン認識と判断…。これにより、集団で立ち上がる（organize)のは、全く無理になったことを話しています。イスラエルがアルゴリズム立国を掲げた占領の効率化(algorithmic occupation)を現在もう行なっていることは、これからの世界の秩序の有り様に、示唆するものが多いのではないでしょうか。

脳をテクノロジーで変化させあなたを変える

さて、ここで指す、人間を内側から変えてしまうような技術について、遺伝子工学やバイオエンジニアリングなどが挙げられていますが、中には既に大衆に入手可能な、内的変化をもたらす技術もあります。ユヴァル氏の指す、内的な変化への入り口として、講演とは直接関係ありませんが、このTHYNCについて注目してみたいと思います。

人間の脳に、電流を流すことで集中力を高めたり、リラックスさせたりするのを、、アプリで端末から操作可能にした電流を流して気分を変えるテクノロジーTHYNCについて、ラジオ番組Note to Selfのホストが自ら体感したレポートがこのほど公開されました。

Note to Self "Zapping Your Brain to Bliss" 2017年3月1日

Note to Selfの番組ホストは、THYNCを装着し、電流をかけられ、効能が浸透するあいだ建物をすこし散歩し、実験室に戻ってくると、まるで大麻でリラックスしきったようなトーンで、笑いながらいつもと明らかにちがう様子でTHYNC代表と会話します。中毒性があるかどうかはわかりませんが、録音されたホストの様子の変わりようは、放送禁止用語を連発し、「どうでもよくなっちゃった」と話すなど、まるでドラッグ服用中の人みたいです。

コーヒーで目を覚ましたりヨガでリラックスする代わりに、電流を流して脳に働きかけるといったものです。このタイプのプロダクトは、FDAの規制対象とならないので、なんの規制もなく、販売できる状態にあるとのこと。なんだか、原克の「気分はサイボーグ」で検証されている19世紀後半のイカサマ電流治療法と、シンクロしています。

 

THYNCの紹介動画：This Wearable Gives You a Low Voltage Pick Me Up

このブログ記事投稿のタイトルを「インサイドアウト：AIに仕事をとられる危機より憂慮すべき人類史の転換」 としたのは、人間の感情を擬人化して描いたディズニー映画「インサイドアウト(邦題はインサイドヘッド）」と、ユヴァル氏の「外から内」へ人間が対象を拡大していったと見るナラティブと、重なる部分があると感じたからです。我々が自分たちの謎につつまれた感情や脳の働きを理解するのに、ディズニー映画のナラティブに頼ってしまうのであれば、今後起こる内的な働きかけへの受容をきっとたやすくし、簡素化された司令塔をもったマシンのような脳の描写は、より機械と同化しやすくなるのではないかと杞憂ししまいます。（映画、見てませんがね）

電流とナラティブ

19世紀の怪しい治療を取り上げたDaily Mailの記事

The bizarre 'safe cures' of 19th Century that 'work like magic' より

 

19世紀後半から20世紀初頭にかけて、さまざまなイカサマ電気治療商品が出回ったことを「気分はサイボーグ」は紹介しています。たとえば、最先端のテクノロジーでハゲているおっさんにも髪を育てることができるという「電気育毛器」や男性の生殖機能を元気にさせる「電気ベルト」など。電気神話と男らしさ（masculinity)とかが交差しているところが個人的にはとても興味深いです。

 

先述したとおり、当時も米国食品医療品法FFDAが成立するまでイカサマ医薬品を取り締まる規制がなく、その後も電気をつかった詐欺商品が多かったようです。

 

なお、すべての電気治療がイカサマなのではなく、現在軍隊では軍人の集中力を高める特別な装置としてtDCSという電流で神経刺激をするものが採用されているほか、電流をもちいた様々な神経刺激治療があります。番組ホスト自らが体験したTHYNCは効果があり、これといって害のない商品のようではありますが、こうした電気とアプリによる健康促進商品については「ライフスタイルプロダクト」のカテゴリーにはいるため、現在規制がないという点で、かなりかつての電気療法とのパラレルがあるように思えます。

 

同様に商品を宣伝する語り口も重なります。Wall Street JournalのTHYNCを紹介するビデオでは、コーヒーを飲むよりもTHYNCを使うほうが「モダンな方法である」と語っています。かつて電気治療のいかさま品が信じられたのも当時「電気」が「モダン」であるという語り口で信仰を広げていったことが「気分はサイボーグ」のなかでも述べられており、今後人間が内的な変化を求め実施していく上で、かつての語り口と同様のことが起きていることは、効能の是非とは別に注目しておくべきことでしょう。

 

冒頭の講演でユヴァル氏は、人類が外部への働きかけることで外的世界をコントロールしてきたこれまでに対し、今後は人間内部へ働きかけ、人間そのものをハックする内的世界のコントロールへと変化することを述べていました。「気分はサイボーグ」では機械と生体のハイブリッドサイボーグの先祖として高周波電流神話に注目していますが、同著のなかでも電流をつかった特許医薬品の表象世界を成立させているのが「外部から内部を操作する」という構図だとしています。

 

わくわくする革新的なテクノロジーが身近になりはじめる今こそ、その影響や是非のみならず、過去の言説から学び、改めてその語り口に注意していくことが求められているのではないでしょうか。

数値で測ることの恐怖

あけましておめでとうございます。
年始早々に暗くてすいませんが（年末に書いたんです）
データドリブンな世界における注意に続きがあるんです。続きというのは後からでてくるものですが、後ろにあるわけではなくて前にありました。なんだかもう、過去のゲームをもう一回やっているんじゃないかという気分になってきました。

Alexis C. Madrigalが、データドリブンな世界に潜む欺瞞を語るときに、自分の健康を計るうえで向き合う―がそれはうそっぱちであるもの―体重計について触れていましたが、最近手にした原克の著書「身体補完計画　すべてはサイボーグになる」はその源流となるところを紐解いているように感じます。

振り返ってみるとこの『計る』という行為の裏側には、アメリカ建国から自らの国力を高めるためという目的があった。クリーンで健康なアメリカ国民というのを広めるうえで、優性な血統が汚されることなきよう最新の科学を応用して測定する。そこに標準体型が数値として表され、見本となるような像(ノームとノーマ）まで作られていった。

ところで計るという行為と優性思想を考えたときに、私が思い出すのはベルギーの植民地であったルワンダで起きたジェノサイドである。学生のころ文化人類学の権威（と同じ苗字！）の講義を受けられる！とわくわくして聞きにいくと、ツチ族とフツ族の対立について少数派と多数派の文脈で語られるのみであったが、そののちにルワンダ虐殺についての映画作品「Sometimes in April」を見て、その背景のおぞましさを改めて思い知らされた。入植者が、鼻の高さで現地の人々をツチ族とフツ族に種別分けしたのだった。そして携帯を義務付けられている身分証に計測に基づき、いずれに属すか記されている。それがどちらかであるか、というもののみが登場人物たちの生死を分かつことになる。

身体の特定の部位を優性思想のもとに測定しソートする行為。もっと言うと、ツチかフツか明記した身分証を必携させており、識別子となって身分証に書かれていることが生死を分ける。ジグムント・バウマンのリキッドサベーランスとともに、これからのデータドリブンな社会が何を描いていくか、過去は十分に語っているような気がしてならない。最新の科学の力で数値化し、ソートするその行く末は「適合者」のみをあぶりだす行為だ。そしてその計測・解釈がすべて正しいという前提でのみ適合、不適合の二元性から、私たちは逃げることができない。

インターネットは歪んだ現実のみを流布する。それは「テクノロジー」と「健康」に偏っている。そして我々は哀れにも金を払ってフィットネスに通わなければならない。そしてフィットすべき標準のスコープとサンプルは、もっとずっと偏っている。

データドリブンな世界の注意書き

少し時間がたってしまったが、データドリブン依存について批判する記事が目に付いたのでいくつか紹介する。

ひとつは学術論文で、もうひとつはABCニューズネットワークがファンドしているポップカルチャー中心のネットメディアFusion。一般においても、学術分野においても、データから求めた解に依存することへ注意が必要だと認識する段階にあるということが見て取れる。

ではひとつめ、Sophie ChouのRace and the Machine

MITの学生(と思わしき）で、ブルームバーグが開いたデータフォーグッドエクスチェンジ(#D4GX)というカンファレンスにて発表したもの。

ペーパーもプレゼン資料も、そんなに時間をかけてつくったものじゃない印象をうけますが、彼女のメッセージをかいつまんで要約すると次のようなことではないだろうか。

ユーザの行動を分析するデータマイニングは物事を断片的に決め付けて、ステレオタイプを助長しがち。人種(race)は文脈や行動、社会の中で変容するものだという構築主義の考え方に則れば、アルゴリズムで人種を断定するのはレイシズム。しかもこれらのデータを元に知識処理をしてステレオタイプを元に増幅させたり、医療、犯罪などの重大な判断を下そうとするものなのだから、もっと注意が必要。よって、社会構築主義的な人種の概念を持つことで偏見をさける新たな方法が必要。

うん、そうだね。と思うがずいぶんさらりとした内容である。

ふたつめ。Fusion.net掲載
「The deception that lurks in our data-driven world（データドリブンな世界に潜む欺瞞）」

こっちのほうが読み応えがあります。というのも、the AtlanticやWiredの編集長してたAlexis C. Madrigalが書いた記事だから。内容はざっとこんな感じ。

毎日、儀式のように私はウソっぱちデータと向き合っている。体重計にのって、自分をデブだと思ったり痩せたと思ったり・・・でも何キロあるからデブなんていうことではないだろう。本当はいろいろな尺度のなかで体重を併せて考えた結果、太りすぎだという応えに行き着くのだから。体重という生のデータは変動するから僕はわざと自分に厳しくしたいときはランニング後汗を書いてすぐに体重計に乗るんじゃなくて、一服しておなかを満たしてから乗るんだ。そうすると、ああまだ重い、がんばって運動しなくちゃ、って自分に言い聞かせることができる。ウソも方便だ。

というナラティブの中に、データと付き合う上で考えるべき３、４つの逸話が詰まっています。かなり簡単に言い換えると次のようなこと。（もちろん私独自の解釈や言い換えが混ざってます）

・権威ある科学雑誌「サイエンス」が調査したところ、同誌で発表された実験結果のうち、もう一回やってみて同じ結果がでたのはたった３６パーセントで、データを扱う立派なサイエンティストたちの間でさえゆがみが出てしまっている。その背景にあるのは統計的に有意なデータばかりを使って有意な結果をもたらすp値のハッキングやセレクションバイアスなどがある。 

・複雑な世の中を簡易に処理できるよう統計を用いていった結果、森が死んだ。複雑な自然のエコシステムを、長い視野で見ようとせず、文字通り木を見て森を見ない行動。 （この話を読んで私は、ドキュメンタリー「All Watched Over By Machines of Loving Grace  - The Use and Abuse of Vegetational Concepts」のことを想起した）

・トラッキングにより分析が可能なウェブ広告は正確だと思ったらおお間違い。ブルームバーグの調査によると、トラフィックのうち多くの割合を非人間であるボット（ソフトウェア）が締めていて、これらの偽トラフィックによって広告費がつりあがっている状態にあり、これが今のウェブを煽動しているから、ろくな内容のない切り貼りの記事をまとめたサイトが広告費で儲かったりしている。

科学者じゃなくて一般ユーザも否応なしにデータ漬けの日々を送らなければいけない今、データとの付き合い方、向き合い方について誰もが考えなければいけない（AND 考えてもわりとやりようが無い）ようになっているのをよくあらわした読み物だったので取り上げてみました。