2023年5月12日金曜日

現場を退いたオッサンの話ばかり真に受けて記事にしてんじゃないよ、という話。

 今週月曜日、デジタルテクノロジーと社会正義の領域で戦っている女性およびノンバイナリの研究者や技術者らが、抗議声明を突出してます。

みんな見てたと思うんですけど、5月に入ってでしょうか、「生成AIに警鐘、AIのゴッドファーザーがGoogle退社」とか、「AI研究の第一人者がGoogle退職 生成AIに警鐘」という見出しが日本語圏の紙面を飾り、話題になりました。一般世論としても、こんな報道があると、なんだか社会的リスクを検討しなくちゃいけないのか、みたいになった人が多いと思います。こうした報道姿勢に対して、ふざけんなよ、ということをこれまでさんざんAI、テクノロジーがもたらす社会への害について、量的研究に基づいて、警鐘を鳴らし、職を追われたりした女性やノンバイナリの技術者や研究者たちが、批判しています。そりゃ頭に来るよな、、 怒りポイントとしては、今さらなに言ってんだ(ばっちり定年まで働いておいて?!かつ、これまで女性やノンバイナリの研究者たちがさんざんリスク喚起したときは、スルーしてたくせに!?)というところ、実害を被っている当事者についてよくわかってないのにどの口がそれを言ってるんだ(データやアルゴリズムなどによって、不当な差別を受け、暮らしに影響を受けるのは周縁化されたコミュニティ、で、特権的立場にある白人男性は、それらの害について、不勉強!)というところではないでしょうか。

彼女たちが、これらについて具体的な警鐘を鳴らしたときは、主流メディアでは大々的な報道には至らなかったし(少なくとも見出しに”ゴットファーザー”みたいな過度な凄みを添えらえたりはしていなかった)、職を追われたり、訴訟にあったりして、さんざんな目にあっていきました。退職金とか年金とかそういう世界じゃなかったわけです。 

 それを、ふざけんなよ、で終わらせずに、懇切丁寧な抗議文をリリースしていく強い皆様であります。 さんざんな目にあったうさはらしではなく、テクノロジーが社会にどのような影響をもたらしているか、コミュニティに根差して細やかに検証して知見をもってるのはこの署名に記されたオールスターたちが誰よりも専門家であり、ここ5~10年くらいずっとフォローしてきた人たちです。抗議文は次のように始まります。
報道関係者および政策関係者 各位
下記に署名した、人工知能やテクノロジー政策分野の最前線で働くグローバルマジョリティ※に属する女性およびノンバイナリの者である、我々は、政策立案者や報道機関に対し、デジタルテクノロジーがもたらす社会課題の報道や検討にあたって、こうした事柄を専門に扱う我々の集合知を利用するよう呼びかけます。 

※ここで書かれているグローバルマジョリティという言葉について、解説が必要そうなので補足します。これまで、「マイノリティ」(人種、性的指向など)とか、people of color (有色の人種)という言葉で表されてきましたが、「グローバルマジョリティ」は、2000年代以降に生まれた新しい語です。クリティカル・レイス・スタディーズや、教育リーダーシップマネジメントの分野における研究や社会正義に対する取り組みをきっかけに、言葉・表現のあり方と意味づけについて、白人との相対的な関係のなかで自らを定義するのではなく(有色とかpeople of colorという語は、これまで、色がついている、ついていないという対比に割り当てられて、自ら位置付けたものでない、という不自由があった)、まるで大多数が西洋文化の白人で、その周縁に存在する少数派であるような表現ではなく(実際には、世界の人口の大部分は白人ではない人たちによって構成される)自ら定義したリアリティを共有したいという意図から生まれてきたのがグローバルマジョリティという力強いことばです。こういう一語一句への気遣いが、みなさん知的でいらっしゃる。そしてこう続けます。


長きにわたってテクノロジーのリスクや脅威に関する報道は、テクノロジー企業のCEOや広報渉外担当者によって定義されてきました。その一方で、これらのテクノロジーがもたらす害は不均等に、我々が属すグローバルマジョリティのコミュニティに降りかかっています。同時に、世界中の政策立案者は技術の進歩に追いつくことに苦慮し、猛威を振るうテクノロジーから人々を保護することに苦労しています。 グローバル・マジョリティからの女性やノンバイナリーの人々は、個人的・職業的リスクを冒しながらも、テクノロジーが私たちのコミュニティに害を与えている方法について、一貫して懸念を表明しています。私たちは、特にAIが民主主義を破壊し、女性、人種・民族的マイノリティ、LGBTQIA+の人々、世界中の経済的に恵まれない人々など、歴史的に抑圧されてきたコミュニティに害を与えていることを検証してきました。私たちは、書籍を執筆し、勇敢な報道で圧制的な政権に立ち向かい、時代を代表するいくつかの大手テック企業に対して告発を行い、量的・参加型研究を実施し、テック企業に対する世論監視を高めるようなヘイトに対抗するキャンペーンを組織してきました。こうした立場をとったため、私たちは職業的・個人的な機会を失い、中には圧制的な政権に抗議したことで亡命を余儀なくされた者もいます。

 [中略]

私たちは、「富裕な白人男性だけが社会に存在する脅威を決定する権限を持っている」という前提を否定し、政策立案者や報道機関に対して、情報源を多様化するよう呼びかけます。人種、女性、LGBTQIA+、宗教やカーストの少数派、先住民、移民、そのほか権力の端におかれたコミュニティにとって、技術とは、常に存在の脅威であり、社会的な権力構造においてわれわれを劣等たらしめるために何度となく利用されてきました。

そこで彼女たちは呼びかけます。要は白人のオッサンの話ばっかり聞いて記事執筆したり政策立案するんではなく、ちゃんと私たちの論を聞きに来いと。 

もうひとつ注目したいワードがexistential riskという語です。「存亡リスク」と訳されるでしょうか、実存そのものに関わるリスクを指していますが、主にきのこ雲が上がって人類が滅亡してしまうかも、といったような、将来的な人類の滅亡を起こしかねないと仮定されるリスクを指す、危機感溢れる単語です。人類滅亡のリスクのシーン、みなさん想像できますでしょうか。残念ながら、NYやLAが壊滅しアメリカ人が地球を救うハリウッド映画のようなイメージをされたではないでしょうか。メディアスタディーズが懸命に示してきましたが、存亡リスクのナラティブは、ずっと昔から白人男性中心で、現在のAIや技術革新にあたっても同じことを繰り返しています。存亡というのは、実存に関わるリスクをさしているのですが、その実存的リスクの主体となれるひとと、なれない人がいます。

たとえば実際にこれまで、FacebookやWhatsappを通じてデマが伝播したことによってメキシコで人が焼け死んだり、ミャンマーからロヒンギャ難民が迫害され殺されても、テクノロジー企業も、政策立案者も大した対策をとりませんでしたが、ホワイトハウス襲撃事件では大きく対応しました。自国の問題でない事柄には、どんな甚大な影響を及ぼしてしまっていようが、Section230があるもんね、っとそっぽを向いてしまう様子をRest of world問題と言ったりしますが、これ、Metaのまとめかたが雑で、業績グラフを、北米、アジア太平洋、ヨーロッパ、「その他」とその他はラテンアメリカ、中東、アフリカをまとめて残りその他扱い!していているところからきています。フランシス・ホーガン氏の暴露をきっかけにしたWSJの調査で、Facebook(Meta)が誤情報対策に費やした時間の87%が​アメリカと西ヨーロッパに対してであり、つまり、その他の地域(この言い方がまた頭に来るでしょ)の誤情報対策には残りのたった13%しか注がれてないことも予てから報道されています。インドやアフリカでも困ったことになっているのに!アメリカ国内でも、なんらかのAIが裏で入っているツールで、実害を被ってる人たちがいて、それが偏って、権力の端に置かれた人たちであることを、なんども指摘してきているのに。。。

ということで、White Savior Tropeから、誤情報対策の偏りの話まで、少しわき道にそれてしまいましたが、FreePressから抗議の全文がでてますのでぜひご欄ください。(各自翻訳ツールとかボットで日本語に変換して読める前提で申し上げます)何人か、直接紹介したいのだけど。


グローバルマジョリティという概念の背景とかは、この歌がしっくりくると思う!

Village women, tribal children
Native language, something's missing
Ripping spirit, no religion
This is what we teach our children
Mmm, the chapters we don't know, thеre's no ink to fill them
The visions of thе soul, need Stevie to see them