AIの仮面を剥いでやる

研究助手として採用されたMITメディアラボは、ソーシャルロボットや初期の自動運転車など、人生や生活の可能性を創造する「未来の工場(フューチャー・ファクトリー)」であった。そこのチームで始まったプロジェクトで、笑顔を絵筆にして壁に絵を描く、顔認識技術を利用したアート作品、「アゲアゲビートの壁」に取り組んだ。ユーザーが小さな壁に近づいて顔を動かすと、デジタルな絵が壁に浮かび上がって音が鳴る。そこに活用されたソフトウェアライブラリは、「肌の色が薄い顔をした人に対して最もうまく動いた」。AIの多様な発展があったにもかかわらず、「コード化されたまなざし」の問題は残りつづけていた。

2016年、顔認証技術を警察領域で使用するための新たな研究が発表された。すでに警察でデータベース化されている、アメリカの成人の半数の顔画像を利用して、礼状なしに照会できるようにするものだが、正確性への監査は実施されていなかった。犯罪者として不当に誤認逮捕されるだけでなく、それより悪い事態を引き起こすかもしれない。

このときはまだ、「権力構造についてとやかく言う人たちの仲間入りをして、負の烙印を押されたり詮索を受けたり」したくないという気持ちもあった。それまでの人生で差別を感じることはあったけれど、プログラムの楽しさを味わいたかったし、未来のテクノロジーは政治的に中立だと信じたかった。

「人種やジェンダーに関係なく、私の資質や能力は私自身のものだ」と思いたい。ただ、これまでの教育機会は、家庭環境や偶然など特権的な、自分にはコントロールできない側面があったのも事実だ。それを自覚したとき、自分にはある意味で、声を上げる義務があるのだと思い至る。AIの規範(コード)への挑戦である。

ボストン美術館での展示の機会を得た。この企画展に向けて、『コード化されたまなざし――アルゴリズムの偏見の正体を暴く』というミニ・ドキュメンタリーを制作し、あるポスターには、自身の取り組みにつけた名称である「アルゴリズム・ジャスティス・リーグ」が掲げられた。これまで多くの市民団体が、女性参政権や公民権、労働者の権利などを求めて、「ジャスティス・リーグ」の旗印のもと、たたかってきた。それにならったのである。

このAIの問題をより多くの人に知ってもらうために、TED×BeaconStreetへの登壇の機会をつかんだ。メディアラボのツテで、メインステージの枠にねじ込んでもらえた。アルゴリズム・ジャスティス・リーグの頭文字、AJLを掲げた盾も用意した。

舞台裏で「肌色」とされた薄いピンクのマイクをつけられた。ミルクチョコレート色の肌にはまったく映えなかったが、ほかの色は無いようだ。ステージに立ち、「人材の採用や解雇の判断、製品価格の決定など、日常のあらゆる場面にアルゴリズムのバイアスが存在すること」を語ると、観客も引き込まれていく。最後のスライドには次の言葉が記され、スタンディングオベーションが巻き起こった。

「テクノロジーが私たちの一部だけではなく、私たち全員に対してうまく動く世界を作る活動に、皆さんを招待します。この戦いに参加しますか?」

MITという注目されやすい組織にいる特権を活かし、「テクノロジーに潜む有害な差別を研究するという目的」が明確化した出来事だった。