筧：では、概要はこれまでにして、これからCFIの中で進めてきたプロジェクトについて紹介していきたいと思います。最初のプロジェクトは、白木さん、劉さん、香川さん、Tangさん、増田さん、百田さん、甲林さんによる《聴こえないのは誰なのか？》というタイトルのプロジェクトの紹介になります。ではみなさん、よろしくお願いします。

劉：みなさんこんにちは、グループ2のメンバーの劉と申します。今回は白木さんと一緒に、このグループを代表して、私たちの作品《聴こえないのは誰なのか？》についてご説明したいと思います。こちらは展示会場の風景で、入口から入ってすぐに見えるのが、私たちの作品です。オムニバス形式で、四つの独立した映像作品と最後のフィードバックスペースによって構成されています。全体で共通しているテーマは、普通にあるべきとされるコミュニケーションの困難性とテクノロジーがそこに果たしている役割です。これから、この作品の作成にあたって、私たちの考えてきた五つのアイディアをご紹介したいと思います。

まずは、メディアは義肢であり、身体はサイボーグであるというアイディアです。カナダの学者マーシャル・マクルーハンのとある名言があります。「メディアは人間の拡張である」というものです。例えば、書籍は視覚の拡張、電話は聴覚の拡張、衣服は皮膚の拡張という具合です。このフレーズは今や普及していますが、私たちの身体と外来の環境に介在し、私達の感覚を調整してくれる装置の中に、しばしば罰せられるものがあります。それは凶器、人工網膜、義手・義足などで、これらの補装具は、あまりメディアとして語られることがありません。この作品で、私たちはマクルーハンのアンチテーゼをとって、メディアを義肢と同等の水準で考えることを含みます。私たちはまさにメディア・テクノロジー哲学のマーク・クーケルバーグが主張するように、自然・人口という、二項対立では捉えられないような、常に身体に操作を与えながら生きるサイボーグではないでしょうか。しかし、イヤホンで音楽を聞き、スマホで情報を取得できる私たちが、自分が補助される存在であることに気づかないのはなぜでしょう。それは、ある種の身体の規範が普通であると想定され、他の身体経験が異常や障がいと規定されているからではないでしょうか。

また、印象的に異性とされる服を着る人もいます。服装というのは本来、何気なく無意識に着るものですが、ある方に話を聞くと、自分の性別とは違うとされる衣服を着る瞬間には、他人の視線が気になり、肌から神経に至るまで緊張が走るそうです。男性はこういった服を着るべき、女性はこういった話し方で話すべきなど、身体に装着する器官＝義肢の正確な使い方によって、私たちの日常が担保されています。そして、その正確さから外れる瞬間に、この規範が内包している矛盾に気づくはずです。

今回の私たちの作品も、ぜひこの気づきの定義になりたいと思っています。例えば、作品の一つに、片耳難聴という片耳だけが聞こえないことをテーマにした映像があります。これは取り組む二人のメンバーの身内に、片耳難聴の悩みを抱える方がいるという共通点から生まれた作品です。今回はソニーさんからの支援のもと、チーム内にはエンジニアの方もいるため、実際に片耳難聴の方に役立つものを作るという議論もありました。しかし、それに違和感をおぼえました。自分の愛する人が不在のまま、その苦痛を自分の作品のアイディアとして提示して、最終的に作ったデバイスなどを家に持ち帰って、あなたのために作ったものだと渡すことに疑問を感じたためです。

そこで私たちが出会ったのが「障がいの社会モデル」という考え方です。イギリスの哲学者マイケル・オリヴァーは、障がいを個人の責任で克服すべきとする個人モデルの代わりに、障がい者を障がい者としているのは、身体の欠損ではなく、適切なサービスと十分な補助が提供できていない社会だと主張しています。例えば、車椅子の方がある建物に入れないというのは、その人の足のせいではなくて、建物がスロープやエレベーターを設置していないためです。障がいの原因が社会にあるならば、障害を解消することも、もちろん社会の責任です。注意すべきなのは、私たちを非障がい者とするときに、当事者の代弁をしてしまうことです。ですが、健常者中心社会の受益者である私たちこそ、この社会を変革する責任を負う、もう一つの当事者でもあります。では、このような責任はどのように担うことが可能でしょうか。ぜひ私たちの作品をご覧になり考えてみてください。

次に私たちが考えた問題は、テクノロジーと既存のバイアスはどのような関係にあるかということです。一つの答えは、テクノロジーは私たちの生活に様々な新しい変化をもたらしていますが、受ける影響は社会的な立場によって異なるということです。例えば、オンライン会議が日常的になった一方で、多くの人が様々な困難に直面しています。自宅に静かなスペースやパーソナルなスペースがない、適切な機器が揃っていない、あるいは安定したネット環境が整っていないなどの課題です。さらには、このような理由によって、本来届くべき声が届けられず、二人の会話にずれが生じていくということがあります。このとき届かないのは会話の内容のみならず、画面の奥にある発話者の悩みの場合もあるでしょう。そのような発想から、私たちはまず一つ目の作品を作りました。

さらに、ネットワーク接続が不安定なために、相手の話を聞き取れなかった経験がある方も多いと思います。実はこれは、非母国語話者の日常的な経験とも考えられるかもしれません。会話中のいくつかの単語やフレーズが理解できずに言葉の流れから取り残され、大きな塊となってどんどん集積していきます。ただし、オンライン会議と非母国語話者の悩みは同じものかというと、そうではありません。ある研究によると、オンライン間では非母国語話者の方が、さらに言葉を聞き取りにくいということがわかっています。このように、誰でも経験しそうな状況でも、当事者が置かれる複数の社会的立場によって、それぞれに具体的な苦しみがあるはずです。

ダナ・ハラウェイは、障がいの研究者アリソン・ケイファーに対して「あなたは障がい者はまさにサイボーグを体現してるのではないかと言っているが、障がい者の実際の経験や苦しみというものをまったく考えられていない」というふうに批判しています。また障がい者の労働市場からの排除を指摘するオリヴァーも後ほど、あるフェミニストの障がい学者から、それは賃労働に既に参加している男性のみの悩みだと批判されました。

このような交差性の視点を大切にして、私たちはメンバーとともに、こちらの映像作品を作りました。「テクノロジーが社会にあるバイアスを解決することができるのか？」という問いに対して、解決できるという考え方は危うい、というのが私たちの考えです。例えば、補聴器や音声認識アプリというメディアは、情報保障が必要な人に対して確かに補助にはなり得ますが、聞こえないからこれらを使いなさいと命じたり、使っているから聞こえるはずだというふうに決めつけたりするとき、それは既存の健常者中心主義を再生産しながら、利用者に様々な負担を強いる他なりません。しかし“普通”から外れた身体、さらにはその規範に抵抗するための表現が、“普通”へ適用される構図というものが、日常生活ではよく見られます。

白木：私たちの最後の作品は、制作者が健常者中心社会に対する不満の抵抗の詩を書こうとした際に、iPhoneの機能によって不適切な表現として規範的な言語に自動修正されてしまう中で、それでも書き換えられる言葉を探りながら何度も抵抗の言葉を編んでいくことを表現しています。この際、詩を編むということと、編み物をキーワードに、テクノロジーが排除したものがどのように権威主義的に作り上げられているのかという問いと、それを編み物という一見シンプルなクリエイティビティの源泉を中心に、規範化されているものや権威的とされているものをいかに開いていくことができるかという問いを同時に投げかけています。

一見円滑に進んでいるコミュニケーションは、実は特権性を内包する規範の連関によって成り立っています。そして、そこには言い聞かせる特権者と、聞こえないとされている立場に置かれる弱者・当事者が存在しています。しかし、本当に聞こえていないのは一体誰なのでしょうか。ぜひ会場に足を運んでいただき、私たちの作品を通じて、この問題を一緒に考えていけたらと思います。以上です。ご清聴ありがとうございました。

筧：ありがとうございます。本当はご来場のみなさんから色々な質問を受け付けたいところですが、今回は僕が質問をして、具体的な議論や対話は、展示会場で制作メンバーと展開してもらえればと思います。

「聴こえないのは誰なのか」という鋭い問いがあり、解決するということではなく気づくということ、そしてその中身もすごく多層的で複雑であるということを、今回の四つの取り組みを通して、僕もすごく痛感させてもらいました。せっかくなので、ソニーから参画された普段は製品や開発、企画に携わられている方々に、今回のプロジェクトを通じて感じたことを聞いてみたいなと思います。実際は、東大・ソニーの所属関係なくやっていたのですが、改めてバックグラウンドも含めて教えてもらえればと思いました。

百田：百田と申します。今回、東京大学のみなさんとソニーのメンバーが一緒に混ざりながら気づくというところに関して、考えさせていただいたんですけれども、正直自分たちでこのテーマを作っていながら、一番気づきがあったのは自分だなと思っています。というのも、私はエンジニアリングや物理のバックグラウンドがあるのですが、社会的な構造の知見や、講義を受けて実際に手を動かすということに取り組んだのは初めてでした。活動を通して私も学ぶことが出来た社会モデルなどの概念に作品を通じて気づくという現象が、少しでもみなさんに伝播したら良いなと思っています。

筧：普段はデザインや工学に携わっている大学院生の香川さんやTangさんの二人にも発言してもらえればと思います。気づきを届けるために、色々な試行錯誤があったと思います。そのあたりの難しさや苦労などがあれば聞きたいのですが、いかがでしょうか？

香川：ご紹介いただいた香川と申します。今回、作品を実際に展示するまでの工夫に関して、一つ目の《届かない声》という作品では、鑑賞していただくときに、なかなか二つを見比べてもらえないという課題があったため、展示会場で見せ方を調整しました。ヘッドフォンをつけて鑑賞いただく方法から、スピーカーから音を出して、両方の音声を聞きながら環境を見比べられる仕組みにすることで、コミュニケーションのすれ違いをわかりやすく伝えられたのかなと思います。

筧：最後に、気づくことの先については、作品の中でも表現されていた「抗う」ということや、解決に向かっていくということなど色々なステップが考えられると思います。、その点に関して、今どのようなことを考えていますか？

白木：すごく難しい質問だと思うのですが、この企画に携わっている中で、やはり気づく先の未来、futuristというのがすごく意識されているプロジェクトだと思いました。しかし、「未来」と意識すると、すごく漠然としたアイディアになってしまいます。交差性のように、それぞれの個別具体的な経験や立場、置かれた状況を考えることが前提として必要だと思っています。だから私は、個人的にはこのプロジェクトに携わるにあたっては、作品タイトル「Creative Feminist Initiative」と書いているように、差別のない社会や未来を考える前に、どうして差別がこの社会構造に埋め込まれているのかということへの自覚が重要なのではないかと思っています。次のステップに向かうために、まずはここで気づきを共有していけたら良いのではないかと思っています。

筧：すごく重要なメッセージをありがとうございます。では、最初のグループ発表はここまでとさせていただきたいと思います。どうもありがとうございました。

筧：続いて、《 scored？》というプロジェクトの発表に移りたいと思います。高橋さん、Yatingさん、山本さん、Haoさん、松本さん、菅野さん、よろしくお願いします。

山本：私たちのグループ《 scored？》に関するプレゼンテーションを始めさせていただきます。こちらは、Webサイトに隠れた隔たりをAIによって視覚化させるという作品です。こちらの画面に表示されているWebサイトは、男性らしさ・女性らしさの基準でAIスコアリングをさせて、点数順に並べたものです。ご存知の通り、AIはこれまでの人類のアウトプットをデータベースにして、質問への回答を作り出すシステムです。AIに評価させることで、私たち制作メンバー自身のバイアスが介入することを回避しながら、これまでの人類の総和としてのバイアスによってWebサイトの評価と再検査を行っています。この作品では、ジェンダー表象のあり方を再考し、日常に浸透するテクノロジーの中に潜む隔たりを体感的に問いかけています。

展示全体のテーマに「テックバイアス」がありますが、そもそもバイアスとは何か。辞書的な意味における“bias”という言葉は、好意的・非好意的いずれもありうる、ある種のニュートラルな偏見のことです。同じように「偏見」と日本語に訳される“prejudice”と、“bias”の意味は異なります。“prejudice”には、恐怖や間違った情報に基づく不信感や嫌悪という意味合いがあります。社会心理学では、特定のカテゴリーに共通して持たれる特徴のことを“stereotype”と言いますが、こちらはみなさんも聞いたことがあるかと思います。その“stereotype”にネガティブな評価や感情が結びつくと偏見“prejudice”となり、それが行動や言動、制度によって差別になるとされています。

この意味において、バイアスという言葉はステレオタイプとも言い換えられます。そこに共通して共有されるイメージがあるからこそ、私たちは異なる記号やビジュアルを用いてコミュニケーション可能になっていますが、このやり取りにおいてはステレオタイプから逃れることはできないわけです。ステレオタイプから世界を認識、解釈し、コミュニケーションする中で、私たちは表現にもステレオタイプを使います。そして、人間が作り出している以上はテクノロジーもステレオタイプの産物であるため、私たちはテクノロジーを使う中で、日々そこに組み込まれたステレオタイプを通じて世界を見ているということになります。そこで、私たちは自身のステレオタイプに自覚的になるきっかけとなる作品を作るために、日頃あまり意識することなく目にしているWebサイトを取り上げることにしました。

高橋：ジェンダーのステレオタイプの表象としてWebサイトを選んだのにはいくつかの理由があります。まずは、Webサイトのビジュアルあるいは情報設計には、制作者や制作を依頼した側の意図が反映され、その多くが特定のターゲットを意識して設計されているからです。その過程で、意識的あるいは無意識的にジェンダーバイアスが発生している可能性があるのではないかと考えました。そして、Webサイトはデジタル上に存在するため、データを比較的容易に収集することができます。また、分析も非常に容易です。Webサイトはフォントや文字サイズ、アニメーションなど、一見主観的に分析しなければならない要素に関しても、コードで書いてあるため、客観的に分析を行うことができるのではないかと思い、今回のトピックとして適切だと考えました。加えて、Webサイトは日常生活に広く浸透しているため、検証の例として多くの人にとって身近で理解しやすいという点も選んだ理由です。昨日の展示中にも、小さいお子さんが任天堂のゲームのウェブサイトを見つけて非常に喜んでらっしゃいましたが、このようにどのような鑑賞者でも自分の日常と紐づけて作品を受け取ることができるというのは、アート作品においても非常に重要な要素だと考えています。つまり、Webサイトは視覚的、社会的そして技術的な観点から、ジェンダー表象における作品制作において非常に適していると考えました。

次に、なぜAIスコアリングをさせたのかという点に関して、まず重要なのは、人間が作品を制作する以上、制作者自身の視点や価値観からは逃れられないということがあります。Webサイトに対して、女性的・男性的という判断をしようと試みたときに、その基準がどのようなものであっても、人間が行ってしまうとそれはステレオタイプに基づいた判断になってしまいます。それはベクトルが異なっているだけで、我々が避けようとしているようなステレオタイプと何ら変わりはなく、差別と本質的には変わりません。つまり、人間がステレオタイプを完全に排除して判断するというのは基本的に不可能です。この文脈において、AIは過去に人類が築き上げてきた膨大なインプットをもとに回答というアウトプットをしてくれる、我々のステレオタイプを蓄積している存在であると言えます。そこで、AIは人類のある種の総和としてのステレオタイプが備わっているのではないかという仮定から、あえてその視点を活用してスコアリングをさせることで、人間の個々の視点ではない新たな全体表象の視点を探ることができるのではないかと考えました。

また、このアプローチはステレオタイプそのものの存在や影響力を見直すだけでなく、東京大学とソニーというある種特権的とも言える組織や団体が、「テクノロジーはバイアスを解決できるのか？」というタイトルでプロジェクトを行うこと自体の自己批判的な側面も持っていると考えています。

それでは、実際に我々が行ってきた作業に関しても具体的にお話させていただきます。まず第一に、AIが既存のWebサイトに対してどの程度男性らしさ・女性らしさというものを検出、評価できるかを確認するために、明確に男性向け・女性向けとされているようなサービスや商品のWebサイトを中心に300件ほど集めてスコアリングをさせました。男性・女性らしさをそれぞれ100から0のレンジで点数を付けるプロンプトに基づき分析をさせた結果、多くは50点以上のスコアとなり、ある程度この分析結果が有効であるということが確認できました。

次に、AIによるスコアリングにある程度の信憑性があることを踏まえて、メンバーがランダムに収集した700点ほどのWebサイトのURLをChatGPT、Gemini、Perplexityの三つのLLMにスコアリングさせて、その算出理由についてもアウトプットさせました。結果、挙がった要素としては以下のようなものがあります。全体としては、三つのモデルどれにおいても似たようなスコアが基本的に多くなりましたが、一部のWebサイトに関しては、モデルによって大きくスコアが異なる場合もありました。スコアが同じでも、その算出理由が違うことや、点数のばらつき方、レンジが異なることも明らかになりました。また、スコアが0点付近に集中する、すなわち男性的でも女性的でもなくニュートラルなものと捉えるようなモデルもありました。

それらを踏まえて、今一度作品の映像を見ていただければと思うのですが、そもそも男性らしさ、女性らしさは誰かが数値として定義できるようなものではありません。しかしながら、我々は普段からジェンダーに限らず様々なものに対してジャッジを行い、その価値観を他人と共有するということを通じて、コミュニケーションを取ったり共同体を構成したりするのが日常的なことだと思います。また、それは人間という生物にとって非常に本質的な部分でもあると考えています。その中で、我々が作品制作ですべきことを考えたときに、ステレオタイプを解消するという態度はむしろ新たなステレオタイプの創造ではないかと懸念し、何か新しい基準を我々から提示するよりも、個々の鑑賞者の中にあるステレオタイプの種に水をあげる、何かきっかけをあげるということなのではないかと考えました。今回の作品名に違和感を持った方がいらっしゃったら非常に鋭いなと思うのですが、《 scored?》の冒頭には、半角スペースが空いているんです。今回の作品において、この“scored”の主語はスコアリングを行ったAIになります。一方で、実生活においてこの空白の主語は一体誰になるでしょうか。また、この作品を紐解く際、あるいは自分たちの生活を省みる際、ここにどのような言葉を当てはめれば自分たちの生活をより豊かに考えることができるでしょうか。以上で発表を終わります。ありがとうございました。

筧：僕からの質問としては、特に今回、実装においてはソニーの菅野さんが具体的に手を動かしていた印象がありますが、《 scored?》は自分自身のバイアスを見るための装置でもあるというところで多くのWebサイトと向き合った時間があったと思います。具体的にこのコンセプトを形にする過程の中で、気づいたことや意外だったこと、自分自身のバイアスについて感じたことなどがあれば、話していただけますか？

菅野：まず、700×3サイトのスコアリング理由を全部読んだことは、個人的にインパクトのあるイベントでした。分析結果のワードを色々と見ていくと、優雅だから女性らしいとか、ゲームと探究心は男性らしいというように、AIの評価理由が自分の中にあるジェンダーバイアスとすり合わせされる感じがあり、気づいてなかったバイアスが追加されていきました。また、これまで自分が思っていたことをもう一度再確認した面もありました。日々の業務だと、ターゲットが決まっていて、作りたいプロダクト像へ向かって実装するというアプローチが多いのですが、今回のようにゼロベースでみなさんからいただいた意見を形にしていくところは、学生さんと一緒にやらせてもらったギャップかなと思っています。

他には、ユーザーインターフェースが最終的に与える印象を踏まえて、最初はスコアを数値として表示した方が直感的で点数化された理由もわかりやすいのではないかというディスカッションがあったのですが、LLMが出す点数自体には意味がないため、スコアは主張しすぎず評価理由を出すという見せ方に行きついたところも、やはり東大のみなさんのバックグラウンドや勉強されていた領域が影響した結果なのかなと思います。

筧：ありがとうございます。発表の時間の関係もあるので、この議論の続きはぜひまた会場でできればと思います。どうもありがとうございました。

筧：次のグループは、二つのプロジェクトを今回の展示の中で発表しています。一つは《バイアス推理カード》というプロジェクトで、もう一つは《私達を計量しないために》というプロジェクトです。これらを併せて発表してもらいたいと思います。メンバーは三森さん、三浦さん、浅井さん、明石さん、江連さん、佐倉さんです。

佐倉：よろしくお願いします。先ほどご紹介いただいた通り、私たちは二つの作品を作りました。そもそもテックバイアスとは何かをグループで議論する中で、私たちなりに考えた結果、テクノロジーの中に暗黙のうちに入り込んでいて、テクノロジーがユーザーを感化していくようなバイアスが、テックバイアスなのではないかという仮定をしました。そんなバイアスの一つに、標準的な身体の数値化があるのではないかという仮定のもと、一つ目の作品の《私たちを計量しないために》という作品を作りました。二つ目は、そもそもどんなバイアスがあるのかをみんなで考えていきたいという思いで作った《バイアス推理カード》という作品です。この二つの作品について、順番に説明していきたいと思います。

明石：一つ目の作品の《私たちを計量しないために》は、テクノロジーの暗黙の前提や標準的な身体の設定の過程に「数値化」があるのではないかという問題提起のもと作った作品です。「標準的身体」とは、人間の体は大体これくらいだろうと仮定して、その身体にとって使いやすければ、大体の人は使えると設定されるバイアスです。この標準には、国際的には成人の白人男性の健常者の平均が設定されます。しかし成人男性の健常者の中でも平均から外れる身体を持つ人もたくさんいるように、標準的身体への疑いを作品にしました。

会場にはピアノや軍手などの製品を展示しています。これらを見ながら標準的な体について話す中で、来場者の方からも色々な話が出てきました。手袋は指の本数などの話題が出ることを想像していたのですが、実際には手袋をはめる度に指の先が余って自分の指が短いということを突き付けられて、余った部分をどうにかして有効活用できないかということを考えているという話が出るなど様々でした。

また、数値化すると分かりやすいため、数字で世界を記述できるという考えから技術や製品などはあらゆる測定・計量によって扱われ、数値にできないものは無視されてしまいます。さらには、いつの間にか無視していることすら意識しなくなり、数字だけを見て、それ以外のことには目を向けなくなってしまいます。計量によるバイアスがテクノロジー、そして人々の思考にも入り込んでいるのです。テクノロジーという言葉を訳すときに、科学技術という言葉が使われることも多いと思います。技術によって、形状から再現可能な同じ製品を設計し、測定でその精度を比較可能にして、異なる製品には優劣をつけて、もの作りを進行させています。

その製品を使っていくうちに、段々と人々がみんなと同じ感性を持とう、みんなよりも優位に立とう、とするようになった側面もあるのではないかと思います。製品以外で言えば、SNSもフォロワーやいいねの数に捉われがちですが、すごく感動してつけてくれたいいねと、「ふーん」とつけたいいねは、同じ1いいねではないけれども、容易に比較可能な総量を気にするようになってしまっています。

テクノロジーは再現性のために数値を扱いますが、そもそも数値というのは1が常に同じ1かというと、そうではありません。科学の量子力学や相対論などにおける数字は不変ではなく、古くは身体尺というものがあり、同じ一尺でも一人ひとり違います。いつでも・どこでも・誰にでもということが、数値的な標準的身体の概念で本当に実現できるのでしょうか。そうではない場合、普遍性に基づかないテクノロジーのあり方もあり得るのではないでしょうか。

そこで、数字に落とし込めない多様な物語を見つめてみようと思い作品を作りました。一人ひとり違う身体尺をテーマに、標準的な手の模型と自分の手の差分を見つめたり、そのままの自分の手を見つめたりしてもらいました。左のスキャン装置に手を置くと、横にあるプリンターから紙が印刷されます。紙には身体尺の「1あた（親指と中指を広げた長さ）」という単位で手の大きさを計測した数字が印刷され、標準的な手とされる1あた=約15.15cmとの数字での比較も可能です。ここで数字に注目してしまうと、標準に近い方が良い、数字が大きい方が良い、という数値的な理想が生まれてしまいます。紙の裏面には自分自身の手のスキャンが印刷されるので、それを見つめて、さらに自分の手に対する思いを書いていただくようにしました。それらを大量に収集し、展示するという作品になっています。

集めると色々と面白いエピソードが出てきました。例えばこの左の手は、昔ママと喧嘩してみかんの投げ合いをしたときに、みかんが刺さってしまって小指が折れてしまったが今は仲良しだよというものです。このような数字に落とし込めない物語がたくさん出てきます。手は昨日の時点で既に71枚集まり、今日も増えてきています。着目されるポイントもそれぞれ異なり、怪我のことや手相のこと、指の長さのこと、コンプレックスや家族とのエピソードなど様々なので、ぜひ1枚1枚見ていただきたいです。親子でいらっしゃった方は、手相に加えて手の開き方もそっくりでした。このように一人ひとり違って数字では表し切れない、標準という枠組みに収まり切れない手が大量に集まって、これがやりたかったのだと実感しています。ぜひ会場へ来て、ご自身でも手をスキャンしていただいて、展示に加えていただけたらなと思います。

三森：ここからは《バイアス推理カード》についてお話をさせていただきます。まず《バイアス推理カード》を作る上での背景について簡単に説明させてください。私たちの周りに溢れている多くのプロダクトやサービスには意識的、無意識的に関わらず計り知れないほど多くのバイアスがあります。そのバイアスに基づいて設計や実装などを含めた広義のデザインがなされています。ビジネスにおいてターゲットユーザーやペルソナという言葉がよく出てきますが、裏返せばそれはバイアスをどんどん積み重ねて、出口を選択するという手法にも見えてきます。これは、このプロジェクトを通じた僕自身の気づきです。ターゲットを絞っていくと、その人たちに対するコミット力は上がりますが、そこから外れてしまう人に対しての考慮はどんどん不足していきます。これはもちろんビジネス上仕方ないところもあるので、良い・悪いはないとは思います。事実としてこのようなことがあるのです。この結果として、ターゲットから外れた人々は、プロダクト・サービスを使いたくても不利益を感じてしまうという可能性があります。

一方で、ターゲットユーザーに当てはまった人は、椅子を例にすると、何も考えずに座っています。ただ、椅子に座れない方というのは、座りたくても足が痛いから難しいというデメリットがあるなど、その差はすごく大きいと思います。つまり、不利益を被らない人は全く意識してこなかったけれど、不利益を被る人が常に考えてきた差分に着目しようということが考え方の背景にあります。

私たちのグループが提案する《バイアス推理カード》は、我々が日々利用しているサービスやプロダクトにどのようなバイアスが含まれているのかを意識化し、自分の中で言語化していくことを目的としています。それまでは無意識だったけれど、人と喋っているうちに気づく潜在的なバイアスが意識化され、実は存在していた新たなバイアスを知るという反応が期待できると思います。そして、この部分を楽しくゲーム化したいと考えました。ゲームを作るにあたっての懸念として、攻撃的になったり、議論が白熱してしまったり、他者を否定してしまったりすることがあったため、私たちはあえてアナログで、ルールを固定しないカードゲームを提案します。バイアスという一見難しいテーマであっても、みんなでゲームをワイワイやろうというのが趣旨の一つです。シンプルで良かったというフィードバックをいただき、相性が良いのではないかと思っています。

このゲームには大きなルールが二つあります。まずは25枚用意した青の製品カードの中から1枚選びます。次にこの製品に含まれていそうなバイアスを緑のバイアスカードから選び、制作者のバイアスと照らし合わせます。製品カードの裏に書かれているバイアスが、自分が引いたバイアスと一致していれば1点ゲットです。どちらのバイアスにも正解はなく、あくまでも可能性の一つとして書き出しているので、その意識化につながったら良いなと思っています。バイアスカードの裏にバイアスの具体例を書いているので、気づきのきっかけになってもらえればと思います。例えば、お昼代を払う人を決めるときなど、アイスブレイクとして使ってほしいです。ここで大事なのは、テックやバイアスという言葉にまず触れ、意識をするということです。

もう一つのルールについても基本的には一緒です。製品カードを1枚引き、それに関する開発者側やユーザー側などの色々な視点から、こんなバイアスがありそうだと思ったバイアスカードを引きます。加えて、なぜ自分がこのカードを引いたかを言語化して、それをみんなに共有します。シンパシーを持ったり、疑問を持ったりと、コミュニケーションを促すことを目的としています。ここで付箋などを使って補足しながら話しても構いません。元々僕らグループメンバー内でディスカッションする際にどういう方法で考え話し合えると良いだろうかという課題から、「こんなゲームがあったらよいよね」という話題が挙がり、この作品を作るきっかけになりました。、お互いに持っているバイアスや先入観を共有して、あとは好きに拡張してもらいたいです。余白のカードも用意しているので、対話の中で挙がった新たなバイアスを追加したり、企業のワークショップに使う場合には製品を追加したりなどのカスタマイズも可能です。テクノロジーとバイアスというテーマでコミュニケーションを楽しんでもらい、そこで意識を言語化して共有することで、自身や他者のバイアスに気づき複雑な要素が出てくるのかなと思っています。

展示で初めて会った知らない人同士でもとても楽しんでいただいたので、心理的ハードルは低く体験いただけると思います。Xでも嬉しい感想をいただきました。アナログなカードゲームであっても、テクノロジーに対する問いかけができるということは、僕らの発見の一つでもあります。これで二つの作品の発表を終わります。

筧：ありがとうございます。発表の中でもおっしゃっていたように、とかくバイアスの問題を浮き上がらせるとピリピリとした緊張感のあるディスカッションになってしまうかもしれない中で、特に、遊びというキーワードやみんなでやるということにかなりこだわりを持って取り組んできたのだと思います。作品制作におけるテクニックとしては、インタラクティブな装置を作り、ゲームというフレームでみんなを巻き込み、自分の潜在意識を表に可視化して話す仕掛けのデザインがあると思います。その中で特に工夫したことや大変だったことなどを聞きたいです。

三森：例えば、カードゲームだとお題が適当に与えられるというところにポイントがあると思います。バイアスについて話す時に、テーマを自身で選ぶとそこにパーソナリティが出てしまうことが気になる方もいらっしゃると思うんですけど、選択肢としてカードが提示され、早いものがちで一枚選んでくださいというルールにもできるので、なぜそのカードを選んだのかという理由から自然と話が広まっていくという流れを作れます。そのため、心理的安全性がある状態で楽しく話ができるようになっているのではないかと思っています。

筧：ありがとうございます。これもゲームを具体的にプレイして初めて見えてくるところもあると思うので、ぜひ体験していただければと思います。

筧：では最後の発表になります。《ジェンダライズプリマル：動物鏡像儀式》ということで李さん、毛雲帆さん、西澤さん、梅津さん、熊暁さん、小松さん、石坂さん、中岡さん、管さん、よろしくお願いします。

石坂：よろしくお願いします。《ジェンダライズプリマル：動物鏡像儀式》グループの発表をさせていただきます。私たちの作品は、プリントシール機、俗に言うプリクラの中で、生成AIによる動物との融合写真を撮っていただけるという体験型の作品です。メンバー構成は、東大の大学院生が4名、ソニーの社員4名とフリーランスでプロのデザイナーの方1名の全9名です。

チーム内での各メンバーの役割は、PMやアートディレクション、AI実装、ハードウェア設計、UIデザインに分担しました。ソニーグループの社員は全員エンジニアで、通常のエンジニアリング業務がある中でこのような役割を持ちプロジェクトを進めてきました。このプロジェクトで私たちのグループが一番人数が多いグループなのですが、何らかの形で全員が作品に貢献していることをお伝えしたいです。このチームワークによって、一人ではとてもできないような作品を作ることができたのではないかなと思っています。

毛：続いて、なぜ動物表象というテーマにしたかを説明したいと思います。動物表象というのは動物を使った表現ですが、具体的な問題点は何でしょうか。ヨーロッパの神王伝説、中国・日本の神話や仏教説話、さらには現代のウォルト・ディズニー社の動物キャラクターに至るまで、古今東西、様々な文化に動物表象が使われてきました。その文化による都合の良い重用、それ自体が既に問題になっていますが、今回私たちは身近なメディアコンテンツ、例えばアニメ、ドラマ、ドキュメンタリーの中にある動物表象と人間社会がどのようにジェンダーを中心に結びつけられたかについて調査を行いました。

その調査結果としては、力強い獅子やオオカミは男性性を連想させ、柔らかくしなやかなウサギや猫などの小動物の多くは女性性を連想させるということがわかりました。私たちが日常的にメディアから得る知識は、既にジェンダーバイアスが反映されているということが明らかになっています。そして私たちの身体に対して固定されるイメージは、いつの間にか身体を問われるような枠組みを作り出しているのではないでしょうか。

動物表象にはジェンダーとバイアスのステレオタイプがあることが明らかになっていますが、そのバイアスとステレオタイプに対抗するための動きもあります。。例えば、ノンバイナリーの利用を連想させる動物の使用など、メディアでも日常生活でもあまり見ることができず、身近ではない海洋生物や多様な環境に生息している動物、例えば鯨やクラゲなどがあります。文化によって影響も異なります。同じ動物でも、種が異なることによってイメージも異なります。そこで、もし自分が動物になるとしたらどんな動物になりたいか、どのような身体を生きたいかを想像し、バイアスのない多様性と複数性を尊重していきたいというのがテーマです。

石坂：ここから、実際の作品についてご説明させていただきたいと思います。会場デザインを担当されました株式会社博展様のご協力もあり、私たちのイメージ通りの筐体を完成させることができました。壁面のイラストとカーテンの部分はビニール製になっており、これによってプリクラ感を強調しています。プリント口についても、ポトンとプリントが落ちてくるような仕組みがかなりリアルになっているので、ぜひみなさんに体験していただきたいです。

こちらは撮影時の様子です。一般的なプリクラと違うのは、1人用の撮影という点です。技術上の制約もありますが、同時にそれぞれの像により向き合いやすいデザインになるとも考えています。。持ち帰るプリントの実物はこんな感じです。最近のプリクラはシールではないものもあるので、今回はポストカードのような仕様になっています。ただ、このようなプリントを出すだけでは、インサイトを持つことはなかなか難しいため、コミュニケーションを深めるための工夫もしています。

毛：石坂さんのおっしゃる通り、対話がすごく重要なものになっています。ただステレオタイプを確認して面白さだけを持ち帰るだけでは、バイアスの再生産につながりかねないため、プリクラの裏に動物と人間の境界に関する政治哲学やフェミニズム理論の著作の言葉を印刷し、みなさんの思考を持ち帰り家に戻っても引き続き考えられるようなきっかけを作りました。体験の最後に来場者同士で簡単にシェアしても良いですし、会場にメッセージを残してもらうこともできます。実際に展示してみると、「動物に変身できて嬉しかった」など数多くのポジティブなコメントがあると同時に、ネガティブなコメントもありました。自分の顔がきちんと識別されていないという生成結果への指摘や、動物になれるのかどうか心配だったという内容です。AI生成には失敗はつきもので、データセット自体に含まれるバイアスもあります。むしろこの失敗があるからこそ、動物表象に反映されたジェンダーバイアスだけではなく、テクノロジーに埋め込まれたバイアスへの気づきも促されます。メディアコンテンツにおける動物表象にはステレオタイプやバイアスがあり、そして世界のあらゆるテクノロジーにも埋め込まれています。しかし、それでも未来を構想していくということは何を意味しているのでしょうか。プリクラの裏に印刷した言葉の一つにダナ・ハラウェイによる「私たちは境界に対して責任を負っていて、私たちは境界そのものである」という言葉があるのですが、まさにそういうことではないかと思います。このバイアスに抗う決意として、一つの未来の可能性を表した私たちの作品を、ぜひ体験してください。

石坂：ここまで説明してきたように、私たちは確かな学術的調査と技術を集めて今回の作品を作ってまいりました。みなさん、プリントの仕組みの裏側が気になりませんか？ こちらに様々な技術が詰まっているのではないかとお思いの方もいらっしゃるのではないかと思います。実は、この中身には家庭でも使われるようなインクジェットプリンターがあり、それで印刷されたプリントを製作者自身の手で落とすという仕組みでみなさんにご提供しています。自動にできないかを何回もテストしたのですが、AI生成の精度にどうしてもばらつきが出てしまうため、人間の目で品質をチェックして、手で落とすことに儀式的な意味合いがあるのではないかと考え、副題を「動物鏡像儀式」としています。体験後のコミュニケーションも含めて、私たちが作り上げてきた儀式をみなさんにも楽しんでいただきたいです。

最後に、動物表象は社会への固定のジェンダー感の定着に貢献している可能性は残念ながらあると考えています。《ジェンダライズプリマル》は動物表象とAIの技術を活用して、現代社会に潜むジェンダーバイアスに問いを投げかける作品です。プリントは持ち帰って家族や友人、恋人と一緒に楽しんでいただくのも良いですし、会場に掲示して、展示に参加いただくのも良いと思います。この作品をもって直接ジェンダーバイアスを解消する作品にはなっていないかもしれませんが、ジェンダーバランスそのものや動物表象について改めて考えていただき、私たちと一緒に議論を続けてほしいと思っています。私たちのグループからの発表は以上となります。ご清聴ありがとうございました。

筧：ありがとうございます。こちらも今日の発表全体に通じるところで、気づきを与えて自分自身の持っている解釈について考えるということが重要ですね。そのプロセスにおいて、いかにバイアスを再生産しないかということが一つの大きな課題で、それに対して苦労して向き合ってきたのだと思います。そのあたりの工夫や苦労した点があれば、説明してもらえますか？

小松：プリクラは1995年に開発されたもので、みなさんも体験したことがあるかもしれません。前提として、女性の目を大きくする機能など、20年を経て装置自体にバイアスの問題が蓄積してきたということがあります。また、プリクラを題材にすることが決まり、調べてみると、どうしても女性の安全性を考えると、現代は男性1名では入れないなどのジレンマも抱えていることがわかりました。プリクラと動物表象という日本のポップカルチャーが有する文化的バイアスに加えて、AI技術の偏りもあり、生成画像自体にもまだ課題があります。その中で、リサーチ作品としての対応力が必要なため、研究者の方はもちろん、他のグループからの俯瞰的なご指摘などを反映しながら調整してきました。毛さんにも補足していただければと思います。

毛：まさに対話というキーワードが私たちのグループに通底したテーマになっています。私たちは9人という大きなグループで、最初は私と李さんの女性2人だけという偏りのあるジェンダーバランスでしたが、ソニーから男性のメンバーが入ってきてくださいました。動物表象とジェンダーバイアスについて、例えば理系と文系では異なる言葉が使われることもあり、会社や学校の中よりもアカデミアで人文学者が使うことが多くなる場合もあります。ジェンダーバイアスについてみんなで一緒に勉強するというプロセスを経たからこそ、お互いに会話が生まれて、理解し合うことができ、バイアスと向き合い乗り越えるための努力の結晶の作品だと考えています。

筧：どうもありがとうございます。ぜひこれも会場で体験してみなさんと一緒に対応できればと思います。どうもありがとうございました。

第一部の最後に、これまでのプロジェクトに並走してきてくださった方にコメントをもらいたいと思います。最初は第二部にもつながりますが、情報学環の田中東子先生に一言感想をいただければと思います。

田中：ありがとうございます。筧先生と一緒に今年2月から10ヶ月プロジェクトに関わってきました。実は今年が1年目のため、学生さんやソニー社員のみなさんに負担をかけるようなこともあったと思います。先が見えないことによって途中ハラハラドキドキするようなこともありましたし、議論に少し介入させていただくこともありました。また、それぞれの専門性がこれだけ高いと、長所であると同時に、場合によっては短所にもなり得るような、特別な能力を持った方たちが集まって作品を作ってくださったんだなと感じています。筧先生がそうは言ってもやっぱり1年目が一番面白いとおっしゃっていたように、私も昨日展示を見させていただいて、どれもとても面白い体験ができる良い作品が揃ったと思いました。

筧：次に、ソニーグループの多くの魅力的なメンバーを誘っていただき、そのマネジメントの部分でご尽力いただいた戸村朝子さんをご紹介します。コーポレートテクノロジー戦略部門 コンテンツ技術&アライアンスグループの統括をされていますが、彼女にも一緒に並走していただきました。最後にコメントをいただければと思います。

戸村：CFIが始まって約10ヶ月ですが、初めての成果発表ができて本当に素晴らしいことだなと思っています。情報学環さんとソニーグループは領域のダイバーシティが非常に広いという点で似ていると思います。普通の研究というのは、あるテーマを据えてLab to Labでやることが多いですが、実験的に面と面での多様な領域の掛け合わせを面白がってみようということで始まっています。これまでレクチャーシリーズも開催いただき、こちらには既に述べ680名の学生のみなさんとソニーの社員が聴講させていただいています。

それだけではなく、研究実践プロジェクトの第一弾として「テックバイアス」をテーマにやってみようということになりました。ある意味でソニーも技術を利用する側としての責任がありますが、カンパニーとしての知見を持っていると同時に、企業だけではできないこともあります。そこで、東京大学という深い知見を持ち、表層的に流されることのない専門性と照らし合わせて、私たちはどのように取り組んでいったら良いのかについて考えられると思いました。これから未来を背負う東大学生のみなさんと、テックバイアスというテーマに関心があるソニー社員のみなさんが、国籍や社会経験の有無、専門性などの垣根なく過ごしている様子を見ていました。今回プレゼンテーションを作るだけでなく、このようなアートという形で自分たちが持っていたバイアスや違和感を見つめながら、それをどうやってアウトプットにするかというもう一段階上のステップに、みなさんよくチャレンジしてくれたと思っています。CFIは色々なテーマを扱う中で社会の知を育んでいくようなプラットフォーム構想ですが、その第一弾がこのような形で発表できて嬉しいです。そもそもダイバーシティとは居心地の悪いところから始まるものであり、おそらく参加メンバーのみなさんも、プロセスの中で慣れない環境に違和感をおぼえることも多かったのではないかと思います。しかし、この研究プロジェクトに参加したことがあるのとないのとでは大きく異なり、一人ひとりが持つ立場や価値観、それを異なるメンバーと掛け合わせたことで、みなさんが骨太になっていくと信じています。

この後のプロジェクトは、今月から2月末まで3ヶ月間、アルスエレクトロニカにてテックバイアスについて様々な角度でレビューいただき、インタラクションいただくセッションを実施する予定です。こちらも楽しんでいただきながら、テックバイアスというテーマを深めて、どのように世の中に打ち出せるかも先生方とも相談していきたいと思います。また、この場を借りまして、東大の先生の皆様方、筧先生、田中先生、木先生、そしてこのCFIの活動そのものに関心を寄せて集まっていただいていただいたみなさま、本当にありがとうございます。引き続きよろしくお願いします。

筧：ありがとうございました。以上、第一部は我々がCFIのメンバーと一緒に取り組んできたことの中間発表でした。