CFIの実践研究プロジェクトのひとつ「Tech Bias」は、テクノロジーの開発や実装化、利活用に際してバイアスが生じている状態をノーマルなものとして設定してしまうことで不可視化され、認識の外に放り出され、顧みられることのないまま標準化されたものであるかのようにふるまう〈不完全な技術＝テックバイアス〉を、プロジェクトに参加したひとびとが見つめ直し、洗い直し、人文知・アート・デザイン・工学の技法を通じて作り直していくプロジェクトです。

本年度はそれぞれのグループがアルゴリズムによる人間の分類に対する問題意識をもとにプロジェクトを進めていきました。現代社会における情報過多と選択肢の多さは、時として人々に自由よりも苦痛をもたらします。一方でビッグデータやそれを活用したAIをはじめとするテクノロジーは、私たちの日常を取り囲みながら情報を収集し、「わたし」というものを解析・分類し、時にさまざまな情報をレコメンドします。

気がつけば私たちはそのような情報のサイクルに取り囲まれていることを自覚することもなく影響を受け続け、アルゴリズムに「わたし」というものが規定される状況に半ば依存しながら暮らしています。しかしながら、「わたし」を分類し、区別し、格付けする権力たるテクノロジーに身を委ね続けることは「わたし」という存在を無味乾燥で退屈なものへと貶める可能性があります。

プロジェクトでは、4つのチームそれぞれの視点から現在のテクノロジーを批判的に検証し、従来とは異なる社会やその先にある未来を示唆する新しいテクノロジーのあり方を探っていきました。

各プロジェクトチームは、東京大学の学生およびソニーグループの社員によって構成されています。専門性や出身国、年齢やジェンダーなど異なるバックグラウンドを持つ人たちが集い対話を重ねながら発見した、テクノロジーやアート、社会、個人の境界を越えた「新しい関係性」をインタラクティブなアート作品として制作しました。

各プロジェクトは下記の4つのステップで進められました。

・STEP1：2025年4月「グループ討論」
2冊の本を読みグループ内での討論を行うことで、デザイン思考やインターセクショナリティ、エイブリズムなどの概念について学ぶとともに、分析やアイディア出しを行う際の視点の共有を行いました。

・STEP2：2025年5月「問いの抽出」
各グループで「テクノロジーとバイアス」について議論を重ね、抽出された課題を整理して作品制作のためのコンセプトをまとめました。

・STEP3：2025年6月〜8月「ダイアローグ」
越境的未来共創社会連携講座が提供しているレクチャー・シリーズ「Creative Futurists Dialogues」に参加し、文化人類学や社会学的フィールドワークの方法論やデザインや創作の基本について学びました。さらに、ソニー本社に赴き「ゆるミュージック」の開発チームからレクチャーを受け、質疑応答を行うことで、デザインを通じた課題解決方法を学び、視点の拡張に努めました。

・STEP4：2025年8月〜10月「調査活動」および「作品制作」
STEP1〜3で得た知識や発見にもとづき、グループごとに調査活動や作品の制作に取り組みました。主題に関する調査や文献の講読、資料の精査、関連する領域の研究者や専門家、当事者の方へのヒアリングなどを行い、作品を制作しました。

『Label Me!』は、分類やバイアスを最初から排除すべきネガティブなものとは位置づけず、私たちの内面にある「分類したい」あるいは「分類されたい」という密かな欲望と、それらを喚起させる現代社会の有り様に着目することで制作された作品です。

展示されたデバイスを用いてペットボトルドリンクのラベルを生成し、そのラベルをつけたペットボトルを商品棚に陳列する（あるいはそれを拒否する）行為を通して、体験者はデジタル時代の「バイアス」と「アイデンティティ」の入り組んだ関係について考えることを促されます。ラベルはアルゴリズムによって解釈される「わたし」の比喩であり、社会的に構成されたバイアスの比喩でもあります。作品の体験を通して同時にこのような問いも生まれるでしょう。「もし、どのようなラベルも持たない『わたし』が存在するのであれば、それはどんな『わたし』なのか？」

『Label Me!』は、工場エリアとコンビニエリアの2つのエリアから構成されています。まず工場エリアに入るとラベル作成コーナーがあり、タブレット端末に体験者が自分のニックネームを入力して6つの質問に「はい」か「いいえ」で回答すると、それらの回答に応じて画像つきのラベルがAIによって生成されます。

質問ごとに性格を表すキーワードが設定されており、それをもとに生成AIがラベルの模様となる画像や説明書きの文章、成分表などを生成します。生成されたラベルはOHPシートに印刷されて、それを体験者が自らボトルに貼ることで出荷準備が整うという仕組みです。

奥にあるコンビニエリアでは、ラベルを貼ったペットボトルを冷蔵庫に入れるか持ち帰るかを選択します。ここに設置された冷蔵庫はコンビニ的な大量消費の比喩であり、そこに自分のペットボトルを入れることを選ぶことは、生成された自分自身のパーソナリティを自分のものとして受け入れたうえで、それを他人に選んでもらう、もしくは選ばれずにそこに残され続ける状況に置くことを意味します。また、冷蔵庫の裏側には値札を貼ったボトルやリサーチパネルが展示されており、バイアスが人の性質を規定するだけではなく、価値の高低すらも規定することを示唆しています。

26日のプレゼンテーションで友利未夢氏は「レッテルを貼る」という表現から、人の個性をその人の持つ何かしらの属性から連想したものと結びつけて決めつけることと、商品ラベルを貼る行為を重ね合わせた表現を試みたと語りました。そうすることで、チームは人を分類する行為をバイアスとアイデンティティの問題として考えたのです。

張静雨氏は、性格診断テストMBTIを、工場エリアで行うラベル作成のモデルのヒントにした理由について解説しました。オンラインサイトなどで手軽にできるテストの結果により体験者の性質が16の類型に分類されるMBTIは特に若者の間で普及しており、診断結果をSNSなどの自己紹介に掲載するケースも多く見られるとのことです。ただ問題は、このような性格診断を発信する側も受けとる側もその人のアイデンティティの一部として受け入れてしまっている点にあると張氏は指摘します。分類は、複雑かつ多様な人間のパーソナリティを限られた枠に押し込める行為であり、時には暴力にもなり得るからです。

それでもそれを多くの人々が受け入れてしまう背景には、現代社会に蔓延する消費主義的な効率志向があると彼らは考えました。それにより、人々は手軽に人を分類できるツールを用いることで、他者を素早く理解したいという欲求が心の底に生じます。この欲求によって自分自身のことすらも「私はこのタイプだ」と分類されることを受け入れてしまうのです。

デジタル化が進んだ今の時代は、人が人をラベリングするだけではなく、体験者自身も自覚がない状態でアルゴリズムが自動的に行動履歴などの情報を収集して、資本主義社会における消費を最適化するために分析します。今や生活に欠かせないインターネットを日常的に使用する限り、そこから逃れる術はほぼないといっても良いでしょう。さらにいえば、その分析結果は必ずしも正確なものとは限らず、アルゴリズムが持つバイアスを多分に反映したものとなっています。

実は『Label Me!』で使用したモデルにも、知らないうちに取得されてしまう情報やバイアスを表現する仕掛けが施されています。工場エリアの冒頭で体験者が質問に答える際、自分が何を問われて回答したかを把握したつもりになりますが、実は回答までにかかった時間も計測されて生成結果に反映されます。例えば、回答がゆっくりであれば優柔不断と判断されます。このような無意識下の行動の履歴を収集・解析した結果は、マーケティング業界では暗示的データとして、より体験者の本音に近いものとして扱われますが、実はそれが新たなバイアスを生むことになるのかもしれません。その時その時に、回答に時間がかかった本当の理由など分からないわけですから。

「もし、広告の最終決定権が『見る側』（消費者）にあったら、私たちはどのような社会の理想をデザインするでしょうか？」

『Bias Archive』の制作は、このような問いから始まりました。基本的に広告のメッセージというものは送り手から受け手へと一方通行に発信されるものです。しかし『Bias Archive』の展示では、何かしらのバイアスをふくんだクリエイティブに対峙する体験者が、批判的オーディエンスとして広告制作の現場に介入することができます。

プレゼンテーションの際にチームの発表者を担当した小谷知世氏は、『Bias Archive』の制作背景について次のように説明しました。広告は私たちの日常に潜むバイアスを可視化させたものであり、社会規範を広く伝達する力を持ちます。そうであるがゆえに、ステレオタイプを繰り返し発信することでそれを強化し、再生産してしまうというネガティブな側面を持ちます。一方で、時に広告は既存の望ましくない社会規範から脱して新しいライフスタイルや多様な考え方を提案し得るというポジティブな側面も持ちます。

前者の例のひとつとして提示されたのがカメラの広告の事例です。まず1つ目の一眼レフカメラの広告は本格的な趣味を求めるユーザーをペルソナと想定しつつ、知的な雰囲気の男性がモデルに起用されています。ここには、本格的な趣味は男性の領域であるというジェンダーバイアスが潜んでいます。それにより本格的な創作意欲を持つ女性が見えない存在になってしまう可能性があります。

もうひとつの一眼レフの広告はコピーの内容とビジュアルから、明確に育児中の女性をペルソナにしていることが分かります。それにより育児が母親の役割でかつ高いパフォーマンスが期待されているというジェンダーロールの固定化が起きてしまいます。また育児に熱心な父親もふくめた母親以外の存在もペルソナから外れてしまいます。

広告のポジティブな側面である、バイアスからの脱却を促しつつ新たな価値を提案した事例も挙げられました。そのひとつが、イギリスの生理用品のメーカーが展開した「#BLOODNORMAL」キャンペーンです。多くの女性が毎月迎える月経は社会の中でタブーな存在とされてきました。その影響もあり、従来の生理用品の広告では経血を青い液体で表現していましたが、このキャンペーンでは赤い液体を使用しています。さらに男性が購入する場面も描くことで、生理を隠されたものではないパブリックな存在に変えようとしています。このように、広告は大きな影響力を持って社会を前進させる可能性を持つと語りました。

さて、これらの問題意識を踏まえて制作された『Bias Archive』の体験者は、AIが生成した何かしらのバイアスをふくむ3つの広告を提示されます。次に任意に選んだ広告のビジュアル内でバイアスが潜んでいると感じる部分を選択し、変更の指示を自然言語のプロンプトで入力します。そしてAIがそのプロンプトの指示に従い、新たな広告を生成します。

生成された広告はプリンターから出力され、体験者が手書きでタグづけをして紙に挟んだうえでBias Archiveと呼ばれるファイルに保存します。また、その際には他の体験者が過去に生成した修正版の広告も見ることができます。

つまり『Bias Archive』に参加した体験者は、AIが生成した広告に対する批判をプロンプトとして指示することで、バイアスから脱却する「変革的な広告」を創造するということです。それはとりもなおさず、社会規範を変革する試みに参加することであり、広告の持つポジティブな力を集合的に引き出す試みであると言えるでしょう。そして、Bias Archiveのフォルダーに記録されたアーカイブは、「誰が、どのようなバイアスを感じ、それをどう変えようとしたか」という批判的視点の記録となるのです。

『même』は、1作品のなかで関連し合う2つのインタラクションを体験できる作品です。まず、タブレットで自身の年齢や性別、出身地、学歴、職業、子どもの有無や障害の有無を登録します。例えば30代で仕事の忙しい未婚の女性と登録した場合、既婚男性が「仕事ばかりしてないで、そろそろ結婚相手を本気で探さないと一生寂しい思いをするよ」とコメントするという具合に、属性の外にいると設定された集団からのバイアスに基づいたさまざまなコメントがスピーカーから流れます。これらはLLM（大規模言語モデル）によって生成されたものですが、巷でよく聞く言説を再現したものです。

悪気はないものの無神経とすら感じられる内容もさることながら、音声出力を意図的に反響の強い設定にしているため、それらは呪いの言葉のように響きます。こうした言葉は投げかけられることで不快感を覚えることを織り込み済みで生成されますが、人が自分と異なる背景や経験を持つ相手を理解することの難しさを表現しています。バイアスにもとづく呪いの言葉は、私たち自身も別の場面で他者に向けて無自覚のまま投げかけてしまっている可能性もあるのです。

一方で、『même』は水という素材を媒介に表現される作品でもあります。まず設置された作品の上部から水が流れ出てきます。これは人間が生まれた時点では、まだ名づけられていないことを無色透明な水を使って表現しています。流れ出た水がアクリルガラス上の流路で分岐される構造は、名づけにより他のものではない名付けられた存在として分類されることを表しています。

透明な水はその後、それぞれ黄色と緑色、ピンク色に着色された水が入った3つのシリンダーに注ぎ込まれます。これは社会によって解釈されることで色が付く様子を表しています。最終的に水は展示最下部にある容器に3色の水と混じり合った状態で注ぎ込まれます。このようなプロセスを通して、名づけや分類によって社会的に構成されてしまう自分を認識していきます。攪拌され、混ざりあうことによる色の変化は、名づけや分類が自分を改変する苦しみを伴いながら、時には自分の人生を色付けてくれることもある、そうした社会と個人のニュートラルで不可分な関係性を表現しています。

プレゼンテーションでは、『même』のコンセプトについて詳細に語られました。本作が描くのは、分類や名づけの行為がもつ力と、時にそれが暴力になり得ることを意識しながら、それを超えて“名づけ得ない私”へと至ろうとする試みです。mêmeというタイトルには、フランス語の même（同じ）、英語の meme（模倣・複製）、そして me（私）という3つの意味が重ね合わされています。

展示会場の天井から吊るされた長いアンケートの冒頭部分は、英国の大学入学時に行うエンロールメントの再現です。近年、多くの大学で性自認や国籍、ルーツなどの登録が学生に課されています。多様性を実現した快適な学生生活を送るためという意義を理解しつつも、膨大な項目の登録を通して自分を分類し続けなければならないことに徒労感を覚える学生もいるとのことです（※）。
この例に限らず、人は生まれた瞬間に名づけられ戸籍に登録され、進学や就職、結婚といった人生の節目ごとに新たな役割を与えられ、自身の属性の分類と登録を繰り返していくのです。それは、自分という存在が何度も社会の中で再構成されるプロセスでもあります。

※本作は大学で行っている登録制度に異を唱えるものではなく、その意義を十分に理解した上で、「名づけのもつ強い力を意識せざるを得ない状況」の象徴として用いているとのことです。

水を使用した装置の構造は、マルセル・デュシャンの「彼女の独身者たちによって裸にされた花嫁、さえも（La mariée mise à nu par ses célibataires, même）」（以下、大ガラス）におけるガラス装置からインスピレーションを得たとのことです。
デュシャンにとって大ガラスは思考の装置として構想されたと解釈されています。上部の「花嫁」のメタファーは理想や観念、欲望の象徴であり、下部の「独身者たち」はそれを模倣し再生産する制度的な機械群です。両者を隔てながらも結びつける透明なガラスは、透明であるがゆえに最も強固な仕切りとなり、その表面では主体と客体、見ることと見られること、オリジナルとコピーが絶えず反転し続けます。

この透明な構造は、一見すると中立的に見えつつも見る側と見られる側の間の非対称性が避けようもなく存在する現代社会における登録や分類のシステムと共鳴すると制作チームは考えました。

『même』で使用されているアクリルガラスは、この社会的鏡像を投影する装置であり、同時にその表面に映る「私」の像を問い返し、名づけられる私や役割を演じる私、そして名づけ得ない私のあわいに浮かび上がる、社会と自己の往還の光景を可視化する装置なのです。

TECH BIAS 2の展示室でひときわ目を引いたのが、プロジェクターで画像が投影されているスクリーンの前に置かれた大きなひびの入った卵でした。ボリュームのある固形物というものは、それに触れてみたいという欲求を喚起させます。卵に近づくと、スタッフの一人に「殻をむいてみませんか？」と促されます。手近な殻のかけらを手に取ると、かけらの内側には殻を剥いた先の光景を考えさせられる映像が流れており、かけらの裏にはQRコードが印刷されていました。

本作品『卵、割ってみない？』において、卵の殻は社会全体を覆う共有知、そのかけらは個人が現在持っているバイアス、卵の中身は人々のバイアスに多角性が生まれたことで生まれる新しい社会の兆しやより良いものへとアップデートされた世界を表現しています。

さて、手にしたかけらのQRコードを会場に設置されたタブレットにかざすと、バイアスに関する問いかけが表示されます。体験者はその問いに対する回答を入力します。そして殻を元の場所に戻すことで、他の参加者の回答を閲覧できる仕組みになっています。このような流れで、自分とは異なる視点や感じ方に触れることを通し、自分もふくめた誰もが持つバイアスへの向き合い方を変えていくことで、私たちの思考と社会をより柔軟なものへと変えていくというのが本作品の趣旨です。

プレゼンテーションでは、バイアスという概念の整理や表現方法に関する試行錯誤のプロセスも語られました。事前のリサーチの結果、制作チームはバイアスを個人のアイデンティティと社会的な属性、文化的な背景が重なり合うことで生まれるものと解釈しました。バイアスは自身や集団が過去に経験したことから生じる暗黙の判断や配慮につながる場合もあるため、すべてのバイアスが社会や個人に対して有害なものとは言い切れません。しかし、古い価値観にとらわれた思い込みなどから、相手を傷つけてしまうような言動の動機となるバイアスは望ましくない類いのバイアスだといえるでしょう。そのような整理と仮説にもとづき、体験者が自身のバイアスを見直しつつ必要があればアップデートできる作品を目指したとのことです。

当初考えられていた作品のタイトルは「イースタリング・バイアス」でした。これは、メンバーの一人が朝食のゆで卵を剥いていた時に、その動作が凝り固まった考えや自分自身のバイアスを剥ぎ取る行為の比喩にできるのではないかと考えたからです。その後多様な視点で議論を重ねる中で、卵の抽象性をより重視する観点から、｢イースター｣という具象性があり自分たちの意図以上の意味を持つ言葉を使用しないこととしました。また、制作途中に社会に広く共有された固定概念であるステレオタイプと、それに個人の感情や判断を加えたバイアスとの混同を指摘されたことで、それらについても改めて整理をしたうえで、バイアスを個人の問題ではなくより社会や文化に根ざした課題であることを可視化した展示として現在の形に変更しました。

TECH BIAS 2の展示室でひときわ目を引いたのが、プロジェクターで画像が投影されているスクリーンの前に置かれた大きなひびの入った卵でした。ボリュームのある固形物というものは、それに触れてみたいという欲求を喚起させます。卵に近づくと、スタッフの一人に「殻をむいてみませんか？」と促されます。手近な殻のかけらを手に取ると、かけらの内側には殻を剥いた先の光景を考えさせられる映像が流れており、かけらの裏にはQRコードが印刷されていました。