亞馬遜創辦人貝佐斯的低頭讓步

喬伊．布蘭維尼（Joy Buolamwini）成功讓亞馬遜創辦人傑夫．貝佐斯（Jeff Bezos）低頭。多年來，亞馬遜持續向執法單位販售一款名為 Rekognition 的爭議性臉部辨識軟體，但卻在6月份要求警方中止使用該軟體。貝佐斯是出了名的固執，故此一決策被商界視為一大讓步。跟亞馬遜一起退守的還有 IBM，也於同週承諾暫停開發臉部辨識技術；微軟則是堅持要等到聯邦法規通過後，才會將自家系統交貨給警方。

2020年5月，明尼亞波里斯警方殺害喬治．佛洛伊德（George Floyd），導致國際社會針對系統性種族歧視發起抗議事件，這些決策正是在此背景下應運而生。然而，早在數年前，時年25歲的 MIT 媒體實驗室（Media Lab）學生喬伊．布蘭維尼便在為此革命奠定基礎，當時的她正在研究市面上臉部辨識技術內的種族，膚色與性別差異。她於2018與2019年各發布一篇經過同儕審查的開創性研究，內容顯示亞馬遜、IBM、微軟與其他公司推出的臉部辨識系統分類深膚色女性臉孔的能力相較於白人男性臉孔差，瓦解機械中立性的迷思。

她在2016年的TED演講中首度提到AJL，而影片現在已有130萬點擊量，此外她也是紀錄片《編碼偏見》（Coded Bias）中的核心人物。據影片導演莎莉妮．坎塔伊亞（Shalini Kantayya）所言，「喬伊的特殊之處在於，她不僅可以向你解釋背後的科學，還能向你說明為何此事如此重要。這些特點讓她成為最有說服力的理念擁護者，2019年春季，布蘭維尼站上監督與改革委員會的講台作證，她揭露的不只是演算法的缺陷，還有深受這些缺陷所害的人群與社群。例如一名穆斯林大學生被系統誤判為恐怖分子嫌疑人；還有一個布魯克林租戶團體，因房東想在政府控管租金的公寓入口加裝臉部辨認系統而遭受歧視。

黑命關天抗議活動於夏季持續發酵，布蘭維尼透過自己的平台，呼籲各公司至少捐款 100萬美元，給 Data for Black Lives 與Black in AI等科技領域種族正義推進組織。除此之外，還發布了一份白皮書，欲設立一個類似食品與藥物管理署（FDA）的單位，以監管臉部辨認系統技術，AJL 本身也正在設計工具，供民眾回報危害性的AI系統。

布蘭維尼也透過談話、演說宣揚自己的理念，並於2018年推出影片《AI，我看起來不像女人嗎？》（AI, Ain’t I a Woman?）引用多位女性黑人名人，如索傑納．特魯思（Sojourner Truth）與蜜雪兒．歐巴馬（Michelle Obama）， 她們都曾遭到 AI誤判。2019年歐盟全球科技座談會（EU Global Tech Panel）上，科學家欲提醒各國國防部長，使用臉部辨識技術引導自動化武器會帶來極大風險，並播放了布蘭維尼的影片。她說：「想讓雙方開始溝通，與其讓他們聽一個小時演講，或研讀研究報告，還不如用創作藝術的形式表達。」

翻轉人類工作與生活框架，企業狂漲百倍價值的絕世設計
　美國權威商業媒體《快公司》（ Fast Company）
　邀你見證經典品牌，用設計改變世界！
★ 精選 77 篇設計代表性案例、21 篇創新大賞，詳述其時空背景與設計影響力
★ 涵蓋矽谷科技、家庭生活、品牌行銷、城市開發、零售業至公益設計等領域，層面探討廣泛且深入淺出
★ 幫助打破思考框架、提升產品設計的創作想像