蘋(píng)果Face ID會(huì)引領(lǐng)科技行業(yè)對(duì)抗種族偏見(jiàn)嗎

蘋(píng)果在外界充滿(mǎn)爭(zhēng)議的聲音中，毅然將成熟的 Touch ID 功能替換為全新的面部識(shí)別系統(tǒng)，引起過(guò)外界一輪輪的討論。日前，國(guó)外一位分析者從一個(gè)嶄新的視角來(lái)分析蘋(píng)果這次選擇會(huì)帶來(lái)的影響，來(lái)看下他是怎么說(shuō)的。

與他們的許多設(shè)計(jì)選擇一樣，蘋(píng)果最近決定將其在新 iPhone X 中使用的 Touch ID 功能替換為面部識(shí)別——他們稱(chēng)之為“Face ID”——已經(jīng)引起了大量的討論。

關(guān)于“自拍安全”的未來(lái)將會(huì)是什么樣子的問(wèn)題，有很多。不過(guò)，有一個(gè)問(wèn)題肯定會(huì)得到更多的關(guān)注，那就是面部識(shí)別軟件中的種族偏見(jiàn)。

種族偏見(jiàn)的問(wèn)題一直困擾著科技行業(yè)——我在過(guò)去十年左右的時(shí)間里聽(tīng)到過(guò)一些關(guān)于攝像頭難以分辨深色膚色或語(yǔ)音識(shí)別的故事——但蘋(píng)果新推出的面部識(shí)別技術(shù)預(yù)計(jì)會(huì)造成大規(guī)模普及，這可能正是該行業(yè)今后需要識(shí)別、隔離并最終糾正這些問(wèn)題的原因。

有關(guān)種族偏見(jiàn)的觀點(diǎn)，以及蘋(píng)果的人臉識(shí)別系統(tǒng)是否會(huì)可靠、定期地為所有種族的用戶(hù)服務(wù)，尤其令人心酸，因?yàn)檫@不僅僅是一個(gè)安全問(wèn)題，而是一個(gè)在我們的文化時(shí)代精神中根深蒂固的問(wèn)題。

其中一個(gè)最大的未知數(shù)是用于開(kāi)發(fā)面部識(shí)別系統(tǒng)的數(shù)據(jù)庫(kù)。蘋(píng)果公司聲稱(chēng)，他們使用了十億張圖片來(lái)訓(xùn)練算法——能最大程度將數(shù)據(jù)庫(kù)中的多樣性問(wèn)題消除。

我認(rèn)為這種方法是正確的，但在訓(xùn)練面部識(shí)別系統(tǒng)的時(shí)候，有一些具體的學(xué)習(xí)過(guò)程還需要確定。

關(guān)于 iPhone X，我們不知道的是其數(shù)據(jù)庫(kù)中使用的圖像比例的細(xì)節(jié)。可能有十億張照片，但白種人和中國(guó)人、黑人或印度人的比例是多少？

類(lèi)似地，蘋(píng)果聲稱(chēng)，只有一百萬(wàn)分之一的幾率可以讓非本人通過(guò)面部識(shí)別技術(shù)在 iPhone X 上通過(guò)身份驗(yàn)證解鎖——當(dāng)然，這取決于取樣的“一百萬(wàn)”人是誰(shuí)？假設(shè)這一組一百萬(wàn)人來(lái)自中國(guó)北部或印度南部，那么非本人通過(guò)面部識(shí)別技術(shù)在 iPhone X 上解鎖的幾率會(huì)不會(huì)高很多？

蘋(píng)果沒(méi)有報(bào)告的另一個(gè)錯(cuò)誤指標(biāo)取樣人群是，系統(tǒng)可能會(huì)拒絕你的臉部掃描結(jié)果，并要求重新掃描臉部特征，盡管你才是真正的手機(jī)主人。所以，最可能的情況是，這個(gè)錯(cuò)誤幾率也會(huì)因使用手機(jī)的人群而有所不同。換句話(huà)說(shuō)，一些人/種族將會(huì)收到更多的拒絕和更多的請(qǐng)求來(lái)重新找回他們的 Face ID。

最終，這些都是我們?cè)谑謾C(jī)發(fā)布前擺出的關(guān)鍵問(wèn)題，我們可以在實(shí)踐中看到——但是，如果科技史教會(huì)了我們什么的話(huà)，那么就是系統(tǒng)都會(huì)有缺陷。對(duì)于個(gè)人和蘋(píng)果來(lái)說(shuō)，這些都可能是痛苦的，但他們也會(huì)提供平臺(tái)來(lái)解決這個(gè)問(wèn)題。

種族偏見(jiàn)并不是面部識(shí)別所面臨的第一個(gè)問(wèn)題。多年來(lái)，人們一直在談?wù)撝讣y識(shí)別的安全風(fēng)險(xiǎn)，但面部欺騙的風(fēng)險(xiǎn)比起指紋要大得多。要盜取別人的指紋，你必須靠近他們，或者拿到他們碰過(guò)的東西。

然而，我們的面孔是公開(kāi)的。你可以從 Facebook 或任何其他社交媒體網(wǎng)站上看到某人的頭像，甚至可以用這些圖片制作一個(gè) 3D 面具。如今，也有很多化妝師擅長(zhǎng)創(chuàng)造和明星一樣的臉部造型。

這讓我們回到了蘋(píng)果，另一個(gè)熱門(mén)話(huà)題是“evil twins”，以及基因相似的人能否通過(guò)蘋(píng)果的人臉識(shí)別系統(tǒng)。在蘋(píng)果之前發(fā)布的 Face ID 白皮書(shū)中，就明確提到過(guò)這個(gè)問(wèn)題，建議雙胞胎、和用戶(hù)長(zhǎng)得很像的人，還有未滿(mǎn) 13 周歲的兒童最好都使用密碼來(lái)解鎖。蘋(píng)果已經(jīng)做出了明確的努力，確保它已經(jīng)考慮到了這些問(wèn)題，但當(dāng)前想解決這個(gè)問(wèn)題還是比較棘手的。

該公司還增加了一個(gè)前置紅外攝像頭和一個(gè)點(diǎn)投影儀，這將使照片或面具的攻擊變得困難，因?yàn)樗鼈兛梢员辉O(shè)置來(lái)感知深度，防止有人用扁平的圖片來(lái)愚弄面部掃描儀。紅外攝像頭解決了光線(xiàn)不好的問(wèn)題，通過(guò)點(diǎn)投影儀，將有助于建立一個(gè)精確的 3D 模型面，從而提高性能防止外部攻擊。

看起來(lái)，蘋(píng)果已經(jīng)做了更多的努力來(lái)解決這些問(wèn)題，因?yàn)樗麄兿霃V泛地將面部識(shí)別技術(shù)推廣到正在等待的公眾。我們可以期望，同樣的邏輯也適用于種族偏見(jiàn)的問(wèn)題。

像蘋(píng)果這樣世界級(jí)的頂尖科技公司，他們有能力改變公眾的行為。由于他們的產(chǎn)品，我們以不同的方式聽(tīng)音樂(lè);我們用不同的方式進(jìn)行消費(fèi)。再看看其他主流的生物識(shí)別技術(shù)：自從 2013 年 iPhone 5 S 推出 Touch ID 以來(lái)，消費(fèi)者已經(jīng)習(xí)慣了指紋識(shí)別作為生物認(rèn)證的一種主要形式。

但更廣泛的采用意味著，人臉識(shí)別中存在種族偏見(jiàn)問(wèn)題的風(fēng)險(xiǎn)會(huì)增加，這意味著蘋(píng)果幾乎肯定會(huì)在未來(lái)幾周或幾個(gè)月內(nèi)處理這一問(wèn)題。對(duì)于公司和公眾來(lái)說(shuō)，真正的關(guān)鍵在于認(rèn)識(shí)到，這些缺陷并不一定是技術(shù)本身固有的，而是在我們的設(shè)計(jì)思維中潛移默化的習(xí)慣，這些系統(tǒng)缺陷完全可以用技術(shù)進(jìn)行改進(jìn)。

蘋(píng)果的數(shù)據(jù)基礎(chǔ)足夠大，足夠多樣化，從而將真正具有種族包容性嗎？很快我們就會(huì)知道，整個(gè)行業(yè)將會(huì)學(xué)習(xí)更新和完善我們的實(shí)踐，讓這項(xiàng)技術(shù)成為一種為所有人服務(wù)的便利，而不是只關(guān)注某一部分人群。

從某種意義上說(shuō)，蘋(píng)果正在大規(guī)模運(yùn)營(yíng)文化技術(shù)試點(diǎn)，而對(duì)結(jié)果的關(guān)注將讓科技行業(yè)更迫切的設(shè)法解決我們技術(shù)系統(tǒng)中存在的種族偏見(jiàn)問(wèn)題。