以色列的面部識(shí)別技術(shù)正被用于美國(guó)的各大賭場(chǎng)里，這引起了人們對(duì)私營(yíng)機(jī)構(gòu)將如何使用強(qiáng)大監(jiān)控工具的擔(dān)憂。

       每一天，俄克拉荷馬州塔爾薩市河靈賭場(chǎng) (River Spirit Casino) 保安室的一排排監(jiān)控屏幕上都會(huì)出現(xiàn)數(shù)千張面孔。

       每一張出現(xiàn)的面孔都會(huì)與該賭場(chǎng)的禁止入內(nèi)人員監(jiān)控名單進(jìn)行比對(duì)，而這份名單里包含了騙子、已知罪犯，以及可能心懷不滿、伺機(jī)搗亂的前雇員。

       該賭場(chǎng)的安保系統(tǒng)采用了以色列監(jiān)控初創(chuàng)公司Oosto的面部識(shí)別技術(shù)。這家有爭(zhēng)議的公司原名是AnyVision，因向以色列政府提供用于監(jiān)控約旦河西岸邊境的技術(shù)而在2019年登上了各大新聞媒體的頭條。

       如今，該公司已更名，并將業(yè)務(wù)重心更多地轉(zhuǎn)移到了私營(yíng)公司，其中就包括賭場(chǎng)。

       今年7月，《福布斯》的一名視頻制作人實(shí)地觀看了該賭場(chǎng)監(jiān)控中心的運(yùn)作。只見一個(gè)藍(lán)色的方框出現(xiàn)在一名戴著口罩的女性的頭上，接著這個(gè)方框變綠了。對(duì)于這個(gè)軟件來說，綠框是一個(gè)危險(xiǎn)的標(biāo)志，盡管這位女性遮住了臉，但Oosto的面部識(shí)別系統(tǒng)仍然高度肯定地表示她是一個(gè)不受歡迎的人。

       博彩公司Muscogee Nation Gaming Enterprises的合規(guī)與監(jiān)控主管Travis Thompson指著運(yùn)行Oosto軟件的屏幕說：“她肯定在試圖隱藏自己的身份，因?yàn)槲覀兊南到y(tǒng)給她打出了一個(gè)很高的分?jǐn)?shù)。”

       他說，在該軟件中進(jìn)行標(biāo)記之后，他們就會(huì)親自核查這個(gè)人的身份。如果此人在被禁止入內(nèi)的名單上，工作人員就會(huì)給他/她一張表格，提醒對(duì)方在這里不受歡迎，并告訴其已經(jīng)出現(xiàn)在了賭場(chǎng)的面部識(shí)別數(shù)據(jù)庫(kù)中，然后把他們送出賭場(chǎng)。



       這種監(jiān)控技術(shù)正在覆蓋美國(guó)各地的私人和公共場(chǎng)所，而這種強(qiáng)大的技術(shù)不僅掌握在了警察和聯(lián)邦政府手中，而且還被賣給了私營(yíng)機(jī)構(gòu)，無論是賭場(chǎng)還是零售店。

       雖然在企業(yè)看來，這不過是一種實(shí)現(xiàn)機(jī)構(gòu)安全自動(dòng)化的方法，但這種在過去主要由情報(bào)和執(zhí)法機(jī)構(gòu)使用的工具的私有化仍然讓隱私保護(hù)活動(dòng)人士感到害怕。

       美國(guó)電子隱私信息中心 (EPIC) 負(fù)責(zé)國(guó)內(nèi)監(jiān)控的律師Jake Wiener說：“將面部識(shí)別技術(shù)賣給私營(yíng)公司，實(shí)際上會(huì)增加警察濫用技術(shù)的風(fēng)險(xiǎn)，因?yàn)樗綘I(yíng)公司會(huì)向警察出售或提供這種技術(shù)權(quán)限。面部識(shí)別技術(shù)破壞了人們的隱私，它被使用得越多，在公共和私人空間里追蹤人們的動(dòng)向就越容易。”

       不過，Oosto仍然希望自己能成為這個(gè)市場(chǎng)的頂級(jí)供應(yīng)商，因?yàn)橛泻芏鄽W美私營(yíng)機(jī)構(gòu)想要讓自己的監(jiān)控更加順暢。自2015年成立以來，該公司已經(jīng)從軟銀和高通創(chuàng)投 (Qualcomm Ventures) 等機(jī)構(gòu)籌集了3.8億美元資金。

       2019年，以色列媒體《國(guó)土報(bào)》 (Haaretz) 報(bào)道稱，這家監(jiān)控企業(yè)向以色列軍方提供了用于識(shí)別西岸邊境的巴勒斯坦人的工具，之后微軟的融資部門M12便撤出了持股。

       不過，Oosto引用了一份所謂的針對(duì)其用例的獨(dú)立審計(jì)報(bào)告，稱其技術(shù)并沒有被用于開展大規(guī)模監(jiān)控活動(dòng)，而是在邊境進(jìn)行“準(zhǔn)入控制”，即在人們來往于約旦河西岸和以色列之間時(shí)進(jìn)行面孔比對(duì)。

       自上述報(bào)道發(fā)布以來，Oosto便改變了其品牌名稱，并將重點(diǎn)更多地轉(zhuǎn)移到私營(yíng)部門，以及為更廣泛的地域提供服務(wù)。目前，該公司的技術(shù)服務(wù)對(duì)象包括在本土觀看比賽的美國(guó)球迷、參觀印度泰姬陵的游客、參觀特拉維夫私人拉斐爾醫(yī)院的訪客，以及進(jìn)入悉尼澳大利亞賽馬俱樂部的觀眾。

       賭場(chǎng)是Oosto非政府業(yè)務(wù)的主要組成部分。公司聲稱自己在為拉斯維加斯大道上一些最大的賭場(chǎng)提供服務(wù)，但表示不能提供這座“罪惡之城”里的客戶名字。

       此外，它還為坐落于倫敦上流社區(qū)梅菲爾區(qū)的私人賭場(chǎng)Les Ambassadeurs提供面部識(shí)別服務(wù)。在那里，Oosto的技術(shù)被用于發(fā)現(xiàn)不法分子，還有識(shí)別VIP客人并為其提供服務(wù)。但出于倫理方面的考慮，河靈賭場(chǎng)的老板決定不使用它來檢測(cè)貴賓。

       “我們希望我們的賭場(chǎng)有一種對(duì)客戶友好的氛圍，所以不希望讓他們覺得‘老大哥’一直在盯著他們。那不是我們的系統(tǒng)在這里的用途。”Travis Thompson說。

       他補(bǔ)充稱，自己的賭場(chǎng)之所以決定采用面部識(shí)別技術(shù)，是為了支持不堪重負(fù)的賭場(chǎng)安保人員，因?yàn)樗麄?ldquo;很難親自識(shí)別出人臉”。


       “在過去，這個(gè)職責(zé)是由我們的保安和樓層人員肩負(fù)的，他們要走出去，記住誰是不良主顧，誰是拙劣演員，并試圖在每天的人海當(dāng)中識(shí)別出他們。”

       Travis Thompson表示，他的賭場(chǎng)曾與執(zhí)法部門合作過，而這個(gè)面部識(shí)別系統(tǒng)在把欺詐者關(guān)進(jìn)監(jiān)獄方面發(fā)揮了關(guān)鍵作用。他不愿透露具體的案例，不過賭場(chǎng)上常見的欺詐行為包括利用監(jiān)控設(shè)備在撲克牌局中作弊，以及暗中給賭局加注。

       雖然該賭場(chǎng)表示，這項(xiàng)技術(shù)只會(huì)用于保護(hù)大多數(shù)無辜的客戶群體，且后者的臉部信息不會(huì)存儲(chǔ)在其系統(tǒng)中，但面部識(shí)別技術(shù)的批評(píng)者說，這類措施不足以保護(hù)人們的隱私。

       雖然警察和政府機(jī)構(gòu)受到信息自由要求和其他形式的監(jiān)督，但私營(yíng)機(jī)構(gòu)卻不受此限制，并且它們有權(quán)將任何人列入自己的監(jiān)視名單，并借用此技術(shù)將人送進(jìn)監(jiān)獄。

       Jake Wiener說：“最起碼，Oosto應(yīng)該保留搜索和決策的記錄。如果一個(gè)人因?yàn)檫@項(xiàng)技術(shù)而被拒絕參加某個(gè)活動(dòng)，或者因?yàn)镺osto的識(shí)別而被逮捕，那么這個(gè)人應(yīng)該要知道他們是如何被識(shí)別的。”

       除了每天掃描成千上萬人的臉?biāo)鶐�來的蠕變因素外，這項(xiàng)技術(shù)也有一個(gè)無法成功檢測(cè)非白人個(gè)體的歷史。此前，該系統(tǒng)對(duì)黑人的面部識(shí)別錯(cuò)誤就曾導(dǎo)致有人被錯(cuò)誤逮捕，而在今年早些時(shí)候，也有美國(guó)參議員呼吁聯(lián)邦機(jī)構(gòu)停止使用該技術(shù)，因?yàn)樗?ldquo;對(duì)黑人、其他有色人種群體和移民群體構(gòu)成了獨(dú)特的威脅”。

       在最近的一個(gè)案例中，伊利諾伊州公民自由聯(lián)盟 (ACLU) 就成功地迫使一家名為Clearview AI的面部識(shí)別公司停止在該州或向美國(guó)私營(yíng)公司進(jìn)行銷售（該公司已經(jīng)表示不會(huì)向美國(guó)的非政府組織出售產(chǎn)品）。

       佛蒙特州和俄勒岡州波特蘭市則禁止使用面部識(shí)別，以至于這些地方的警察和私營(yíng)機(jī)構(gòu)都無法使用這種技術(shù)。

       不過，一些禁令將在未來幾個(gè)月里到期。在加州，警方目前被禁止在隨身相機(jī)中使用面部識(shí)別和生物識(shí)別掃描儀，但該禁令的有效期只到明年1月；弗吉尼亞州曾禁止警察使用面部識(shí)別技術(shù)，但隨后又在今年7月取消了該禁令，盡管該州的新法律只允許“在所有人口群體中具有至少98%的準(zhǔn)確率”的面部識(shí)別產(chǎn)品。


       Oosto的首席營(yíng)銷官Dean Nicolls表示，在很大程度上，主要供應(yīng)商中已經(jīng)克服了偏見問題。“如果你在一群中年白人男性身上訓(xùn)練人工智能，那么它將非常擅長(zhǎng)識(shí)別中年白人男性，但對(duì)非裔美國(guó)女性的識(shí)別可能就不太好。不過這些偏見在很大程度上已經(jīng)被消除了。如果你看看面部識(shí)別領(lǐng)域的所有主要參與者，你會(huì)發(fā)現(xiàn)，從年齡或種族的角度來看，他們幾乎沒有任何偏見。”

       但是，該公司拒絕提供任何顯示其技術(shù)在偏差測(cè)試中的表現(xiàn)數(shù)據(jù)。美國(guó)國(guó)土安全部去年開展的一項(xiàng)研究發(fā)現(xiàn)，最好的算法對(duì)人臉的檢測(cè)準(zhǔn)確率超過了95%，無論其膚色如何，可總體而言，該技術(shù)在檢測(cè)白人男性方面的表現(xiàn)仍然好于任何其他群體。

       Dean Nicolls說，Oosto其實(shí)并不僅僅專注于面部識(shí)別，它還計(jì)劃進(jìn)軍同樣有爭(zhēng)議的行為識(shí)別領(lǐng)域。雖然有越來越多的證據(jù)表明，軟件可以憑借超90%的準(zhǔn)確率識(shí)別人臉，但尚未證明代碼能夠確定一個(gè)人是否會(huì)執(zhí)行危險(xiǎn)行為，或能否通過分析一個(gè)人的運(yùn)動(dòng)模式來確定其精神狀態(tài)。

       此前，《福布斯》報(bào)道過多家開展情緒檢測(cè)和預(yù)測(cè)的公司，而研究機(jī)構(gòu)AI Now的聯(lián)合創(chuàng)始人Meredith Whittaker就抨擊該技術(shù)“并沒有健全的科學(xué)共識(shí)”。

       去年，《福布斯》曾報(bào)道了Oosto的一項(xiàng)專利，該專利將其面部識(shí)別技術(shù)應(yīng)用于無人機(jī)，從而實(shí)現(xiàn)空中監(jiān)控。然而，該公司尚未將這項(xiàng)技術(shù)付諸實(shí)踐。

       如果Oosto還打算繼續(xù)推動(dòng)監(jiān)控技術(shù)的可行性，它將遇到更嚴(yán)格的技術(shù)和道德壁壘。

       當(dāng)微軟在2020年決定與這家科技公司分道揚(yáng)鑣時(shí)，盡管前美國(guó)司法部長(zhǎng)Eric Holder已經(jīng)確定這筆投資沒有違反前者的任何道德政策，此舉也清楚地表明了參與傳播這項(xiàng)技術(shù)的風(fēng)險(xiǎn)。正如當(dāng)時(shí)雙方在聯(lián)合聲明中所說的：“從微軟的角度來看，審計(jì)過程強(qiáng)化了在一家銷售敏感技術(shù)的公司中擔(dān)任少數(shù)股權(quán)投資者的挑戰(zhàn)。”

       隨后，Oosto宣布將不再接受面部識(shí)別業(yè)務(wù)的少數(shù)股權(quán)投資。