南都訊 記者馮群星 當(dāng)?shù)貢r(shí)間7月22日，紐約州立法機(jī)構(gòu)投票通過了一項(xiàng)針對(duì)人臉識(shí)別的新禁令：在2022年之前，紐約州的學(xué)校均不得使用人臉識(shí)別等生物識(shí)別技術(shù)。
這則禁令的背景，是去年發(fā)生的一場(chǎng)有關(guān)校園應(yīng)用的爭(zhēng)議。
2019年5月，紐約州西部城市洛克波特市開始在全市校園部署人臉識(shí)別設(shè)備，主要目的是增強(qiáng)學(xué)校的安全性。洛克波特市學(xué)區(qū)負(fù)責(zé)人米歇爾·布拉德利（Michelle Bradley）在接受外媒采訪時(shí)說，“這是使學(xué)生、員工和訪客更加安全的又一措施”。
洛克波特市官方信息顯示，人臉識(shí)別系統(tǒng)將識(shí)別“學(xué)校不允許出現(xiàn)的人員”，并在識(shí)別到異常情況時(shí)發(fā)出警報(bào)提醒。系統(tǒng)重點(diǎn)識(shí)別的人員包括二級(jí)或三級(jí)性犯罪者、被停職的學(xué)校員工、法院判決未經(jīng)批準(zhǔn)禁止進(jìn)入學(xué)校的人員、執(zhí)法部門信息顯示會(huì)構(gòu)成威脅的人員，等等。
由于隱私等問題的存在，人臉識(shí)別應(yīng)用在美國(guó)向來爭(zhēng)議頗多。因此，洛克波特市也在紐約州教育廳等部門的監(jiān)督下反復(fù)修改了系統(tǒng)設(shè)置，最終決定只讓系統(tǒng)記錄人員比對(duì)的情況，不收集或存儲(chǔ)任何個(gè)人信息，學(xué)生的照片等個(gè)人信息也不會(huì)被添加到系統(tǒng)中。根據(jù)當(dāng)?shù)胤梢?，監(jiān)控視頻保存60天后將從服務(wù)器上刪除。
2020年1月，這一系統(tǒng)在洛克波特市正式投入運(yùn)營(yíng)。然而，還是有一些民間團(tuán)體認(rèn)為人臉識(shí)別系統(tǒng)太有侵入性，不該在學(xué)校這樣的場(chǎng)所部署。萬一系統(tǒng)對(duì)學(xué)生出現(xiàn)了誤報(bào)，更是會(huì)給學(xué)生帶來種種傷害，比如影響學(xué)生上課、給學(xué)生扣上莫須有的犯罪記錄。
今年6月，紐約公民自由聯(lián)盟提起訴訟，要求洛克波特市停用系統(tǒng)。
這一起訴得到了當(dāng)?shù)夭糠止賳T的支持。當(dāng)?shù)貢r(shí)間6月23日，紐約州議會(huì)眾議員莫妮卡·華萊士（Monica Wallace）和參議員布萊恩·卡瓦納（Brian Kavanagh）發(fā)表聯(lián)合聲明，重申了對(duì)隱私問題的擔(dān)憂：“我們擔(dān)心該技術(shù)的使用可能侵犯學(xué)生、教職員工和訪客的隱私權(quán)及其他公民權(quán)利。這是一種無效的維護(hù)校園安全的形式，并且可能無法安全地存儲(chǔ)學(xué)生數(shù)據(jù)。 ”
此前，美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究院曾發(fā)現(xiàn)，美國(guó)目前主要的人臉識(shí)別算法在識(shí)別非裔、亞裔美國(guó)人時(shí)，錯(cuò)誤率遠(yuǎn)超白人。華萊士和卡瓦納據(jù)此指出，人臉識(shí)別的準(zhǔn)確性也令人擔(dān)心。在年輕的學(xué)生因?yàn)檫@種侵入性的監(jiān)控形式受到傷害之前，紐約州教育廳應(yīng)該仔細(xì)考慮相關(guān)問題，并就人臉識(shí)別應(yīng)用制定詳細(xì)的指導(dǎo)規(guī)則。
紐約州參眾兩院剛剛投票通過的新禁令，正是由華萊士提出。接下來，禁令將被提交給紐約州州長(zhǎng)。如果紐約州州長(zhǎng)也簽字通過，禁令就將成為正式的法律。
據(jù)南都·AI前哨站梳理，去年以來，美國(guó)的舊金山、薩默維爾、奧克蘭、波士頓等多個(gè)城市通過了人臉識(shí)別禁令，但這些城市主要是禁止政府部門使用人臉識(shí)別技術(shù)。如果禁令成為正式法律，那它也將是全美國(guó)首個(gè)專門針對(duì)學(xué)校人臉識(shí)別應(yīng)用的法律。
從歐美此前的執(zhí)法案例看，涉及到學(xué)校和未成年人個(gè)人信息的科技應(yīng)用往往受到會(huì)更多的限制。例如在2019年，瑞典一所高中使用人臉識(shí)別系統(tǒng)來記錄學(xué)生的出勤率，瑞典數(shù)據(jù)監(jiān)管機(jī)構(gòu)調(diào)查認(rèn)為此舉侵犯學(xué)生的隱私，便依據(jù)歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）處罰了該高中20萬瑞典克朗（約合人民幣14.8萬元）。
南都·AI前哨站此前相關(guān)報(bào)道：
舊金山擬禁止市政機(jī)關(guān)使用人臉識(shí)別技術(shù) 負(fù)責(zé)官員稱擔(dān)心技術(shù)濫用
意外！舊金山政府員工使用帶刷臉功能的蘋果手機(jī)是違法的
美國(guó)第二個(gè)城市通過人臉識(shí)別禁令：不得將人臉數(shù)據(jù)作為法律證據(jù)
第三個(gè)美國(guó)城市出臺(tái)人臉識(shí)別禁令！奧克蘭：政府不得收集人臉信息
擔(dān)心人臉監(jiān)控加劇種族歧視 美國(guó)波士頓禁止市政機(jī)關(guān)使用人臉識(shí)別
IBM宣布退出人臉識(shí)別業(yè)務(wù)：響應(yīng)弗洛伊德事件，反對(duì)種族歧視
責(zé)任編輯：
