美國舊金山禁用刷臉技術(shù)或是對(duì)AI狂熱的一種降溫

　　今年2月，環(huán)球網(wǎng)福克斯新聞報(bào)道，舊金山可能成為美國第一個(gè)禁止政府使用人臉識(shí)別技術(shù)的城市。近日，舊金山市通過了對(duì)《停止秘密監(jiān)視》條例所作的一些修訂，條例強(qiáng)調(diào)：“人臉識(shí)別技術(shù)侵害公民權(quán)利和公民自由的可能性大大超過了其聲稱的好處;這項(xiàng)技術(shù)將加劇種族不公正，并且威脅到我們的生活不受政府持續(xù)監(jiān)視的能力。”這意味著，美國第一個(gè)城市禁用人臉識(shí)別軟件將成為現(xiàn)實(shí)。

　　人臉識(shí)別是今天多種多樣人工智能技術(shù)中相當(dāng)新銳又被視為具有廣泛用途的技術(shù)，對(duì)個(gè)體生物識(shí)別、安保、刑事鑒識(shí)、社會(huì)生活等都有重要的意義。其被一個(gè)城市叫停，至少可以解讀為，在AI技術(shù)發(fā)展突飛猛進(jìn)之時(shí)，相應(yīng)的對(duì)其管理的規(guī)則和技術(shù)還不成熟。

　　舊金山市禁止人臉識(shí)別的最大理由是，它將公民置于政府的持續(xù)監(jiān)視之下，侵害公民權(quán)利和自由，同時(shí)也會(huì)造成種族歧視。這些是AI倫理的一部分，人類社會(huì)不能為了使用技術(shù)而發(fā)展技術(shù)，更不能以發(fā)展和使用技術(shù)為由違反甚至破壞人類社會(huì)公認(rèn)的倫理底線。

　　目前，對(duì)AI技術(shù)的狂熱已經(jīng)讓這一技術(shù)有失控的危險(xiǎn)。為此，歐盟在4月初抓緊公布了AI倫理指導(dǎo)方針，要求公司和政府機(jī)構(gòu)在未來開發(fā)AI時(shí)應(yīng)遵循7大原則。其中的第一條是，AI不應(yīng)該踐踏人類的自主性。人們不應(yīng)該被AI系統(tǒng)所操縱或脅迫，應(yīng)該能夠干預(yù)或監(jiān)督AI軟件所做的每一個(gè)決定。舊金山市禁止使用人臉識(shí)別技術(shù)的重要理由，與這一指導(dǎo)方針吻合。

　　人臉識(shí)別和其他AI技術(shù)一樣仍存在較大問題。首先，人臉識(shí)別技術(shù)并不可靠。亞馬遜及其他公司的人臉識(shí)別技術(shù)對(duì)非裔美國人誤認(rèn)，甚至將28名國會(huì)議員誤認(rèn)為嫌疑犯。美囯佐治亞理工學(xué)院的喬伊·布拉姆維尼團(tuán)隊(duì)分析了3500張膚色各異的人的照片，發(fā)現(xiàn)自動(dòng)駕駛技術(shù)在識(shí)別黑色皮膚人群時(shí)的準(zhǔn)確度平均降低了5%。微軟、IBM和Facebook等大公司推出的商用人臉識(shí)別軟件系統(tǒng)，也無法識(shí)別女性和有色人種。

　　人臉識(shí)別技術(shù)還可能被模仿并用于造假。一項(xiàng)被稱為GAN(生成對(duì)抗網(wǎng)絡(luò))的新興技術(shù)可以把任何人的相貌換成另一個(gè)人并通過檢測。實(shí)際上，GAN是一種生成模型，可以自動(dòng)生成圖像，也能自動(dòng)篡改圖像，可以輕而易舉地通過人臉識(shí)別技術(shù)的檢測進(jìn)行造假和欺詐。

　　類似的情況，還有2017年問世的Deepfakes換臉技術(shù)，能將《神奇女俠》主角蓋爾·加朵的臉嫁接到另一位女影星的身上，看起來天衣無縫，也使得使用這項(xiàng)技術(shù)對(duì)任何人換臉并通過人臉識(shí)別成為可能。統(tǒng)計(jì)表明，互聯(lián)網(wǎng)有大量的合成信息，如合成聲音、生成圖像、AI合成不存在的人像等，這讓人臉識(shí)別在尚未被普遍使用之時(shí)，可靠性就遭遇空前危機(jī)。

　　人臉識(shí)別的不可靠之處還在于，其不安全性是長久的。相較于個(gè)人的生物信息，保護(hù)個(gè)人的其他密碼是可更換的，但個(gè)人生物信息一旦泄露和遭到改變，就會(huì)是終身泄露，除了影響人們的生活，還讓人處于永遠(yuǎn)的不安全中。

　　歐盟關(guān)于AI的7項(xiàng)倫理指導(dǎo)方針要求，AI系統(tǒng)收集的個(gè)人數(shù)據(jù)應(yīng)該是安全的，能夠保護(hù)個(gè)人隱私，不應(yīng)該被任何人訪問，也不應(yīng)該輕易被盜。但是，目前的人臉識(shí)別技術(shù)大多為公司和政府所有，屬于專有技術(shù)，缺乏公平和公正的第三方的嚴(yán)格監(jiān)管。

　　從這個(gè)意義上講，舊金山市禁用AI人臉識(shí)別技術(shù)，是在平衡AI技術(shù)的利弊之后進(jìn)行的立法?，F(xiàn)在，美國參議院正在考慮一項(xiàng)監(jiān)管人臉識(shí)別軟件商業(yè)使用的法案，這也是從管理角度來保證AI技術(shù)的安全和公平公正使用。未來，如果技術(shù)的進(jìn)步和法律能保證人臉識(shí)別技術(shù)到達(dá)更穩(wěn)妥更可控的安全程度，也許禁令會(huì)被撤銷。