安全科普:AI“換臉”游戲時 你知道“丟臉”的后果嗎?
來源:科普中國
發(fā)布時間:2019-11-22
瀏覽次數(shù):1185

?

 ? ?近日,一款基于人工智能技術(shù)的“換臉”APP走紅網(wǎng)絡(luò)。使用者只要上傳自己的高清照片,即可將本人面孔與大量影視片段中的明星面孔置換。既可以自己過明星癮,又可與心愛偶像“同框”出演,大量年輕用戶選擇將自己面孔上傳網(wǎng)絡(luò),“換臉”娛樂。
?

  新華社記者發(fā)現(xiàn),如此“換臉”,用戶面部生物特征信息被盜或失控的“丟臉”風(fēng)險不小。該款A(yù)PP用戶協(xié)議中載明:用戶一旦上傳自己的照片進行視頻“換臉”,將在全球范圍內(nèi)完全免費、不可撤銷地將包括人臉照片在內(nèi)的肖像資料授權(quán)給該公司和其關(guān)聯(lián)公司。雖然此后相關(guān)企業(yè)在輿論壓力下,對其用戶協(xié)議進行了部分修改,但風(fēng)險依然存在。
?

  一旦“丟臉”,我們將面臨哪些風(fēng)險?漏洞又該如何堵上?新華社記者就此展開調(diào)查。
?

  風(fēng)險一:“丟臉”能導(dǎo)致“丟錢”
?

  當(dāng)前,大部分銀行等金融機構(gòu)開設(shè)了人臉識別登陸APP功能。“刷臉”支付甚至是遠程簽約等場景也越來越多見。如果用戶的“臉”不安全,“錢”也將面臨莫大風(fēng)險。
?

  企業(yè)通過用戶協(xié)議等手段取得的用戶面部識別信息面臨被泄露風(fēng)險。據(jù)記者了解,今年2月,國內(nèi)某面部識別公司的數(shù)據(jù)庫發(fā)生信息安全事故,數(shù)百萬條個人信息被泄露;8月,歐洲一家公司發(fā)生大規(guī)模信息泄露事件,數(shù)百萬人面部識別信息被泄露……公眾面部信息被濫用風(fēng)險增大。
?

  記者在一些知名網(wǎng)購平臺輸入“人臉面具”“硅膠頭套”等關(guān)鍵詞,發(fā)現(xiàn)有不少商戶出售“人臉頭套式面具”,其中一些甚至可以按客戶提供照片定制。記者獲知,通過3D打印等技術(shù),“人臉面具”可以獲得較高仿真度,且面部識別數(shù)據(jù)越詳實仿真度越高,對以面部識別信息作為密碼賬戶的突破力就越強。此前已有人使用3D打印面具通過某知名網(wǎng)絡(luò)支付平臺面部驗證。
?

  “貿(mào)然將自己的清晰正面照上傳并授權(quán)他人進行存儲或另作他用,關(guān)乎‘錢袋子’安全。”中央財經(jīng)大學(xué)金融法研究所所長黃震認為,目前法律對“AI換臉技術(shù)”規(guī)范不足,因此保護好自己的面部信息在當(dāng)下十分必要。他建議,有關(guān)部門應(yīng)加快推廣相關(guān)技術(shù)規(guī)范落地應(yīng)用。
?

  記者從多家已啟用人臉識別功能的金融機構(gòu)處了解到:當(dāng)前金融機構(gòu)設(shè)置的人臉識別安全等級高于智能手機相關(guān)功能,但由于不少交易場景中識別標準并不統(tǒng)一,因此風(fēng)險仍在。多名專家建議,用戶將面部識別設(shè)置為財產(chǎn)賬戶密碼時,應(yīng)同時設(shè)置其他驗證辦法,減小風(fēng)險。
?

  風(fēng)險二:“丟臉”能導(dǎo)致“丟清白”
?

  當(dāng)前,“換臉”技術(shù)被用在一些涉嫌違法犯罪領(lǐng)域的情況已不少見。記者發(fā)現(xiàn)一些網(wǎng)站用“AI換臉”“換臉視頻”等方式提供用知名藝人“面孔”“嫁接”出的視頻。這些視頻往往涉嫌色情淫穢,且難辨真假。另外,記者在QQ群和百度貼吧中以“換臉”和“換臉視頻”為關(guān)鍵詞檢索發(fā)現(xiàn),有不少社交群組打著“技術(shù)交流”幌子兜售此類“明星換臉”視頻。
?

  知情人告訴記者,除販賣“換臉”非法音視頻產(chǎn)品牟利外,一些不法分子還利用手中掌握的貸款人人臉信息,以此類技術(shù)進行非法催收活動,直接侵害貸款人人格權(quán)、名譽權(quán),甚至滋生出敲詐勒索等其他嚴重犯罪活動。
?

  北京師范大學(xué)網(wǎng)絡(luò)法治國際中心執(zhí)行主任吳沈括認為,AI“換臉”法律風(fēng)險點多,從現(xiàn)實案例看,名譽侵權(quán)是高發(fā)問題。尤其是惡意拼接制作侮辱性、污蔑性視圖素材或者予以非法傳播、利用的,將對受害人造成的傷害難以及時發(fā)覺且極難有效救濟,需要有關(guān)部門高度關(guān)注、積極預(yù)防。他建議,由于該領(lǐng)域技術(shù)性強,相關(guān)企業(yè)眾多,規(guī)模大小不一,應(yīng)強化職能部門監(jiān)管力度,杜絕選擇性事后執(zhí)法,建立全行業(yè)全流程公平監(jiān)管,依法嚴懲違法違規(guī)主體,打造穩(wěn)定、良性的可預(yù)期市場環(huán)境。
?

  風(fēng)險三:“丟臉”能導(dǎo)致“被貸款”
?

  有過網(wǎng)貸申請經(jīng)歷的人對于“點點頭”“搖搖頭”“張張嘴”之類的動作也許并不陌生。借貸者在錄入身份信息后,網(wǎng)貸機構(gòu)會對申請人進行“活體檢測”,以確保放款對象為本人,把關(guān)借貸安全。但記者發(fā)現(xiàn),一些基于相關(guān)技術(shù)的修圖APP能夠“起死回生”,讓靜態(tài)面部照片模仿生物活體“動”起來。
?

  記者使用一款知名修圖軟件,載入一張包含人物面孔的照片后使用其“3D塑顏”的功能,圖片中的人物便能按記者需要完成“上下點頭”和“左右搖頭”等“動作”。
?

  在另一款宣傳語為“讓你的照片活過來”的APP中,只要載入一張包含人物面孔的照片,就可以一鍵讓照片中的人物“開口說話”。記者發(fā)現(xiàn),使用者還能利用該APP決定說話內(nèi)容,并可對錄入聲音進行聲線處理,調(diào)整音色音調(diào),視聽感覺十分逼真。
?

  有業(yè)內(nèi)人士告訴記者,目前不少網(wǎng)貸機構(gòu)進行“活體檢測”時仍使用人工審核或技術(shù)含量偏低的機器審核,一旦公眾的面部識別信息被不法分子掌握,用這些黑科技“活”過來的面孔,很可能以假亂真,讓不知情者“被網(wǎng)貸”背上巨額債務(wù)。此前“3·15”晚會上就有人演示用“活”照片成功突破某款手機的“刷臉”登陸系統(tǒng)。記者還發(fā)現(xiàn),在蘋果和安卓手機商店中有不少利用AI“換臉”類APP供人挑選。
?

  中國信息安全研究院副院長左曉棟認為,隨著AI“換臉”使用場景更豐富,行業(yè)和監(jiān)管部門應(yīng)當(dāng)研發(fā)相應(yīng)的“反換臉”檢測技術(shù),來篩選相關(guān)視頻是否由“換臉術(shù)”完成。他建議,要加快建立人工智能算法的安全評估制度,對不同場景下AI“換臉”技術(shù)進行評估,解決相關(guān)技術(shù)濫用問題。
?

聽說,打賞我的人最后都找到了真愛。
做科普,我們是認真的!
掃描關(guān)注深i科普公眾號
加入科普活動群
  • 參加最新科普活動
  • 認識科普小朋友
  • 成為科學(xué)小記者