只要在APP中上傳一張照片，你想變成哪個明星，就能變成哪個明星。聽起來很夢幻，但卻觸手可及。近日，一款名為“ZAO”的AI換臉APP在朋友圈刷屏。根據(jù)官方的介紹，利用AI技術(shù)，用戶可以在ZAO軟件上使用自己的照片替換影視劇或者小視頻中的人物，從而生成以自己為主角的視頻。ZAO的口號為“僅需一張照片，出演天下好戲”。AI換臉效果在視頻中幾乎可以“以假亂真”，一時間不少網(wǎng)友發(fā)現(xiàn)自己的朋友圈被各種“自己與明星飆戲”的短視頻所刷屏，也吸引了大量網(wǎng)友嘗鮮。其火爆程度從ZAO官方助手在8月30日夜間發(fā)布微博可見一斑：“這個月花700萬租的服務(wù)器，今晚已經(jīng)消耗1/3了。”

一

但ZAO在走紅的同時，也引發(fā)了不小的爭議，其用戶協(xié)議不僅讓ZAO可免費使用并修改用戶的肖像，還可以將它任意授權(quán)給自己想授權(quán)的第三方，甚至當(dāng)作信息進行販賣。這使得大眾對于AI換臉技術(shù)所帶來的個人信息泄露風(fēng)險產(chǎn)生了擔(dān)憂。

9月3日，針對媒體公開報道和用戶曝光的“ZAO”APP用戶隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風(fēng)險等網(wǎng)絡(luò)數(shù)據(jù)安全問題，工業(yè)和信息化部網(wǎng)絡(luò)安全管理局對其背后的北京陌陌科技有限公司相關(guān)負責(zé)人進行了問詢約談，要求其嚴格按照國家法律法規(guī)以及相關(guān)主管部門要求，組織開展自查整改，依法依規(guī)收集使用用戶個人信息，規(guī)范協(xié)議條款，強化網(wǎng)絡(luò)數(shù)據(jù)和用戶個人信息安全保護。微信等平臺也對ZAO的分享鏈接屏蔽，提示理由為“網(wǎng)頁存在安全風(fēng)險，被多人投訴”。隨后，因用戶協(xié)議涉嫌過度收集用戶信息及隱私安全爭議，AI換臉軟件ZAO火速發(fā)布致歉聲明，將自己再次送上了微博熱搜。

二

面對種種爭議和ZAO的道歉，相關(guān)話題也隨即沖上熱搜榜，但由此引發(fā)的隱私保護爭議和反思并未平息。

AI換臉的背后，其實也遠不止泄露公眾隱私這么簡單，技術(shù)被不法分子濫用將會是AI換臉軟件最大的風(fēng)險之一。據(jù)資料顯示，早在2017年，國外一位ID為“deepfakes”的網(wǎng)友，利用業(yè)余時間創(chuàng)造了一個AI換臉?biāo)惴�，并在國外風(fēng)靡過一段時間。但“deepfakes”的算法很快被一些人用于明星和色情行業(yè)，許多公眾人物成為受害者，最終在飽受外界爭議的情況下被封殺。

近日，澎湃新聞就報道了在二手交易平臺閑魚APP上發(fā)現(xiàn)，有多位賣家通過AI換臉技術(shù)制作出當(dāng)紅女明星的不雅視頻，進行售賣的現(xiàn)象。這不僅侵害了被換臉的當(dāng)紅女星的肖像權(quán)，可能構(gòu)成侮辱罪，還對我國打擊色情產(chǎn)業(yè)工作造成了極其惡劣的負面影響。

三

對于新技術(shù)、新事物從來不一刀切，這是我國改革開放以來，“摸著石頭過河”的政府對于創(chuàng)新給予最大限度的寬容，但AI換臉也讓人們看到了人工智能從“深度學(xué)習(xí)”到“深度偽造”的“作惡”速度如此之快。

當(dāng)然，我們也不能因為AI換臉存在，就否定人工智能的技術(shù)進步和社會發(fā)展趨勢，畢竟技術(shù)進步對于社會進步的意義本身是無可厚非的。但技術(shù)的使用需要底線，這一底線就是不能違背最基本的公序良俗。任何創(chuàng)新也只有在技術(shù)、市場、規(guī)則和法律之間，找到平衡點，趨利避害，才能維持其自身的合理發(fā)展，維持用戶的使用熱度，為技術(shù)注入靈魂，推動社會進步發(fā)展。

彭茂洋