“AI換臉”不能罔顧企業社會責任

由于缺乏社會責任意識和消費者權益保護觀念，部分如“ZAO”一樣快速興起的科技企業，給消費者個人信息安全帶來隱患的同時卻企圖推卸平臺責任。這對企業的生存和發展可能是致命性的錯誤?？萍计髽I家們只有未雨綢繆地制定符合公眾利益的技術開發守則、信息安全規范、消費者權益保障措施和法律風險控制方案，才能確?！翱萍枷蛏啤?、實現開發者及其利益相關方的“共贏”。

隨著移動互聯網和智能手機的普及，新型經濟形態在我國快速發展，新的網絡應用（APP）雨后春筍般涌現。但是，由于部分APP經營者、開發者的社會責任意識和法律意識欠缺，新產品或服務推向市場后往往會出現一些漠視用戶權益、對社會造成負面影響的行為，進而引起社會輿論的口誅筆伐。

近日，一款叫做ZAO的“AI換臉”應用突然火了起來。用戶向該軟件上傳自己的正臉照，并選中軟件中的圖片或視頻素材，就可以把圖片或視頻中人像的臉（例如某位明星偶像）換成自己的臉，過一把“演戲當明星”的癮；或生成各種有趣的表情包。這款應用了人工智能技術（AI人臉識別）的軟件一經推出大受用戶歡迎，用它制作的視頻迅速在朋友圈熱傳、并蔓延至整個互聯網。據統計，8月31日上午，該APP在蘋果商店下載量攀升至娛樂類第二位。

但是，軟件大熱之后馬上引發社會輿論反彈。其最令人詬病之處在于其用戶協議中包含的可能傷害用戶的“霸王條款”。根據用戶協議，ZAO平臺無需對用戶上傳的內容負責；用戶要使用軟件就必須免費、無限制地授權給ZAO及其關聯方，并任由ZAO及其關聯方修改和編輯……

此外，用戶擔心人臉圖像被惡意傳播、生物特征被收集或被不懷好意的人經過AI軟件處理后用來作惡：包括用來刷臉支付、制作色情小視頻、欺騙親友錢財……8月31日下午，ZAO修改了用戶協議，刪掉或修改了部分不合規的條款；9月3日，工信部網絡安全管理局對ZAO所屬的北京陌陌科技有限公司相關負責人進行了問詢約談，要求其開展自查整改，依法依規收集使用用戶個人信息，規范協議條款，強化網絡數據和用戶個人信息安全保護。

這是一起典型的在產品或服務研發中缺乏企業社會責任意識的案例。為了企業將來可能的各種潛在商業需求，誘導用戶無限授權個人信息并企圖推卸平臺治理責任，這是對企業社會責任的無知和對用戶權益的漠視。

首先，ZAO無法推卸平臺治理責任。

ZAO原用戶協議中關于用戶內容所有權、知識產權等責任的規定如下:“您的必要授權:除非另有約定，您使用‘ZAO’上傳及/或發布的用戶內容的所有權、知識產權及其他法律權利，歸您、您的許可方、或者您的關聯方所有，責任亦由您承擔?！比绻械呢熑味加捎脩舫袚?，那么ZAO作為平臺提供者的責任在哪里？網絡平臺有責任對用戶上傳的內容進行鑒別，去偽存真，避免侵權行為、欺詐行為，保護用戶的個人隱私不受侵犯。

2017年生效的《網絡安全法》第9條規定：網絡運營者開展經營和服務活動，必須遵守法律、行政法規，尊重社會公德，遵守商業道德，誠實信用，履行網絡安全保護義務，接受政府和社會的監督，承擔社會責任?！苯衲?月份，國務院辦公廳發布的《關于促進平臺經濟規范健康發展的指導意見》明確要求科學合理界定平臺責任，要“明確平臺在經營者信息核驗、產品和服務質量、平臺（含APP）索權、消費者權益保護、網絡安全、數據安全、勞動者權益保護等方面的相應責任”。 ZAO試圖撇清平臺治理責任的條款顯然是違法的。

暢銷書《平臺革命：改變世界的商業模式》的作者之一馬歇爾W.范·埃爾斯泰恩（Marshall Van Alstyne）在去年接受媒體采訪時表示：“平臺促成的交易或服務如果演變成惡性事件，不論是服務提供方還是被服務方遭受損失或傷害，平臺型公司都應該承擔責任。平臺型公司應該利用數據和技術、更好地制定規則，以保證危害不再發生?！盳AO作為一家AI影像技術公司，應該對可能存在的技術風險、社會風險、法律風險進行全面評估，提出更加切實可行的用戶信息安全防控措施，制定尊重用戶隱私，保護用戶權益的平臺治理規則。

其次，ZAO違背國際主流社會責任標準和指南。

國際上有許多保護個人隱私的標準，包括ISO 27001、CSA STAR、ePrivacy Seal等。在ISO26000《社會責任指南》、GRI《可持續發展報告標準》和港交所ESG報告指引中也有關于合規、道德、人權和安全相關議題，旨在鼓勵企業尊重消費者個人權益、保護消費者隱私。ZAO的服務協議與這些標準都是背道而馳的，ZAO利用了中國用戶普遍比較淡泊的肖像權和個人隱私保護意識，誘導用戶無償提供人臉信息。

按照ZAO的用戶協議，用戶的照片等個人信息有可能被轉賣（轉授權）到更多互聯網平臺、機構或個人，亦有可能被用戶未知的第三方修改、使用，諸如被刷臉、被制作成色情視頻、被模仿成用戶詐騙等現象便有可能變成現實。用戶是ZAO的最大利益相關方，如果發生用戶信息被濫用，用戶利益和公眾利益受損害的事件，進而受到政府管制，對企業的生存發展可能是致命性的?？觳ケ唤?、滴滴順風車下架便是很明顯的例子。

再次，ZAO的商業模式與國際互聯網公司社會責任發展趨勢不符。

作為一項剛剛興起的技術，人臉識別產業這幾年在中國的發展順風順水。據統計，中國人臉識別產業市場規模正以年均30%復合增長率擴大，到2018年達已達到了131億元。但是在隱私保護越來越受關注的今天，這項技術在歐美國家的境遇就大為不同，且已開始面臨嚴厲監管。今年年初，微軟CEO就警告要防止人臉識別助長市場的惡性競爭。微軟近期刪除了全球最大公開人臉識別數據庫——MS Celeb；而Facebook、Google、Amazon等科技巨頭也面臨來自立法者和其他利益相關方對其隱私保護實踐的特別關注。歐盟在2018年出臺的GDPR（《通用數據保護條例》）規定，公司在收集用戶包括面部等生物特征數據之前，必須經得個人同意，否則被罰金額可以達其全球收入的4%。因此，作為創新型產品和服務，ZAO應該探索開發更符合國際社會責任發展趨勢的商業模式和產品。

希望ZAO“AI換臉”事件能讓更多的互聯網創新企業意識到，科技創新絕不能忽視社會責任。希望企業家們在策劃和推出互聯網新產品和服務的時候，能夠邀請企業社會責任專家、安全專家、法律專家以及不同利益相關方共同參與，制定符合公眾利益的技術開發守則、信息安全規范、消費者權益保障措施和法律風險控制方案，真正確?！翱萍枷蛏啤?。