“AI換臉”火了，有人10分鐘被騙400萬，誰來擔責？丨亮見31期

丨劃重點

1. 對AI生成內容進行標記是法律法規要求的，這不意味著平臺能完全免責，平臺還需要履行技術識別、停止傳輸、處置措施和報告等責任。

(資料圖片)

2. 直播間使用明星面孔，侵犯了明星的肖像權，還涉及到虛假宣傳、欺詐消費者和不正當競爭等問題。

3. 如果在銀行有能力識別非真實人臉的情況下間接導致了AI換臉詐騙給儲戶造成損失，這種情況下可能需要擔責。

4. 消費者需要更加重視個人信息的保護，盡量避免無必要的授權，可以拒絕使用要求授權過多個人信息的應用。

丨概述

AIGC的爆火讓人們看到了人工智能日常應用的可能，其場景覆蓋文字/圖片/音頻/視頻等形式的內容生成，在特定領域，AIGC相關的內容的質量、可靠性已經遠超人類，然而這種高度的“仿真”，也衍生出了新的問題——AI詐騙。

北京市岳成律師事務所高級合伙人岳屾山認為，技術具有兩面性，對待其態度不能一概而論，需要將其納入法律框架下規范發展。而針對AI詐騙，岳律師認為個人信息泄露的情況仍很普遍，普通人在使用相關設備和軟件時需盡量避免無必要的授權，但詐騙分子不斷變化和“創新”，最根本的防范防范還是保持警惕、提高對詐騙的認知。

01

AI內容標記無法完全規避責任

劉興亮：現在，許多平臺對AIGC生成的內容會有明確風險提示標記，這種提示有效嗎？

岳屾山：標記是根據法規明確規定的，要求新技術和應用來制作、發布、傳播非真實音視頻信息，應該采用顯著的方式進行標記。標記只是一種規避責任的方式，因為法律要求標記，但并不意味著完全免除責任，除了標記之外還有其他的義務需要履行。

例如，平臺應該部署一些用于識別違法違規音視頻和非真實音視頻的技術，如果發現違反法律禁止或規定的信息內容，必須依法停止傳輸這些信息，并采取刪除等處置措施來防止信息的擴散。同時，還需要妥善保存相關記錄，并向相關部門等進行報告。

所以，平臺有很多義務需要履行，僅僅進行標記是不能完全免除責任的。

劉興亮：新技術、新應用帶來的潛在風險，我們應該采取什么樣的態度對待？

岳屾山：因為涉及到較為技術性的內容，就我個人而言，對于新的技術或應用，包括新的營商模式和經營模式的出現，應該給予適度的關注和寬松的環境來培育它們，看它們是否能夠發展起來。

不過，對于人工智能換臉，目前沒有看到多少正面評價。

不過，也有少量的人嘗試用這項技術“復活”已故親人，以慰藉思念之情，我認為這可能是人工智能換臉技術對我們的生活和社會產生積極影響的一種可能性存在。

只要這項技術具有正面意義的可能，對待它的態度就不能一“封”了之，應在現有的法律框架內對其進行必要的規制，以避免它成為一匹脫韁的野馬。

02

“AI孫燕姿”存在諸多侵權風險

劉興亮：關于AI孫燕姿的話題，最近孫燕姿發布相關聲明，意思是不會去追責，這種情況下用戶能隨便使用嗎？

岳屾山：AI換臉明星翻唱，涉及的法律問題主要涉及肖像權。

民法典規定，未經他人同意使用他人肖像屬于肖像侵權，使用AI換臉就存在這種可能性，特別是在直播間中使用明星的面孔進行直播，明顯侵犯了明星的肖像權，因為明星不可能授權他人使用他們的面孔進行直播。另外，這種行為還涉及到虛假宣傳、欺詐消費者和不正當競爭等問題。

直播中的AI換臉，來源：網絡

有關“聲音”的權利，民法典明確了將其按照肖像權規定處理。如果孫燕姿未允許他人使用其聲音，就會構成侵權，并且可能還涉及侵犯姓名權的問題。此外，如果使用她的歌曲進行商業活動，還需要支付費用，并可能需要獲得詞曲作者等進行著作權的授權。

劉興亮：以銀行轉賬為例，轉賬過程中，因為人臉識別被騙，誰來承擔責任，銀行需要擔責嗎？

岳屾山：轉賬過程人臉驗證，會有眨眼、搖頭等動作的驗證，如果這個過程中遭遇詐騙，銀行是否需要擔責，取決于銀行在人臉識別技術方面是否存在一些罕見的漏洞。比如，通過調用攝像頭時，銀行APP能否辨認出真實的攝像頭，或者是否使用了其他技術手段對人臉進行了改變。

如果在銀行有能力識別非真實人臉的情況下，因為詐騙分子通過第三方設備，比如通過攝像頭畫面欺騙了銀行的人臉識別系統，（給儲戶帶來了直接損失），這種情況下銀行可能需要擔責；如果技術監測確實發現銀行無法識別出這種情況，即技術無法達到防止欺詐的要求，就不能要求銀行承擔責任。

除了銀行，也需要考慮平臺是否有發現欺詐行為的標志，是否具備識別的義務等，如果平臺違反了這些義務，相應地就要承擔責任。

但實際上，很多詐騙行為都是點對點進行，銀行或平臺很少直接參與其中，詐騙分子往往會規避銀行或平臺的驗證方式，以盡量減少被發現的可能，畢竟這是一種犯罪行為。

03

防范數據泄露，是反詐騙的核心

劉興亮：現在有很多觀點認為我們目前防范AI詐騙關鍵在于防范數據泄露，這種觀點你認同嗎？

岳屾山：個人信息泄露的問題一直都非常嚴重。電信詐騙之所以成功的一大原因就是因為詐騙者獲取了相應的個人信息。

刑法中有關個人信息保護的方面規定了非法泄露公民個人信息屬于侵犯個人信息罪，需要追究責任。在民法典的《消費者權益保護法》、《數據安全法》、《網絡安全法》等法律中，都要求企業在收集個人信息時必須遵循合法、正當和必要的原則。特別是對于涉及人臉等生物特征的信息，屬于敏感信息，每次收集都需要單獨獲得用戶的同意，并受到其他限制性規定的約束。

這些法律法規，旨在保護我們的個人隱私，并要求所有收集到個人信息的企業，在處理和使用時都必須嚴格按照約定和法律規定進行，并具備必要的技術和軟件條件來保護信息不被泄露。

所以，消費者需要更加重視個人信息的保護，盡量避免無必要的授權。如果某個應用要求我們授權過多的個人信息，可以拒絕授權，即使這樣可能導致無法使用應用。現在法律也有明確，應用不允許索取過多個人信息相關權限，且不能拒絕用戶使用。

例如，以前我們使用某個導航軟件要求訪問通訊錄，實際上只需要位置信息即可，這種情況下，《國家的網絡安全法》、《數據安全法》和《個人信息保護法》等都進行了詳細的規定。

另外，詐騙分子通常會使用各種手段篩選目標客戶，比如發送大量的短信，他們不需要知道每個人的具體個人信息，而是通過通用的手法來吸引潛在受害者的注意力。比如最近的“上門槍決”短信，詐騙分子不需要每個人都相信，只需要找到那些容易受騙的人，這種方式可以幫助詐騙分子最大限度地減少成本并加快篩選的速度。

近期在網絡中熱議的“上門槍斃”詐騙短信，來源：網絡

04

技術不是萬能的，治理與監管關鍵在人

劉興亮: 對AI換臉詐騙的治理和監管還需要哪些主體，以什么樣的形式參與？

岳屾山：社會治理的層面確實是多主體參與的，這樣才能形成良好的氛圍。在制定規則和框架方面，一方面是在政府層面或立法層面進行，需要有相應規則和標準來界定詐騙行為，這些規則可能需要在立法層面進行制定，包括對其性質和標準的界定等。

另外，通過立法或政府的行政政策可能需要一定時間，存在不及時的可能，所以很多時候可以通過行業協會的形式提前制定一些規范或標準，雖然它們可能沒有強制力，但可以起到引導作用。

針對法律法規在落地過程中的執行，需要執法部門加強監管，且這種場景也考驗監管的技術，我認為這種情況下雙方都在看誰的技術更高超，誰能夠限制住這種行為。技術本身并不是萬能的，它的應用取決于人們如何使用和管理。

劉興亮：針對不同的主體行為的規范，目前有哪些具體的法律法規？

岳屾山：目前在互聯網信息服務深度合成管理規定方面已經有一些具體的規定，特別是針對人工智能和AI換臉等技術。

今年4月份，互聯網信息辦公室發布了關于生成式人工智能服務管理辦法的征求意見稿，進一步規范了相關服務的管理。通過這些規定，針對人工智能和AI換臉等方面有了較為直接的管理措施。

國家法律層面也有一些原則層面的法律和規定，包括《民法典》、《網絡安全法》、《數據安全法》、《互聯網信息服務管理辦法》等，這些法律和規定都涉及到保護個人信息和肖像權，以及對實施詐騙等行為應承擔的責任，為相關問題提供了一定的規范。

劉興亮：普通人在遭遇AI詐騙時應該怎樣處理，有什么建議嗎？

岳屾山：作為一名律師，我認為對于那些侵犯他人權益的行為，尤其是在涉及AI詐騙和肖像侵權的行為，受害者可以采取一些維權措施，以避免他人隨意使用其肖像等信息，這種動作可以防止肖像被濫用，并對軟件的使用和研發產生一定的約束。

我建議加強對肖像權的保護，特別是在如今AI換臉技術如此便利的情況下。除了個人的自我保護外，平臺和執法機構也應承擔起相應的責任，確保提供一種便捷的維權途徑。

除了肖像權，類似問題也會涉及到著作權，如果消費者的肖像被制作成視頻并由他人傳播和使用，這涉及到視聽節目的內容，平臺可能更多地基于著作權方面的處理和保護，而不是針對肖像或其他行為。

在這方面，我建議更多地依賴平臺。平臺應該及時發現這類侵權行為，并提供便捷的投訴渠道或途徑，以便及時處理這些問題。

另外，正如我們一直在討論的那樣，法律的威懾力往往不是來自其嚴苛程度，而是來自于執法的及時性。對于那些實施侵權行為的用戶，平臺方面應該采取相應的懲罰或限制措施。這完全可以在平臺自身的范疇內實施，根據相關的用戶協議和約定對其進行懲罰和限制。通過這樣的方式，可以盡量減少侵權行為的發生，因為侵權有時候會成為一種上癮的行為。