隨著生成式人工智能技術(shù)的迅猛發(fā)展，名人聲音、肖像被“克隆”冒用越來(lái)越真假難辨，消費(fèi)者極易被誤導(dǎo)。在北京互聯(lián)網(wǎng)法院近日發(fā)布的一起案例中，被告未經(jīng)權(quán)利人許可，使用AI合成的名人聲音用于帶貨，法院認(rèn)定其構(gòu)成侵權(quán)。
AI合成聲音或換臉行為的邊界在哪兒？可能涉及哪些法律責(zé)任？人民網(wǎng)采訪了北京互聯(lián)網(wǎng)法院綜合審判三庭（少年法庭）庭長(zhǎng)顏君進(jìn)行解答。
使用AI合成名人聲音帶貨 法院認(rèn)定被告構(gòu)成侵權(quán)
原告李某某在教育、育兒領(lǐng)域具有一定知名度和社會(huì)影響力。2024年，原告李某某發(fā)現(xiàn)被告某文化傳媒有限公司在其運(yùn)營(yíng)的某網(wǎng)絡(luò)平臺(tái)店鋪中，通過(guò)使用原告的公開(kāi)演講、授課視頻，并配以與原告聲音高度近似的AI合成聲音，對(duì)其銷售多本的家庭教育類圖書進(jìn)行宣傳推介。原告認(rèn)為，被告未經(jīng)許可使用原告的肖像和通過(guò)AI合成的聲音制作宣傳產(chǎn)品，侵犯了原告的肖像權(quán)和聲音權(quán)。被告作為圖書銷售者，與視頻發(fā)布者（某帶貨主播）之間為委托關(guān)系，共同完成銷售活動(dòng)，被告對(duì)主播發(fā)布的視頻具有審查義務(wù)和能力，對(duì)涉案視頻的發(fā)布應(yīng)當(dāng)承擔(dān)賠禮道歉、賠償損失等侵權(quán)責(zé)任。
法院認(rèn)為，涉案視頻使用了原告李某某的肖像以及AI合成聲音，該聲音與原告李某某本人的聲音在音色、語(yǔ)調(diào)、發(fā)音風(fēng)格上具有高度一致性，結(jié)合原告李某某在教育、育兒領(lǐng)域的知名度，涉案視頻對(duì)家庭教育類書籍進(jìn)行宣傳推介，更易使觀看涉案視頻的公眾將視頻中的相關(guān)內(nèi)容與原告李某某之間建立聯(lián)系，可以認(rèn)定一定范圍內(nèi)的聽(tīng)眾能夠?qū)⑸姘窤I合成聲音與原告本人建立一一對(duì)應(yīng)的聯(lián)系。因此，涉案聲音落入李某某聲音權(quán)益的保護(hù)范圍。涉案推介視頻大幅使用原告肖像、合成模擬原告的聲音，未取得原告授權(quán)，故涉案視頻的發(fā)布行為構(gòu)成對(duì)原告肖像權(quán)和聲音權(quán)益的侵犯。
法院認(rèn)為，被告某文化傳媒有限公司與視頻發(fā)布者（某帶貨主播）依照平臺(tái)規(guī)則和服務(wù)相關(guān)約定達(dá)成委托推廣關(guān)系，共同為了推介被告書籍的目的發(fā)布涉案視頻、獲取相應(yīng)收益，且被告基于平臺(tái)規(guī)則和管理權(quán)限，具備對(duì)涉案視頻進(jìn)行審核管理的能力。在涉案視頻大幅使用原告肖像、合成模擬原告聲音的情況下，被告應(yīng)對(duì)視頻可能引發(fā)的侵權(quán)風(fēng)險(xiǎn)具有一定的預(yù)見(jiàn)性，并就視頻是否獲得了原告授權(quán)盡到合理的審查義務(wù)，但在案證據(jù)表明被告未盡到其應(yīng)有審查注意義務(wù)，故被告某文化傳媒有限公司應(yīng)與視頻發(fā)布者就侵權(quán)視頻發(fā)布承擔(dān)連帶責(zé)任。
法院判決，被告某文化傳媒有限公司向原告李某某賠禮道歉、賠償經(jīng)濟(jì)損失及維權(quán)合理支出，駁回原告李某某其他訴訟請(qǐng)求。宣判后，雙方均未提起上訴，該判決已生效。
如何判斷AI合成聲音等行為是否構(gòu)成侵權(quán)？
《中華人民共和國(guó)民法典》第1019條規(guī)定，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開(kāi)肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。未經(jīng)肖像權(quán)人同意，肖像作品權(quán)利人不得以發(fā)表、復(fù)制、發(fā)行、出租、展覽等方式使用或者公開(kāi)肖像權(quán)人的肖像。第1023條第2款規(guī)定，對(duì)自然人聲音的保護(hù)，參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定。
顏君介紹，未經(jīng)本人許可即通過(guò)AI換臉或AI合成他人聲音，屬于利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)或聲音權(quán)，若未經(jīng)肖像權(quán)人同意，制作、使用、公開(kāi)前述肖像或聲音，亦可能構(gòu)成侵權(quán)行為。
“判斷是否構(gòu)成侵權(quán)的核心在于，利用AI技術(shù)合成的自然人肖像和聲音，只要能夠使一般社會(huì)公眾或相關(guān)領(lǐng)域公眾根據(jù)其五官、輪廓等外部形象或音色、語(yǔ)調(diào)、發(fā)音風(fēng)格等聲音特征識(shí)別出特定自然人，即應(yīng)納入該自然人人身權(quán)益的保護(hù)范圍。”顏君表示，例如商家“克隆”名人肖像、聲音帶貨，讓消費(fèi)者誤以為是名人推薦商品，這就侵犯了名人的聲音權(quán)和肖像權(quán)；再如，有人通過(guò)“惡搞換臉”，把其他人的面部換到一些不雅視頻或圖片中并在網(wǎng)絡(luò)上傳播，這不僅侵犯了肖像權(quán)，還嚴(yán)重貶損了他人的名譽(yù)。
AI合成聲音等行為可能涉及哪些法律責(zé)任？
當(dāng)前，使用AI合成聲音或換臉技術(shù)制作虛假信息、惡搞等行為在網(wǎng)絡(luò)上屢見(jiàn)不鮮。顏君表示，前述行為可能涉及的法律責(zé)任主要包括三個(gè)層面：
一是民事責(zé)任。根據(jù)《中華人民共和國(guó)民法典》的規(guī)定，權(quán)益受到損害的民事主體可以向法院提起民事訴訟，要求侵權(quán)人停止侵害、賠禮道歉、消除影響，并賠償經(jīng)濟(jì)損失和精神損失。需要強(qiáng)調(diào)的是，并非只有視頻的制作者、發(fā)布者才要擔(dān)責(zé)，就視頻發(fā)布的委托方而言，如果未盡到合理的審核義務(wù)，也需要承擔(dān)連帶責(zé)任，這意味著委托推廣帶貨的商家等不能以“不知情”為借口來(lái)推卸責(zé)任。
二是行政責(zé)任。如果利用AI技術(shù)故意散布謠言、謊報(bào)險(xiǎn)情等擾亂公共秩序的，公安機(jī)關(guān)可依據(jù)《中華人民共和國(guó)治安管理處罰法》等規(guī)定，對(duì)行為人處以行政拘留、罰款等行政處罰。
三是刑事責(zé)任。例如用AI換臉、AI合成聲音制作淫穢物品進(jìn)行傳播牟利，可能構(gòu)成傳播淫穢物品牟利罪；用于對(duì)他人實(shí)施誹謗或侮辱行為，情節(jié)嚴(yán)重者可構(gòu)成誹謗罪、侮辱罪；若通過(guò)合成肖像或聲音偽造場(chǎng)景實(shí)施詐騙，則可能構(gòu)成詐騙罪等，進(jìn)而承擔(dān)刑事責(zé)任。
規(guī)范AI技術(shù)的應(yīng)用，需多方協(xié)同共治。顏君建議，提供信息內(nèi)容傳播服務(wù)的網(wǎng)絡(luò)平臺(tái)應(yīng)當(dāng)依據(jù)法律規(guī)定加強(qiáng)人工智能生成合成內(nèi)容的審查，對(duì)于屬于或可能屬于人工智能生成合成內(nèi)容的，應(yīng)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí)，明確提醒公眾該內(nèi)容屬于生成合成內(nèi)容，避免公眾混淆，并建立健全辟謠機(jī)制和投訴處理機(jī)制，及時(shí)處理利用深度合成技術(shù)制作、復(fù)制、發(fā)布、傳播的虛假信息。未來(lái)，針對(duì)AI合成聲音侵權(quán)等新型侵權(quán)行為，需要進(jìn)一步明確平臺(tái)在內(nèi)容審核、數(shù)據(jù)使用、算法推薦等方面的責(zé)任。
“此外，相關(guān)技術(shù)使用者和信息發(fā)布者也應(yīng)當(dāng)遵守法律規(guī)定和社會(huì)公德，防止使用AI技術(shù)實(shí)施侵犯他人合法權(quán)益的行為，共同推動(dòng)人工智能與深度合成技術(shù)向上向善發(fā)展，維護(hù)良好的網(wǎng)絡(luò)生態(tài)。”顏君表示。