中國消費者報報道（記者桑雪騏）國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標識辦法》將于今年9月1日起施行。日前，北京互聯(lián)網(wǎng)法院審結(jié)一起網(wǎng)絡服務合同糾紛案，案中原被告雙方作為用戶和網(wǎng)絡服務提供者，圍繞人工智能生成內(nèi)容標識起了爭端。
記者了解到，原告在涉案平臺上發(fā)布了“打工并不能讓你真的賺到多少錢，但可以開啟你的新視角……如果你對學車感興趣的話并且以后打算開車的話，可以在你最清閑的一個假期完成它……工作之后就沒有太多完整的時間學駕照了”。該內(nèi)容被涉案平臺判定為“包含AI生成內(nèi)容但未標識”的違規(guī)情況，作出將該內(nèi)容隱藏并將用戶禁言一天的處理。原告申訴未成功，便訴諸北京互聯(lián)網(wǎng)法院。原告主張其并未使用AI創(chuàng)作，被告的行為違約，請求法院判令被告撤銷隱藏涉案內(nèi)容和禁言賬號一天的違規(guī)處理，并在后臺系統(tǒng)中刪除違規(guī)處理記錄。
北京互聯(lián)網(wǎng)法院經(jīng)審理認為，平臺結(jié)合《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》中有關深度合成標識的管理規(guī)定和網(wǎng)絡空間治理的現(xiàn)實需要，發(fā)布了社區(qū)公告載明“創(chuàng)作者在發(fā)布包含AIGC生成的內(nèi)容時，應主動使用標識，幫助讀者進行區(qū)分。對發(fā)布時未主動聲明的內(nèi)容，平臺將采取適當措施進行流通限制并添加相關標識”“未經(jīng)標簽聲明，使用人工智能生成的內(nèi)容構(gòu)成違規(guī)”。原告系平臺注冊用戶，因此平臺有權(quán)依據(jù)合同約定對涉案內(nèi)容是否屬于AI生成合成內(nèi)容進行審查和處理。
同時，平臺的審查及處理結(jié)果應有合理依據(jù)。此案中，原告主張涉案內(nèi)容并非AI生成內(nèi)容，被告對涉案內(nèi)容的審查及處理違反平臺服務協(xié)議，在一般情況下，原告應該提供如創(chuàng)作底稿、原件等證明人類創(chuàng)作屬性的初步證據(jù)，但原告回答內(nèi)容系即時性創(chuàng)作文本，在客觀上無法提供上述證據(jù)，由其提供上述證據(jù)亦不存在合理性和現(xiàn)實可行性。而被告基于算法工具的運算結(jié)果得出涉案內(nèi)容為AI生成合成的審查結(jié)論，被告既是算法工具掌控方又是結(jié)果判斷方，算法工具運算過程和審查結(jié)果由被告掌控，在此情況下，被告應就該事實進行合理舉證或解釋說明。
法院認為，被告未對算法決策依據(jù)和結(jié)果進行適度的解釋和說明，應對其沒有事實依據(jù)的情況下對涉案賬戶的處理行為承擔違約責任。判決被告展開對于涉案內(nèi)容的隱藏、刪除在后臺的違規(guī)處理記錄。對“禁言1天”的處理沒有后臺記錄，原告主張刪除沒有事實依據(jù)，法院對該訴訟請求不予支持。
北京互聯(lián)網(wǎng)法院綜合審判一庭副庭長、四級高級法官袁建華表示，網(wǎng)絡內(nèi)容服務平臺有權(quán)利用算法工具對用戶發(fā)布的內(nèi)容是否使用AI生成合成進行審查和處理。對于算法解釋的司法審查應符合比例原則，一般情況下，平臺無須提供技術細節(jié)、源代碼或原始數(shù)據(jù)，但須圍繞案件爭議事實以可理解的方式舉證或說明算法運行機制、對應可能出現(xiàn)的誤判是否采取了合理的救濟措施。
