記者 辛圓

生成式人工智能技術(shù)是一把“雙刃劍”，它給各個(gè)領(lǐng)域帶來機(jī)遇，但AI深度偽造內(nèi)容侵權(quán)現(xiàn)象愈演愈烈。

全國兩會(huì)即將召開，全國人大代表，TCL創(chuàng)始人、董事長李東生今年帶來了關(guān)于加強(qiáng)AI深度偽造欺詐管理的建議。

李東生認(rèn)為，隨著生成式人工智能技術(shù)的發(fā)展，深度偽造技術(shù)也快速發(fā)展。要規(guī)范對于這一新興技術(shù)的不當(dāng)利用行為，有必要要求深度合成服務(wù)提供商對人工智能生成的內(nèi)容進(jìn)行強(qiáng)制標(biāo)識(shí)，減少惡意濫用，并厘清責(zé)任、對違法犯罪行為追責(zé)。

界面新聞?dòng)浾甙l(fā)現(xiàn)，為治理AI亂象，深化網(wǎng)絡(luò)生態(tài)治理，近年來相關(guān)部門出臺(tái)了多項(xiàng)政策和措施。

例如，2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確指出，任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事危害國家安全和利益、損害國家形象、侵害社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng)。

“近年來，我國相關(guān)立法雖有關(guān)注這一議題，但已出臺(tái)的規(guī)章制度尚不成體系，還不具備可操作的細(xì)則和明確的處罰標(biāo)準(zhǔn)。”李東生提到。

對此，李東生建議：一是加快人工智能深度合成內(nèi)容標(biāo)識(shí)管理規(guī)章制度的出臺(tái)。

二是明確對人工智能深度合成服務(wù)商未履行標(biāo)識(shí)義務(wù)的懲罰制度。李東生表示，要完善對深度合成內(nèi)容服務(wù)提供商未按要求進(jìn)行標(biāo)識(shí)的行為界定、分類細(xì)則，以及相應(yīng)的處罰標(biāo)準(zhǔn)。

三是加強(qiáng)深度合成內(nèi)容標(biāo)識(shí)技術(shù)標(biāo)準(zhǔn)和發(fā)布的管理。他建議，應(yīng)出臺(tái)深度合成內(nèi)容標(biāo)識(shí)的技術(shù)標(biāo)準(zhǔn)，保證標(biāo)識(shí)的有效性；對相關(guān)內(nèi)容平臺(tái)出臺(tái)要求，用戶在發(fā)布深度合成的視頻、音頻等內(nèi)容時(shí)，有義務(wù)對其進(jìn)行標(biāo)識(shí)。四是加強(qiáng)國際合作，形成人工智能生成合成內(nèi)容的有效監(jiān)管。