當(dāng)前，人工智能（AI）技術(shù)給人們生產(chǎn)生活帶來便利的同時，也出現(xiàn)不少風(fēng)險挑戰(zhàn)，AI造假就是其中之一。例如，有不法分子利用“AI換臉”“AI變聲”等合成技術(shù)實施詐騙，迷惑性很強(qiáng)；一些不良商家靠AI假圖吸引顧客，“圖文不符”“貨不對板”等現(xiàn)象頻發(fā)。

  國家互聯(lián)網(wǎng)信息辦公室等四部門日前聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》，要求AI服務(wù)提供者和內(nèi)容傳播平臺必須采取措施對AI生成內(nèi)容進(jìn)行標(biāo)識。

  《辦法》的出臺是從頂層設(shè)計出發(fā)、加強(qiáng)人工智能行業(yè)治理的又一項制度安排，可有效遏制AI偽造內(nèi)容產(chǎn)生、傳播，推動AI在合法框架內(nèi)健康發(fā)展。在此基礎(chǔ)上，公眾將更容易識別人工智能合成內(nèi)容，有效減少造假誤導(dǎo)情況發(fā)生。

  最大限度降低AI濫用影響，讓技術(shù)更好造福人類，還需社會各界達(dá)成共識，形成治理合力。互聯(lián)網(wǎng)平臺是AI生成內(nèi)容的主要傳播渠道，強(qiáng)化AI生成內(nèi)容治理，平臺應(yīng)發(fā)揮更大作用。《辦法》特別明確了平臺需對合成內(nèi)容進(jìn)行審核、核驗。對此，有電商平臺企業(yè)第一時間作出回應(yīng)，發(fā)布新規(guī)嚴(yán)禁利用AI等技術(shù)合成方式，呈現(xiàn)顯著失真、與實際不符的商品信息效果圖，還向全行業(yè)發(fā)出倡議，規(guī)范使用AI生成圖片，保障商品信息真實，號召加入對AI假圖的全面治理。

  不同于資訊、娛樂內(nèi)容，商品圖片直接關(guān)系到消費(fèi)決策，需要更精細(xì)的管理。平臺要主動出擊完善規(guī)范、推出治理方案，可通過模型識別，攔截失真的AI假圖上傳，同時針對存量假圖向商家發(fā)出整改提醒，并標(biāo)注提醒消費(fèi)者注意甄別。

關(guān)鍵詞：