2023年3月20日,由中國信息通信研究院(以下簡(jiǎn)稱“中國信通院”)云計(jì)算與大數(shù)據(jù)研究所(以下簡(jiǎn)稱“云大所”)、人工智能關(guān)鍵技術(shù)和應(yīng)用評(píng)測(cè)工業(yè)和信息化部重點(diǎn)實(shí)驗(yàn)室(以下簡(jiǎn)稱“實(shí)驗(yàn)室”)主辦,南京新一代人工智能研究院承辦,南京經(jīng)濟(jì)技術(shù)開發(fā)區(qū)人工智能企業(yè)產(chǎn)業(yè)鏈黨建聯(lián)盟協(xié)辦的首屆生成智能產(chǎn)業(yè)峰會(huì)順利召開。
會(huì)上,中國信通院正式發(fā)布“生成式人工智能技術(shù)及產(chǎn)品評(píng)估方法”系列標(biāo)準(zhǔn)“技術(shù)能力”和“產(chǎn)品能力”兩部分標(biāo)準(zhǔn),并為標(biāo)準(zhǔn)核心編寫單位、編寫單位頒發(fā)證書,美亞柏科作為工作組成員單位被授予“生成式人工智能技術(shù)以及產(chǎn)品評(píng)估方法標(biāo)準(zhǔn)編寫單位”證書。
美亞柏科代表領(lǐng)取證書(左5)
近年來,人工智能各項(xiàng)技術(shù)飛速發(fā)展,應(yīng)用更加普及多元。其中,深度合成和生成式AI技術(shù)作為人工智能領(lǐng)域的創(chuàng)新應(yīng)用技術(shù),以其較低的應(yīng)用門檻、較強(qiáng)的娛樂屬性、豐富的應(yīng)用場(chǎng)景備受關(guān)注。近日火爆全網(wǎng)的ChatGPT以及“換臉”、AI繪畫、虛擬主播等大家所熟知的場(chǎng)景都使用了深度合成和生成式AI技術(shù)。在深度合成和生成式AI技術(shù)向社會(huì)生活的各個(gè)領(lǐng)域滲透之時(shí),AI安全的負(fù)面風(fēng)險(xiǎn)持續(xù)加劇且產(chǎn)生實(shí)質(zhì)危害。隨著深度合成和生成式AI技術(shù)的開放開源、深度合成和生成產(chǎn)品和服務(wù)的增多,此類內(nèi)容制作的技術(shù)門檻越來越低,實(shí)現(xiàn)了技術(shù)的“平民化”。通過深度合成和生成式AI技術(shù)制造虛假音視頻圖像進(jìn)行誣陷、誹謗、詐騙、勒索等違法行為已屢見不鮮。
2021年,山東省公安廳網(wǎng)絡(luò)安全總隊(duì)就公布了幾個(gè)利用深度合成和生成式AI技術(shù)實(shí)施詐騙的真實(shí)案例。合肥警方在“凈網(wǎng)2021”專項(xiàng)行動(dòng)中打掉一個(gè)利用深度合成技術(shù)進(jìn)行犯罪的團(tuán)伙,犯罪嫌疑人利用電腦將一張張靜態(tài)照片制作為人臉動(dòng)態(tài)視頻,為黑灰產(chǎn)業(yè)鏈提供注冊(cè)手機(jī)卡等技術(shù)支撐。
另一方面,深度合成和生成式AI技術(shù)一旦被濫用,將會(huì)造成巨大的安全風(fēng)險(xiǎn)與實(shí)質(zhì)性危害,給個(gè)人、企業(yè)造成肖像、名譽(yù)等人格和財(cái)產(chǎn)權(quán)益損害,也可能給社會(huì)秩序、國家政治穩(wěn)定和安全造成巨大威脅。
如將深度合成和生成式AI技術(shù)用于捏造國家政要言論、偽造公務(wù)人員虛假視頻,可能給政治安全和國家安全帶來重大危害。對(duì)個(gè)人與企業(yè)來說,深度合成和生成式AI技術(shù)的濫用也可能造成巨大權(quán)益損害。如企業(yè)高管被深度合成捏造視頻篡改發(fā)言內(nèi)容,可能造成市場(chǎng)恐慌,引發(fā)金融市場(chǎng)動(dòng)蕩。個(gè)人也可能被偽造虛假音視頻等,被用來向其親友詐騙或者偽造不雅視頻侵害其名譽(yù)權(quán)。
由此可見,深度合成和生成式AI技術(shù)的快速發(fā)展為數(shù)字經(jīng)濟(jì)發(fā)展帶來了令人期待的可能性,但也帶來了令人擔(dān)憂的巨大風(fēng)險(xiǎn)。有效治理深度合成和生成式AI技術(shù)需技術(shù)與立法齊頭并進(jìn)。
治理:立法規(guī)范
日前,為規(guī)范深度合成服務(wù),國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡(jiǎn)稱《規(guī)定》)?!兑?guī)定》通過系統(tǒng)性、創(chuàng)新性制度設(shè)計(jì),首次回應(yīng)了對(duì)深度合成服務(wù)的管理要求,為互聯(lián)網(wǎng)信息服務(wù)深度合成的規(guī)范發(fā)展提供了基本遵循和合法依據(jù)。