用技術(shù)和法規(guī)防控倫理風(fēng)險(xiǎn) 為生成式AI這匹“黑馬”套上“韁繩”
一方面，生成式AI固然便利了生產(chǎn)、生活，帶動(dòng)了社會(huì)的進(jìn)步；另一方面，生成式AI可能會(huì)被人們無(wú)意濫用，甚至被目的不純之人惡意利用，對(duì)社會(huì)造成危害。
——閆懷志 北京理工大學(xué)網(wǎng)絡(luò)與安全研究所所長(zhǎng)
◎?qū)嵙?xí)記者 李詔宇
談到AI領(lǐng)域的未來(lái)發(fā)展，就不得不提到生成式AI。如今，一經(jīng)推出就迅速在各大社交媒體上走紅的、由美國(guó)人工智能公司OpenAI發(fā)布的聊天機(jī)器人ChatGPT便是一種生成式AI。
近日，OpenAI又以“區(qū)分人工編寫(xiě)還是AI生成的文本”為目的，趁熱打鐵地推出了一款A(yù)I檢測(cè)器。
濫用生成式AI可能帶來(lái)哪些危害？AI檢測(cè)器對(duì)于消除此種危害有何助益？如何利用包括AI檢測(cè)器在內(nèi)的多種手段，在推進(jìn)生成式AI產(chǎn)業(yè)化的同時(shí)，促進(jìn)生成式AI的規(guī)范使用？針對(duì)上述問(wèn)題，科技日?qǐng)?bào)記者采訪了相關(guān)專家。
生成式AI是把雙刃劍
“通常來(lái)說(shuō)，生成式AI是指使用機(jī)器學(xué)習(xí)等各種AI算法，讓人工智能能夠利用數(shù)據(jù)進(jìn)行學(xué)習(xí)，進(jìn)而創(chuàng)建或生成全新的原創(chuàng)內(nèi)容的一種技術(shù)。”北京理工大學(xué)網(wǎng)絡(luò)與安全研究所所長(zhǎng)閆懷志表示，“目前，生成式AI能生成文本、圖像、音頻、視頻或代碼等多模態(tài)的原創(chuàng)內(nèi)容?！?/p>
ChatGPT作為一款人工智能技術(shù)驅(qū)動(dòng)的自然語(yǔ)言處理工具，通過(guò)學(xué)習(xí)和理解人類的自然語(yǔ)言來(lái)進(jìn)行對(duì)話，并能根據(jù)對(duì)話的上下文與人類進(jìn)行相應(yīng)的互動(dòng)。與此前同類型的模型不同，ChatGPT不僅在對(duì)話的真實(shí)感與流暢性上取得了很大的提升，更在互動(dòng)性上幾乎“無(wú)出其右”。
以ChatGPT的橫空出世為代表，生成式AI在技術(shù)上的不斷突破，正驅(qū)動(dòng)著全球生成式AI產(chǎn)業(yè)的加速發(fā)展。優(yōu)秀的生成式AI有望成為新一代智能助手與信息檢索工具，其不僅可以帶動(dòng)科技研發(fā)、工業(yè)設(shè)計(jì)等領(lǐng)域的深刻變革，還能在藝術(shù)和內(nèi)容創(chuàng)作等的過(guò)程tuya可視對(duì)講中減少以往調(diào)色、勾畫(huà)輪廓等繁瑣的程序性工作，極大地推動(dòng)各類數(shù)字化內(nèi)容的生產(chǎn)與創(chuàng)造。隨著產(chǎn)業(yè)集群效應(yīng)的進(jìn)一步擴(kuò)大，生成式AI正迅速成為全球科技領(lǐng)域最具投資價(jià)值的熱門(mén)賽道，極大地影響了全球的科技創(chuàng)新與產(chǎn)業(yè)發(fā)展格局。
然而，隨著生成式AI的爆火，其安全性也遭到了質(zhì)疑。近日，一份關(guān)于ChatGPT的報(bào)告顯示，在500名IT行業(yè)決策者中近一半的人認(rèn)為，2023年內(nèi)，將會(huì)出現(xiàn)個(gè)人惡意使用ChatGPT發(fā)動(dòng)的網(wǎng)絡(luò)攻擊。無(wú)獨(dú)有偶，此前的AI繪畫(huà)等其他生成式AI同樣遭受過(guò)相應(yīng)的質(zhì)疑。
“生成式AI是一個(gè)‘可怕的好東西’?！遍Z懷志表示，“一方面，生成式AI固然便利了生產(chǎn)、生活，帶動(dòng)了社會(huì)的進(jìn)步；另一方面，生成式AI可能會(huì)被人們無(wú)意濫用，甚至被目的不純之人惡意利用，對(duì)社會(huì)造成危害。”
閆懷志進(jìn)一步解釋道，生成式AI能夠產(chǎn)出逼真的文本、圖像、音頻、視頻等內(nèi)容，可能會(huì)被濫用于詐騙、欺詐、剽竊、造謠、偽造身份等不當(dāng)甚至違法的場(chǎng)景。
“以AI檢測(cè)AI”避免技術(shù)濫用
ChatGPT不僅能像人一樣進(jìn)行聊天對(duì)話，它還能根據(jù)用戶的要求作詩(shī)、編代碼，甚至寫(xiě)論文。
正因如此，OpenAI近日還推出了AI檢測(cè)器，其目的正是為了檢測(cè)一段文本是否為AI生成，從而幫助人們更好地識(shí)別文本來(lái)源，避免AI文本生成器被濫用，造成一系列不好的影響。
“在很多場(chǎng)景下，對(duì)文本、圖片等是視頻對(duì)講否由AI生成進(jìn)行識(shí)別是必要的。而這種識(shí)別所用到的檢測(cè)工具，就是AI檢測(cè)器?！遍Z懷志說(shuō)，“AI檢測(cè)器在技術(shù)架構(gòu)上與生成式AI類似，以生成式AI創(chuàng)作的內(nèi)容與非生成式AI創(chuàng)作的內(nèi)容作為數(shù)據(jù)進(jìn)行訓(xùn)練，通過(guò)大量的訓(xùn)練數(shù)據(jù)來(lái)‘培養(yǎng)’識(shí)別能力?！?/p>
這種“以AI檢測(cè)AI”的方式，充分發(fā)揮了AI學(xué)習(xí)的優(yōu)勢(shì)。
閆懷志表示，通常來(lái)說(shuō)，目前的AI檢測(cè)器并不會(huì)給出是或否的精確判斷，而是根據(jù)置信度給出“很有可能”“可能”“不清楚”“不太可能”“非常不可能”等模糊判斷，將最終評(píng)判權(quán)交由人類自身。
然而，目前AI檢測(cè)器的檢測(cè)水平并不理想。閆懷志說(shuō)：“OpenAI研發(fā)的AI檢測(cè)器的檢測(cè)成功率僅為26%左右，還處于較低水平?！?/p>
據(jù)悉，OpenAI推出的AI檢測(cè)器能較輕松地區(qū)分單獨(dú)的人工編寫(xiě)文本和AI生成文本。然而，當(dāng)人工編寫(xiě)文本與AI生成文本混合在一起時(shí)，該檢測(cè)器就難以進(jìn)行準(zhǔn)確識(shí)別了。
目前AI檢測(cè)器的檢測(cè)水平，顯然無(wú)法有效解決濫用生成式AI帶來(lái)的危害。“如果AI檢測(cè)器的檢測(cè)成功率能夠得到較大提升，必將有助于解決目前使用生成式AI所帶來(lái)的部分問(wèn)題。但很顯然，目前離達(dá)到這個(gè)目標(biāo)，還有很長(zhǎng)的路要走?！遍Z懷志表示。
多管齊下促進(jìn)生成式AI健康發(fā)展
在享受生成式AI所帶來(lái)的巨大利好的同時(shí)，我們應(yīng)該采取措施來(lái)規(guī)范其使用，而這些措施里，既包括AI檢測(cè)器在內(nèi)的各類技術(shù)手段，也包括制定相關(guān)規(guī)范性的政策法規(guī)。
相關(guān)專家曾提出，生成式AI是由人類設(shè)計(jì)的。因此，人類也需要在生成式AI的程序中嵌入相應(yīng)的限制手段，使它的行為以保障人類安全為底線。換句話說(shuō)，就是要用優(yōu)先級(jí)更高的技術(shù)規(guī)則去限制其他技術(shù)。
“ChatGPT規(guī)避技術(shù)倫理風(fēng)險(xiǎn)的方案大概就是遵循了這個(gè)思路?！彼急伛Y科技股份有限公司聯(lián)合創(chuàng)始人兼首席科學(xué)家、上海交通大學(xué)教授俞凱解釋道，“人類通過(guò)對(duì)一些特定的問(wèn)題進(jìn)行優(yōu)先判斷，并以此構(gòu)建具有約束力的模型，再讓這個(gè)模型在ChatGPT的整個(gè)模型訓(xùn)練過(guò)程中發(fā)揮作用，以保證其回復(fù)符合人類倫理。此外，應(yīng)該還有一些‘兜底技術(shù)’，讓ChatGPT對(duì)于一些敏感問(wèn)題不予回復(fù)?！?/p>
閆懷志表示：“除了這些技術(shù)手段外，我們還需要明確界定生成式AI的應(yīng)用場(chǎng)景和使用范圍，并在必要的情況下向人們告知哪些內(nèi)容是通過(guò)生成式AI生成的?！蓖ㄟ^(guò)相關(guān)的技術(shù)規(guī)范，界定生成式AI的應(yīng)用場(chǎng)景和使用范圍，有利于保障生成式AI遵循相應(yīng)的技術(shù)倫理要求。
除此之外，相關(guān)政策、法律法規(guī)的制定，也正在推動(dòng)著生成式AI產(chǎn)業(yè)的健康有序發(fā)展。
據(jù)悉，國(guó)務(wù)院于2017年發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，明確“初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評(píng)估和管控能力”。國(guó)家新一代人工智能治理專業(yè)委員會(huì)也相繼于2019年和2021年發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》和《新一代人工智能倫理規(guī)范》。上述文件為我國(guó)目前生成式AI的發(fā)展提供了堅(jiān)實(shí)的法律法規(guī)和標(biāo)準(zhǔn)保障。
“我們應(yīng)該完善生成式AI的法律監(jiān)管機(jī)制，堅(jiān)持正義的普適價(jià)值標(biāo)準(zhǔn)、安全的核心價(jià)值目標(biāo)、創(chuàng)新的根本目的，構(gòu)建相應(yīng)的倫理規(guī)范體系?！笔锥冀?jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院訴訟與司法制度研究中心主任陳磊表示，“具體說(shuō)來(lái)，法律監(jiān)管可分為事前、事中、事后三個(gè)階段。事前應(yīng)注意預(yù)防，投資者在研發(fā)生成式AI之前，應(yīng)向有關(guān)部門(mén)提交申請(qǐng)書(shū)，將其人工智能的主要內(nèi)容進(jìn)行闡述和備案；事中須加強(qiáng)管控，在發(fā)現(xiàn)生成式AI侵犯他人著作權(quán)或者內(nèi)容涉及倫理道德不當(dāng)時(shí)，應(yīng)當(dāng)及時(shí)進(jìn)行管控；事后要注意監(jiān)督，對(duì)相關(guān)侵權(quán)行為及時(shí)進(jìn)行處罰，保障他人合法權(quán)益。”
“可以想見(jiàn)，未來(lái)生成式AI技術(shù)與監(jiān)管的博弈必將展開(kāi)。”閆懷志表示。
此頁(yè)面內(nèi)容采編自中新網(wǎng)，僅供客戶了解最新前沿資訊所用，如有版權(quán)問(wèn)題，請(qǐng)聯(lián)系我們做刪除處理。家家安科技，安全放心的視頻語(yǔ)音呼叫可視對(duì)講門(mén)禁無(wú)線門(mén)鈴系統(tǒng)生產(chǎn)廠家。
