《閎議》訪談節(jié)目由《中國科學(xué)院院刊》與中國互聯(lián)網(wǎng)新聞中心聯(lián)合出品，通過采訪兩院院士及專家學(xué)者，深度探討推進(jìn)中國式現(xiàn)代化進(jìn)程中各領(lǐng)域的發(fā)展前路。以客觀、精準(zhǔn)的解讀，科學(xué)、前瞻的思考，為站在“兩個一百年”歷史交匯點(diǎn)上的中國發(fā)展破題解惑，為邁向第二個百年奮斗目標(biāo)貢獻(xiàn)智慧力量。崇論閎議，尋策問道。

中國網(wǎng)/中國發(fā)展門戶網(wǎng)訊 人工智能技術(shù)經(jīng)過幾十年的發(fā)展，正在進(jìn)入技術(shù)創(chuàng)新與顛覆式應(yīng)用模式頻現(xiàn)的爆發(fā)期。隨著近年來人工智能技術(shù)的不斷進(jìn)步，傳統(tǒng)的公共安全治理模式如何應(yīng)對人工智能時代的突發(fā)安全事件已經(jīng)成為不可忽視的問題。如何從技術(shù)層面發(fā)力，實(shí)現(xiàn)對人工智能犯罪的防范和遏制？面對具身智能的發(fā)展和未來“人機(jī)共存”的遠(yuǎn)景，需要從技術(shù)和規(guī)范上作出哪些準(zhǔn)備？對此，《閎議》節(jié)目組專訪了中國科學(xué)院計(jì)算技術(shù)研究所研究員曹娟。

重塑傳統(tǒng)的公共安全技術(shù)體系

中國網(wǎng)：近年來，以AIGC等人工智能技術(shù)進(jìn)行犯罪的案例廣受關(guān)注。您認(rèn)為，人工智能技術(shù)對傳統(tǒng)的公共安全治理模式造成了哪些重要的挑戰(zhàn)？

曹娟：隨著人工智能技術(shù)的快速發(fā)展，人工智能犯罪比例越來越高，主要給傳統(tǒng)的公共安全帶來了兩個方面的挑戰(zhàn)。首先，人工智能技術(shù)使得傳統(tǒng)的違法犯罪成本大大降低了。比如說電信詐騙，原來需要專業(yè)的人去寫詐騙的劇本、去打詐騙電話，但是現(xiàn)在很多都可以用大模型來替代了。所以我們需要對原來傳統(tǒng)的公共安全治理技術(shù)進(jìn)行快速升級。另一方面，新技術(shù)也催生了很多新的違法犯罪的行為。比如說無人駕駛里的安全問題，具身智能的安全問題等等。這就需要我們?nèi)ブ厮軅鹘y(tǒng)的公共安全技術(shù)體系。

具體來說，生成式人工智能的技術(shù)會給傳統(tǒng)的公共安全體系帶來三個層面的風(fēng)險(xiǎn)。第一個也是最重要的就是國家安全的風(fēng)險(xiǎn)。比如說利用生成式人工智能技術(shù)去生成虛假偽造的信息、去操控輿論，這是目前全世界各個國家最頭疼的一個問題；第二個就是行業(yè)安全問題，比如說利用生成式人工智能在金融領(lǐng)域進(jìn)行身份的偽造，在學(xué)術(shù)領(lǐng)域進(jìn)行學(xué)術(shù)造假，這種問題會對行業(yè)的健康發(fā)展帶來風(fēng)險(xiǎn)；第三個就是個人安全問題，比如說利用生成式人工智能技術(shù)進(jìn)行電信詐騙、侵犯隱私等等。這些會給未來人工智能時代每個公民帶來困擾。

中國網(wǎng)：從您的研究角度出發(fā)，您認(rèn)為從哪些技術(shù)層面發(fā)力，可以實(shí)現(xiàn)對人工智能犯罪的防范和遏制？

曹娟：新型的人工智能犯罪都是因?yàn)樾录夹g(shù)帶來的。新的犯罪問題一定是要用技術(shù)去攻克它，所以用AI治理AI肯定是非常有效的一條途徑。

具體來說，以虛假偽造檢測為例，技術(shù)上存在四個特別大的挑戰(zhàn)。第一個就是生成式人工智能發(fā)展特別快。我們怎么去做到每一個新出現(xiàn)的大模型生成的內(nèi)容都能檢測？要具有很強(qiáng)的泛化能力，需要快速去優(yōu)化，有一個非常強(qiáng)的偽造檢測的專用底座模型。有了這個模型以后，我們?nèi)熳笥揖涂梢詢?yōu)化到90%多。所以這個偽造檢測的底座模型的建設(shè)是未來提升泛化能力的一個最核心的技術(shù)。

第二個就是強(qiáng)對抗性，去詐騙的人肯定不想讓你發(fā)現(xiàn)他，所以他會加上很多的手段來對抗。比如說會把詐騙的圖像、詐騙的視頻壓縮得很小，模模糊糊，這就使得偽造檢測很難；比如會加上一些對抗樣本的誘導(dǎo)，使得檢測出錯等等。所以如何在這種高風(fēng)險(xiǎn)、強(qiáng)對抗的犯罪場景下進(jìn)行偽造檢測就變得非常難，我們需要研發(fā)這種高精度的偽造檢測技術(shù)。

第三個是生成式人工智能的技術(shù)，本身是特別好的新質(zhì)生產(chǎn)力的代表，所以大家都鼓勵用這個生成技術(shù)。（但是）要怎么去在大量的無害生成內(nèi)容里面找到惡意的偽造內(nèi)容，這是一個很大的挑戰(zhàn)。因?yàn)樵诩夹g(shù)層面都是用的一樣的技術(shù)，都是用的生成技術(shù)，但是一個是大量的無害的生成，一個是惡意的偽造。不要影響正常的正向應(yīng)用，保證兼顧發(fā)展又兼顧安全，是我們需要解決的。

第四個是隨著人工智能技術(shù)的普惠，人工智能的犯罪可能也會普及化，很多普通人都會因?yàn)椴欢夹g(shù)或者（缺乏）法律意識，自己不小心就成為了一個犯罪者。這時候需要我們每個人手上都有武器，要給大家研發(fā)普通人都有、都能用的鑒偽工具，讓他們在遇到問題的時候有工具可查，有能力去驗(yàn)證，這樣就可以大大降低犯罪的比例。

三建議應(yīng)對人工智能技術(shù)帶來的安全風(fēng)險(xiǎn)

中國網(wǎng)：如何應(yīng)對人工智能技術(shù)給公共安全體系帶來的風(fēng)險(xiǎn)？

曹娟：為了應(yīng)對人工智能技術(shù)給公共安全體系帶來的這些風(fēng)險(xiǎn)，有以下三個方面的建議。

第一個是這些技術(shù)算法本身內(nèi)生的安全評估一定要做好，比如說自動駕駛這個算法評估安全了才能上路，大模型技術(shù)評估做完了，做好了安全對齊才能去上線。要保證我們使用的技術(shù)是有一定程度的安全門檻的。

第二個是基于這些人工智能技術(shù)生產(chǎn)出來的產(chǎn)品，在不同的應(yīng)用場景下與人交互的時候，使用不當(dāng)，濫用（技術(shù)）可能會帶來很多的安全風(fēng)險(xiǎn)。比如大數(shù)據(jù)殺熟，利用算法壓榨快遞員等，這個時候需要我們?nèi)ブ贫ú煌袠I(yè)的標(biāo)準(zhǔn)使用規(guī)則去規(guī)避這些風(fēng)險(xiǎn)。

第三個是未來我們會進(jìn)入一個人和機(jī)器人共存的時代。隨著機(jī)器人參與到我們社會生活和社會生產(chǎn)的過程中，會引出一系列的安全問題、倫理問題和社會問題。我們需要提前布局，提前謀劃去應(yīng)對未來可能的風(fēng)險(xiǎn)。比如說在執(zhí)法的過程中，到底機(jī)器人是以什么身份參與這個行為的，它和人之間的關(guān)系是什么？需要定義清楚，我們才能劃分責(zé)任的主體。還有比如說隨著機(jī)器人參與到我們的社會活動中，它可能會給社會結(jié)構(gòu)帶來沖擊和變化，我們?nèi)诵枰e極的心態(tài)去正視這個問題，去更積極地面對這個新技術(shù)帶來的新的社會問題。

積極地去擁抱新技術(shù)，然后運(yùn)用新技術(shù)讓我們的生活越來越美好。

（本期策劃：楊柳春、王振紅；編審：楊柳春、王振紅、王虔；編輯：王虔、武一男。出品：《中國科學(xué)院院刊》、中國互聯(lián)網(wǎng)新聞中心）