5月22日，“AI詐騙正在全國爆發(fā)”話題沖上熱搜第一，引發(fā)網(wǎng)友熱議。

據(jù)每日經(jīng)濟新聞報道，近日包頭警方發(fā)布一起利用人工智能（AI）實施電信詐騙的典型案例，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元。

過程是這樣的，4月20日，郭先生的好友突然通過微信視頻聯(lián)系他表示，自己的朋友在外地競標，需要430萬保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。好友向郭先生要了銀行卡號，聲稱已經(jīng)把錢打到郭先生的賬戶上，還把銀行轉(zhuǎn)賬底單的截圖通過微信發(fā)給了郭先生。

【資料圖】

基于對好友的信任，加上已經(jīng)視頻聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把430萬轉(zhuǎn)到了好友朋友的銀行卡上，結果最終被AI換臉技術所騙。

而據(jù)湖北網(wǎng)警巡查執(zhí)法5月6日消息，AI技術改變詐騙，新騙局來襲后，詐騙成功率竟接近100%。

第一種是聲音合成。騙子通過騷擾電話錄音等來提取某人聲音，獲取素材后進行聲音合成，從而可以用偽造的聲音騙過對方。

第二種是AI換臉，因為人臉效果更易取得對方信任，騙子用AI技術換臉，可以偽裝成任何人，再通過視頻方式進行信息確認。

海外方面，在早些時候，三星在引入ChatGPT不到20天里，發(fā)生了三起半導體機密資料外泄事故，包括兩起“設備信息泄露”和一起“會議內(nèi)容泄露”。

3月31日，意大利個人數(shù)據(jù)保護局宣布，從即日起禁止使用聊天機器人ChatGPT，限制其開發(fā)公司OpenAI處理意大利用戶信息，并開始立案調(diào)查。ChatGPT被指控不遵守有關個人數(shù)據(jù)的立法并且沒有驗證未成年用戶年齡的系統(tǒng)。

海內(nèi)外積極因?qū)I風險

5月19日消息，英國計劃與OpenAI和DeepMind的高管舉行關于AI風險的會議，英國的人工智能峰會最快可能在本月舉行。

5月18日，科學技術部部長王志剛表示，中國積極應對人工智能可能帶來的風險挑戰(zhàn)，推進人工智能倫理治理，發(fā)布人工智能治理原則和倫理規(guī)范，向全球表明負責任人工智能的鮮明立場。

5月16日，OpenAI CEO Altman呼吁國會對人工智能（AI）系統(tǒng)采取安全標準。他認為，政府可以將發(fā)放牌照和測試的要求結合起來，監(jiān)管開發(fā)AI模型的公司。

4月11日，據(jù)《華爾街日報》報道，拜登政府已經(jīng)開始研究是否需要對ChatGPT等人工智能工具實行檢查。作為潛在監(jiān)管的第一步，美國商務部4月11日就相關問責措施正式公開征求意見，包括新人工智能模型在發(fā)布前是否應經(jīng)過認證程序。征求意見期限為60天。

4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務管理辦法(征求意見稿)》，向社會公開征求意見。該意見稿聚焦生成式人工智能，在算法設計、訓練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務、生成內(nèi)容、個人信息和隱私保護方面均做出了限制。

據(jù)中信證券研報，AI可能引發(fā)的安全問題主要體現(xiàn)在以下方面：

1）大模型訓練、調(diào)優(yōu)所使用數(shù)據(jù)的安全問題。

比如前文所述意大利個人數(shù)據(jù)保護局因年齡審核、數(shù)據(jù)和隱私安全等問題，宣布限制ChatGPT運營；加拿大聯(lián)邦隱私監(jiān)管機構宣布，OpenAI涉嫌“未經(jīng)同意收集、使用和披露個人信息”。

2）大模型生成內(nèi)容的可靠性、使用方式等問題。

中信證券指出，由于大模型在生成內(nèi)容上的基于概率統(tǒng)計的原理，其內(nèi)容可靠性可能存在問題，如引用的客觀數(shù)據(jù)是否是最新且來源可靠的，此外，由AI生成的新聞圖片出現(xiàn)在互聯(lián)網(wǎng)中，真假難辨，或引發(fā)傳播風險；歐洲刑警組織提示稱，ChatGPT可能被濫用于網(wǎng)絡釣魚、虛假信息和網(wǎng)絡犯罪。

華創(chuàng)證券還提到，網(wǎng)絡攻擊方面，搭載了AI能力的黑客如虎添翼，ChatGPT的強大功能降低了網(wǎng)絡攻擊者用于制作惡意軟件和降低技術門檻，使得攻擊手法轉(zhuǎn)向分布式、智能化、自動化，智能化對抗將成為主要的攻防形式。

哪些技術有望用來應對AI風險？

中信證券指出，由于大模型在訓練、調(diào)優(yōu)數(shù)據(jù)過程中涉及用戶數(shù)據(jù)調(diào)用，伴隨生成式AI技術熱潮掀起，在數(shù)據(jù)采集、傳輸、存儲、處理、共享、銷毀等數(shù)據(jù)生命周期各階段，通過加密、數(shù)據(jù)水印等技術手段保護用戶數(shù)據(jù)特別是隱私成為當務之急。

針對大模型生成內(nèi)容的可靠性、使用方式，中信認為，應對AI生成內(nèi)容進行標記，同時對AI生成內(nèi)容的可靠性及傳播鏈路進行把關。

安信證券提到，當前對AI生成內(nèi)容的判別主要可以由兩種技術途徑來完成：

1）通過算法識別AI模型生成內(nèi)容的特征，從而鑒別相應的內(nèi)容是否由AI生成。根據(jù)公司公告披露，美亞柏科正在布局相關取證技術，比如對人工智能合成、生成的視頻圖像內(nèi)容檢測鑒定。

2）通過對AI生成的內(nèi)容添加特定的標識，來區(qū)分相應內(nèi)容是否由AI生成，這一方向的技術手段包括數(shù)字水印等相應的加密技術。

國盛證券指出，AIGC可能生成的虛假信息，需要類似換臉甄別的技術來鑒別圖像等信息是否由AI生成；數(shù)據(jù)隱私方面，隱私計算可以在不暴露數(shù)據(jù)的情況下進行計算和分析，以實現(xiàn)數(shù)據(jù)隱私的保護。

隱私計算是在保障數(shù)據(jù)隱私安全的同時，實現(xiàn)數(shù)據(jù)分析計算的技術體系，其價值是打破數(shù)據(jù)孤島,實現(xiàn)數(shù)據(jù)的可信流通和價值挖掘。國泰君安稱，隱私計算在政策和需求的雙輪驅(qū)動下不斷發(fā)展壯大，到2025年，中國隱私計算市場規(guī)模有望突破百億級，市場空間巨大。

國盛證券還提到，安全問題不能僅靠AI廠商自律解決，還需要外部力量監(jiān)督。全球AI監(jiān)管處于探索階段，歐盟、英國、美國相關法律法規(guī)與指導意見逐步推進。人工智能趨勢不可逆轉(zhuǎn)，與科學技術的高速發(fā)展相比，現(xiàn)有法律和倫理仍處于不斷起步探索的階段。

風險提示及免責條款 市場有風險，投資需謹慎。本文不構成個人投資建議，也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據(jù)此投資，責任自負。

關鍵詞：