(資料圖)

近日,福建省福州市某科技公司法人代表郭先生10分鐘內被詐騙分子利用AI換臉詐騙430萬元。主要原因是郭先生基于已有和對方偽裝的“好友”視頻聊天的信任,且對方表示只想公對公賬戶過賬,并已將銀行轉賬截圖發了過來,郭先生就直接轉賬了。隨后,郭先生撥通好友電話告知轉賬成功,結果對方說沒有這回事,他這才意識到遇上了騙局(據5月20日“平安包頭”微信公眾號消息)。

不寒而栗,是很多人看到這則案例的第一感受。這意味著,關乎借錢、轉賬等金錢交易安全的網絡視頻和語音的面孔、聲音確認,幾乎已不能支撐身份核驗,現代社會的信任體系在逐步被技術所侵蝕。

這個案件中,有很多細節讓人細思極恐。第一,詐騙分子盜取郭先生好友的微信,并與郭先生視頻提出高額資金轉賬,這首先需要明確郭先生的確有此經濟實力。盜取一個人的微信,并知道他微信好友的資產,這些隱私信息都是如何泄露的?第二,詐騙分子盜取郭先生好友的微信,并通過AI換臉與郭先生視頻。視頻結束,郭先生轉賬結束后,再發微信給好友時,微信的掌控者已切換回郭先生好友了。微信“了無痕跡”地失竊又“悄無聲息”地返還,這種新的微信盜取方式是如何實現的,值得公安機關重點關注。第三,該案中當事人報警后,福建福州、內蒙古包頭兩地警銀成功止付攔截了336.84萬元,但仍有93.16萬元被轉移。視頻對話尚可作假,如果連郭先生好友的電話也被犯罪分子利用技術所控制,例如通過騷擾電話錄音等來提取某人聲音,獲取素材后偽造聲音,那將真是做戲做全套的詐騙,恐怕這次資金的攔截將更無時間和可能性了。

那么,未來面對重要事務,但遠距離的人們打電話、打視頻都無法證明對方確實是其本人時,該如何防止和避免AI換臉詐騙?綜合近期出現的案例和有關專業人士的介紹,筆者幫大家總結了幾個防范AI換臉技術的識別方式:一是要求對方用一根手指在面前來回晃動。因為目前犯罪分子利用AI算法換臉時多使用正面照,而不少算法程序還不能處理好突然在面前出現的物體,當有手指等在面前晃動時,AI假臉可能會出現不自然的跳動或變形。二是打視頻時看對方的眼睛。目前,部分AI假臉是利用睜眼照片,通過人體圖像合成技術生成的,有些假臉眨眼的頻次明顯少于正常人,而有些甚至不會眨眼。三是向其詢問只有你們雙方知道的事情。涉及借錢等要緊事,可拿出平常的生活細節、小秘密等只有兩個人或少數人知道的事來確定對方的身份。用“友誼和愛”打敗“魔法”,這是現實生活給技術負面影響最沉重的一擊。

除了我們個人的努力外,國家有關部門和AI技術服務平臺也應不斷提升監管技術水平。盡管去年12月《互聯網信息服務深度合成管理規定》已出臺,近期也有平臺和企業發布了“關于人工智能生成內容的平臺規范暨行業倡議”,但接下來AI技術服務平臺及時監測并制止利用AI發布侵權內容、創作詐騙內容等情況,仍任重道遠。各級網信部門和公安部門要依據各自職責,提升監督管理工作和技術水平。各級執法司法部門在破獲案件后,應及時總結新型犯罪途徑和防范方式,以發布典型案例等形式,方便社會大眾廣泛了解社會動態,掌握相應的知識,提高防范意識和自我保護水平。

被AI換臉詐騙侵蝕的信任,還得靠多方努力來找回,畢竟,單靠個人提高鑒別詐騙的能力,是永遠趕不上技術發展速度的。

關鍵詞：

責任編輯：Rex_25