圖：3月20日，由AI生成的特朗普與警方衝突的照片在網上瘋傳。\美聯社照片
綜合彭博社、《金融時報》報道：隨着人工智能（AI）的快速升級，深偽技術（Deepfake）除了可用來「換臉」，在網上傳播錯誤資訊，更被用於繞過面部識別系統，進行身份盜竊和欺詐。銀行等金融機構因此面臨的風險日增，引起監管部門和警方的關注。
自從深度偽造技術用於電影剪輯以來，專家們就擔心該技術可能被濫用，被用來在網上傳播錯誤資訊。隨着聊天機器人ChatGPT和AI生成圖片Midjourney等工具出現，深偽技術不但變得更強大，也降低了使用的技術門檻，更容易被犯罪分子快速大規模利用。
另外，眾多金融機構目前將部分業務從櫃枱轉向線上，使得網絡詐騙的風險進一步增加。傳輸安全公司在6月的一份報告發現，深偽內容可以用來繞過生物識別安全系統，比如保護客戶賬戶的面部識別系統，甚至偽造的身份。不法分子通過讓聊天機器人扮演客戶聯絡員，向受害者套取隱私資訊，來實施犯罪。
為了打擊利用深偽技術所實施的網絡犯罪，業界正在考慮進一步提升反AI檢測系統，例如升級用戶活動檢測系統，詳細記錄用戶的使用習慣，一旦發現有輕微變化即刻提出警告，又或者通過要求客戶眨眼、噘嘴等動態反饋來確保是真人操作。
