伴随人工智能(AI)技术在手机设备中的迅速发展，利用仿冒人脸等手段实施诈骗犯罪的风险与日俱增。针对这一问题，各国手机企业正加快安全领域的技术创新。而中国荣耀手机日前宣布，将于2025年4月在全球范围内商业化应用“AI换脸”检测技术，这也将是目前首个“AI反诈”技术的商业化应用。
“AI换脸”技术已被一些不法分子用于网络诈骗、诽谤等违法犯罪行为，带来了很大的社会隐患。根据Entrust网络安全研究所的数据，2024年每五分钟就发生一次深度伪造攻击，数字文件伪造同比2023年增加了244%。2023年11月至2024年11月，全球92%的企业经历了身份欺诈，但与之伴随的，却是应对深度伪造风险协议的缺失。毕马威公司调研报告称，从2023年第一季度到2024年第一季度，数字经济中的深度伪造现象同比增长显著，其中网游为1520%、市场营销为900%、金融科技为533%、加密货币业为217%和咨询业为138%。德勤公司报告则显示，在财务损失方面，生成式AI可能使欺诈损失从2023年的123亿美元，增加到2027年的400亿美元，复合年增长率为32%。
在2024年举行的柏林消费电子展上，中国荣耀宣布研发出了全球首个基于设备端的“AI换脸”反诈检测技术。该技术基于深度学习模型，通过分析图像中的面部特征和行为模式，能够实时识别出AI生成的伪造内容。据悉，在即将举行的2025年世界移动通信大会（MWC 2025）上，荣耀将把这一技术作为“阿尔法战略”一部分，公布相关战略与详细内容。
联合国工业发展组织印尼、东帝汶及东盟事务代表马可·神谷称，在移动设备上使用AI深度伪造检测是一种强有力的武器，可以对抗深度伪造。它能够检测出人眼可能忽略的深度伪造内容中的缺陷，例如眼神接触、光线、图像清晰度和视频播放，从而阻止人们继续参与可能危及其安全的活动。这使得个人、中小企业和各行业能够在享受数字通信便利的同时，不必担心隐私泄露和欺诈风险。
