北京为何不让公众讨论AI诈骗 专家这话令人震惊 (图)

中(共)国在人工智能（AI）监管上，快速出台了多项政策，可是使用AI深度伪造技术 “ 换声 ” 和 “ 换脸 ” 的诈骗事件，却在中国反而愈加多发。据外界分析认为，北京对深度伪造技术之监管重点，其实在于政治维稳，而并不是欺诈等民生安全问题方面。

4月，中国 “ 福州新闻网 ” 曾经报导，福州有一家科技公司的老板，遭到骗子使用AI “ 换脸 ” 技术来冒充其朋友而被骗去430万元，幸亏能够及时发现通知银行，才拦截下336.84万元。

使用AI深度伪造技术“换声”和“换脸”的诈骗事件，在中国愈加多发。（图片来源：pixabay） 

这篇报导引发国际专家的关注。“ 美国之音 ” 援引专家的话报导，深度伪造诈骗在世界各地都有，不过中国的深伪视频诈骗，似乎技高一筹。

亚利桑那州立大学的计算机学院教授苏巴劳 • 卡姆巴哈帕蒂 (Subbarao Kambhampati)表示，在美国的电话诈骗主要通过了克隆语音，而中国的骗子显然已从语音克隆转向了视频通话，这让他感到相当惊讶。

卡姆巴哈帕蒂称：“ 单独用音频来骗人是很容易的，可是若音频加上视频，那么就更难一些。一般而言，处理视频时要困难得多，当我们看AI视频中的人脸时，会下意识地通过了他们的面部表情，就能够观察他们与我们通常看到的不完全一样之处。但中国显然能够做到。”

此种融合视觉、听觉和触觉等多感官、模拟出计算机虚构场景之模型构造，可说是当前人工智能发展的一个重要发展领域，其被称为 “ 多模态 ” (multimodality)AI。专家指出，AI诈骗的形态未来将更能够以假乱真。

5月，根据SumSub公司所发布的统计，其与去年同期相比较，在2023年的第一季度深度伪造诈骗数量，占全部诈骗数量的比例，在美国已经从0.2%上升至2.6%；在加拿大从0.1%上升至4.6%；而在英国、德国与意大利等欧洲国家，“ 深伪 ” 诈骗于全部诈骗所占比例皆超过了5%。

6月4日，根据《华尔街日报》报导，最近几周中国各地政府已经开始纷纷打击人工智能聊天机器人所产生之虚假信息，有许多虚假信息通过编造之前引起舆论热议的社会安全事件，来赚取点击量。

有分析认为，北京AI法规的执行将主要精力放于对AI内容之政治审查，以维稳为优先，而打击欺诈被放在次要的位置。

中国新实施的对于 “ 深度合成 ” 之管理规定，首先规定是禁止所谓的 “ 危害国家安全与利益、损害国家的形象 ” 等相关活动。

在5月份，“ AI诈骗正在全国爆发 ” 之话题标签，曾经在中国大陆微博冲上热搜，可是不久后搜索此话题，结果却显示出：“ 根据相关法律及法规与政策，搜索结果未予显示 ”。由此这说明，这一话题已经被中国当局审查压制了。

新美国安全中心 (Center for aNew American Security) 技术和国家安全的副研究员比尔 • 德雷克塞尔 (Bill Drexel) 表示，北京当局不让公众讨论AI诈骗，这已经说明中共政府的AI监管与执法动机是扭曲的。

德雷克塞尔认为，与诈骗相比较，中共应对政治威胁的动力更强。它们总体上可能会在此方向上分配更多之资源。因此从这件事中能够看到，一旦中国公众担忧人工智能欺诈行为，北京政府就会开始进行审查压制。这一事实表明，他们最终所关心的是在政治上掩护自己，而并非解决欺诈问题。