随着Deepfake（深度伪造）技术越来越普遍，这也让许多犯罪分子使用各种名人的形象，并制造出假的照片或视频来等受害者上钩。日前就有一名退休老人因相信了使用特斯拉CEO马斯克的形象所制造的假视频，进而损失了超过69万美元（约合300万令吉）!
据 《纽约时报》报导，现年82岁的退休老人蒂夫·博尚普是于去年年底看到了一项马斯克支持一项承诺快速回抱的激进投资机会的视频。后来，他就联系了这个公司，并开设了一个248美元（约合RM1098）的账户。
此后，在接下来的几周的一系列交易中，这笔钱被骗子们卷款逃走了！最终，博尚普花光了自己的退休金，总损失数额估计超过69万美元（约合300万令吉）。
对此，该媒体指出，诈骗犯们编辑了一段马斯克的真实采访视频，并使用人工智能工具将他的声音替换成了复制品。这种人工智能足够先进，甚至还能调整细微的口型变化，以搭配为数码伪造品所编写的新剧本。
这些视频的制作成本只有几美元，且能在几分钟内就完成。诈骗犯们就透过社交媒体进行推广，这也包括在Facebook上投放付费广告，并提高了影响力。
因此，负责监控和检测Deepfake视频的Sensity公司的联合创始人兼威胁情报官弗朗西斯科·卡瓦利指出：“这可能是有史以来最大的Deepfake骗局。”
同时，媒体《cnbeta》则指出，诈骗犯们会使用声音克隆工具，并在其中添加人工智能的声音。这个工具可以从样本剪辑中复制任何声音，而最终的广告甚至可能包括相应新闻机构的图标。这对于普通网民来说，会相当有说服力。
据Sensity所分析的2000多个Deepfake视频显示，马斯克是这些视频中最常见的代言人，几乎占据了90%。此外，一些广告还以著名的投资者巴菲特和Amazon创办人杰夫·贝索斯作为主角。对此，马斯克针对这件事不予置评。
随着AI网络诈骗案件越发猖獗，美国联邦贸易委员会和联邦调查局警告，人工智能网络犯罪和Deepfake骗局的数量正急剧攀升。该机构是在一封电邮中表示：“犯罪分子正在利用人工智能作为强大的武器”，以让“网络攻击和其他犯罪活动更有效，且更难被察觉。”
