新科技带来了新的便利，往往会带来新的危机，AI也不例外，像是之前就有人试过用AI生成的语音来骗过一些欧美银行的系统，来骇入银行系统！

在马来西亚或许比较少见，但语音ID登录在一些欧美银行中也不少见，早前以为名为Joseph Cox的资深撰稿人/记者在网络上揭露了他如何利用 AI 生成的语音成功通过银行语音验证系统，查看自己的余额和近期转账记录。

Joseph Cox表示，他使用了一个名为 Resemble.AI 的服务，该服务可以根据用户提供的声音样本生成类似的语音。他上传了自己在采访中说话的录音，并选择了一个与自己相似的声音模型。而Joseph Cox就透过这样的方式拨打自己所属银行的客服热线并成功验证了自己的身份，还因此能够查看余额和显示最近的交易。

最要命的是，这种攻击方式并不需要高超的技术水平或昂贵的设备，只需要一台笔记本电脑、一个麦克风和一个耳机就可以实现。而且，即使用户没有提供足够多或足够清晰的声音样本，AI 也可以通过插值或填补来模仿用户的口气、节奏和重音。

远在马来西亚的我们虽然比较少有用语音ID的机会，但还是要时刻警惕，随着AI技术的发达，或许会出现更多不同的破解方式也说不定。