人功智能可令歹徒有机可乘。加拿大反欺诈中心（CAFC）提醒民众，不法之徒会运用人工智能，进行金融诈骗。
CAFC客户和通信官员霍恩卡斯尔（Jeff Horncastle）说，深度伪造的诈骗手法往往使用一个家喻户晓人物的照片或一段视频伪造一个媒体事件，使受众更容易相信那是真的，比如CTV新闻首席记者高级编辑Omar Sachedina播放新闻的画面被剪辑嫁接到一个大麻宣传的视频广告，另一个非常流行的深度伪造是马斯克推销一家虚假加密货币公司的股票。虽然不清楚有多少人成为深度伪造的受害人，但CAFC报告显示加拿大人在2022年被各种金融诈骗损失总计5.31亿元，今年截至目前损失2.83亿元。
当民众对一名知名新闻主持人在YouTube上宣传一个大麻品牌感到奇怪，抑或对亿万富豪特斯拉创始人马斯克（Musk）做广告推销一款投资产品产生疑问？你的直觉是对的，不管这些视频新闻看起来多么令人信服，它其实是一种被称为「深度伪造」的诈骗手法，就是利用人工智能技术（AI）编造和篡改真实媒体事件。
安省西安大学首席数字信息官、网络专家达利（Mark Daley）说，深度伪造最令人惊恐是伪造技术愈来愈先进，使人们鉴别真伪愈来愈困难，5年前要创造深度伪造，诈骗分子要掌握很高的软件技术，而现今任何人只要掌握AI都可以实现。
这些深度伪造的视频录像也被用在政治领域，传播虚假信息欺骗受众，煽动政治对立甚至仇恨。举个例子，为参加2024年美国总统选举，佛罗里达州长德桑蒂斯（Ron DeSantis）正在各州竞选寻求获得共和党总统候选人提名，然而上周一个深度伪造的视频新闻显示，德桑蒂斯已宣布退出竞选。
为了帮助用户识别深度伪造，谷歌宣布将对其平台上的所有AI生成的图像添加水印警告标识，CTV新闻也发声明表示，加强执法打击欺诈和滥用，并推出新的广告商认证规定，发现和组织其媒体上的欺诈行为。
心理治疗师、技术领域记者道乔治亚（Georgia Dow）表示，一个视频是否是深度伪造，可以仔细观察说话者的口型是否匹配、眼球的运动是否自然，以及他是否与背景和谐，特别是当说话者移动时。
霍恩卡斯尔的建议是，第一个亮红灯是这个名人为什么给他不感兴趣或没关系的东西做广告？如果不能确定，进一步搜索做广告的公司，在决定购买其产品查验它是否合法。
Alex Wu, Local Journalism Initiative Reporter
