【资安关键字：AI影像合成技术与假新闻｜Deepfake】影像合成技术门槛将变低，经由AI伪造的数位内容成全球新风险

俗话说，有图有真相，有片有真相，意思是文字描述不够真实，但配上图片或影片就能提高可信度。虽然过去已经有不少修图、电影修片专家能合成逼真的影像，但制作门槛还是有，只是，随着深度学习（Deep Learning）技术与之结合发展，将为全球社会带来新兴风险。

基本上，深度学习是有助于实现机器学习的一种技术，能为许多科技面向带来好处，若用在影像合成领域时，能协助电影、游戏领域制作，处理上可以更省时，但在现实应用场景中，与假讯息结合之后，却也开始让影像伪造门槛降低，不实内容影像制作变得泛滥，于是，深度伪造（Deepfake）一词也油然而生。

AI让影片换脸应用发展快速

关于Deepfake，根据维基百科说明，是英文“Deep Learning”和“Fake”所混合而成的单字，也就是将“深度学习”加上“伪造”，专指基于人工智能的人体图像合成技术的应用。

而近年来，已经出现了不少相关事件，让大众认识到这类AI变换人脸的技术发展，并开始注意到未来应用于假消息时的可能影响。

例如，2017年俄罗斯开发商打造的FaceApp，就利用了AI技术，让用户能够针对人脸来增加笑容，变年轻或变老，甚至变换性别；到了2019年，由中国软件开发商打造的ZAO，也利用AI技术，让使用者可将自己的人脸直接套用到电影角色。显然，这些App使用AI技术打造了有趣的变脸应用，但也额外衍生用户隐私的问题。

此外，市面上，这类Deepfake的工具已经不少，还包括：DeepFaceLab、Fakeswap、Openfaceswap、Myfakeapp等，其中，有一些是开放源代码软件。

用AI将知名女星换脸到成人影片

令人担忧的是，这样的技术若遭到大量滥用，可能为全球社会带来极大的负面影响。举例来说，在2017年12月，美国知名网络论坛Reddit有网友发布了一则文章及影片连结，内容是以AI技术来假造知名女星AV成人影片，而该片的女主角，竟是饰演电影《神力女超人》的女主角Gal Gadot。当然，这影片并非Gal Gadot下海主演，而是利用AI技术产生而成，将知名女星的脸直接替换到某支A片，且真实程度已经到了让人感到讶异的地步。

显然，这种使用AI的移花接木手法，在吸引广大关注的同时，也引起一些人的反思，像是可能用于蓄意破坏他人名声，或是恶搞，而且，未来人们也可能更难分辨其真伪。而且，在操作手法上，Deepfake除了能假造一个人没做过的事，也还能够反向操作，像是假造一个人没做过的好事。

有影片将不再有真相？

另一起事件，是在2018年4月有国外网络媒体Buzzfeed制作了AI假影片，目的是呼吁大众要谨慎判断网络上的消息。他们发布了一则以AI技术假造的演讲影片，当中是以AI技术来改变前美国总统奥巴马的致词内容，当中大部分都是奥巴马对着镜头说话的原始影片，但有一句话居然变成“川普总统完全就是个笨蛋！”当然，这句话也不是奥巴马所说，而是利用AI技术改变嘴型与声音而成，若观众不仔细观察，很难察觉异常。

在这样的Deepfake情境中，我们不难想像到更多的可能性，包括假造候选人、官员或专家没说过的话，用于政治、社会与经济等面向的干扰，又或是假造企业高层或同仁的发言，像是发布企业利多或利空的消息，进而在投资市场获利，或是干扰企业营运等。而且，比起文字式的假消息，若是这类造假影片在网络上大量散布，更是让企业及组织辟谣增添难度。

杜绝假消息会变得更困难

综观上述的Deepfake的发展与事件，显然AI的普及不只是助长了影像合成技术的发展，从伪造内容的面向来看，Deepfake也让假消息的威胁更上一层楼。

毕竟，假消息的问题本就是越来越严重，尤其是智能手机普及之后，现在人人都能够上网，而且是无时无刻，这也包括了原本对网络不熟的民众，有些人经历即时通讯与社群平台的时间较短，可能更容易受到假消息的影响与煽动。再加上我们身处于资讯量爆炸的时代，如今又有Deepfake出现，假讯息的问题只会变得更严重。

譬如说，多数人很可能因为只看标题，加上又有影片证实，看个几秒后就快速分享，而在假造影片泛滥之下，相对地，真实的影片也会因为立场不同而被说是假造的。至于整个社会环境，还将可能产生更多的对诉讼或司法程序，造成重大影响。

事实上，影像类的资讯早已有人为操弄的空间，像是从单一角度来拍摄影片，让观众误会是特定状况，但从另个角度看并非如此，或是可以撷取部分片段来误导。如今用AI快速产生逼真的造假影片，将让问题变得更泛滥。

AI身份冒用让诈骗手法翻新

Deepfake的影响不仅止于此，还有一个不能忽略的面向，就是AI身份冒用的问题，可能让网络犯罪更难防范。举例来说，原本锁定企业的商业电子邮件诈骗（BEC），也可能在Deepfake技术加持下，让身份冒用攻击的管道从电子邮件延伸至视讯与电话。

简单来说，BEC诈骗是网络犯罪组织策画的复杂骗局，对方会从许多面向取得企业与合作厂商的交易汇款讯息，并以窜改或假冒电子邮件等方式，像是伺机假冒高阶主管，或往来供应商的来信，通知要求更改汇款账号，导致未察觉出异常的企业财务主管或老板上当。

在今年2月FBI发布的2019年度网络犯罪报告中，更是指出BEC诈骗这类犯罪所造成的损失，已高达17亿美元，带来的危害持续扩大。台湾近年也有不少企业受害，向警方报案处理。

而这样的身份冒用攻击，在Deepfake技术发展之下，也有了新的威胁面向。例如，在2019年下半，有一家英国能源公司的首席执行官，就因为误以为接到德国总部首席执行官的来电，进而听从对方指示汇钱，因此被讹诈了22万欧元。其实，这并非真正德国总部首席执行官的来电，是骇客集团以Deepfake技术伪装成老板声音，所下的命令。

如何因应成各界关心焦点

无论如何，很多人都担心AI生成影片的技术，可能会被大量滥用，像是成为操控舆论及名声的新工具。

对此难题，许多科技大厂也正试图号召更多好手，发展可辨识恶意恶意伪造影片的侦测模型。例如，在2019年9月，微软和脸书发起了竞赛，名为Deepfake Detection Challenge，就是希望集众人之力，找出更好的侦测方式。而在2020年6月，全球2千位AI专家参赛，阵容相当庞大，但从公布的比赛结果来看，辨识假造影片成效最高只能认出8成，而且，参赛模型无法准确判读未知资料，而这也显示现有技术辨识假造影片仍有困难。

此外，面对AI、Deepfake用于诈骗的威胁，相关作法的发展状态，也将成为企业与民众关心的新课题。例如，通讯平台能否提供更精准的过滤技术，以及用户应从不同管道来进行二次确认，并且建立多个审核的程序。

不论如何，随技术演进，Deepfake产生的影像将让人更无从判断真假，制作门槛也只会越来越低，全球社会都必须积极应战。

随着Deep learning技术在影像合成领域的发展，在2017年，就有网友以AI将知名女星的脸替换到某个A片，而引起广大注意。