在2017年，Reddit这个知名的娱乐、社交及新闻网站中的一位名为"deepfakes"的会员发布了一个由AI合成的名人伪造视频，从此开始这种AI合成技术被称为Deepfake。Deepfake一词由"Deep Learning"和"Fake"组合而成，它是一种利用人工智能深度学习模型的技术。其原理是通过两个神经网络相互对抗，经过交替优化训练后，生成的内容可以与真实人物难以区分。

最初，Deepfake技术主要用于宣传和创意用途，并且在大多数影片中，作者都会声明其影片是假的。此外，Deepfake甚至被用于弥补原本无法实现的事情，其中最著名的应用是在好莱坞电影《玩命关头7》和《星际大战》中的主角保罗·沃克。沃克在拍摄期间意外身亡，他的角色由他的弟弟代替完成，然后使用Deepfake技术连接电影中的场景，最终使电影完成并上映。

然而，尽管这种技术表面上看起来无害且有着良好的意图，但它却带来了许多法律问题和信息风险。随着技术的发展，任何人都可以轻易制作假影片或假声音，其中可能包含不良意图。由于Deepfake可以模仿任何人的外貌和声音，这意味着任何人，尤其是知名人士，都可能被放置在虚假的情境中，从而造成名誉损害。此外，Deepfake技术可能被滥用于政治操作、伪造新闻和商业领域，这些都可能成为其负面影响的例子。而最接近普通人的可能就是由Deepfake技术产生的诈骗。

由Deepfake产生的诈骗主要可以分为三种。首先是电话诈骗，主要是模仿亲朋好友的声音，以此来骗取金钱和个人信息。诈骗者不仅模仿声音，还能模仿说话的语调、断句和口音。其次是视讯诈骗，由于Deepfake技术可以合成影片和语音，这意味着你可能会接到看似是你认识的人打来的视讯通话。第三种是恐吓诈骗，主要是通过合成不雅照片或影片来恐吓并勒索当事人。

在接下来难办真相的网络世界中，Deepfake只是当今科技社会所面临的一个问题，法律和社会规范应该如何跟上这一步？如何解决其中涉及的著作权和伦理问题？这些都是需要进行深入讨论和验证的重要课题。

尹展轩

永盛科讯 

地址：香港九龙旺角太子道西193号新世纪广场一座18楼1817-20室 

电邮：info@ringus-solution.com 

电话：(852) 2907 6011 

网址：www.ringus-solution.com