我想炫耀
早在本年5月，《韩联社》便通报过一则讯息，实质是：
首尔大学毕业生朴某和姜某，从2021年7月至2024年4月，涉嫌哄骗Deepfake换脸合成色情相片和视频，并在通讯软件Telegram上隐秘传播，受害女性多达61东说念主，包括12名首尔大学学生。
仅是这位朴某便用Deepfake合成了约莫400个色情视频和相片，并与同伙全部分发了1700个露骨的实质。
然则，这件事情如故Deepfake在韩国泛滥的冰山一角。
就在最近，与之商量的更多细想极恐的内幕被连接扒了出来。
举例韩国妇女东说念主权商量所公布了一组数据：
从本年1月1日到上周日，共有781名Deepfake受害者在线求援，其中288名（36.9%）是未成年东说念主。
而这个“N号房2.0”也曲直常恐怖的存在。
据《阿里郎》进一步的报说念：
一个与Deepfake商量的Telegram聊天室，竟招引了220000东说念主，他们通过转变妇女和女孩的相片来创建和共享伪造的图像，受害者包括大学生、考验，以致是军东说念主。
不仅是受害者有未成年东说念主，以致加害者也有无数的青少年。
不仅如斯，此次公论的兴起经由也曲直常的drama。
因为滋事的韩国男性们（以下简称韩男）不错说曲直常的豪恣，有公论苗头的时候，他们就会稍稍“克制”一下：
有些韩男对这件事的格调亦然较为恶劣，以致有初中男生开公开写到“无须操心，你不够漂亮，不至于被Deepfake”这种话。
于是乎，韩国女性们（以下简称韩女）的反击启动了。
她们将“阵脚”转向韩国除外的酬酢媒体，举例在X上，有东说念主发布了制作Deepfake学校的舆图：
还有韩女在微博中发布“求救贴”：
跟着公论在各大酬酢媒体上发酵，韩国政府也出头作念出了表态：
咫尺照旧有动身点200个学校收到Deepfake影响；盘算将Deepfake作歹的刑期从5年擢升到7年。
据了解，韩国警方已缔造终点使命组，特意支吾深度伪造性作歹等空幻视频案件，该使命组将运行到来岁3月31日。
Deepfake已冉冉进化
事实上，最新Deepfake时间照旧进化到了“恐怖”阶段！
生图AI Flux以一组真假难分的TED演讲相片，引千万??（前推特）网友在线打假。（左边由AI生成）
更阑直播的“马斯克”，也招引了上万公共围不雅打赏，以致搞起了网友连麦。
要知说念，整场直播仅用一张图片就能已毕及时换脸。
这一切果真如网友所言，Deepfake已将科幻照进施行。
我想炫耀
其实，Deepfake一词最早发祥于2017年，其时别称Reddit用户“Deepfakes”将色情女演员的面部替换成了一些好意思国闻明演员，引起一派争议。
而这项时间不错追忆到2014年，Goodfellow与共事发表了全球首篇先容GAN的科学论文。
其时就有迹象标明，GAN有望生成仿真度极高的东说念主脸。
其后跟着深度学习时间的发展，自动编码器、生成起义网罗等时间冉冉被应用到Deepfake中。
简便先容下Deepfake背后的时间旨趣。
比如伪造一个视频。
其中枢旨趣是哄骗深度学习算法将观念对象的面部“嫁接”到被效法对象上。
由于视频是一语气的图片组成，因此只需要把每一张图片中的脸替换，就能取得变脸的新视频。
这里要用到自动编码器，在应用于Deepfake的情况下输入视频帧，并编码。
△图源：维基百科
它们由编码器息争码器组成，编码器将图像减少到较低维的潜空间，解码器从潜表征中重建图像。
简便说，编码器将一些要津特征信息（如面部特征、身体姿势）调治成低维的潜在空间暗示，而解码器将图像从潜在暗示中复原出来，用于给网罗学习。
再比如伪造图像。
这里主要用到生成起义网罗（Gan），它曲直监督式学习的一种递次，通过让两个神经网罗互相博弈的面目进行学习。（此递次也不错用于伪造视频）
第一个算法称为生成器，输入随即噪声并将其调治为图像。
然后，该合成图像被添加到真确图像流（举例名东说念主图像）中，这些图像被输入到第二个算法（称为判别器）中。
判别器试图折柳样底本源于真确如故合成，每次瞩目到二者之间的互异时，生成器皆会随之调整，直至最终再现真确图像，使判别器无法再折柳。
然则，除了让外不雅上看起来无法折柳，现时的Deepfake正在证实“组合拳”。
草榴电影
声息克隆也升级了。当今，减轻找一个AI器具，只需提供几秒原音，就能立马copy你的声息。
用合成声息伪造名东说念主的事件也层见错出。
此外，1张图生成视频已不再新奇，而且咫尺的使命要点在于后续打磨，比如让热枕、姿势看起来更天然。
其中就有一项唇形同步时间（Lip syncing），比如让小李子启齿讲话。
奈何识别Deepfake？
天然Deepfake当今照旧很传神了，但底下如故给行家先容一些识别妙技。
咫尺网罗上行家盘考的各式递次，归纳起来等于:
不寻常或无语的面部姿势
不天然的身体畅通（肢体畸变）
着色不天然
音频不一致
不眨眼的东说念主
皮肤的软弱与头发和眼睛的软弱并不相符
眼镜要么莫得眩光，要么有太多眩光，况兼无论东说念主奈何移动，眩光角度皆保持不变。
放大后看起来很奇怪的视频
……
得，列灯谜克看了直呼内行，不外单凭肉眼不雅察确凿有点费东说念主了！
更高效的递次还得是，用魔法击败魔法——用AI检测AI。
国表里闻明科技企业均有商量四肢，比如微软就开拓了一种身份考据器具，不错分析相片或视频，并对其是否被支配给出评分。
OpenAI此前也告示推出一款器具，用于检测由AI图像生成器DALL-E 3创建的图像。
在里面测试中，该器具在98%的时间内正确识别了DALL-E 3生成的图像，况兼能以最小的影响处置常见修改，如压缩、编著和填塞度变化。
芯片制造商英特尔的FakeCatcher则使用算法分析图像像素来治服真假。
而在国内，商汤数字水印时间可将特定信息镶嵌到多模态的数字载体中，维持图像、视频、音频、文本等多模态数字载体。官方称这种时间能保证动身点99%的水印索要精度，且不会吃亏画质精度。
天然了，量子位此前也先容过一种很火的识别AI生图的递次——调整填塞度检查东说念主物牙齿。
填塞度拉满下，AI东说念主像的牙齿就会变得终点诡异，范围蒙眬不清。
Science发文：需要表率和检测器具
就在昨天，Science也发表了一篇著作对Deepfake进行了推敲。
这篇著作认为，Deepfake所带来的挑战是科学商量的完好性——科学需要信任。
具体而言，等于由于Deepfake传神的作秀、以及难以检测等原因，进一步胁迫到对科学的信任。
而靠近这一挑战，Science认为应当“两手握”，一是使用Deepfake的时间说念德表率，二是开拓精确的检测器具。
在谈及Deepfake与陶冶发展的商量时，著作认为：
尽管Deepfake对科学商量和疏通的完好性组成要紧风险，但它们也为陶冶提供了契机。
Deepfake的翌日影响将取决于科学和陶冶界奈何支吾这些挑战并哄骗这些契机。
有用的造作信息检测器具、健全的说念德表率和基于商量的陶冶递次，不错匡助确保Deepfake在科学中取得增强，而不是受到Deepfake的散伙。
一言以蔽之，科技说念路千万条，安全第一条。
One More Thing
当咱们让ChatGPT翻译商量事件的实质时，它的响应是这么：
嗯，AI看了皆认为欠妥。
参考流畅：
[1]https://en.yna.co.kr/view/AEN20240826009600315
[2]https://en.yna.co.kr/view/AEN20240828003100315?input=2106m
[3]https://en.yna.co.kr/view/AEN20240829002853315?input=2106m
[4]https://www.arirang.com/news/view?id=275393&lang=en
[5]https://www.science.org/doi/10.1126/science.adr8354
[6]https://weibo.com/7865529830/OupjZgcxF
[7]https://weibo.com/7929939511/Out1p5HOQ我想炫耀