1. 涨姿势首页
  2. 世界观

你在网上关注的美女,可能都是AI生成的

最近,有人宣称,要在苏州的金鸡湖上开游艇趴,报名费 3000 块,每名参加者都会配备 “随身女仆一名”。

12.png

举办者还附上了部分女仆的照片,看着很顶,但也很奇怪,因为有几位 “女仆” 的手指扭曲得不合常理。

后来事儿闹大了,警方介入,才发现这些女仆照片,居然全都是用 AI 生成的。

而诸如此类利用 AI 以假乱真的例子,在过去的一年里可谓屡见不鲜,一再刷新着我们对 “真实” 这两个字的认知。

你所爱恋的,都是幻象

今年 2 月,海外多家媒体发文,称付费色情平台 OnlyFans 可能会在不远的未来,被 AI 创造的色图所冲垮。

媒体说这话的原因,是因为在推特平台上,有一个名叫 “heartereum 的” 用户上传了数张由 AI 所生成的美女图片。

乍看上去,图里的小姐姐们与真人别无二致。

只有仔细观察,你才能发现她们身上的一处处 “不协调”,然后才意识到这些辣妹,其实都只是精致的 “人类模仿品”。

虽然人是假的,但色却是真的,就像下面这哥们所说的那样:

不过 OnlyFans 的从业者倒是不担心会被 AI 模特抢走工作,平台知名艳星 Laura Lux 表示,她赚钱的点不仅是裸露,还在于与粉丝的亲密互动,这一点,AI 是无法胜任的。

在几乎同一时间节点,国内的网络上也出现了一套由 AI 生成的小姐姐 Cosplay 图。因其过于逼真,而被 B 站的审核直接分类进了 “仿妆 Cos 区”。

・Ai 生成的 cosplay 照,角色是《明日方舟》里的缄默德克萨斯,创造者:勘云工造

这事儿充满一种 “齐马蓝式” 的科幻寓言感:

人类用 PS 修图,努力将自己的面容 P 到完美,而 AI 却努力去模仿真人脸上的复杂与瑕疵,最后二者实现了某种动态平衡。

・男生也可以 ,创造者:海辛 Hyacinth

创造这套图的,是国内的博主 “勘云工造”。在他的微博时间线上,技术的迭代似乎每隔几天就会出现一次。

当漂亮的写真可以被人工智能愈发完美地一次次复现时,你可能就无法意识到,小红书上那个名叫 “爱旅游的小多” 的美女博主,其实只是一个由 AI 所缔造的存在。

德国的 ColorDigital,已经开始组建自己的 “数字模特营销团队”,用被生成的、身材完美的 AI 模特,来给各种潮牌做宣传。

・A I 生成的

而要说 AI 合成图像最近最狠的一次应用,那还得看 Youtube 博主 Kyle Vorbach—— 这哥们决定在社交媒体上,利用 AI 伪造出自己一个月的全部生活。

最开始,他只是在 Instagram 上生成了一张自己从未拍过的自拍照。

・AI 合成的

然后,Instagram 上的照片变成了小哥穿上了万圣节的服装;变成了他前往了纽约街头,见到了自己的好友 —— 当然,这一切都是假的。

然而,它们却成功骗过了小哥的朋友们。他们以为他真在纽约,有人甚至都准备打扫屋子迎接他了。

・AI 合成的

之后,小哥开始让 AI 去完成它更多的幻想:他成了成功人士,搬到了纽约,和自己的爱犬住进了漂亮的公寓,在街头偶遇名人……

・AI 合成 的

在千万次的训练下,AI 创造出了一条完全平行的时空线,在那些真的可怕的合成照片里,小哥甚至开始觉得,机器所合成的他,似乎就是真正的他。

诸如此类的案例,正变得越来越多,而许多本不该被击穿的 “真实底线”,也开始遇到了数字虚拟的全面刺破 —— 有人开始用 AI 生成的作品沽名钓誉,甚至开始搞数字诈骗。

你所看见的,都是虚假

从去年 10 月开始,Instagram 上火了一个叫 Jos Avery 的摄影师。

这个 Jos,以其精湛的人像摄影,在短时间内征服了 3 万多名粉丝。

并且,面对摄影新人的请教,Jos 还贴心地指导他们:“我这张照片,是用尼康 D810 拍的,用的是 24-70 毫米的镜头。”

然而在一段时间后,Jos 本人实在忍不住,向 Ars Technica 的记者坦言:“其实我根本就不是什么摄影师,这些人像都是我用 AI 生成出来的。”

这不禁让人想起国内最近有个知名的画师,因被曝出用 AI 绘画而塌房,让许多模仿他作画的萌新失去了继续画下去的动力,也让许多网民开始了一场赛博猎巫 —— 逼画师们自证在绘画中没用过人工智能辅助。

与之类似,当人类的容貌,可以被机器在短时间内创造出成百上千张,就会有像 Informa Systems 这样的企业,用生成的脸孔创造假的员工,让公司看上去有一个人数众多的专业团队。

同一时刻,Facebook 的母公司在去年底表示,在它们 2022 年的取缔活动中,有三分之二的违禁账户,用的头像是 AI 生成的。

这并不让人感到意外,因为在 2022 年的一篇论文里,研究者发现有 3 成到 5 成的美国人,根本就无法在真实脸孔和用 DeepFake 所生成的虚拟脸孔间做区分。

所以在 TikTok 上,由 AI 合成的明星整活儿类视频遍地都是,难辨真假,比如下面的这个基努里维斯:

对于骗子来说,DeepFake 实在是一件的趁手的工具。

去年 8 月,有个诈骗团队就利用 DeepFake,伪造出一张数字货币公司高管的脸。骗子将这张假脸套在自己的面部,然后通过在线聊天软件 Zoom,去和那些项目团队的成员开会,让他们以为自己正在和大公司的负责人对接。”

被 “偷脸” 的这位高管表示,这群骗子的技术很厉害:“他们唯一没模仿出来的,就是我在疫情期间胖出来的那 15 磅。”

不止面孔,像 Midjourney 这样的图像生成 AI,甚至会影响你对这个世界的认知。

譬如去年 9 月 26 日,东京时间凌晨 4 点 39 分,有一名家住东京的推特用户,发了三张静冈县遭遇水灾后的惨状。

该贴被迅速转发,许多网友又是震惊不已又是要筹措捐款。

结果在推文发出 11 小时后,原作者道歉,称静冈发水灾是真的,但灾情图片却是他用 AI 做出来的。他也知道撒谎不好,但就是舍不得海量的推特转发和点赞。

无独有偶,在今年 2 月初的土耳其叙利亚大地震后,也有人在网上用一张 “地震现场的救援图” 来号召爱心人士们捐款,结果立刻就被眼尖的网友扒出来,说这图上的人有六根手指,应该是用 Midjourney 做出来的。

而当被 AI 生成的图像,配合上同样被 AI 生成的音频与文字时,那你所理解的一切真实,就将会迎来一场彻底的崩塌。

你所相信的,都在崩塌

在以假乱真这个层面,AI 合成的音频丝毫不逊色于图像。

上个月, ElevenLabs 发布了自家的语音合成平台,原本是帮助电影和游戏配音,结果很快就被网友们拿来合成 “比尔・盖茨称新冠疫苗会造成艾滋病”,以及 “艾玛・沃特森大声朗读《我的奋斗》”。

而早在去年 12 月,中国台湾的刑事局就已经破获了一起 AI 语音诈骗案。

骗子先以 5 万新台币的价格从科技公司购入诈骗电话的 AI 模组,然后在 8 个月的时间里群发上百万次,赚了 2700 万新台币的赃款。

而当 AI 合成视频加上了 AI 合成音频,你便能在社交媒体上刷到埃隆・马斯克在镜头前忏悔自己吸毒过量,知名电台主持人乔・罗根(Joe Rogan)教观众如何去亚马逊购买他推荐的壮阳药。

在算法的加持与混淆下,那个 “将名人的话语奉为真理” 的时代正在离我们远去。

这还没完。

前些日子,ChatGPT 正好在情人节前后大火,加拿大反欺诈中心便趁此机会警告世人:未来操纵感情杀猪盘的,很可能就是这些聪明的聊天 AI。

而安全公司 McaFee 的研究则表明,10 个人里有 7 个都会把 AI 生成的情书,当成是真人所撰写的甜言蜜语。

与此同时,美国知名科幻杂志《克拉克世界》被迫暂停投稿渠道,只因他们在短短一个月内,接到了 500 多篇由 AI 所生成的小说稿件。

・” 目前已关闭稿 件提交,原因不难猜出”by 克拉克世界

欧洲执法组织去年 9 月预言:“到 2026 年,全网有多达 90% 的在线内容可能是合成生成的。媒体将大多由人工智能生成与操纵。”

当然,为了防止以后互联网上 “无内容可信”,各国也想出了相应的对策 —— 利用一套专门用来打假的 AI。

像韩国就声称将在 2 月的月底,用 AI 来辅助侦破电信诈骗案,而创造了 ChatGPT 的 OpenAI,最近刚研究出了一个专门鉴别 ChatGPT 的 AI。

这就让以后的互联网,变得越来越像一个 AI 神仙打架的地方了,变成了一个巨型的类生成对抗网络,而所谓的真假,不过是用来证明哪方 AI 更强的一个标准。

况且,根据去年 12 月安永发布的一篇文章,许多用来训练 AI 的数据,本身也都是虚构出来的。

像现在一些顶尖的汽车公司,就用随机生成出来的模拟路况来训练自动驾驶,而药企则用千万个用随机数据做出的病历,来进行非物质层面的临床实验。

相对于参考真实的案例去开发,AI 生成确实节省了大量的成本,也能将许多罕见的极端情况考虑在内。

・模拟 驾驶环境

而我们也因此终于,走进了那片被《黑客帝国》称为 “真实的荒漠” 的地方。

在那个地方,真实被 AI 托管,网络上的种种欺诈,像一个个被精心策划的真相,没有真与假,只有神经网络与复杂的算法。

来源:X 博士

如若转载,请注明出处:https://www.zhangzs.com/449904.html

发表评论

电子邮件地址不会被公开。 必填项已用*标注

QR code
QR code