AI强是真的强,隐患也是真的大

还记得前段时间,小雷才和大伙儿聊过AI作画进步神速的事儿。


当时#AI画作拿一等奖惹怒人类艺术家#登上热搜,让不少网友认识到,现在的AI已经不是以前那个只会搞抽象画的愣头青了。


美国有位叫做艾伦的老哥,就在一次艺术比赛中,使用AI作画+微调参数的方式。获得“数字媒体”赛道的第一名。


单看画作质量确实上乘,连没有艺术细胞的小雷,都能感受到溢出屏幕的视觉张力和宏伟感。


640.jpg


但其他画家看到艾伦用AI来画画,自然是满心不爽。


大家都是用真材实料来画画,艾伦直接用AI几秒钟弄一幅画出来拿奖金,在场的各位谁能服?


最后这事儿闹得很大,但裁判们还是没有改判,或对艾伦进行罚款。


因为这个赛道本身就允许使用数字媒体技术来创作,艾伦这幅画的构图和配色,完全配得上第一。


640.png


也是从这时候开始,关于AI绘画的讨论在网上愈演愈烈,谁都不服谁。


但就在双方辩手打得难分难解之时,关于AI绘画更离谱的玩法也浮出了水面。


网上有老哥认为,既然AI的学习能力摆在那,不如把成千上万的人体裸照当做训练样本,投喂给AI。


等AI学成归来,它就变成了能生成任何人裸照的神器。


事实上啊,这个思路已经有开发者想过,并且付诸实践过。


黄色是第一生产力?


AI被用于搞黄色这种事儿,早在几年前就曾刮起一阵风。


那时候,海外好几个成人网站紧跟潮流,给网站加上【换脸】分区,博取更多流量和日活用户。


有不少知名女星和素人的脸被成人片上,妥妥的侵犯当事人肖像权和声誉。


image.png


但那些成人网站甩锅起来也很潇洒的,只需小手一摊,再给网站贴上一句:


“内容皆由用户自行上传,如有侵权,请联系删除”


即可规避很多不必要的风险,鉴于换脸视频数量庞大,当事人即使有三头六臂,也很难逐个去追究下架。


直到现在啊,关于明星换脸的片子依然被不断生成,被老司机们争相购买。


但这玩意儿终究是违法的,无论是第三方支付机构还是官方都在打击这种行为。


像是去年的P站,就因为违规视频太多,被强制整顿,上千万部片子一夜蒸发。


image.png


这时候就有人把目光转向AI绘画啦。


他们很清楚,用AI画出来的内容,本身就很难判定是否违规,而用于生成成人内容,肯定更容易规避审查。


好家伙,属实是把科技的玩法整明白了。


话说回来,AI换脸的原理咱们都知道,用的还是前两年的DeepFake技术。


只要训练样本够多,训练时间够长,确实能做到以假乱真。


仍然来自一段视频,显示厨房里的一名女子,原件在左边,深伪在右边,以及用于深造假的女人的插图。


那么AI作画呢?它用的又是哪一种技术?生成效果和用时表现又如何?


小雷这就逐一给大伙捋清楚。


首先呢,AI作画相比换脸的生成时间会更短,毕竟只需要渲染一帧画面。


小雷之前就体验过Stable Diffusion的网页版。


image.png


不开玩笑地说,Stable Diffusion真的能听懂人话。


咱们输入一些关键词,它就能在几分钟内画好一张图片。


比如“在游泳的比基尼美女”。


虽然细节上比较抽象,但整体画面还是比较符合文字描述的。


image.png


大伙儿也别误会,小雷并非为了凑字数才回顾Stable Diffusion。


之所以提到它,是因为目前市面上最火的“涩图”生成工具pornpen,用的就是Stable Diffusion模型。


image.png


成人版AI绘图工具来了


其实可供选择的绘画AI技术还有好几个,比如DALLE 2和Mid Journey。


但说实话,后面两个AI有着很严格的内容限制,比如不允许用户用来生成仇恨、骚扰、暴力和色情等图像。


image.png


而Stable Diffusion就不一样了,它虽然也有过滤成人内容的代码,但技术本身开源免费。


在遵循许可证规定的前提下,任何人都可以使用、复制和分发。


image.png


这就意味着,其他开发者可以通过修改或删减代码,来去除原有的内容限制。


前不久,Reddit论坛上就有老哥移除了Stable Diffusion的涩图限制代码,成为第一个吃螃蟹的人。


这也为后续pornpen的诞生,打下了牢固的基础。


image.png


话不多说,咱们直接试用一下pornpen。


虽然它调用的是Stable Diffusion的模型,但在使用方法上却有不小差异。


具体表现在,Stable Diffusion是允许用户输入关键词来生成图片。


关键词越详细,AI就越容易理解咱们的意思。


而pornpen限制就比较大了,它根本就不允许用户输入关键词,目的也是防止用户作恶。


目前咱们只能自由筛选一些条件,比如人物标签、种族、风格。


再细化一点就是年龄、头发和身材类型等。


image.png


在筛选完毕后,点击【生成】就能获得一张符合筛选条件的涩图。


image.png


有一说一,这AI生成的图片,已经无限贴近于现实了。


只是里面的人像并不对应现实中的某个人,都是AI从上亿训练样本中提取缝合出来的。


image.png


选择动漫风,同样能获得一张观感不错的二次元妹子图。


image.png


得益于训练样本数据足够多,pornpen能给你生成各种各样的“涩图”,一整天都不带重样。


但翻车现象也时有发生,有时候能看到一些五官扭曲的照片,这就是训练不足带来的问题了。


小雷瞅见,国外的网友对这个AI技术抱有很高的期待。


他们甚至在Reddit论坛上创建了专门的板块来讨论各种生成AI涩图的玩法。


image.png


目前pornpen还在不断给AI模型投喂训练样本,这就意味着,它的涩图生成水平会越来越强,直到违和感彻底消失。


有人甚至在调侃,等这技术完全成熟后,各大成人网站和福利等相关产业,都会走向穷途末路。



小雷并不排斥这种可能,但在监管尚未明确之前,玩得太激进绝对不是好事儿。


AI绘画虽好,隐患无穷


也许大家会觉得,pornpen的倾向如此明显,还搞诸多限制,简直是脱裤子放屁。


但小雷看过各种AI作恶的案例后,觉得该有的限制真不能少。


还记得去年,Telegram上就曾出现过一个“DeepNude”机器人。


只需要把一张女生的照片发给DeepNude bot。


机器人就会使用AI技术分析出被衣服遮挡住的皮肤,自动生成裸照,再发送回来。


ho5qqz4ieo0.jpg


因为训练数据存在云端,整个处理过程只需10-20秒,效率极高。


就像一个自动回复机器人,你M它一下,它就会秒回。


这种效率奇高,上手难度近乎为0的AI,很快就被拿去作恶了。


有安全公司统计,这个机器人已经生成并共享超过10万张裸照,让无数女孩的名誉受损。


再把目光回到pornpen这个当红炸子鸡身上,其实它对用户作出的限制还算合理。


用户可以根据条件筛选生成女性裸照,但绝不能描述具体内容。


比如“小雷在浴室洗澡,露出八块腹肌”这种描述,就是不被允许的。


当然,我觉得这还不够,毕竟这只是平台方的自发限制,如果法律不加以完善,总有人会走向疯狂,利用AI绘画作恶。


“一句话,让我的裸照被生成出来”,这种可怕的工具,我是不希望被开发出来...