上周的时候,我突然收到了这么一条短信,那个曾经分享过好几次的 LiblibAI 突然更换了网址。
当然,新网址也很快 404,变成了无法访问的样子。
甚至当我去百度搜索的时候,连这个关键词都消失不见了,只留下了跟关键词相近的小破站的内容。
一查才知道,不光是 LibilibAI,国内主打 AI 绘画的网站工具,包括 LibilibAI 在内,吐司、VegaAI、DraftAI 等等,凡是火过的,无一例外迎来了域名失效,突然关站的问题。
留下的,要么是名声不显的小站;要么是动作够快,提前把转移到境外的网站,红极一时的 AI 绘画网站仿佛一夜之间消失不见。
至于原因嘛,大体上能猜到,今天就让我们来聊一聊这个最近不算神秘的关站事件。
1
让我们先把目光放到 8 月底——
在那个平平无奇的一天里,包括中科院旗下的紫东太初、百度、字节、商汤等 8 家拥有、研发 AI 大模型的企业或机构,宣布自己通过了 8 月 15 日生效的《生成式人工智能服务管理暂行办法》。
简单说,就是这 8 家企业或机构,完成了 AI 备案,拿到了自己的「营业执照」。
当然,你可以在「互联网信息服务算法备案系统」里进行搜索,以百度为例,你能看到包括数字人、语音合成、文心大模型、文生图在内的诸多备案。
地址:https://beian.cac.gov.cn/#/searchResult
虽然备案不代表官方认可,亦不得将备案用于宣传和其他商业用途,但没拿到备案,就意味着 AI 产品是没办法向全社会开放的,更别说有任何商业行为了。
注意,AI 算法备案不光有「服务技术支持者」,即模型、算法的提供方;还有「服务提供者」,即调用第三方 API 接口,亦或提供云端服务。
毫无疑问,这次失联的 AI 绘画平台网站,就妥妥的属于后者。
2
这些平台,要么属于云端部署了 Stable Diffusion,要么调用的包括 Midjourney 在内的 AI 绘画平台的 API。
如果说,前者开源模型的部署、商用有待讨论,技术上有不少功能需要修改。
在生成内容上,就有更多雷区了,举个小例子,去年底国内首批几个把开源模型搬到云端,开始崭露头角的时候,我做过一个测试——
网站屏蔽了搞黄色的诸多 Prompt,甚至「黑丝」这个词都被禁掉了,不过当你改用「black stocking」,黑丝就能如约而至。
虽然后续那个网站连英文也屏蔽了,但 AI 绘画这东西,本质上是个「概率+引导」的存在。
所以除了 Prompt 引导阶段的拦截,相信你还碰到过不少网站在生成内容时,直接就是黑图的 NSFW 拦截。
这些从模型,到功能边边角角的细节,都是 AI 绘画平台要面临的审核,一夜之间尽数消失,现在看来应该是未过审的后续。
至于调用第三方 API 实现的 AI 绘画,且不说这本就是国外那些工具所禁止的,其中牵扯到的反代、数据出境等等合法合规的问题,相信短期来看也交不出来满意的答案。
虽然啊,网站关停和跑路无关,等待修改,亦或把服务器、域名迁至国外尚会恢复,但门槛终究是变高了。.。。
3
可能会有小伙伴会问了,不就是新技术跑个图,怎么有那么多弯弯绕绕?
不可否认,这两年 AI 技术所带来的冲击,是影响到方方面面的,就像小帅和小美正在各大平台上肢解电影,AI 技术也在重塑规则。
而且,当它们被发明出来,具体怎么使用就已经不再受发明者所控制,一把两边开刃的剑,总是有可能伤到自己的。
见多识广的老司机,当然能分辨出 AI 产物,毕竟和努力把自己 P 到完美的真人不同,努力让自己有瑕疵的 AI,还摆脱不了那股子 AI 质感。
但,就像诈骗的核心是层层筛选一样,在不了解技术的大多数里,总是会有人上当的。
说实话,技术的普及和滥用其实只有一步之遥,当技术下沉到人人可用,没有约束,只会是群魔乱舞。
这里的「魔」不单单是别有用心的坏人,也有可能是和你玩套路的巨头。
不知道大家发现没有,自从《办法》落地后,现在无论是微信,还是抖音,在发布内容时,都多了个标注出处的功能,或许这是一个好兆头?
欢迎来到有监管的后 AI 时代。
电报群:wldxhdzq QQ 群:729224889 网站:wldxh.com