[其他] 发生了什么?国内大批AI绘画网站突然关停?!为何违规?

[复制链接]
冰影 发表于 2023-10-15 14:41:53|来自:广东 | 显示全部楼层 |阅读模式
在风云变幻的数字时代,一场无声的革命正在悄然进行。国内众多基于AIGC技术打造的AI绘画网站,竟然突如其来地从线上世界消失。四必三、哩布哩布等耳熟能详的平台,纷纷在毫无征兆的情况下关停或迁移到海外域名,引发了广大网友的疑虑和探讨。是不是因为合规问题?还是因为某种威胁到大厂利益的不为人知的原因?
绘画设计类的AI工具已融入不少创作者的工作日常,成为提高效率的得力助手。但最近“后期圈”准备用AI生图时突然发现,多个AIGC网站显示无法访问或正在维护中,部分可跳转至新域名继续使用。
像大家比较熟悉的VegaAI、四必三(http://4B3.com)、吐司(http://TusiArt.com)和哩布哩布等,在当时都遭遇了突然关站或是转移到境外域名。



这里值得一提的是,截止到撰稿时,小编再次尝试登录了几个网站,发现吐司和哩布哩布也需要跳转海外域名才能使用,可是速度非常慢。






红极一时的AI绘画网站们,突然无预兆的“集体失踪”,尤其是其中有些还是为了规避侵权违规风险,已经完成了ICP备案、并且内容经过人工审核的网站;也难怪网友们会被惊到,直接炸开了锅。
对于突如其来的关停,有的网站官方给出的理由是系统维护,技术升级。但很显然,组团维护升级这件事,它看起来比集体关停还要诡异好么





虽然网站们给出的理由多少有点牵强,但网友细想之下,好像也多多少少能猜出原因来。

可使据“后期圈”观察,这些网站包括稿定设计、即时AI、无界AI、一览运营宝、吐司TusiArt、LiblibAI、VegaAI、DraftAI、4B3等等,分别提供AI生成文案、AI生成图片、prompt和模型分享等功能。


有玩家遇到了同样的问题,在交流群里表示最近“国内一些接入外国模型的AIGC产品都开始整改了”。这次集中维护背后到底是什么原因?是否与合规问题有关呢?

在这个充满谜团的时刻,我们不禁要思考:AI绘画的兴盛与挑战,背后到底隐藏了什么?




网友猜测出了大致的2方面原因:

·API接口被封。国内很多AI绘画网站都是私自接入国外AI,而最近开始国内调用的API接口都陆续被封了(其中也包括PS的ai生成),从而导致国内大批AI绘画网站无法使用。
·违法了。有网友猜测是违反了国内数据出境的制度。由于这些网站都有备案,且其中不乏企业备案的,内容应该都是合规的,此番突然被封,很有可能是因为违法了。
AIGC网站为何突然维护,更改域名

在公告中,多数网站都声称出现故障,或者要进行技术升级,但都没有表明恢复正常的具体时间。虽然有的提供了新的网址,所有功能都可以继续使用,但整体显得比较突然。
有相关从业者告诉“头号AI玩家”,确实是突然接到整改要求的,周末紧急加班整改,涉及合规问题,但未透露具体原因。
还有从业者表示,一般更换域名可能是原来的网址“被墙”了。“被墙”是指被Great Firewall(GFW),也称中国防火墙或中国国家防火墙屏蔽,可能是因为网站内容涉嫌非法、敏感信息太多,又没有整改、删除这些违规内容,导致网址被屏蔽,国内用户无法访问。
比如AI模型社区Civitai因为含有NSFW内容,今年3月开始无法在国内访问了。如果AI绘画网站的内容审核机制不严,用户通过定制化模型生成了一些过于暴露的人物图片,那么网站就存在较大的违规风险了。




某AI产品从业者提到,也有可能是因为没有完成算法备案被下架了,“前两月就出了相关规定,最近开始严查了”。
算法备案的全称为互联网信息服务算法备案,是由网信办等四部门发布《互联网信息服务算法推荐管理规定》后的具有强制性的备案制度,自2022年3月起施行。


根据今年8月起施行的《生成式人工智能服务管理暂行办法》(以下简称《暂行办法》)第十七条,提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。



也就是说,国内的AIGC公司需要先按照国家要求进行安全评估和算法备案,才能面向社会公众提供相关AI产品服务,否则主管部门有权给予警告、通报批评,责令限期改正,如拒不改正或者情节严重的,责令暂停提供相关服务。
不过也有公司表示这次是正常的升级维护,并不是突发情况,“备案都是正常的” 。
据观察,百度文心一格、美图设计室等大公司旗下的AIGC产品仍可以正常使用,部分初创公司的AI产品也没有出现暂停维护或更换域名的情况。
AI新规闪电落地,提供AIGC服务需通过备案


    《生成式人工智能服务管理暂行办法》今年4月11日对社会征求意见,7月13日颁布,8月11日施行。根据普华永道的分析,在法律后果方面,为更好平衡科技发展和监管需求,《暂行办法》第二十一条删除了“罚款及终止利用生成式人工智能提供服务”等较为严厉的措施,并在现行有效的中国法律及行政法规没有明文规定的情况下,更倾向于采取先引导改正的积极态度,在拒不改正或严重违规时,再由主管部门责令暂停提供相关服务。



9月1日,国家网信办发布了第二批深度合成服务算法备案信息。可以看到,大部分也是互联网大厂的相关大模型及算法,例如文心大模型算法、商汤秒画内容生成算法、序列猴子大模型算法、讯飞星火认知大模型算法-SparkDesk等。



    不过,本次诸多网站的关停行为似乎在业界的意料之外,这意味着其中一些人并没有事先得到警告、通报批评、责令限期改正等较温和的初步对待。当然,除该《暂行办法》之外,潜在的用户数据出境行为还受到《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等的约束。

面对快速迭代的AI技术,出于数据安全等层面的考虑,目前国内对于境外AIGC技术和产品的引进均采取了比较严格的管理和限制措施。
《暂行办法》首次提出了“基础模型”的概念。第七条提出要求“适用具有合法来源的数据和基础模型”。然而,在基础模型的层面如何定义“合法来源”有待明确。



最后在具体监管策略尘埃落定之前,中小开发者似乎应该优先考虑国产模型替代策略,来维护自己的社区合规运行。尽管如此,这些社区的其中一些分享模型、LoRA等行为,还是会因本次暴露的风险而受到影响,一些国内开发者其实擅长在本土社区多搞一些国风类、民族类的建模,但如果需要技术手段才能分享出去,或许会减少他们贡献于社区的意愿。
就像小编曾经在网上看到的一句话:技术的普及和滥用仅有一步之遥。
希望随着各项法案的出台和完善,未来我们能够找到技术创新与公共利益之间的平衡点,让AI真真正正成为创作者们的助力~
全部回复20 显示全部楼层
ahjswjq 发表于 2023-10-15 14:41:58|来自:广东 | 显示全部楼层
哈哈哈哈哈哈哈哈哈。。。。新规闪电落地
别的事情就没见过这么快的
wlzt 发表于 2023-10-15 14:42:56|来自:广东 | 显示全部楼层
前段时间我还看过上海台那个拉风投的节目,几个大佬投了AI绘画的项目,现在应该黄了吧。
Sungzu 发表于 2023-10-15 14:43:45|来自:广东 | 显示全部楼层
哈哈 是的
sohosky 发表于 2023-10-15 14:43:55|来自:广东 | 显示全部楼层
规定下来的前一天全部打掉
owlzhu 发表于 2023-10-15 14:44:01|来自:广东 | 显示全部楼层
开始的时候吐司AI还有微信小程序可以直接使用做图呢,后来域名都上不去了,哎!确实能生成NSFW的内容,毕竟用的是SD的后台[捂脸]
foxfly 发表于 2023-10-15 14:44:18|来自:广东 | 显示全部楼层
承德事件
tombbb 发表于 2023-10-15 14:44:45|来自:广东 | 显示全部楼层
别多说
ruozhis 发表于 2023-10-15 14:45:18|来自:广东 | 显示全部楼层
好多评论都被删除了
xx1034221 发表于 2023-10-15 14:46:08|来自:广东 | 显示全部楼层
你这开头很有"麦克阿瑟大型纪录片"的语气[捂脸]
对于这些站主/受害者,我只会觉得他们活该/自讨苦吃。。
估计大部分还在境内做项目的人,也知道自己这是在赚快钱,早有预期。
123下一页
发帖

快速回帖

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则