部分AIGC应用调整后重新上架 数据合规是生成式AI必由之路

据媒体报道，包括讯飞星火在内的多个AIGC（人工智能生成内容）相关App，于8月1日凌晨在苹果应用商店下架。8月2日，讯飞星火 App 在苹果应用商店恢复上架，版本更新为 1.3.04。

据媒体报道，接近监管部门的权威人士表示，8月15日即将施行的《生成式人工智能服务管理暂行办法》，相关应用在数据采集和使用环节等还不够规范。虽然应用调整后已重新上架，但此事件也给其他应用提供者敲响了警钟。

(资料图片仅供参考)

作为今年全球最受瞩目的重要科技成果之一，AIGC快速发展，我国也掀起了“百模大战”。由于AIGC在大模型训练过程中，数据采集和使用等方面数量巨大，GPT-3时期的ChatGPT数据量达到了45TB, GPT-4的规模是GPT-3的10倍以上。可以想见，我国“百模大战”的推进，各家企业所需数据量规模将急剧放大。

市场竞争压力之下，不排除个别企业为了加快研发和应用，在数据采集和使用过程中，对用户隐私重视程度不够，出现“重采集轻保护”的现象，不仅会涉嫌引发用户隐私，而且会造成相关数据泄露风险。

近期，爆火的妙鸭相机凭借AI生成数字照片能力火速出圈，不过其无法退款和隐私保护等问题也被消费者诟病，遭到上海消保委点名。这一事件反映出AIGC应用在用户隐私方面存在的问题。

除了用户隐私之外，随着AIGC未来进入更多行业，对海量行业数据采集和应用，有可能遭遇数据资产权益保障等问题。对于合作企业或行业而言，如何放心将自身所积累的宝贵数据资产交由AIGC服务方使用？假设遇到未经授权允许，AIGC服务方擅自“爬虫”数据等问题，给自身权益带来损害，又该如何维权？这些问题如果不得以解决，将对AIGC与实体经济融合产生影响。

从数字经济及人工智能的发展趋势来看，数据资产的重要性日益凸显。数据将成为创造财富的重要来源，并且成为企业资产增值、带来新业务发展空间的基础。当AIGC进入众多行业领域，尤其是指向国计民生的重要领域，就会形成双刃剑效应，一方面通过技术创新，带动相关领域的效能提升、成本下降，另一方面如果管理不善，则会引发数据外泄、甚至被别有用心者用于非法用途等危机。

也因此，让AIGC成为造福于社会进步和科技发展的利器，而非给社会经济带来不可控影响的巨兽，成为《生成式人工智能服务管理暂行办法》出台的动因。《办法》明确了训练数据处理活动和数据标注等要求，要求AIGC提供者须履行个人信息保护义务，做好信息脱敏，保障公众知情权和选择权，按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识，发现违法内容应当及时采取处置措施等。此外，还规定了安全评估、算法备案、投诉举报等制度，从而在有序规范AIGC技术和产业发展的基础上，鼓励科技创新。

此次多个AIGC 应用APP下架，据称是其数据采集和使用未达到规范标准。这也说明，尽管《办法》尚未正式实施，但对于AIGC应用的管理已经发力。AIGC技术研发及提供方、手机或者网络平台同为该技术的提供者，也即负有相互监督责任。如果手机或者网络平台发现，AIGC技术研发及提供方，在数据采集及应用方面存在种种问题，应当按《办法》要求主动下架，督促其进行整改，并向主管部门报告，主管部门也应对不履行相关标准的AIGC提供者，采取处罚举措，倒逼其提高合规意识。

多个AIGC应用下架，对技术提供者敲响了警钟。中国数字经济及人工智能技术的发展已经到了重要节点，任由其野蛮成长的日子已一去不复返。随着《网络安全法》《数据安全法》《个人信息保护法》《生成式人工智能服务管理暂行办法》等诸多法律法规的出台，生成式AI将被纳入到更加严格的管理体系中，实现全链条监管。

未来一旦碰撞管理“红线”，AIGC提供者将面临更严厉的问责，数据合规应用是生成式AI必由之路，随着《办法》实施，企业，平台及监管部门都应各司其职，加快数据采集使用的规范化和透明化，如此才能让国内AIGC发展走向良性有序。

评论人 毕舸

编辑 徐超

校对 赵琳

标签：