北京日报客户端 | 记者 袁璐
输入几个关键词,一副精美的二次元画作就此诞生;设置好相应的口令,一个原本需要耗时数日的视频不需要人工讲解加剪辑,一键自动生成;选择古风、都市等语言文风,加上几句人物描述,一本小说快速诞生......
(资料图片)
今年以来,以ChatGPT为代表的AI展现出超强的内容创作能力,AIGC(人工智能生成内容,又称生成式AI)成了内容创作者新的生产力工具。但与此同时,一道新的考题也向内容社区平台抛出——该如何甄别AIGC内容,防范虚假信息及可能的版权纠纷等问题?海量发布的AICG内容又是否符合法律要求和公序良俗?
“大模型诞生之后,内容安全风控是一个需要全链路考虑问题。”腾讯安全内容风控产品经理李镐泽表示,目前市面上很多企业正在各个阶段进行一些安全处理的防范。比如模型训练阶段,一是数据标注要求剔除高风险、违规的数据,保证投给模型的数据样本是真实的。二是训练过程中要保证大模型更有连贯性、逻辑性,质量稳定,最后是审核把关产出结果,去掉高风险内容。
业内对AIGC内容安全的担忧并非空穴来风。记者注意到,今年5月,甘肃公安官方公众号通报称,甘肃省平凉市公安局网安大队成功侦破了一起利用AIGC制造虚假新闻的案件。4月25日,平凉市公安局崆峒分局网安大队对“今晨甘肃一火车撞上修路工人致9人死亡”的文章,初步判断为信息虚假不实,经查,某自媒体作者洪某弟使用“易撰”网页版和ChatGPT,搜索并修改编辑近几年的社会热点新闻,通过“海豹科技”软件上传至其购买的百家号上非法获利。
记者注意到,目前多个内容社区平台要求创作者明确标注AI生成内容。如知乎要求创作者发布 AI 辅助创作内容时,需要在内容上进行显性声明,并为所发布的内容负责。抖音发布也要求发布者对人工智能生成内容进行显著标识,统一的官方“水印”。
不过,腾讯安全天御研发工程师周维聪对记者坦言,目前在应对AIGC内容合规问题方面,业内仍面临不少挑战。一是AIGC内容审核量巨大,“各行各业的人,都能使用AI能力去生产他想要的内容,UGC(用户生产内容)和PGC(专业生产内容)的界限大大模糊。”二是AIGC内容形态复杂多样,部分血腥、色情、暴力的内容可能以暗喻隐晦的形式表达,比如二次元漫画中的艺术处理。三是部分AIGC内容相当专业,对泛内容审核机制带来挑战。四是部分AIGC应用场景对实时性要求较高,如何快速、准确的审核内容也是一大难点。
值得注意的是,周维聪提到了一个全新的内容安全攻防趋势——“套话”大模型再“反套路”。
“我们在服务不少企业的过程中发现,用户在使用‘类ChatGPT’产品时,会故意提出大量诱导性提问互动,有意引导大模型生成违规内容。”周维聪表示,之后用户可能通过拆分字词、使用拼音字、利用文字间隔等尝试寻找大模型有关违禁规则的漏洞。
“要实现全链路数据达标,需要密切关注数据标注、数据审校等不同环节的数据生成质量。同时要重视提前预防。”周维聪称,AIGC有数据量极大、传播速度极快等特点,不能只寄希望于事后防御,还应提高数据训练、数据生成、数据传输等过程中的风险防范意识。
相关监管政策也正在不断完善。4月11日,国家互联网信息办公室发布关于《生成式人工智能服务管理办法(征求意见稿)》公开征求意见的通知,规定AIGC内容不得含有暴恐、低俗、歧视、侵权等违法违规内容,明确提出“利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息”。
标签:
- AIGC向内容进军,社区平台如何打响安全保卫战?
- 当前视讯!游园进入旺季,北京各公园动态调整放票量,退票及时回填票池
- 高阳县农发行不断加强行风行貌提升工作|焦点短讯
- 工行廊坊大城支行着力提升老年客户综合服务能力 环球速递
- 农发行土右旗支行开展预防新型洗钱风险防范金融犯罪主题宣传活动
- 工行保定徐水支行开展“守住钱袋子 护好幸福家”防范非法集资宣传月活动_热资讯
- 环球快播:农发行太仆寺旗支行积极开展普及金融知识万里行活动
- 速看:联络互动(002280.SZ):目前公司资产价值远大于负债金额
- 环球简讯:上海理工大学信息门户(上海理工大学好不好)
- 精彩看点:数据结构及应用算法教程课后答案(数据结构及应用算法教程)
- 焦点要闻:酿酒师兼顾问创办了自己的葡萄酒咨询业务
- 【天天新视野】【世界计划 多彩舞台】3π:pjsk集1(主一咲)
- 快资讯:上午恰最新鲜的小可爱【902】
- 古尔邦节假期全疆接待游客近950万人次
- 李大霄:6月财新PMI50.5好于预期 红彤彤的七月是可以期待的
- “毕业歌”唱响未来
- 经济日报金观平:现代化产业体系要融合发展
- 2023年三河市燕桥学校高中部招生简章(附招生分数及录取要求)_世界快播报
- 云南罗平九龙瀑布景区沿线围挡已全部拆除 环球热文
- 官方通报男孩被3人逼迫吃粪便:公安机关已经立案,双方家长已达成和解
- 环球看点!上海豪宅1.58亿成交 买家身份曝光 或是得物创始人杨冰
- 广西百色应急局回应油罐车坠桥起火:以官方通报为准
- 韩议员组团去市场喝养殖池海水 被批“鱼”都觉得荒唐 环球看点
- 衢州市贸促会举办“合规服务进企业”(开山集团专场)活动
- 每日消息!“音”“美”送教 同研共富
- 寻衅滋事罪一定会判实刑吗?_每日聚焦
- 微速讯:中央政法委发布见义勇为勇士榜!跳桥救人外卖小哥上榜
- 坚持高温作业,能给环卫工人配上“空调背心”吗
- 两部门研判:7月份这些地方供水、供电形势偏紧
- 中央气象台:华北、黄淮的高温今明两天减弱,后天增强-每日焦点
- 1 AIGC向内容进军,社区平台如何打响安全保卫战?
- 2 当前视讯!游园进入旺季,北京各公园动态调整放票量,退票及时回填票池
- 3 焦点要闻:酿酒师兼顾问创办了自己的葡萄酒咨询业务
- 4 【天天新视野】【世界计划 多彩舞台】3π:pjsk集1(主一咲)
- 5 快资讯:上午恰最新鲜的小可爱【902】
- 6 2023年三河市燕桥学校高中部招生简章(附招生分数及录取要求)_世界快播报
- 7 微速讯:中央政法委发布见义勇为勇士榜!跳桥救人外卖小哥上榜
- 8 坚持高温作业,能给环卫工人配上“空调背心”吗
- 9 两部门研判:7月份这些地方供水、供电形势偏紧
- 10 中央气象台:华北、黄淮的高温今明两天减弱,后天增强-每日焦点