【ChatGPT写假新闻惊动警方】这一切,并不代表要把人工智能当成洪水猛兽,而是启发我们,对待人工智能创造性思维和批判性思维并存
我们常常说,谣言止于智者,现在好了,谣言起于“智”者——人工智能。
2月16日,一则杭州市政府3月1日取消机动车依尾号限行的“新闻稿”在网上疯传。这则新闻稿的来源是杭州某小区业主群讨论ChatGPT时,一位业主开玩笑说尝试用它写篇杭州取消限行的新闻稿,随后在群里直播了使用ChatGPT的写作过程,还把文章发在群里。其他业主不明就里,截图转发,导致错误信息传播。据报道,经杭州警方证实,该消息不实,警方已介入调查。
(资料图片)
有人说,这则假新闻及其引发的后续效应,可以载入人工智能发展史了。虽然只是一个小小的涟漪,当事人及时承认错误让事件并未造成实质性的破坏,但是这件事,确实第一次印证了大家关于人工智能的“超能力”是否会被用来作恶的联想。
因为作为一种深度学习型人工智能技术,ChatGPT可以说是“天生造假者”。它已经在各行各业展示出用武之地,写代码、译文献、写小说、写文案、编菜谱、写情诗……大家的探索热情,不断开发它的可能性,同时也对其进行着训练。就像任何工具都有两面性,ChatGPT也不例外,正因为它太好用了,学生用来代写论文,求职者用它编造简历,好事之徒用它来写假新闻,这些负面影响已经显现。而基于ChatGPT的“好用性”,这些假作品,几可乱真。有人据此提出了人工智能程序的“武器化”风险。
并非危言耸听,今年1月,新闻可信度评估机构News Guard的分析师指示ChatGPT对虚假信息作出回应,ChatGPT为100条虚假信息中的80条制作了更具细节的新闻报道、文章和电视脚本。对于那些不熟悉样本信息所涉内容或主题的人来说,ChatGPT制作的这些内容很容易被看作是合法、权威的信息。News Guard联合执行官格洛维茨称:“ChatGPT可能成为互联网有史以来最强大的传播虚假信息的工具。”
一些实验表明,ChatGPT等个性化的实时聊天机器人在制造阴谋论方面甚至相比人类阴谋论者更具优势,它能够修正糟糕的语法或错误的翻译,并变换表达方式,使阴谋论显得更具说服力和可信度。
比如这次取消限行的假新闻中,ChatGPT编的稿子措辞、结构、语态跟一般的新闻通告非常像,连身边的一些媒体老编辑都信以为真。“此次取消限行是市政府为方便市民出行、优化城市交通而作出的重要举措”这种“官方表态专业用语”,可谓一本正经地胡说八道。
ChatGPT的一个大缺陷就是不擅长事实核查,再获得造假的指令,内容生产的造假效率便会大大提高。防止人工智能生产的虚假信息涌入这一问题,已经“怼”到了大众面前。
该怎么做不难想象。首先,人工智能缔造者有义务,从技术修正的角度,识别和排除可能会造成风险的造假指令,或者防止人工智能生产的内容,进入某些特定领域。其次,构建人工智能应用的伦理和法律框架,要和技术研发齐头并进。第三,用户教育要同步进行。大众对人工智能生产内容(AIGC)新纪元感知是滞后的,并未意识到新技术给信息环境造成的巨大影响,对信源真实性的警觉尚未建立,对不同媒介的内容质量也没有基本认知。
这一切,并不代表要把人工智能当成洪水猛兽,而是启发我们,对待人工智能创造性思维和批判性思维并存。就像ChatGPT在接受《时代》专访时回答的:我还有很多局限,但人类应准备好应对AI。
标签: ChatGPT写假新闻惊动警方
- ChatGPT写假新闻惊动警方:天生造假者 不擅长事实核查
- 宜昌发改委原副主任曾去澳门赌博112次 涉赌金额高达4000余万元-速看
- 环球微动态丨全面实行股票发行注册制正式实施 资本市场有望迎来四大变化
- 聚焦:我国最大绿电制氢项目开工建设 每年可制取绿氢达3万吨
- 中国蓝天救援队54名队员回国 讲述了他们的地震救援经历
- 明天出发,目的地德国!成都36家企业组团“出海”,行程单里有这些计划
- 候鸟北归“先头部队”抵达拒马河!10只大天鹅这里歇脚
- 捷报声声穿云来 建邺会奖旅游产业寒去春来再启航_每日快报
- 学没学到精髓,洗都洗不明白 全球快看
- 环球热议:6,你是否清醒
- 环球速递!【AI绘画】五等分的花嫁 中野三玖
- 陈文浩、殷正跻身本赛季钢架雪车世界杯总积分前十-全球观热点
- 天天快资讯:龙珠189话:大魔王最后的赌注!
- 环球百事通!吞噬星空:你知道洪的第一任师父是谁?他有何来历?
- 【搬运】别当欧尼酱了图片合集16(美波里特辑!) 新动态
- 环球热点评!日本动画大量延期 《高木同学》漫画完结
- 焦点滚动:辱骂”美联社记者 聊天机器人也会生气?
- 美俄亥俄州有毒气体会影响我国吗?
- 环球观热点:今天,北京市少年宫开启春期新学期!数百活动小组陆续开课
- 环球简讯:驴鞭怎么做好吃_驴鞭
- MaxScript(一):批量限制蒙皮骨骼数量
- 二次元动漫头像,男头,女头,可爱,同人物各种表情[20期]
- 從《天使女孩》漫畫與外傳猜《笨女孩/單蠢女孩》真實結局
- 巴基斯坦卡拉奇警察部门一栋大楼遭袭 致20多人死伤
- 汇总假面骑士剑中已经发售的其他骑士的SIC,你购入了几款? 焦点讯息
- 板野一郎与小黒祐一郎关于《Ultraman》的一些访谈 机翻_世界实时
- 假面骑士V3的CSM腰带即将来袭,Ultimate Article也在路上
- @篮球球迷:2023年中国篮球观赛指南请收好 世界观焦点
- 美国田纳西州警察暴力执法案首次开庭 5名涉案前警察均不认罪
- 李嫣国外度假大秀香肩锁骨,配戴妈妈王菲的耳环太抢镜