(资料图片仅供参考)
北京日报客户端 | 记者 孙奇茹
热到发烫的ChatGPT近期不断占据媒体和社交网络的头条。在给众多行业带来巨大想象空间的同时,其带来的安全与技术伦理问题也备受关注。奇安信人工智能研究院负责人透露,公司正在基于ChatGPT相关技术和自身积累的海量安全知识和数据,训练奇安信专有的类ChatGPT安全大模型。
如同其他人工智能模型一样,ChatGPT是把双刃剑,既可以是提升效率的工具,解答人们的各种问题、创造出大学水平的论文,甚至编写代码,但同时也可能绕过安全机制,被用于实施有害的活动。“比如,对网络安全行业来说,既可以用来编写网络钓鱼、生成恶意软件、开展社工攻击,也可以成为网络防御者的有力工具。”虎符智库研究员李建平说。
据了解,网络犯罪分子使用 ChatGPT 造成的“最紧迫和常见的威胁”主要包括网络钓鱼、社会工程和恶意软件开发。以社会工程为例,研究人员发现,ChatGPT 等工具使犯罪分子能够逼真地模拟各种社会环境,从而使各种针对性的通信攻击更加有效,这类语言模型提供支持的工具,使攻击者更易诱骗受害者提供敏感信息或下载恶意软件,加速从网络钓鱼到传播仇恨言论的各种攻击。
ChatGPT等人工智能工具会以比人类罪犯更快的速度制造出新的、日益智能的威胁,传播威胁的速度也会将超过网络安全人员的反应速度。如何应对这一新挑战?网络安全业界人士认为,跟上这一变化的唯一方法是——通过使用人工智能来应对人工智能。
李建平分析,一方面,网络安全行业的研究人员、从业者、学术和企业可以利用ChatGPT的力量进行创新和协作,包括漏洞发现、事件响应和钓鱼检测。与此同时,随着ChatGPT等类似工具的发展,未来开发新的网络安全工具更加重要。安全企业应更积极地开发和部署基于行为(而非规则)的AI安全工具,来检测人工智能生成的攻击。
奇安信相关负责人称,ChatGPT是使用了互联网数据及部分由标注人员人工编写的对话数据,利用人类反馈强化学习(RLHF)技术及自有的GPT3.5大模型进行训练而成的。相关的强化学习、大语言模型等技术,奇安信团队已经有长时间实践并取得了一些成果,公司已经开展了ChatGPT在网络安全领域应用的研究和探索,目前正在训练的类ChatGPT安全大模型未来将广泛应用于安全产品开发、威胁检测、漏洞挖掘、安全运营及自动化、攻防对抗、反病毒、威胁情报分析和运营、涉网犯罪分析等领域。
- 奇安信:正训练类ChatGPT安全大模型
- 日本政府将规定核废弃物由国家负责处理
- 原地打转的“精英大姐大” 全球新要闻
- 2023年江苏再完成1万家规上工业企业“智改数转”任务
- 苏州高铁新城(北河泾街道)人大工委:扛使命 敢担当 人大代表以“四敢”精神开局提速-通讯
- 春运路上有我“高铁供电人”
- “骗了咱们多少年”穿帮镜头:看到奥特曼没脾气了,这次可真的冤枉大雄了
- 真・进化之实 踏上胜利的人生 第二季 第五集 使徒,来袭 预告 每日速看
- 假面骑士Geats第22话先行图公开,祢音似乎被识破,奇拉米化身武术大师
- 假面骑士Geats:说说剧中对于间谍的猜测,祢音能够坚持到最后也实属不易
- 天天报道:百川股份董秘回复:子公司海基新能源新发布的钠离子电池,可应用于低速车和两轮车
- 河南今年扩充10万个公办幼儿园学位 全球百事通
- 中原智慧地球数据工厂在郑州建成投产
- 河南去年平均初婚年龄接近30岁 年轻人为啥不着急结婚?
- 天天动态:河南会开展新冠抗体检测吗?为什么要进行新冠抗体检测?
- Webbeds泰国旅游峰会重点关注中国市场
- 世界最年轻阿尔茨海默病患者仅十九岁——专家呼吁关注青少年记忆失常问题
- 出境社不得经营所公布国家名单外的旅游业务
- 持续亏损偿付能力不达标,“双C”险企华汇人寿何时能回正轨?
- 今日热文:我国基本建成世界第一大教育教学资源库
- 接连两次大手笔增资,财信吉祥人寿拟增资7.84亿元 环球视讯
- 上好必修课 河南构建本土AI优质研发力量-全球今头条
- 三部门:旅游客运安全带使用不规范或被曝光 世界聚看点
- 116家非上市险企高管薪酬:最高近千万,多数低于三百万
- 初戴活动假牙如何适应
- 今年国际游客有望恢复至疫前80%至95% 天天看点
- 多家银行快速布局ChatGPT 客户服务领域有望率先应用
- 北京中小学准备就绪 热盼学生归来
- 业内分析:稳定复苏后旅游市场发生何种变化
- 当前报道:数字化“新玩法”激发新活力
- 1 奇安信:正训练类ChatGPT安全大模型
- 2 日本政府将规定核废弃物由国家负责处理
- 3 原地打转的“精英大姐大” 全球新要闻
- 4 “骗了咱们多少年”穿帮镜头:看到奥特曼没脾气了,这次可真的冤枉大雄了
- 5 真・进化之实 踏上胜利的人生 第二季 第五集 使徒,来袭 预告 每日速看
- 6 假面骑士Geats第22话先行图公开,祢音似乎被识破,奇拉米化身武术大师
- 7 假面骑士Geats:说说剧中对于间谍的猜测,祢音能够坚持到最后也实属不易
- 8 Webbeds泰国旅游峰会重点关注中国市场
- 9 世界最年轻阿尔茨海默病患者仅十九岁——专家呼吁关注青少年记忆失常问题
- 10 出境社不得经营所公布国家名单外的旅游业务