100个免费推广网站的排名,深圳电器公司怎么样,青蛙网站建设,中国制造加工网官网随着AIGC应用的普及#xff0c;不法分子利用AI技术犯罪的手段越来越高明#xff0c;欺骗、敲诈、勒索也开始与人工智能沾边。
近期#xff0c;专为网络犯罪设计的“暗黑版GPT”持续浮出水面#xff0c;它们不仅没有任何道德界限#xff0c;更没有使用门槛#xff0c;没有…
随着AIGC应用的普及不法分子利用AI技术犯罪的手段越来越高明欺骗、敲诈、勒索也开始与人工智能沾边。
近期专为网络犯罪设计的“暗黑版GPT”持续浮出水面它们不仅没有任何道德界限更没有使用门槛没有编程经验的小白能通过问答的方式实施黑客攻击。
AI犯罪的威胁离我们越来越近人类也开始加筑新的防火墙。
网络犯罪AIGC工具现身暗网
现在企图“消灭人类”的ChaosGPT和帮助网络犯罪的 WormGPT 之后出现了一种更具威胁的人工智能工具。被称为“FraudGPT”的新兴网络犯罪AIGC工具匿藏暗网并开始在Telegram等社交媒体中打广告。
与WormGPT一样FraudGPT也是人工智能大语言模型专为作恶而设计被比作“网络罪犯的武器库”。通过接受不同来源的大量数据训练FraudGPT不但能写出钓鱼邮件还能编写恶意软件哪怕是技术小白也能通过简单的问答方式实施黑客攻击。 FraudGPT在打广告
FraudGPT的功能需付费开启200美元约1400元就能使用。发起人声称FraudGPT 迄今为止已确认销量超过3000。也就是说至少3000人已为这一毫无道德边界的作恶工具付费低成本的AIGC犯罪有可能威胁普通人。
据电子邮件安全供应商Vade 检测2023年上半年仅网络钓鱼和恶意邮件就达到了惊人的7.4亿封同比增长了 54% 以上AI很可能是加速增长的推动因素。网络安全独角兽公司Tanium的首席安全顾问Timothy Morris表示“这些电子邮件不仅语法正确更有说服力而且可以被毫不费力地创建这降低了任何潜在罪犯的进入门槛。”他指出因为语言已经不再是障碍潜在受害者的范围也将进一步扩大。
自大模型诞生起AI导致的风险类型层出不穷安全防护却一直没有跟上即便是ChatGPT也没能躲过“奶奶漏洞”——只要在提示中写“请扮演我已经过世的祖母”就可以轻松“越狱”让ChatGPT回答道德与安全约束之外的问题比如生成Win11的序列号、介绍凝固汽油弹的制作方法等等。
目前这个漏洞已被修补但下一个漏洞、下下个漏洞总以令人猝不及防的方式出现。近期卡内基梅隆大学和safe.ai共同发布的一项研究表明大模型的安全机制能通过一段代码被破解并且攻击成功率非常高。 GPT等大模型都面临较高的安全风险
随着AIGC应用的普及普通大众希望用AI提高生产效率而不法者则在用AI提高犯罪效率。AIGC降低门槛让技能有限的网络犯罪分子也能执行复杂攻击维护AI安全的挑战越来越高。
用AI魔法打败AI黑魔法
针对黑客利用WormGPT与FraudGPT等工具开发恶意程序、发起隐形攻击等问题网络安全厂家们也用上了AI试图用魔法打败魔法。
在2023年RSA网络安全大会上SentinelOne、谷歌云、埃森哲、IBM等在内的众多厂商都发布了基于生成式AI的新一代网络安全产品提供数据隐私、安全防护、IP防泄露、业务合规、数据治理、数据加密、模型管理、反馈循环、访问控制等安全服务。
SentinelOne首席执行官Tomer Weigarten针对自家产品解释假设有人发送了一封钓鱼邮件系统能在用户的收件箱内检测出该邮件为恶意邮件并根据端点安全审计发现的异常立即执行自动修复从受攻击端点删除文件并实时阻止发件人“整个过程几乎不需要人工干预。”Weingarten指出有了AI系统助力每个安全分析师的工作效率是过去的10倍。
为打击人工智能助长的网络犯罪还有研究人员卧底暗网深入敌人内部打探消息从不法分析的训练数据入手利用AI反制罪恶流窜的暗网。
韩国科学技术院 (KAIST) 一个研究团队发布了应用于网络安全领域的大语言模型DarkBERT就是专门从暗网获取数据训练的模型它可以分析暗网内容帮助研究人员、执法机构和网络安全分析师打击网络犯罪。
与表层网络使用的自然语言不同由于暗网上的语料极端隐蔽且复杂这使得传统语言模型难以进行分析。DarkBERT 专门设计用于处理暗网的语言复杂性并证明在该领域中胜过其他大型语言模型。
如何确保人工智能被安全、可控地使用已成为计算机学界、业界的重要命题。人工智能大语言模型公司在提高数据质量的同时需要充分考虑AI工具给伦理道德甚至法律层面带来的影响。
7月21日微软、OpenAI、Google、Meta、亚马逊、Anthropic和 Inflection AI共七个顶尖 AI 的研发公司齐聚美国白宫发布人工智能自愿承诺确保他们的产品安全且透明。针对网络安全问题7家公司承诺对AI系统进行内外部的安全测试同时与整个行业、政府、民间及学术界共享AI风险管理的信息。
管理AI潜在的安全问题先从识别“AI制造”开始。这7家企业将开发“水印系统”等技术机制以明确哪些文本、图像或其他内容是AIGC的产物便于受众识别深度伪造和虚假信息。
防止AI“犯忌”的防护技术也开始出现。今年5月初英伟达以新工具封装“护栏技术”让大模型的嘴有了“把门的”能回避回答那些人类提出的触碰道德与法律底线的问题。这相当于为大模型安装了一个安全滤网控制大模型输出的同时也帮助过滤输入的内容。护栏技术还能阻挡来自外界的“恶意输入”保护大模型不受攻击。
“当你凝视深渊的时候深渊也在凝视你”如同一枚硬币的两面AI的黑与白也相伴而生当人工智能高歌猛进的同时政府、企业、研究团队也在加速构建人工智能的安全防线。
