网络安全快照:ChatGPT特别版对网络最重要的优点

ChatGPT 11月发布以来,世界似乎一直在讨论“每天一整天,”生成人工智能聊天机器人令人印象深刻的技能,明显的局限性和潜在的用于善与恶。在这个特别版中,我们强调六个事情ChatGPT现在网络安全从业人员。

1 -不要使用ChatGPT对于任何重要的网络安全工作

尽管ChatGPT的激动人心的测试任务,如发现编码错误和软件漏洞,聊天机器人的性能可以很随意的和它的使用作为一个网络安全助理应该-至少-手动和仔细审查。

例如,克里斯•Anley NCC集团首席科学家,用它来做安全代码评审和总结说,“它并不工作,”他解释说在博客”安全与ChatGPT代码评审。”

生成人工智能工具在最好的情况下产生有用的信息,准确的50%到70%之间的时间,根据杰夫汉考克,教师以人为本研究所附属在斯坦福人工智能。他们也彻底让东西——或“产生幻觉,”他在博客中说:“ChatGPT将如何改变我们的思维方式和工作吗?”

有趣的是,最近的一次斯坦福大学研究发现用户访问一个AI代码助手”明显不如那些没有安全的代码访问写道,“而讽刺的感觉更安全的在他们的工作。与此同时,在12月,堆栈溢出,问答网站程序员,禁止ChatGPT的答案,因为它发现太多是不正确的。

事实上,OpenAI ChatGPT的创造者,已明确表示,它仍然是早期ChatGPT和前还有很多工作。“这是一个错误是依靠什么重要的现在,”OpenAI首席执行官山姆奥特曼在推特上去年12月,以为他的不断重申。

更多信息:

• ”你需要知道什么OpenAI新ChatGPT机器人和它如何影响你的安全”(SANS研究所)
• ”ChatGPT潜艇安全分析师,不仅只是偶尔”(深阅读)
• ”人工智能与网络安全的地方:机遇、挑战和风险”(硅角)
• ”ChatGPT——学习足够危险”(新加坡)网络安全机构

视频

ChatGPT:网络安全的救世主还是魔鬼?(安全周报)

伦站得住脚的CEO讨论人工智能的影响在网络防御(CNBC)

2 -务必查看ChatGPT的潜力

虽然ChatGPT不太准备黄金时间作为一个值得信赖的网络安全工程师的工具,其潜力是引人注目的。这里有一些ChatGPT和生成人工智能技术领域通常显示早期——尽管通常有缺陷的潜力。

• 事件响应
• 培训/教育
• 漏洞检测
• 代码测试
• 恶意软件分析
• 报告写作
• 安全操作

“我很激动,因为我相信这是ChatGPT而言是一个新的接口,“弹性保险CISO贾斯汀Shattuck最近告诉Axios。

然而,一个警告:如果你喂养它工作数据,首先检查与你的老板有什么好的,不可以分享。企业已经开始问题的指导方针限制和监管员工如何使用生成人工智能工具。为什么?有问题和不确定性这些工具会如何处理数据进入:这些数据去哪里?它在哪里存储多长时间?怎么可能使用?它将如何得到保护?

更多信息:

• ”ChatGPT是如何改变了网络安全从业者看AI的潜力”(SC杂志)
• ”ChatGPT蓝色团队和分析”(系统弱点)
• ”我用GPT-3找到了213安全漏洞在一个代码库”(更好的编程)
• ”埃森哲Exec: ChatGPT网络安全可能有大好处”(CRN)
• ”分析自动修复Bug ChatGPT的性能(Johannes Gutenberg大学)

视频

我使用ChatGPT作为网络安全专业如何(Cristi弗拉德)

ChatGPT为网络安全(HackerSploit)

3 -知道你将使用ChatGPT攻击——或者他们已经

尽管ChatGPT是一个正在进行的工作,它是足够好的坏人,据报道是谁已经利用它来改善他们的网络钓鱼电子邮件的内容和产生的恶意代码,等违法活动。

”的出现和滥用生成人工智能模型,如ChatGPT,将在2023年增加另一个层面的风险,”说首席分析师Matthew球市场研究公司Canalys。

潜在或实际网络威胁与滥用ChatGPT包括:

• 帮助工艺更有效的网络钓鱼邮件
• 利用它来生成可恶的、诽谤和虚假内容
• 降低了门槛对于不那么复杂的攻击者
• 用它来创建恶意软件
• 指导人们恶意网站从一个被劫持的人工智能聊天机器人

ChatGPT有关恶意使用的更多信息:

• ”预计ChatGPT-powered网络攻击”(GCN)
• ”黑客可以滥用ChatGPT创建恶意软件如何”(TechTarget)
• ”OpenAI新ChatGPT机器人:10危险事情的能力”(BleepingComputer)
• ”ChatGPT网络安全威胁吗?”(福布斯)
• ”4网络安全ChatGPT相关风险和AI-powered聊天机器人”(前年)
• ”ChatGPT会越狱…和伤心吗?”(成立)

视频

广泛使用的人工智能是“危险的境地,”伦说,站不住脚的(CNBC)

我对代码和黑客挑战ChatGPT:我们是命中注定的吗?(大卫·Bombal)

4 -期望政府监管引擎加速

我们可能会看到源源不断的新法规的政府试图限制滥用和误用ChatGPT和类似的人工智能工具,以及建立法律上的护栏为他们的使用。

这意味着安全和合规团队应该密切关注如何监管环境成形ChatGPT和生成人工智能,和这将如何影响这些产品是如何设计、配置和使用。

“我们也需要足够的时间为我们的机构该做什么。监管将是至关重要的,花时间弄清楚,“OpenAI奥特曼在推特上在2月中旬。

• ”调节ChatGPT和其他大型生成人工智能模型”(柏林大学)
• ”抑制ChatGPT”(汉堡大学)
• ”强大的人工智能已经:以负责任的方式使用它,我们需要减少偏见”(U。国家标准与技术研究院)
• ”ChatGPT揭示什么迫切需要负责任的人工智能”(BCG亨德森研究所)
• ”ChatGPT大火肆虐,NIST问题AI安全指导”(成立)

5 - ChatGPT会对你的工作吗?

不要担心ChatGPT采取你的工作。相反,生成人工智能工具将帮助你做你的工作更好,更快,更准确地说,是不同的。

毕竟,无论多么复杂的这些工具,他们可能总是需要某种程度的人力监督,根据赛斯·罗宾逊,行业研究副总裁计算技术行业协会(前年)。

“所以,当我们谈论的人工智能技术,我们不只是谈论一个算法代码的能力,建立一个统计模型或我的巨大的数据集。我们谈论工作和AI无论它可能嵌入技术,”他在博客中写道“如何思考ChatGPT和人工智能的新浪潮。”

与此同时,投资银行瑞银(UBS)说最近请注意:“我们认为人工智能工具广泛最终将作为解决方案的一部分,经济比可用的工人有更多的工作机会。”

网络优点具体来说,所需的技能需要知道如何对付AI-assisted威胁和攻击,这需要理解“人工智能和网络安全的交集,“读一篇博客文章从科技事业的网站Dice.com。

更多信息:

• ”为什么安全团队失去了AI战争”(地方)
• ”ChatGPT和更多:人工智能聊天机器人对网络安全的未来意味着什么”(网)

视频

我的网络安全工作OpenAI GPT3来聊天吗?(天Cyberwox)

取而代之的是人工智能网络安全工作?(大卫·Bombal)

6 -绝对监视生成AI不会消失

ChatGPT达到1亿年月度活跃用户仅仅两个月后推出,成为增长最快的消费应用程序,根据瑞银(UBS)的研究人员。

个月才达到100万用户为每个应用程序

而且不只是OpenAI。风险资本融资的生殖AI公司一般在2022年飙升,根据CB的见解已确认250名球员在这个市场。

公司已经将OpenAI技术整合到他们的产品和业务。例如,微软一个数十亿美元的投资在OpenAI建设启动产品生成的人工智能技术,包括必应(Bing)搜索引擎。与此同时,贝恩资本(Bain & Co)。使用OpenAI科技内部同时与客户感兴趣采用OpenAI ChatGPT之类的工具,其中包括可口可乐公司。

简而言之,ChatGPT和生成人工智能工具一般都在这里留下来,他们会产生广泛的影响在我们的个人和职业生活。这是一个时间问题,直到ChatGPT-like技术纳入后卫可以信任网络安全工具,持续执行一个可接受的水平的准确度和精密度。

更多信息:

• ”你会看到ChatGPT今年的影响无处不在”(Cnet)
• ”在网络安全ChatGPT:风险与收益”(Nuspire)
• ”ChatGPT是人工智能的一个转折点”(哈佛商业评论)
• ”如何ChatGPT新工作场所潜在生产力在数字信号”(Omdia)
• ”ChatGPT等工具可能会改变你的生意如何”(麦肯锡)

视频

为什么OpenAI ChatGPT大不了吗(CNBC)

萨提亚Nadella:微软的产品很快就会像ChatGPT访问开放的人工智能工具(华尔街日报)