在过去十年中, 人工智能(AI)已经从一种新兴技术转变为一种牢牢嵌入日常生活的技术. 像Siri和Alexa这样的人工智能助手很常见, 人工智能驱动了人们在网上遇到的许多产品推荐和社交媒体信息. 然而，人工智能也准备在网络安全中发挥越来越重要的作用. 生成式人工智能和精确人工智能都有望帮助澳门赌场官方下载抵御越来越复杂的网络攻击.1
生成式AI是指能够生成新内容的AI系统, 比如文本, code, 图片或视频, 基于他们的训练数据.2 今天最突出的例子是ChatGPT, 哪一种可以根据提示生成类似人类的文本. 这种类型的人工智能对于网络安全团队来说可能是无价的，比如自动生成威胁情报报告, 安全分析人员今天必须手动编写的策略和其他文档. 生成式AI也可能有防御用途, 比如自动生成良性内容来迷惑和转移利用人工智能的攻击者.
精密人工智能旨在为人工智能系统提供更高的精度, 一致性和适用性与传统人工智能方法相比. 使用这些功能可以显著增强威胁检测和响应能力. 而不是简单地产生一个分数，表明一个活动是恶意的可能性有多大, 精密人工智能系统可以提供解释和证据来证明其输出的合理性. 这使得安全团队能够验证人工智能判断背后的逻辑，而不是毫无疑问地相信不透明的模型. 可解释的人工智能模型也可能会发现训练数据中的偏差或差距，从而随着时间的推移提高性能.
在一起, 生成人工智能和精确人工智能之间的协同作用可以使大部分网络安全工作流程自动化，并大大扩展安全团队的能力. 分析师可以利用人工智能来处理繁琐的工作, 重复性的任务，如编写报告和检查异常日志文件. 这使他们能够专注于更高价值的调查和战略举措，以改善网络防御. 人工智能还可以使安全团队更加积极主动. 例如, 生成式人工智能可以识别政策漏洞或差距, 而精确的人工智能模型可以根据早期预警先发制人地发现内部威胁.
然而，对于在网络安全中负责任地使用人工智能，人们存在着可以理解的担忧. 像ChatGPT这样的生成模型有时会产生有害的结果, 有偏见或误导性的内容, 如果这种人工智能产生有缺陷的网络计划和程序，这是一个严重的问题. 与此同时, 精密人工智能严重依赖训练数据, 哪一个。, 如果没有充分的策划, 会导致歧视性的结果吗. 还有人担心，过度依赖人工智能可能会导致澳门赌场官方下载变得自满, 主要是人工智能提供了一种虚假的安全感.
尽管人工智能很有希望, 信任和透明度对于网络安全的采用至关重要. 组织必须仔细评估生成人工智能输出的准确性，并能够确定精确人工智能判决背后的原因. 应该根据利用AI模型的安全团队的反馈不断监控和改进AI模型. 流程应确保安全分析师在部署人工智能时保留积极的监督和决策权.
通过谨慎的治理和技术专家与安全专家之间的协作, 人工智能可以开启一个新时代，加强对网络空间日益增长的威胁的保护.
在这个对手越来越狡猾、攻击越来越复杂的时代，人类和人工智能之间的共生伙伴关系可能是改变网络安全的关键.3 网络安全领导者必须将人工智能视为人类洞察力的补充，而不是替代. 生成式人工智能可以扩展人类的创造力和能力, 而精确人工智能带来了更大的透明度和焦点. 然而，负责任的监督和由人类洞察力推动的持续改进，对于实现人工智能的承诺仍然至关重要.
安全团队必须积极参与管理人工智能系统使用的训练数据，并在部署后持续监控其性能. 通过评估现实世界的结果, 分析人员可以提供反馈以改进算法逻辑, 识别培训数据中的差距，纠正不公平的偏见或盲点. 技术专家和安全专家之间的持续协作和沟通将有助于开发人工智能，使人类分析师成为值得信赖的合作伙伴，而不仅仅是自动化机械任务.
组织还应该设计让人参与监督的流程, 人工智能的决策和控制, 包括实施基于安全团队反馈的持续监控和改进人工智能系统的框架.4 尽管生成式和预测性人工智能系统的建议可以为人类的判断提供信息, 最后的决定权应该留给安全小组. 实地的分析师可以评估背景, 利用直觉并建立人工智能目前缺乏的联系. 让人类参与相应的行动可以作为对潜在AI失败的检查.
以智慧和远见, 人工智能的力量可以被利用，使数字世界成为一个对所有人都更安全的地方. 随着人工智能进一步嵌入网络安全工作流程, 重新关注明智的治理和人机协作将是至关重要的. 尽管人工智能有望改变网络安全，但它仍处于早期阶段. 谨慎采用这些新兴技术, 而不是盲目的自动化, 而保持积极的人类洞察力对于负责任地履行这一承诺至关重要.
尽管生成式和预测性人工智能系统的建议可以为人类的判断提供信息, 最后的决定权应该留给安全小组.
尾注
1 霍沃思,R.; “人工智能:网络中的生成式人工智能应该让我们担心，原因如下,” 《澳门赌场官方下载》， 2023年8月4日
2 J.P. 摩根。”生成式人工智能会改变游戏规则吗2023年3月20日
3 破折号,B.; Ansari, M. F.; Sharma, P.; Ali, A.; “基于人工智能的网络安全入侵检测的威胁与机遇,” 国际软件工程与应用杂志,卷. 13日,国际空间站. 2022年9月5日
4 Thuraisingham B.; “人工智能和数据科学治理:c级和董事会的角色和责任2020电气与电子工程师学会(IEEEst 国际数据科学信息重用与集成会议(IRI), 拉斯维加斯, NV, 美国, 2020, p. 314-318
杰伊·艾伦，ctp, MBCS
是一位经验丰富的技术领导者，在管理跨国团队和全球网络安全售前工作方面拥有丰富的背景. 他在IT行业的供应商和私人组织中拥有20年的经验. 艾伦热衷于推动网络安全领域的发展.