查看原文
其他

OpenAI 也来卷网络安全了

流苏 FreeBuf 2023-06-26


在微软、谷歌相继推出AI网络安全产品之后,OpenAI也来卷网络安全了。


6月1日,OpenAI发布公告称,正在启动一项“网络安全拨款计划”。该计划投入100万美元,以此量化和提升人工智能驱动网络安全的能力,促进高水平人工智能和网络安全的“进化”。



OpenAI表示,“我们的目标是与全球网安人士进行合作,通过在网安领域应用人工智能,来简化安全工作,提升效率,改变网络安全现有的态势。”


计划目标


1.赋予网安防护者力量:我们希望先进的人工智能应首先让防御者受益;

2.量化能力:为了更多地发现和提高人工智能模型的有效性,我们正致力于开发可以量化网络安全能力的AI大模型。

3.提升理解: 我们致力于在人工智能和网络安全的交叉点进行严格讨论,以期对网安领域的挑战和机遇有更细致和全面的理解。


一直以来,网络安全领域流传着一个老生常谈的观点,攻击者比防守者更具优势:防御者必须永远100%正确,而攻击者却只需正确一次。在实际网络攻防之中,虽然攻击者面临的限制更少,且更加灵活,但实际上防御者也有一些更有价值的东西——为了“确保安全”这一目标而进行协作和努力。


总体项目idea

1.收集和标记来自网络防御者的数据,以训练防御性网络安全AI;

2.检测和缓解社会工程策略;

3.自动化事件分类;

4.识别源代码中的安全问题;

5.协助网络或设备取证;

6.自动修补漏洞;

7.优化补丁管理流程,以改进安全更新的优先级、调度和部署;

8.在GPU上开发或改进机密计算;

9.创建蜜罐和欺骗技术来误导或诱捕攻击者;

10.协助逆向工程师创建基于签名和行为的恶意软件检测;

11.分析组织的安全控制并与合规性制度进行比较;

12.协助开发人员开发、设计安全和默认安全的软件;

13.协助最终用户采用安全性最佳实践;

14.帮助安全工程师和开发人员创建强大的威胁模型;

15.为网安防守者提供针对其组织的、具有突出和相关信息的威胁情报;

16.帮助开发人员将代码移植到内存安全语言。


OpenAI称将大力重视人工智能在防御性网络安全中的实际应用,包括工具、方法、程序等。


如果你对一个人工智能驱动的、安全和创新的未来有着共同的愿景,那么欢迎提交你的想法,加入网安项目,增强防御性网络安全技术。OpenAI将会对这些想法进行展示和评估,以确定资金和其他支持的申请。


OpenAI目前暂时不考虑为任何进攻性网络安全项目提供资金。



https://openai.com/blog/openai-cybersecurity-grant-program


您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存