节目与嘉宾

Bloomberg Talks 专访(约 12 分钟),主持人 Ed Ludlow 对话 OpenAI 总裁 Greg Brockman 与 Cloudflare 首席执行官 Matthew Prince。背景是 OpenAI 模型帮助发现了一个潜伏多年的 PHP 灾难级漏洞,Cloudflare 在漏洞公开前协助全网防护。

核心观点

围绕这次漏洞事件的六个关键判断:

  • 漏洞发现过程(https://www.youtube.com/watch?v=LSv07Gyywvs&t=47s):安全研究员用模型在 8 月找到初版(研究员的专业直觉约占 75–80%);OpenAI 内部用最新模型加大量算力,在 9 月完全自主地找到了更完整的版本。
  • AI 是英雄而非元凶(https://www.youtube.com/watch?v=LSv07Gyywvs&t=193s):该漏洞潜伏多年,PHP 运行在约 70% 的网站上;是 AI 发现了它,而不是制造了它;发现后做了负责任披露,互联网因此更安全。
  • 攻击者正在加速(https://www.youtube.com/watch?v=LSv07Gyywvs&t=276s):Brockman 明确表示,攻击者一定会开始用模型尝试利用这类漏洞,相关利用尝试正在急剧爬坡。
  • 公开后无需 AI 也能攻击(https://www.youtube.com/watch?v=LSv07Gyywvs&t=328s):漏洞细节公开后,几次请求即可接管服务器;Cloudflare 全网观测到每分钟数百万次利用该漏洞的攻击尝试;在服务器上跑 PHP 的唯一保命办法是立即免费更新到最新版。
  • 防御者窗口(https://www.youtube.com/watch?v=LSv07Gyywvs&t=486s):前沿模型领先于普及版本,拥有前沿模型的防御者能提前“看到未来”;好人一方的资源更多、工具更好,正在系统性地扫代码找漏洞,互联网正在因此变得更安全。
  • 制度之问(https://www.youtube.com/watch?v=LSv07Gyywvs&t=543s):当 AI 发现的漏洞规模越来越大、补丁越来越难跟上,社会需要什么样的流程来保障互联网安全;FBI 凭法院令清理僵尸网络是先例,但答案还没有。

背景与说明

字幕覆盖全片(约 12 分钟),本稿整理访谈全段。访谈末段另涉 Brockman 谈个人 AI 助手产品的近况,非本次漏洞主题,已略去。

来源链接