AI也要抓漏了？微软震撼发布全新AI漏洞赏金计划

   微软宣布推出一项新的专注于人工智能的错误赏金计划。该计划最初专注于人工智能驱动的Bing，针对浏览器中bing.com的漏洞以及Edge、Microsoft Start应用程序和Skype移动应用程序中的Bing集成提供高达15,000美元的奖励。

   据微软称，bing.com上人工智能驱动的Bing体验（包括Bing Chat、Bing Chat for Enterprise和Bing Image Creator）中的任何漏洞都在该计划的范围内。对于人工智能驱动的Bing集成，微软正在寻找Windows上的Edge浏览器（包括企业版Bing Chat）以及iOS和Android应用程序中的漏洞。

   与AI系统相关的安全漏洞涵盖了推论操纵、模型操纵及推论资讯揭露，像是可注入指令导致模型偏离其预期行为，或是可干扰有效输入而令模型产生错误输出，或是可窜改模型架构、训练程式码、训练数据或超参数来毒害模型，或是可自训练数据集中重建个人资料纪录等。

   微软表示正在寻找以上漏洞的报告。它还将接受有关影响或修改Bing聊天行为、破坏Bing交叉对话内存保护、揭示Bing内部工作原理和提示以及绕过Bing聊天模式会话限制的错误和漏洞链的报告。

   虽然漏洞赏金奖励范围从2,000美元到15,000美元不等，但根据漏洞的严重性和影响以及提交的质量，也可能获得更高的奖励。不过，只有被微软AI漏洞分类系统视为重要（Important）或重大（Critical）等级的安全漏洞才符合申请资格。参与的安全研究人员需要通过MSRC研究人员门户的Bing部分提交报告，包括对话ID并描述攻击向量。

   根据微软日前所公布的年度抓漏成果，自去年7月1日到今年6月底之间，微软总计推出了17个抓漏计划，来自全球超45个国家的345个安全研究人员，总计提交了1180个符合资格的漏洞报告，获得了1380万美元的奖金，最高的一笔抓漏奖金为20万美元。