全国网安标委发布《生成式人工智能服务安全基本要求》

Anna艳娜2024-03-05 17:37:16


3月4日,全国网络安全标准化技术委员会(SAC/TC260)发布《生成式人工智能服务安全基本要求》。文件规定了生成式人工智能服务在安全方面的基本要求,包括语料安全、模型安全、安全措施等,并给出了安全评估要求。


文件起草单位包括中国电子技术标准化研究院、国家计算机网络应急技术处理协调中心、北京中关村实验室、浙江大学、复旦大学上海人工智能实验室、北京邮电大学等事业单位、科研机构;还有北京百度网讯科技有限公司、北京百川智能科技有限公司、阿里云计算有限公司、上海商汤智能科技有限公司、科大讯飞股份有限公司、上海燧原科技有限公司、北京智谱华章科技有限公司等国内人工智能创新企业。


文件链接


https://www.tc260.org.cn/front/postDetail.html?id=20240301164054



科技人工智能
本作品采用《CC 协议》,转载必须注明作者和本文链接
习近平谈人工智能
2020-12-07 15:09:10
智能科技,改变生活。从5G、大数据到智慧交通、智慧城市,各种智能科技应用正在以前所未有的速度和广度影响社会发展、改变人类生活方式。习近平总书记高度重视人工智能技术发展,本文梳理了习近平总书记部分讲话,与大家一同学习。
7月16日—18日,“创新赋能·科技自强”——第十一届吴文俊人工智能科学技术奖颁奖盛典暨2021中国人工智能产业年会隆重举办。在颁奖盛典上,共有66个获奖项目及个人受到表彰奖励。其中,网络空间安全技术论坛聚焦“人工智能发展与数据安全挑战”,由电子科技大学和安恒信息承办。数据安全工作需要监管机构以及社会企业共同努力,最大化发挥数据价值,强化数据安全治理。
这有助于防止利用生成式人工智能开展社会舆论操纵、认知对抗等扰乱网络社会秩序的行为发生。因此,在生成式人工智能技术早期探索阶段,应当适度降低内容审查方面的要求,只要求人工智能服务提供者在现有技术可及的监测能力之合理范围内对人工智能生成内容承担管控义务。
白皮书从如何落实全球人工智能治理共识的角度出发,聚焦于可信人工智能技术、产业和行业实践等层面,分析了实现可控可靠、透明可释、隐私保护、明确责任及多元包容的可信人工智能路径,并对可信人工智能的未来发展提出了建议。
当前,人工智能技术迅猛发展,并被广泛应用于军事领域。由于人工智能新技术本身的不确定性及其治理机制的不完善,人工智能技术的武器化应用将可能弱化人类对战争的把控权,增加战争发生的可能性,冲击现有国际秩序的稳定性,挑战国际法规的基本原则,甚至引发复合型危机。对此,国际层面、区域层面、国家层面的各相关行为体已开始着手探寻相关治理机制。但目前国际社会在全面禁止人工智能武器方面尚未达成共识,各国政府应创造性地
近日,观成科技宣布获得新一轮战略融资,本轮投资方为泰岳梧桐资本,这是继今年2月份完成Pre-A轮融资后的又一次融资。
与此同时,生成式人工智能被滥用带来的数据泄露、虚假信息等风险挑战也纷至沓来,各国陆续推出或完善针对生成式人工智能的监管方案。从这些要求看,《办法》基本涵盖了生成式人工智能服务在应用过程中可能暴露出来的安全及伦理问题。三是在模型输出信息出现违法内容时,要求提供者采取模型优化训练等措施进行整改,体现了《办法》与生成式人工智能技术特点及关键环节的高度适应。
4月14日,人民出版社发布了第三批三种重点领域国家安全普及读本,包括《国家海外利益安全知识百问》《国家人工智能安全知识百问》《国家数据安全知识百问》。据了解三本读本由中央有关部门组织编写,简要介绍了前述三个领域的发展情况、与国家安全的关系以及社会关注的技术前沿问题。陈鹏鸣称,接下来将陆续推出其他领域国家安全读本。
多无人系统协同在给社会创造价值的过程中存在着诸多安全隐患,如无人车的交通事故,无人机的扰航、恐怖袭击,机器人造成工人失业等。我国人工智能新时代战略实施以来迎来了很大起色,但关于多无人系统中的人工智能安全问题仍未给出明确解决方案。欧盟方面同样在智能无人系统安全上展开了积极研究以及政策制定,欧盟各成员国都纷纷出台法律法规以规范无人机运行。
Anna艳娜
暂无描述