行业报告资源群 1.进群福利：进群即领万份行业研究、管理方案及其他学 习资源，直接打包下载 2.每日分享：6份 行研精选报告 、3个行业主题 3.报告查找： 群里直接咨询，免费协助查找 4.严禁广告：仅限行业报告交流，禁止一切无关信息 知识星球 行业与管理资源 专业知识社群 ：每月分享8000+份行业研究报告、商业计划、 市场研究、企业运营及咨询管理方案等，涵盖科技、金融、 教育、互联网、房地产、生物制药、医疗健康等；已成为 投 资、产业研究、 企业运营、价值传播等 工作助手 。微信扫码，长期有效 微信扫码，行研无忧免责申明： 1.本内容非原报告内容; 2.报告来源互联网公开数据；如侵权请联系客服微信，第一时间清理； 3.报告仅限社群个人学习，如需它用请联系版权方； 4.如有其他疑问请联系微信 FOUNDATION MODEL SAFETY RESEARCH REPORT3 2 大模型安全研究报告阿里云计算有限公司与中国信息通信研究院共同拥有本报 告的版权，并依法享有版权保护。任何个人或机构在转载、 摘录或以其他形式使用本报告的文字内容及观点时，必须 明确标注“资料来源：阿里云计算有限公司与中国信息通 信研究院”。对于任何未经授权的转载或使用行为，我们 将依法追究其法律责任。版权声明 LEGAL NOTICEFOUNDATION MODEL SAFETY RESEARCH REPORT5 4 大模型安全研究报告当前，由 ChatGPT 引发的全球大模型技术竞赛正推动人工智能由专用弱智能向通用强智能迈进， 这不仅标志着智能水平的显著提升，也预示着人机交互方式和应用研发模式的重大变革。大模型在 各行各业的广泛应用，为第四次工业革命的爆发提供了蓬勃动力和创新潜力。 然而，随着大模型商业化应用和产业化落地加速，大模型技术局限和恶意使用不仅加剧了原有人工 智能安全风险，也引入了模型“幻觉”、指令注入攻击、网络攻击平民化等新型风险。面对这些挑 战，国际组织和世界主要国家正通过制定治理原则、完善法律法规、研制技术标准等方式，积极开 展大模型安全治理。同时，大模型在逻辑推理、任务编排等方面的卓越能力，为解决网络空间安全 瓶颈问题带来了新的机遇。为有效防范和消减大模型的安全风险，并促进其在安全领域的应用，阿里云计算有限公司联合中 国信息通信研究院等三十余家行业单位共同编制《大模型安全研究报告（2024 年）》。本报告凝 聚业界专家共识，聚焦当前大模型突出安全风险和网络空间安全瓶颈问题，从大模型自身安全和 大模型赋能安全两个维度，提出涵盖安全目标、安全属性、保护对象、安全措施四个方面的大模 型自身安全框架，以及大模型赋能安全框架。期待这些框架能为社会各方提供有益参考，共同推 动大模型技术产业的健康发展。前 言 FORWORD