成都网安周暨CCS2024 | 大模型安全与产业应用创新研讨活动成功举办

成都网安周暨CCS2024 | 大模型安全与产业应用创新研讨活动成功举办
2024-9-24 17:38:24 Author: mp.weixin.qq.com(查看原文) 阅读量:0 收藏

9月11日-12日，作为2024年国家网络安全宣传周成都系列活动的重磅活动之一，CCS 2024成都网络安全系列活动在成都举行。“大模型安全与产业应用创新研讨活动”同期举办，本场活动由百度安全、成都无糖信息联合承办，特邀云安全联盟CSA大中华区合作举办。本次活动聚焦大模型安全以及大模型产业创新应用两大主题，旨在为大模型技术的健康发展和产业应用创新落地提供一套切实可行的思路与方案，携手各界生态合作伙伴，探索人工智能与数字安全的融合之路，引领大模型时代下的安全行业创新变革。

CCS2024 大模型安全与产业应用创新研讨活动

百度副总裁陈洋在开场致辞中表示，大模型技术在加速产业升级的同时，也带来了全新的机遇与挑战。面对这些挑战与机遇，我们需要探索出一套行之有效的解决方案，让蓬勃发展的大模型产业能够健康稳定地发展。百度将携手生态合作伙伴，共同构建大模型安全防线，引领安全行业在大模型时代的创新变革。

百度副总裁陈洋

云安全联盟CSA大中华区主席李雨航在致辞中介绍了CSA在AI安全领域的最新进展。CSA致力于构建一个多方参与、共同治理的AI安全生态系统，推动云安全、AI安全和生成式人工智能应用安全、大语言模型安全以及大模型供应链安全的标准化工作，与海内外科技巨头共同推动全球AI安全治理体系的建设。

云安全联盟CSA大中华区主席李雨航

多模态大模型是近年来大模型领域中备受瞩目的焦点，会上，百度安全副总经理冯景辉聚焦《多模态大模型的安全挑战与应对》发表主题演讲。他指出，多模态风险不仅仅是视觉风险，更是跨模态风险，对多模态模型的风险评估要覆盖认知安全、生成安全、模态安全和对抗性安全多个方面。与会，冯景辉正式发布百度多模态内容安全解决方案，方案基于模态对齐、视觉理解以及鲁棒性提升等核心技术，用多模态对齐实现跨模态一体化安全，用图像分割与信息抽取技术，补充安全性，旨在解决第三方大模型的生成式内容合规、内生安全提升、运营常态化风险收敛等关键问题，助力客户和生态合作伙伴实现了大模型的安全升级。

百度安全副总经理冯景辉

在《大模型数据安全创新与实践》的主题演讲中，百度数管平台负责人季石磊分享了百度在保护大模型核心资产、确保数据安全与隐私方面的最新技术与方法。他详细说明了大模型全生命周期数据安全与模型保护机制，覆盖了从语料数据管理、模型训练到模型流转、使用和私有化交付等各个环节；并表示基于Baidu AI Realm的数据保险箱产品解决方案，为大模型等高价值数据资产提供全方位防护。此外，季石磊特别列举了智能数据分类分级、模型资产防护以及端云协同构建端到端安全可信链路等创新技术在大模型数据安全中的应用。

百度数管平台负责人季石磊

盈科全球数据合规服务中心主任郭卫红介绍了《大模型在数据合规的应用》。她从法律和实务的角度，深入分析了如何利用大模型技术来提升数据合规管理的效率与效果。郭卫红介绍了盈科在个人信息保护合规审计项目中应用大模型的实践，通过智能合规问答、自检、评估和审计等功能，大幅提升了数据合规管理的效率。她特别强调了大模型在解决法律信息不对称问题上的重要作用，以及在合规检查、评估和审计等环节的具体应用。郭卫红还分享了盈科AI律所智能空间站等创新应用，展示了大模型在法律服务领域的广阔应用前景。

盈科全球数据合规服务中心主任郭卫红

百度研发安全负责人陈长林带来了《"文心快码"智能代码助手安全实践》的分享。生成式人工智能正在为软件研发领域带来前所未有的机遇，生成式智能编码提效工具在帮助工程师代码提效的同时，其自身的安全性、可靠性需要予以特别关注，其中的典型风险包括大模型生成代码的安全性、调用大模型服务时可能存在的代码敏感信息泄露、网络传输链路劫持、数据跨境传输等等。陈长林介绍了百度通过智能编码提效工具"文心快码"实现安全左移的最佳实践，通过安全漏洞扫描、一键自动修复、安全增强模式，助力文心快码在提高开发效率的同时，确保代码安全。

百度研发安全负责人陈长林

新华三信息安全研发副总裁刘忠良分享了《AIGC趋势下安全大模型在网络安全运维与运营的落地实践》，重点介绍了新华三的灵犀大模型在威胁辅助研判、攻防渗透测试、自动风险处置、智能运营分析和智能可视化等场景的应用。他详细阐述了如何利用大模型提升安全事件研判效率、加速风险响应处置、实现智能安全策略生成等创新应用。新华三在安全运维、攻防实战和安全运营等方面的场景化应用，展示了大模型在网络安全领域带来的效率提升。

新华三信息安全研发副总裁刘忠良

百度安全车与终端安全架构师林道正带来了《见微知著：TARA视角下大模型在汽车合规的潜力探索》的主题演讲。他从威胁分析与风险评估(TARA)的视角，深入探讨了如何利用大模型技术来提升智能网联汽车的安全合规水平。林道正以TARA场景为例子，结合快思考系统和慢思考系统的系统设计，探讨了如何构建企业级安全知识管理体系。他详细阐述了如何组织运营过程中的安全数据，并利用大模型技术解决TARA过程中的复杂性、合规标准、演变威胁和人才缺口等挑战。林道正还介绍了百度在智能网联汽车安全合规领域的创新实践，展示了大模型在汽车安全领域的应用前景。

百度安全车与终端安全架构师林道正

会上，云安全联盟CSA大中华区与百度安全重磅发布了《AI安全产业图谱(2024)》，全面呈现了AI安全领域的最新发展态势和未来趋势。云安全联盟CSA大中华区主席李雨航与百度安全副总裁陈洋共同启动了图谱的发布仪式。李雨航主席对这份图谱以及CSA在AI领域的研究成果进行了简介，强调了该图谱在促进AI安全产业发展中的重要作用。

云安全联盟CSA大中华区《AI安全产业图谱(2024)》

通过本次活动，百度安全携手产业生态共同探讨了大模型安全与产业应用创新的前沿话题，旨在为大模型技术的健康发展和产业应用创新落地提供了切实可行的思路与方案，为推动大模型技术在安全领域的创新应用，构建更安全、更可信的数字世界奠定了坚实基础。