《科创板日报》2月29日讯（记者朱凌）当前，以大语言模型为代表的AI技术应用正在渗透至千行百业，成为推动各行各业转型升级的新引擎。然而，随着这些技术的应用日益广泛，大模型的安全性问题也日益凸显。大模型之于网络安全行业，将带来哪些机遇？围绕大模型的安全问题，行业将给出何种解法？

　　《科创板日报》记者昨日来到2024上海网络安全产业创新大会，听到了来自中国信通院华东分院、蚂蚁集团、商汤、翼方健数、上海交通大学网络安全学院等产学研界专家对此的答案。

　　▌技术与安全的平衡

　　《科创板日报》记者注意到，在圆桌讨论中，专家们都强调了在利用大模型技术的同时，必须平衡其带来的便利与潜在的安全风险。

　　中国信通院华东分院院长廖运发提到，大模型的发展为网络安全带来了新的机遇，尤其是在内容安全、数据隐私保护、运行可靠性等方面。然而，大模型的安全性问题也不容忽视，包括基础设施安全、数据隐私泄露、运行稳定性等。

　　例如，大模型生成的内容可能涉及意识形态问题，需要进行网络备案和监管。此外，大模型的运行可靠性、稳定性和可解释性也是当前研究的重点。大模型在信息通信和安全领域的应用，需要重点关注基础设施的安全问题，以及数据隐私的保护。

　　商汤集团信息安全委员会负责人吴友胜从安全从业者的角度，提出大模型在安全领域的积极影响，如大模型在提升安全自动化处理能力方面的积极作用。但在实际落地过程中，仍需面对数据规模、质量、标签化的要求，以及算力和算法的挑战。如黑客利用AI技术进行攻击的自动化等。

　　翼方健数技术总监孙维东总监则表示，大模型在数据安全和网络安全方面是新机遇和挑战并存。他强调了算力基础设施和模型安全防护的重要性，国产化硬件的投入将为大模型提供更可信和安全的基础设施。

　　▌2C与2B场景的安全差异

　　经过近一年半时间的发展，如今，大模型的话题，正从底层技术的研发走向如何更好的落地应用。在讨论大模型在不同场景下的应用时，本次会议中，专家们指出了2C和2B场景在安全方面的不同关注点——在2C场景中，用户体验和隐私保护是核心，而在2B场景中，商业机密和数据安全则更为关键。

　　廖运发强调了在2B场景中，需要特别关注标准适配问题，以及大模型本身可能引起的商业机密和客户数据利益问题。

　　王士林从用户角度提出了对大模型性能和实时性的要求，以及对内容安全的关注。大模型在2B场景中的应用需要确保没有漏洞和恶意后门，而在2C场景中，则需要关注用户隐私数据的合规处理。

　　吴友胜则从产品部署的角度，分析了2B和2C产品在安全职责、效率要求和用户关注点上的差异。他强调，大模型在2B端的部署通常是私有化的，这在一定程度上降低了安全风险。然而，大模型的二次开发过程可能会带来新的安全职责变化。

　　孙维东持同样观点，他从服务客户的过程中距离，B端用户在尝试使用大模型数据赋能时，首先关注的是安全问题，包括合规性和商业机密的保护。而C端用户，尤其是个人开发者和设计师，对知识产权的保护和平台的安全性有着迫切的需求。

　　在与会专家看来，大模型安全是一个多维度的问题，需要从技术、法规、标准等多个角度进行综合防控。在技术层面，需要开发更先进的监测和评估工具，以确保大模型的安全性。在法规和标准层面，需要制定相应的规范，指导大模型的安全开发和应用。未来，大模型安全将继续是网络安全领域的重要议题。