随着人工智能(néng)、大数据、云计算、區(qū)块链等新(xīn)技术的深入发展，新(xīn)的网络安全挑战与风险也不可(kě)避免地涌现出来。如何应对数字时代的网络安全新(xīn)挑战？昨天举行的2023年國(guó)家网络安全宣传周上海地區(qū)主论坛上，专家學(xué)者给出了建议与思考。

应对大模型新(xīn)风险，数据安全至关重要

中國(guó)工程院院士、复旦大學(xué)金融科(kē)技研究院院長(cháng)柴洪峰对金融数据和垂直领域大模型的安全及伦理(lǐ)问题提出建议。“监管机构应加强对金融大模型的审查和风险评估，对关键人物(wù)和系统应建立审查和测试的机制，确保其性能(néng)和安全性。”他(tā)说，為(wèi)确保大模型在金融领域的应用(yòng)符合法规与道德要求，应通过政产學(xué)研的合作，制定相关政策和指南；而对于金融大模型的部署与使用(yòng)，则需要协同共治，提升透明度，保证数据质量和可(kě)解释性的机制，帮助用(yòng)户与监管机构理(lǐ)解模型的决策依据，并确保其不带有(yǒu)偏见或歧视性。

“对于传统的通用(yòng)大模型，人们可(kě)以建立行业领域的小(xiǎo)模型，在数据安全领域通过各种数据标签、数据类型、日志(zhì)等，形成数据安全的助手。”上海观安信息技术股份有(yǒu)限公司联合创始人胡绍勇表示，而AIGC（生成式人工智能(néng)）技术本身就存在着敏感数据和违规应用(yòng)的可(kě)能(néng)性，因此，数据安全运营是非常重要的。

胡绍勇指出，目前在数据安全治理(lǐ)过程中，一个正在探索落地的方向是数据安全专家或者安全助手，另外，还可(kě)以利用(yòng)大模型对数据资产的识别进行进一步提升，不少安全企业已在此方面做出了尝试。

网络安全不断变化，需社会各界共同守护

公安部第三研究所网络安全法律研究中心主任、研究员黄道丽认為(wèi)，现在网络安全面临的最大挑战是如何把制度的能(néng)力转化為(wèi)实际的治理(lǐ)能(néng)力。“法律的特性是稳定，但网络安全风险和网络安全形势却是不断变化的。”她说，这需要产业界、运营者、数据处理(lǐ)者以及社会第三方共同推进。

上海市信息安全测评认证中心创新(xīn)研究院副院長(cháng)徐御从城市数据安全的角度指出，随着系统数量的规模变大、复杂度提高，数据资源的暴露面和脆弱性都会增加。“网络安全从原来以系统与网络為(wèi)核心，转变成以数据為(wèi)核心。”他(tā)说。

上海交通大學(xué)人工智能(néng)研究院院長(cháng)宋海涛则表示，唯有(yǒu)进一步拥抱科(kē)技的力量，构建产业发展在全要素过程中的人才體(tǐ)系，加强网络安全方面伦理(lǐ)和治理(lǐ)體(tǐ)系的研究和建设，才能(néng)更好保护人民(mín)群众的生命财产安全。（记者 张天弛）