4月11日，以“智见·破境”为主题的CSOP 2024网络安全运营实战大会(北京站)成功召开。会上，中国工程院院士沈昌祥带来《用主动免疫可信计算筑牢人工智能安全防线》的主题演讲，分享安全可信人工智能的重要性。
▲中国工程院院士 沈昌祥
党的二十大报告提出加快建设网络强国、数字中国。没有网络安全就没有国家安全，安全是发展的前提。
《中华人民共和国网络安全法》第十六条指出，国务院和省、自治区、直辖市人民政府应当统筹规划，加大投入，扶持重点网络安全技术产业和项目，支持网络安全技术的研究开发和应用，推广安全可信的网络产品和服务，保护网络技术知识产权，支持企业、研究机构和高等学校等参与国家网络安全技术创新项目。
《国家网络空间安全战略》指出，夯实网络安全基础。坚持创新驱动发展，积极创造有利于技术创新的政策环境，统筹资源和力量，以企业为主体，产学研相结合，协同攻关、以点带面、整体推进。尽快在核心技术上取得突破，重视软件安全，加快安全可信产品推广应用。
网络安全等级保护制度2.0标准及关键信息基础设施安全保护条例要求，应当优先采购全面使用安全可信的产品和服务，来构建关键信息基础设施安全保障体系。
构筑安全可信人工智能新生态体系
人工智能在赋能人类社会加快发展的同时，正逐渐衍生出可危及国家安全和人类安全的重大风险，多位著名科学家警告人工智能发展将毁灭人类社会。
近日，马斯克在内的一众全球范围内AI领域重要人士表示，“应将缓解人工智能导致的灭绝风险，与其他社会规模风险(如大流行病和核战争)等同重视，作为全球优先事项。”
人工智能自身失误会给人类带来灾难;
智能硬件被恶意用于恐怖袭击;
智能工具被用于干预舆论和引导政治走向;
智能化武器与军备竞赛引发国际担忧。
机器人智能行为体一旦失控将危及人类安全，只有在确保人工智能安全可信前提下才能健康发展。
一些重大网络安全事件：
2017年5月12日爆发的“WannaCry”的勒索病毒，通过将系统中数据信息加密，使数据变得不可用，借机勒索钱财。病毒席卷近150个国家和地区，教育、交通、医疗、能源网络成为本轮攻击的重灾区。
2018年8月3日，台积电遭到勒索病毒入侵，几个小时之内，台积电在中国台湾地区的北、中、南三个重要生产基地全部停摆，造成约十几亿美元的营业损失。
2021年5月7日，美国最大的成品油管道运营商Colonial Pipeline受到勒索软件攻击，被迫关闭其美国东部沿海各州供油网络，美国政府宣布美国17个州和华盛顿特区进入紧急状态。
网络安全的实质：风险度=脆弱度x威胁度
设计IT系统不能穷尽所有逻辑，利用逻辑缺陷挖掘漏洞，进行攻击的风险始终存在，传统“封堵查杀”难以应对未知恶意攻击。
安全可信降低脆弱性，用安全可信产品和服务，在计算同时并行进行动态的全方位整体防护，使得完成计算任务的逻辑组合不被篡改和破坏，达到预期的计算目标，相当于人体具有免疫力确保健康。
按照国家网络安全法律、战略及等级保护制度要求用安全可信网络产品和服务构建主动免疫防护保障体系。
主动免疫可信计算是一种运算同时进行安全防护的新计算模式，以密码为基因抗体实施身份识别、状态度量、保密存储等功能，及时识别“自己”和“非己”成分，从而破坏与排斥进入机体的有害物质，相当于网络信息系统培育了免疫能力。
杀病毒、防火墙、入侵检测的传统“老三样”难以应对人为攻击，且容易被攻击者利用，找漏洞、扫补丁的传统思路不利于整体安全。
如何让“WannaCry”、“Mirai”、“黑暗力量”、“震网”、“火焰”、“心脏滴血”等不查杀而自灭。
中国可信计算源于1992年立项研制免疫的综合安全防护系统(智能安全卡)，于1995年2月底通过测评和鉴定。经过长期军民融合攻关应用，形成了自主创新安全可信体系，开启了可信计算3.0时代。
抢占核心技术制高点 摆脱受制于人
《国家中长期科学和技术发展规划纲要(2006-2020年)》明确提出，“以发展高可信网络为重点，开发网络安全技术及相关产品，建立网络安全技术保障体系”。
可信计算广泛应用于国家重要信息系统，如：增值税防伪、彩票防伪、二代居民身份证安全系统、中央电视台全数字化可信制播环境建设、国家电网电力数字化调度系统安全防护建设，按照国家法律、战略、等级保护制度要求进行推广应用。
ChatGPT自身无安全可信和伦理道德，一名比利时男子在与ChatGPT交流后自杀身亡。最近，马斯克为首的众位科学家向美国政府发出请愿信，要求停止ChatGPT训练。
与此同时，意大利宣布禁用ChatGPT，因为OperAI违反了意大利相关的隐私规则和数据保护法，出现了用户数据丢失情况，而目未向用户告知。大模型及生成式AI必须确保安全可信为前提。
深度学习三巨头、神经网络之父杰弗里·辛顿(Geoffrey Hinton)离职谷歌，最新推文中透露了原因：为了自由地讨论人工智能的风险，井表示对自己毕生的工作感到后悔。
基于此，安全可信人工智能尤为重要。
2020年10月28日，国家等级保护2.0与可信计算3.0攻关示范基地成立揭牌。
具备可信计算功能的国产CPU、嵌入式可信芯片及可信根、具备可信计算3.0技术的设备，形成完备的可信计算3.0产品链，将形成巨大的新型产业空间。
人工智能业务信息安全可信：物理环境信息数据、算法模型规则及伦理、实现软件代码和流程。
计算处理服务资源安全可信：传感控制设备、通信网络、计算能力(云)。
安全可信管理：系统资源配置满足高强度计算，可信策略行为准则，异常控制与审计监控。
