智能永信张凯：大模型急需常态化测试评估 “数字风洞”保障AI数字健康

　　上证报中国证券网讯 3月13日，华创证券“算力赋能，应用无限”论坛在京举办，AI算力、网络和数据安全等领域50余家上市公司就人工智能技术创新应用进行深度交流。永信至诚集团CTO、智能永信总经理张凯受邀出席，发表《AI大模型安全测评数字风洞》主题演讲，提出AI大模型急需常态化测试评估，永信至诚“数字风洞”产品体系双管齐下，全面支撑AI大模型基础设施安全与内容风险测评，为AI数字健康提供强有力保障。

　　针对AI大模型存在的安全问题以及大众担忧，结合监管要求，张凯认为，要从实质安全运营角度出发，基于AI大模型安全测评“数字风洞”，对基础设施安全和内容安全风险进行持续性检查。

　　首先是产品乘服务，打造基础安全设施测试平台。AI大模型安全测评“数字风洞”作为一个以安全检测为核心，以“产品乘服务”体系为手段，以安全风险防范化解为目标的测试评估平台，通过模拟各种网络攻击和系统入侵场景，检验AI大模型在不同攻击下的韧性，识别AI大模型基础设施存在的风险，预见和预防未来可能出现的威胁。同时，基于永信至诚自主研发的风洞时光机系统，构建“测试-发现风险-迭代优化-再测试-再迭代优化”的科学测评流程，通过安全风险的反复验证、消除和收敛，提升实质性安全。

　　其次是以AI测试AI，强化AI大模型内容过滤系统。针对内容安全风险，张凯强调，AI大模型安全测评“数字风洞”的核心优势在于集成了永信至诚AI春秋大模型和“数字风洞”产品体系的能力。基于100+提示词检测模板以及20万+基础提问，AI大模型安全测评“数字风洞”以攻击者视角构建引导AI大模型产生不当回答的测试载荷，对AI大模型的安全规则和过滤机制进行深入测试，评估其在处理潜在敏感、违法或不合规内容时的反应，确保AI大模型输出内容更符合社会伦理和法律法规要求，避免安全隐患变成安全事件。（侯利红）