近日,可信 Agentic EDA 领域代表企业芯华章科技,与滴水智行科技有限公司(以下简称滴水智行)达成合作,围绕可信 AI 在车规安全方向的应用,联合打造大模型车控安全保障体系,推动大模型输出从能够生成走向能够安全执行,为智能汽车的大模型规模化上车构筑确定性安全防线。
大模型上车,安全成为 "最后一公里"
随着智能座舱从传统语音助手逐步演进为具备主动规划能力的 Agent 系统,大模型不再只是负责自然语言理解和回复生成,而是开始参与用户意图理解、任务拆解、车控 API 调用规划以及多轮交互决策。
这一变化带来了全新的安全课题:一旦模型产生幻觉、误解用户语义、错误补全参数,或者在复杂上下文中把非车控内容误判为车控指令,就可能把语言层面的错误转化为真实的车辆控制动作。
如何既释放大模型的能力上限,又守住车辆安全的底线,成为智能汽车产业必须回答的核心问题。
安全仲裁中间件
在 "模型" 与 "执行" 之间筑起确定性闸门
此次合作聚焦车控链路的“执行前安全确认”环节:在大模型与底层车控执行链路之间,构建独立、可解释、可测试、可追溯的安全仲裁中间件,对Agent输出进行意图解耦、参数结构化、安全规则碰撞、风险分级、澄清确认和日志审计,确保车控指令经确定性安全审查后才可下发。
合作方案将重点围绕四大模块展开建设:
- 意图安全解耦
对用户输入或 Agent 输出进行四类意图分类(闲聊、信息查询、媒体控制、车身控制),仅当意图属于车身控制时才进入车控参数解析与安全仲裁链路,从入口处将非车控内容隔离在车控安全域之外。
- 确定性规则仲裁
建立可配置的黑名单、白名单与条件规则矩阵,结合车速、挡位、车门车窗状态、天气环境等多维车辆状态进行规则碰撞:高危指令强制阻断,中低风险指令二次确认,安全指令放行;车辆状态缺失或规则异常时默认Fail-safe,绝不直接下发车控API。
- 人机确认闭环
对参数缺失、语义歧义和中低风险场景,通过澄清话术模板库与动态话术生成机制实现二次确认;确认超时默认取消执行,避免 "无响应被当作默认同意"。
- 全链路日志审计
记录输入、解析结果、车辆状态、命中规则、风险等级、仲裁结果与确认状态,形成可追溯、可复现的完整证据链,每条安全规则均可关联对应的正反测试用例和异常注入场景,支撑安全策略的持续迭代与验收。
重构受控车控链路
让灵活交互与确定性安全兼得
此次合作把大模型车控从“模型直接理解并执行”转变为“模型理解、系统仲裁、规则兜底、用户确认、日志追溯”的受控链路。
上游Agent继续负责多轮对话、意图理解和任务拆解,底层车控系统负责指令执行,安全仲裁中间件承担统一入口、统一规则、统一仲裁与统一审计职责。
这一架构既保留了大模型在自然交互方面的灵活性,同时也从系统架构上隔离模型的不确定性,在不改造既有座舱架构的前提下,为大模型车控增加一道独立、可信的安全防线。
滴水智行表示:
“智能座舱的能力边界正在快速拓展,安全机制也需要同步前移。此次合作将把真实车控场景、车辆状态和安全策略与系统化验证结合起来,使车控 Agent 的每一次执行都有清晰边界和可追溯依据,为用户提供更自然、也更安心的智能交互体验。”
芯华章科技表示:
“大模型进入车辆控制链路后,可信的标准不只是回答是否正确,更在于动作为什么能够执行、风险如何被拦截、结果能否被复现。
芯华章基于不断积累的高性能定理证明和约束求解引擎以及完备验证基础设施,致力打造智能座舱大模型车控安全保障系统,让概率性的模型输出在进入物理世界之前,经过明确规则和充分证据的双重约束。”
此次合作将进一步拓展可信AI在安全关键场景中的工程实践。芯华章将继续围绕可证明、可核验、可追溯、可治理的技术框架,以专业验证能力构建从规则定义、测试评测到运行审计的证据闭环,让可信 AI 在智能汽车及更多行业场景中安全、稳健地落地。
关于滴水智行
滴水OS以临港新片区的地标“滴水湖”来命名,借助“滴水湖”的生态之美,传承“水善利万物而不争”之品格,秉持“滴水穿石”之精神,立足临港,全力汇聚全球生态,为汽车出海强势赋能。
滴水OS采用了弹性模块化架构,通过虚拟化技术,融合多个操作系统,可以支持多种架构,既支持分离的智能座舱、自动驾驶架构,也支持舱驾融合的中央计算架构,并且同时支持市场上主流的(Qualcomm、Intel、AMD)多种车载芯片,可以灵活满足海内外主机厂不同的车型架构的设计和市场需求。当前,滴水OS涵盖智能座舱、智能驾驶以及舱驾融合三个版本。
滴水 OS 支持大模型上车,且能够同时实现语言模型和多模态模型在车机端的本地化部署。借助自然语言交互,它能直接领会用户意图,以更快的速度响应用户交互指令和需求,并链接全场景和生态应用,通过将各种生态应用转变为原子化服务,融合汽车自身的传感器信号,能够即时生成用户易于理解的多媒体信息,从而为用户打造沉浸式的无感交互体验。
关于芯华章科技
芯华章为国内领先的数字前端AI+EDA公司,以EDA 2.0为目标,融合人工智能、云原生等前沿技术,对EDA软硬件底层框架进行自主创新,已构建覆盖算法与架构设计、硬件仿真系统、FPGA原型验证系统、智能场景验证、形式验证及逻辑仿真、系统调试等完整的数字设计全流程工具平台,服务逾百家国内头部算力芯片公司。
芯华章致力于开发基于数学定理证明及可验证AI相关解决方案,以保证大模型推理结果可靠、可验证、可解释。目前,已率先在算力芯片与汽车智能控制系统软件等非芯片场景落地,并逐步拓展至具身智能、航空航天、金融等对软件可靠性要求高的系统应用领域。
公司已完成B轮融资,获得中金资本、国开制造业转型升级基金、红杉、云锋、高榕、中芯聚源、真格、云晖等国内顶级资本青睐;获评国家级专精特新"小巨人"、国家高新技术企业、江苏省独角兽企业等130余项荣誉。
来源:芯华章科技