科大国创：关注AI的“数据与算法漏洞”用高可信技术给AI智能体加上“安全锁”

　　导航软件乱指路，智能客服答非所问，自动驾驶系统莫名“发呆”……如今，AI正逐渐融入我们的生活，但时不时也让人觉得“不可靠”，这背后，人工智能领域的数据和算法的安全性及鲁棒性值得关注。

　　9月20日，安徽合肥，世界制造业大会开幕当天，数据要素综合试验区创新成果暨新模式场景对接会在举行，记者会上发现，科大国创软件股份有限公司（以下简称“科大国创”）一项目，正试图解决上面的问题。

　　活动期间，由国家数据局、安徽省人民政府指导，安徽省数据资源管理局主办，902支团队参与角逐，涵盖人工智能、交通运输、低空经济、应急管理等14个赛道的2025年“数据要素*”大赛安徽分赛决赛获奖项目发布，科大国创“基于形式化验证的AI智能体安全漏洞自动挖掘平台”项目，拿下了人工智能赛道金奖。

　　基于形式化验证的AI智能体安全漏洞自动挖掘平台，这技术听起来很复杂，但直指人工智能领域的现实痛点。正如负责该项目的中科国创高可信软件有限公司总经理张振海所言：“现在AI技术的应用很火，但对于它本身安不安全、可不可靠的关注并不多，我们捕捉的正是这个机会。”

　　他进一步解释：“我们创新性地运用形式化验证方法，把AI大模型的鲁棒性和安全性等性质，用形式化语言严格定义出来。”换句话说，就像给AI大模型或智能体做“全身体检”，用数学方法一步步推演，找出哪里可能会有漏洞或缺陷。

　　为什么需要这样？张振海一语道破：“AI大模型及智能体从训练、部署到迭代，全靠数据及算法驱动，数据或算法不可靠，它就可能出错，甚至被恶意攻击，这在自动驾驶、航空航天、国防军工等领域，尤其致命。”而科大国创的做法，就是依据企业自主研发的国创高可信系列产品，包括程序分析和程序验证系列工具，把高可信软件技术融入AI大模型及智能体的安全检测，找出潜在漏洞，构造反例并提出改进建议，防患于未然。

　　“它填补了国内人工智能智能体漏洞检测产品的空白。”谈及其平台应用现状，张振海介绍道：“目前，已在中国移动运营商、航空航天等行业应用，效果不错，实现了市场化的推广。”

　　张振海还透露，下一步，公司计划将平台移植到GPU超算平台上，以应对更大模型、更复杂算法的需求，此外不断提升整体算力，走向更广泛的产业应用。

　　同时，在本次世界制造业大会上，科大国创集中呈现了其“AI+行业应用”的战略布局。公司展示了智能云BMS、BEMS及液冷储能系统等新能源领域创新产品，并推出融合汽车智能驾驶技术的助行机器人，助力行动不便群体实现中短途出行。此外，可信数据空间、量子科技等前沿探索也同步亮相，彰显企业从软件到硬件、从技术到场景的全链条赋能能力。（记者 孟一凡）

　　互联网新闻信息服务许可证：增值电信业务经营许可证：皖B2-20080023