问题与责任边界层
明确使用对象、真实任务、决策责任、受影响主体、禁止用途和可接受风险,保留非智能基线
RESEARCH CLUSTER 06
集群定位
人工智能与数字经济研究集群,是中科元科研体系面向智能科学、数据科学、数字基础制度和产业数字化建设的专业科技研究单元。
集群围绕“数据从何而来并能否合法使用、模型究竟学到了什么、结果在新时间新场景中是否仍然有效、系统如何与人和组织共同决策、数据怎样在安全可控条件下流通并形成可核验价值”等问题,组织三个研究中心开展独立研究与跨中心协同。
本集群承接前五集群产生的科研、设备、环境、生命健康、材料、能源和农业数据,但不替代各专业中心对事实、机理与应用成效的判断;同时向第七集群提出边缘计算、智能控制、数字孪生、设备互联和安全运维需求。第一集群继续提供战略、产业与传播协同。
五层研究架构
五层架构用于建立共同证据链,不代表三个中心的上下级关系;人工智能、数据科学和数据要素保持平行专业主体,并围绕具体任务共享数据、评价与治理能力。
明确使用对象、真实任务、决策责任、受影响主体、禁止用途和可接受风险,保留非智能基线
建立合法来源、授权依据、数据谱系、质量评价、代表性分析、知识组织和版本记录
研究统计学习、机器学习、知识推理、因果分析、生成模型、优化与科学计算方法
把模型接入真实流程,验证接口、权限、人工复核、异常回退、网络安全和持续运行
以可审计使用、合规流通、实际效益、社会影响和全生命周期成本评价数字价值
三个研究中心
三个中心按固定顺序深化;已完成中心开放独立主页,尚未深化的中心保留真实专业预告,不提前建立空白页面。
研究学习、感知、推理、知识表示、生成与交互等智能机制,建立面向真实任务的模型评价、风险控制和人机协同方法。
围绕多源异构数据的获取、治理、分析与解释,研究统计推断、因果识别、预测建模、科学计算和可复现分析。
研究数据资源权益配置与授权、分类分级、可信流通、产品化、价值评价和合规治理,服务数据要素与实体产业的协同创新。
重点研究方向
研究方向覆盖基础方法、工程系统和数据要素价值,但所有课题必须绑定使用对象、场景边界、评价基线、风险等级和实际效益。
证据与部署验证机制
训练完成不是验证终点。后一级须保留数据版本、代码与配置、模型版本、评测样本、人工决定和异常记录,并逐步加入分布变化、对抗风险、隐私安全、组织流程与长期影响。
数据快照、处理规则、代码、随机性、算力环境、模型版本和评价方法形成完整记录,明确哪些结果可以复现。
与人工流程、规则系统或现行方案使用同一任务边界比较,同时报告质量、时效、成本和失败后果。
为访问、训练、部署、共享、停用和删除设置责任人、权限、日志、申诉、回退及安全事件处置机制。
科学、安全与成果边界
集群依照适用法律法规和项目场景实施数据分类分级、个人信息保护、商业秘密保护、网络与算法安全、知识产权和伦理审查。研究原型、试运行系统、数据产品、可会计确认的数据资源及产业化成果必须分层标识。
对话流畅、内容生成或界面自动化不等于理解、推理和任务可靠性;能力须按明确任务、数据和失败条件验证。
公开榜单或离线测试只反映特定数据集和指标;真实应用还须比较非智能基线、流程效率、错误代价和受影响人群。
平均准确率不能掩盖少数类别、极端工况和高代价错误;校准度、不确定性、拒答、人工接管与后果共同评价。
相关性和预测能力不能自动证明因果关系或干预有效;政策、医疗、农业和工程决策须另行建立识别与验证设计。
模型输出、合成数据和自动摘要不能替代原始记录、权威来源与专业复核;引用、版本和生成过程应可追溯。
系统建议或自动执行不转移组织责任;高影响场景必须明确授权、监督、申诉、回退、停用和事故响应机制。
持有数据、完成治理或形成数据产品,不等于满足资产确认、计量和持续收益条件;研究结论不替代会计、评估和法律意见。
可访问、可复制或技术上可交易不等于拥有合法权利;使用、加工、共享和跨境须分别核查授权、个人信息、商业秘密与安全责任。