张兰代表：

　　《人工智能安全与伦理的建议》（第1157号）收悉。现答复如下：

　　我厅认真贯彻落实《中共中央办公厅 国务院办公厅印发〈关于加强科技伦理治理的意见〉的通知》精神，提升我省科技伦理治理能力，有效防控科技伦理风险，推动实现科技创新高质量发展和高水平安全良性互动，塑造科技向善文化理念，为我省科技事业持续健康发展提供重要保障。

　　一、主要工作进展

　　（一）人工智能伦理治理制度不断完善

　　1.根据中央《关于加强科技伦理治理的意见》，2023年福建省科学技术厅等九部门印发了《关于贯彻落实加强科技伦理治理意见的任务分工》通知，按照“伦理先行、依法依规、敏捷治理、立足国情、开放合作”治理要求，遵循“增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明”治理原则，我省各级行业主管部门建立分工协作机制，根据职责权限和隶属关系，明确职责分工，加强横向纵向协同，细化目标责任，形成高效合力，加快构建多方参与、协同共治的科技伦理治理责任体制。

　　2.科技部、工信部等十部门出台了《关于印发〈科技伦理审查办法（试行）〉的通知》（国科发监〔2023〕167号) ，我省配套印发《福建省科学技术厅等七部门关于进一步做好科技伦理审查工作的通知》，落实国家科技伦理审查办法，建立健全工作机制，推动科技伦理审查工作规范开展。《科技伦理审查办法（试行）》明确规定开展人工智能等科技活动的单位，研究内容涉及科技伦理敏感领域的，需要进行科技伦理审查。审查办法明确了企业设立科技伦理审查委员会具体要求、审查程序、监督管理等具体工作制度，实现了人工智能领域科技伦理审查工作有章可依。

　　3.人工智能领域按照审查办法给出的指引进行科技伦理审查，确保人的基本权利、个人信息得到充分保护。企业等科技伦理审查主体应依托本单位伦理审查委员会主动研判是否存在科技伦理风险。在伦理审查过程中，要重点关注涉及数据和算法的科技活动，数据的收集、存储、加工、使用等处理活动以及研究开发数据新技术是否符合国家数据安全和个人信息保护等有关规定，数据安全风险监测及应急处理方案是否得当；算法、模型和系统的设计、实现、应用等是否遵守公平、公正、透明、可靠、可控等原则，伦理风险评估审核和应急处置方案是否合理，用户权益保护措施是否全面得当。

　　（二）加强多层次伦理监管有效防范人工智能领域伦理风险

　　1.根据国家科技伦理治理相关制度，我厅负责加强对本系统发生的重大突发公共事件应急伦理审查的协调、指导和监督，依托国家科技伦理管理信息登记平台加强全省科技伦理监管，督促相关单位设立科技伦理审查委员会，并要求其每年3月31日前向国家科技伦理管理信息登记平台提交上一年度科技伦理审查委员会工作报告，加强对科技伦理违规行为调查处理的指导和监督。

　　2.认真贯彻执行《科技伦理审查办法》，对于我省设立的科技计划项目进一步加强科技伦理监管，将伦理审查程序纳入省级科技计划项目管理工作之中。2024年度省科技计划项目的申报通知中明确要求对具有科技伦理风险的研究项目需伦理审查，伦理审查程序由申报单位伦理审查委员会执行，为科技向“善”设置有力保障。项目通知中还明确了科技项目（课题）负责人要严格按照科技伦理审查批准的范围开展研究，加强对团队成员和项目（课题）研究实施全过程的伦理管理。对科技活动中违反科技伦理规范、违背科技伦理要求的行为，任何单位或个人有权依法向科技活动承担单位或地方、相关行业主管部门投诉举报。

　　3.建立专家复核机制并积极发挥科技类社会团体的作用，开展人工智能伦理治理研究。对纳入高风险清单管理的科技活动实行专家复核机制，目前我厅已征集300位福建省科技伦理专家，专业涵盖人工智能和伦理学、法学等，为将来开展专家复核咨询提供有力保障。支持我省科技伦理治理社会团体组织建设，强化学术研究支撑。鼓励相关学会、协会、研究会等科技类社会团体组织动员科技人员主动参与科技伦理治理，促进行业自律，加强与高等学校、科研机构、企业等的合作，开展人工智能科技伦理研究，加强科技伦理知识宣传普及，提高社会公众科技伦理意识。对新出现的人工智能伦理风险隐患及时组织专家与技术研发者共同开展科技伦理理论、科技伦理风险预警研究，及时出台行业公约、伦理规范等，积极防范数据安全和隐私泄露等的安全伦理风险，将伦理治理滞后于人工智能科技发展所带来的负面影响降到最低。

　　（三）引导企业参与科技伦理治理，加强科技伦理治理国际合作

　　1.充分发挥企业作为科技伦理治理责任主体作用。我厅联合其他部门共同印发《关于进一步做好科技伦理审查工作的通知》，督促从事人工智能科技活动的企业，研究内容涉及科技伦理敏感领域的，应按伦理审查办法设立科技伦理审查委员会，建立健全审查、监督、保密管理、档案管理等制度规范、工作规程和利益冲突管理机制，保障科技伦理审查合规、透明、可追溯。引导企业科技伦理审查委员会自觉开展人工智能伦理风险评估、监控和实时应对，使道德引导和道德约束贯穿在人工智能设计、研发和应用的全流程之中。

　　2.组织开展对委员的科技伦理审查业务培训和科技人员的科技伦理知识培训，提升企业科技伦理治理能力。按照我省《关于贯彻落实加强科技伦理治理意见的任务分工》，定期对科技伦理审查委员会成员开展培训，在培训中重点强调公平合理性审查、生物样本处置是否合法合规，个人隐私数据等信息处理是否符合有关规定等，增强其履职能力，提升科技伦理审查质量和效率。

　　3.加强国际交流与合作。按照《全球人工智能治理倡议》要求，围绕人工智能发展、安全、治理等开展合作交流，不断提升人工智能技术的安全性、可靠性、可控性、公平性。2023年，积极参与中国人工智能大会，与来自全球各地的中外院士、专家学者、产业领袖等1000多位嘉宾共同商讨人工智能产业发展，推动福建人工智能产业迈向创新发展新征程，进一步强化人工智能伦理治理国际交流与合作，为后续人工智能企业参与科技伦理治理奠定良好基础。

　　二、下一步工作计划

　　下一步，我厅将认真贯彻落实党的二十大精神，坚持和加强党中央对科技工作的集中统一领导，进一步健全多方参与、协同共治的科技伦理治理体制机制，全方面推进科技伦理治理体系建设。

　　一是进一步加强组织领导。各地区各有关部门要高度重视科技伦理治理工作，按照《福建省科学技术厅等九部门印发〈关于贯彻落实加强科技伦理治理意见的任务分工〉的通知》相关规定加强分工协作，紧密跟踪国家人工智能领域的科技伦理规范、指南等政策，打通政策落地“最后一公里”，引导我省科技机构和科技人员合规开展科技活动。

　　二是加强政策宣传。按照《福建省科学技术厅等七部门关于进一步做好科技伦理审查工作的通知》，督促企事业单位成立伦理审查委员会，细化落实人工智能伦理审查监管权责，推动人工智能企业响应伦理审查要求和标准，鼓励企业积极反馈潜在伦理问题，促进科技向“善”和防范科技风险。

　　三是加强省级科技计划项目科技伦理监管。在项目指南编制、组织申报等环节伦理审查工作基础上，进一步推动在项目过程管理、结题验收等环节开展科技伦理监管工作。将项目承担单位履行科技伦理管理主体责任和落实科技伦理规范要求的情况作为申请和实施科技计划项目的重要依据。

　　四是积极实施清单管理科技活动的专家复核机制。对实施清单管理的人工智能科技活动，通过单位科技伦理审查委员会的初步审查后，按照管理部门分工，督促相关管理部门及时组织专家复核。督促科技活动单位在纳入清单管理的科技活动获得伦理审查批准后，及时通过国家科技伦理管理信息登记平台进行登记。督促相关管理部门及时总结经验，对专家复核工作进一步优化工作流程和规范。

　　五是加大人工智能领域的前瞻性、对策性伦理治理课题研究。通过省级创新战略研究计划，支持开展人工智能科技伦理治理、风险评估与监管等研究课题，加强对科研人员伦理宣传和教育，培养培训科技伦理审查的管理人才，提升科技伦理监管水平。

　　衷心感谢您提出的宝贵意见建议以及对我省科技工作的关心支持！

　　领导署名：李志忠

　　联 系 人：陈世明

　　联系电话：0591-87887536

　　福建省科学技术厅

　　2024年4月18日