京科監發〔2024〕277號
各有關單位:
為貫徹落實《中華人民共和國科學技術進步法》《關於加強科技倫理治理的意見》(中辦發〔2022〕19號)、《科技倫理審查辦法(試行)》(國科發監〔2023〕167號)等法律法規和相關規定,健全北京市科技倫理工作體係,提升科技倫理治理能力,推動科技向善,市科委中關村管委會聯合市有關單位研究製定了《關於加強科技倫理治理的實施意見(試行)》。現印發給你們,請結合實際認真組織落實。
特此通知。
北京市科學技術委員會、中關村科技園區管理委員會
中共北京市委宣傳部
中共北京市委網絡安全和信息化委員會辦公室
北京市教育委員會
北京市經濟和信息化局
北京市農業農村局
北京市衛生健康委員會
北京市科學技術協會
2024年12月27日
關於加強科技倫理治理的實施意見(試行)
為貫徹落實《中華人民共和國科學技術進步法》《關於加強科技倫理治理的意見》(中辦發〔2022〕19號)、《科技倫理審查辦法(試行)》(國科發監〔2023〕167號)、《北京國際科技創新中心建設條例》等法律法規和相關規定,進一步完善科技倫理治理體係,有效防範科技倫理風險,結合北京市實際,就加強科技倫理治理提出如下實施意見。
一、總體要求
(一)指導思想
以習近平新時代中國特色社會主義思想為指導,深入貫徹黨的二十大和二十屆二中、三中全會精神,落實黨和國家關於構建支持全麵創新體製機製、加強科技倫理治理的總體部署,推動構建覆蓋全麵、導向明確、規範有序、協調一致的科技倫理治理體係;建立完善符合國家要求和北京市發展現狀、與國際接軌的科技倫理治理體製;塑造科技向善的文化理念和保障機製;促進高風險高價值基礎研究領域、交叉前沿領域、重點產業領域健康可持續發展;探索科技倫理治理新路徑、新模式,著力提升科技倫理治理能力,為北京國際科技創新中心建設和打造世界一流科技園區提供有效支撐。
(二)工作原則與要求
堅持科技倫理治理原則與要求。秉持增進人類福祉、尊重生命權利、堅持公平公正、合理控製風險、保持公開透明的科技倫理原則;踐行倫理先行、依法依規、敏捷治理、立足國情、開放合作的治理要求;聚焦重點領域,穩妥審慎地推進科技倫理治理工作。
堅持倫理先行與協同共治理念。加強源頭治理,注重預防,將科技倫理治理要求貫穿科技創新活動全過程;加強科技倫理治理市級層麵工作統籌,強化行業主管部門聯動,壓實高等學校、科研機構、醫療衛生機構、企業等單位科技倫理管理主體責任,更好發揮科技類社會團體作用,引導科技人員自覺遵守科技倫理要求,探索公眾參與倫理治理模式,凝聚科技倫理治理合力。
堅持促進創新與防範風險統一。遵循科技創新規律,借鑒國內外科技倫理治理經驗,結合北京實際,前瞻性防範並靈活應對科技創新帶來的風險和倫理挑戰,促進科技倫理治理與科技創新協調發展、良性互動。
堅持監督約束與教育引導並重。加強科技倫理監管,嚴肅查處科技倫理違法違規行為。深入開展科技倫理教育、培訓和宣傳,引導各類創新主體及科技人員增強科技倫理意識,激發倫理自覺性,開展負責任的研究與創新。
二、健全科技倫理治理體製
(一)完善科技倫理管理體製機製。北京市作風學風與科研誠信建設聯席會議(以下簡稱聯席會議)負責統籌指導、協調推進全市科技倫理治理體係建設,研究解決重大科技倫理問題,安排部署有關重點工作。聯席會議成立科技倫理專家谘詢組,為科技倫理治理決策、倫理審查複核等提供學術性專業性支持。聯席會議辦公室設在市科委中關村管委會,牽頭完善全市科技倫理管理體製和工作機製,負責協調全市科技倫理治理日常工作。各成員單位按職責分工負責科技倫理規範製定、審查監管、專家複核、重大科技倫理案件調查處理、科技倫理教育培訓和宣傳等工作,加強部門間溝通與協調,定期向聯席會議辦公室報送科技倫理治理工作情況。涉及人工智能領域的,由市科委中關村管委會,市經濟和信息化局負責;涉及人的生命科學和醫學領域的,由市衛生健康委負責;涉及實驗動物的,由市科委中關村管委會負責;涉及農業領域的,由市農業農村局負責。相關行業主管部門負責指導本領域高等學校、科研機構、醫療衛生機構、企業等科技倫理治理工作。(責任單位:市科委中關村管委會、市教委、市經濟和信息化局、市農業農村局、市衛生健康委、市科協等各聯席會議成員單位,相關行業主管部門按職責分工負責,各區政府、北京市經濟技術開發區管委會結合實際參照執行)
(二)推動創新主體落實科技倫理管理主體責任。高等學校、科研機構、醫療衛生機構、企業等單位應履行科技倫理管理主體責任,建立常態化工作機製,加強科技倫理日常管理,主動研判、及時化解本單位科技活動的倫理風險。根據實際情況設立本單位科技倫理(審查)委員會,為其獨立開展工作提供必要條件。單位應在設立科技倫理(審查)委員會後30日內,通過國家科技倫理管理信息登記平台進行登記,登記內容發生變化時應及時更新;從事納入《科技倫理審查辦法(試行)》中《需開展倫理審查複核的科技活動清單》的科技活動(以下簡稱為納入清單管理的科技活動),應在獲得倫理審查批準後30日內,通過國家科技倫理管理信息登記平台進行登記並及時更新。每年3月31日前,各單位應向國家科技倫理管理信息登記平台提交上一年度科技倫理(審查)委員會工作報告、納入清單管理的科技活動實施情況報告等。(責任單位:市科委中關村管委會、市教委、市經濟和信息化局、市農業農村局、市衛生健康委及相關行業主管部門按職責分工負責)
(三)發揮科技類社會團體作用。健全科技倫理治理社會組織體係,強化學術研究支撐。相關學會、協會、研究會等科技類社會團體,要引導本行業科技人員積極踐行科技倫理行為規範,組織科技人員參與科技倫理相關政策法規的研究、谘詢和製定,主動參與科技倫理治理,促進行業自律。加強與高等學校、科研機構、醫療衛生機構和企業等的合作,開展科技倫理知識的宣傳普及,提高社會公眾科技倫理意識。(責任單位:市科協及相關行業主管部門按職責分工負責)
(四)引導科技人員自覺遵守科技倫理要求。科技人員應主動學習科技倫理知識,增強科技倫理意識,自覺踐行科技倫理原則,堅守科技倫理底線,堅決抵製違背科技倫理規範的行為。科技項目(課題)負責人要嚴格按照科技倫理審查批準的範圍開展研究,加強對團隊成員和項目(課題)研究實施全過程的倫理管理,嚴謹審慎地發布、傳播和應用涉及科技倫理敏感問題的研究成果。(責任單位:市科委中關村管委會、市教委、市衛生健康委市科協及相關行業主管部門按職責分工負責)
三、加強科技倫理治理製度保障
(一)製定人工智能領域科技倫理規範和標準。落實《國家人工智能產業綜合標準化體係建設指南》(工信部聯科〔2024〕113號),規範人工智能倫理治理要求,包括人工智能倫理風險評估,人工智能的公平性、可解釋性等倫理治理技術要求與評測方法等。加強對人工智能在醫療、金融、交通、教育、文化等應用場景中的科技倫理治理,建立健全相關標準,明確具體要求。研究製定人工智能研發、應用等具體活動的科技倫理規範和通用大模型等前沿技術的倫理審查標準。加強算法綜合治理,防範和整治同質化推送營造“信息繭房”、利用算法實施大數據“殺熟”、數據采集和其他算法開發中的偏見歧視與不良價值導向等問題,促進算法應用向上向善、自主可控、責任落實。持續提升生成合成信息檢測識別能力,及時發現處理違法違規生成合成信息。加強對具有輿論社會動員能力和社會意識引導能力的算法模型以及對人類主觀行為、心理情緒和生命健康等具有較強影響的人機融合係統的研發等納入清單管理的科技活動的倫理審查和複核。發揮北京人工智能產業集群和科研優勢,發揮人工智能安全與治理相關研究機構的作用,圍繞“人工智能安全與倫理方向”設立北京市重點實驗室,開展倫理風險評估、標準製定、案例研究等工作。(責任單位:市科委中關村管委會、市經濟和信息化局、市委網信辦及相關行業主管部門按職責分工負責)
(二)完善以生命科學和醫學為重點的生命健康領域科技倫理製度。完善涉及人的生命科學和醫學研究科技倫理管理製度。倫理(審查)委員會應建立健全倫理審查工作製度、標準操作規程,健全利益衝突管理機製和倫理審查質量控製機製;製定突發事件緊急情況下的倫理審查製度,明確審查時限;科技活動應符合《涉及人的生命科學和醫學研究倫理審查辦法》(國衛科教發〔2023〕4號)規定的基本要求,嚴格履行知情同意程序,完善監督管理機製。加強對改變人類生殖細胞、受精卵和著床前胚胎細胞核遺傳物質或遺傳規律的基礎研究,以及侵入式腦機接口用於神經、精神類疾病治療的臨床研究等納入清單管理的科技活動的科技倫理管理。(責任單位:市衛生健康委及相關行業主管部門按職責分工負責)
(三)建立完善科技倫理審查和監管製度。相關行業主管部門應細化完善本係統科技倫理審查辦法、細則等製度規範,明確科技倫理治理機構及工作章程,加強對所屬單位科技倫理(審查)委員會和科技倫理風險的監督管理。完善科技倫理審查、風險處置、違規處理等規則流程,建立健全科技倫理(審查)委員會的設立標準、運行機製、登記及監管製度等。推動建立科技倫理專家和公眾代表的論證機製,探索公眾監督科技活動的新模式,引導公眾參與討論有關科技創新的倫理問題。(責任單位:市科委中關村管委會、市教委、市經濟和信息化局、市農業農村局、市衛生健康委及相關行業主管部門按職責分工負責)
(四)加強科技倫理的理論研究。鼓勵相關行業主管部門積極設立科技倫理相關的研究項目(課題),支持相關機構、智庫、社會團體、企業等開展科技倫理理論探索,加強對科技創新中倫理問題的前瞻研究,研判科技發展帶來的規則衝突和倫理挑戰,定期開展相關學術交流,研討科技倫理前沿問題。積極推動、參與科技倫理重大議題研討和規則製定,開展人工智能、生命科學、醫學、農業等領域專家聯合研討,加強跨領域風險預警和跟蹤。(責任單位:市科委中關村管委會、市教委、市經濟和信息化局、市農業農村局、市衛生健康委、市科協及相關行業主管部門和單位按職責分工負責)
四、加強科技倫理審查工作
(一)設立單位科技倫理(審查)委員會。從事生命科學、醫學、人工智能等科技活動的單位,研究內容涉及科技倫理敏感領域的,應按照《科技倫理審查辦法(試行)》規定設立科技倫理(審查)委員會,履行相應職責。科技倫理(審查)委員會應製定完善工作章程,建立健全審查監督、保密管理、檔案管理等製度規範,完善相關工作規程和利益衝突管理機製,保障科技倫理審查合規、透明、可追溯。農業、環境等相關行業涉及倫理風險的,可參照執行。(責任單位:市科委中關村管委會、市教委、市經濟和信息化局、市農業農村局、市衛生健康委及相關行業主管部門按職責分工負責)
(二)推動建立專業性、區域性科技倫理(審查)委員會。完善醫學領域區域倫理(審查)委員會運行機製,推動在人工智能、生命科學等領域建立區域性倫理(審查)委員會。區域倫理(審查)委員會負責本領域科技倫理的培訓與谘詢工作,承接本領域內未設立科技倫理(審查)委員會或倫理審查能力不足的創新主體的科技活動倫理審查工作,協助開展專家複核、重大案件調查等工作。(責任單位:市科委中關村管委會、市經濟和信息化局、市衛生健康委及相關行業主管部門按職責分工負責)
(三)開展科技活動的倫理審查。開展科技活動應進行科技倫理風險評估,涉及人、實驗動物的科技活動或根據法律、行政法規和國家有關規定需進行科技倫理審查的科技活動,應進行倫理審查。科技倫理(審查)委員會應堅持科學、獨立、公正、透明原則,開展對科技活動的倫理審查、監督與指導,切實把好科技倫理關。單位科技倫理(審查)委員會無法勝任審查工作要求或者單位未設立科技倫理(審查)委員會以及無單位人員開展科技活動的,應書麵委托其他滿足要求的單位科技倫理(審查)委員會或專業性、區域性科技倫理(審查)委員會開展倫理審查。科技倫理審查原則上采取會議審查方式,根據科技活動不同情形,倫理審查的簡易程序、專家複核程序和應急程序等要求,按照《科技倫理審查辦法(試行)》相關規定執行。(責任單位:市科委中關村管委會、市教委、市經濟和信息化局、市農業農村局、市衛生健康委及相關行業主管部門按職責分工負責)
國際合作科技活動屬於《科技倫理審查辦法(試行)》第二條所列範圍的,應通過合作各方所在國家規定的科技倫理審查後方可開展。對納入清單管理的國際合作科技活動,由相關行業主管部門組織專家對科技倫理審查結果開展複核。加強國際交流合作,積極參與國際科技倫理治理對話和規則製定。(責任單位:市科委中關村管委會、市教委、市經濟和信息化局、市農業農村局、市衛生健康委及相關行業主管部門按職責分工負責)
(四)推動建立倫理審查協作與結果互認機製。在確保倫理審查質量的前提下,相關行業主管部門應積極推動建立與完善倫理審查結果互認機製,按照實際需求製定工作細則,逐步擴大審查互認工作機製的實施範圍。發揮市屬醫院集團化優勢,加強市屬醫院倫理審查工作的協同。推進京津冀倫理審查結果互認機製,逐步實現跨機構、跨區域的科技倫理審查結果互認,提升倫理審查效率和質量。積極探索第三方倫理審查委員會的審查機製。(責任單位:市科委中關村管委會、市教委、市經濟和信息化局、市農業農村局、市衛生健康委及相關行業主管部門按職責分工負責)
五、嚴格科技倫理監管與違規懲戒
(一)加強科技倫理監督管理。相關行業主管部門要細化完善本係統科技倫理監管製度,加強對本係統各單位科技倫理(審查)委員會和納入清單管理的科技活動的監督管理。建立科技倫理審查複核專家庫,按照《科技倫理審查辦法(試行)》組建複核專家組,對納入清單管理的科技活動開展倫理審查專家複核。組織開展對重大科技倫理案件的調查處理,並利用典型案例加強警示教育。從事涉及納入清單管理的科技活動的單位,要建立健全科技活動全流程科技倫理監管機製和審查質量控製、監督評價機製,加強對納入清單管理的科技活動的動態跟蹤、風險評估和倫理事件應急處置。(責任單位:市科委中關村管委會、市教委、市經濟和信息化局、市農業農村局、市衛生健康委及相關行業主管部門按職責分工負責)
財政資金設立的科技計劃(專項、基金等),應加強科技倫理監管,監管全麵覆蓋指南編製、項目申報、立項評審、計劃實施、結題驗收、監督評估等各環節。(責任單位:市科委中關村管委會、市教委、市經濟和信息化局、市農業農村局、市衛生健康委及相關行業主管部門按職責分工負責)
(二)監測預警科技倫理風險。加強科技倫理風險預警和防控,相關部門要推動高等學校、科研機構、醫療衛生機構、社會團體、企業等,完善科技倫理風險監測預警機製;跟蹤新興科技發展前沿動態,對科技創新可能帶來的規則衝突、社會風險、倫理挑戰加強研判、提出對策。建設“人工智能安全與治理公共服務平台”,為人工智能倫理安全政策、安全風險監測、倫理安全評測方麵提供服務。對納入清單管理的科技活動,應做好前瞻性研判,更快、更準、更有效地識別風險,敏捷治理。(責任單位:市科委中關村管委會、市教委、市經濟和信息化局、市農業農村局、市衛生健康委及相關行業主管部門按職責分工負責)
(三)切實履行科技倫理違法違規查處責任。相關行業主管部門按照職責權限和隸屬關係,加強對本係統科技倫理違規行為調查處理的指導和監督。各高等學校、科研機構、醫療衛生機構、企業等是科技倫理違規行為單位內部調查處理的第一責任主體,應製定完善本單位調查處理相關規定,及時主動調查科技倫理違規行為,對情節嚴重的依法依規嚴肅追責問責。對單位及其負責人涉嫌科技倫理違規行為的,由上級主管部門調查處理。財政性資金設立的科研項目的申請、評審、實施、結題等活動中的科技倫理違規行為,由項目管理部門(單位)負責組織調查處理。(責任單位:市科委中關村管委會、市教委、市經濟和信息化局、市農業農村局、市衛生健康委及相關行業主管部門按職責分工負責)
(四)依法依規處理科技倫理違法違規行為。任何單位、組織和個人開展科技活動不得危害社會安全、公共安全、生物安全和生態安全,不得侵害人的生命安全、身心健康、人格尊嚴,不得侵犯科技活動參與者的知情權和選擇權,不得資助違背科技倫理要求的科技活動。對違背科技倫理要求的行為要依法依規嚴肅查處。相關行業主管部門、資助機構或責任人所在單位應區分不同情況,依法依規對科技倫理違規行為責任人給予責令改正,停止相關科技活動,追回資助資金,撤銷獲得的獎勵、榮譽,取消相關從業資格,禁止一定期限內承擔或參與財政性資金支持的科技活動等處理。科技倫理違規行為責任人屬於公職人員的依法依規給予處分,屬於黨員的依規依紀給予黨紀處分;涉嫌犯罪的移送司法部門依法予以懲處。(責任單位:市科委中關村管委會、市教委、市經濟和信息化局、市農業農村局、市衛生健康委及相關行業主管部門按職責分工負責)
六、深入開展科技倫理教育和宣傳
(一)加強科技倫理教育和人才培養。鼓勵高等學校開設科技倫理必(選)修課,開設專題講座,編寫生命科學、醫學、人工智能等重點領域科技倫理教材和讀本。教育引導青年學生樹立正確的科技倫理意識,遵守科技倫理要求。完善科技倫理人才培養機製,加快培養高素質、專業化的科技倫理人才隊伍。(責任單位:市教委、市衛生健康委、市科協及相關行業主管部門按職責分工負責)
(二)強化科技倫理培訓。將科技倫理培訓納入科技人員入職培訓、承擔科研任務、學術交流研討等活動,引導科技人員自覺遵守科技倫理要求,開展負責任的研究與創新。行業主管部門和相關單位應定期對科技倫理(審查)委員會成員開展培訓,增強其履職能力,提升科技倫理審查質量和效率。(責任單位:市科委中關村管委會、市教委、市經濟和信息化局、市農業農村局、市衛生健康委、市科協及相關行業主管部門按職責分工負責)
(三)加強科技倫理的宣傳與普及。利用多媒體技術手段,開展麵向社會公眾的科技倫理宣傳,推動公眾提升科技倫理意識,理性對待科技倫理問題。對存在公眾認知差異、可能帶來科技倫理挑戰的科技活動,相關單位及科技人員等應加強科學普及,引導公眾科學對待。新聞媒體應自覺提高科技倫理素養,科學、客觀、準確地報道科技倫理問題,避免泛化科技倫理問題。發揮高質量科普品牌活動效應,鼓勵學會、協會、研究會等搭建科技倫理宣傳交流平台,傳播科技倫理知識。(責任單位:市委宣傳部、市科委中關村管委會、市教委、市衛生健康委、市科協及相關行業主管部門按職責分工負責)

