【聚焦科技倫理】

　　◎陳小平

　　當前，加強人工智能領域科技倫理建設的必要性、緊迫性和原則規范已成共識。前不久，《科技倫理審查辦法(試行)》(以下簡稱《審查辦法》)的正式發布，標志著我國科技倫理建設全面進入治理階段，對于推動我國人工智能等領域的健康發展和負責任創新具有重要的現實意義。

　　現階段人工智能倫理審查面臨諸多挑戰

　　現階段人工智能科技活動倫理審查工作重點和突出難點可歸納為以下幾個方面。

　　一是正確判斷科技活動是否屬于倫理審查范圍。《審查辦法》第二條明確規定了科技活動的審查范圍，從內容上看主要考慮的是受試者的合法權益以及科技活動可能對生命、生態、公共秩序、社會發展等造成的倫理風險。該文件是科技倫理審查的通用性規定，尚未對每一項具體科技活動是否屬于審查范圍作出規定。因此，科技活動承擔單位的科技倫理審查委員會(可能還有承擔專家復核的機構)需要結合實際情況，細化本單位的科技倫理審查范圍，同時根據《審查辦法》第九條制定科技倫理風險評估辦法，指導科研人員開展科技倫理風險評估，按要求申請倫理審查。目前，雖然我國人工智能學界、業界和管理機構對倫理風險的認識正在提升，但風險判斷能力和水平滯后于認識程度的提升，如何作出正確判斷將是一項新挑戰。

　　二是恰當把握審查內容和審查尺度。《審查辦法》第十五條對科技倫理審查內容作出了明確的規定，特別對涉及個人隱私數據等的科技活動提出了要求，與個人信息保護法、數據安全法等進行了很好的銜接。但在實際工作中，還需要制定可操作的審查細則。此外，《審查辦法》提出，地方、相關行業主管部門或科技類社會團體可以制定或修訂本地方、本系統、本領域的科技倫理審查細則、具體規范和指南。今年2月，國家衛健委、教育部、科技部等制定了《涉及人的生命科學和醫學研究倫理審查辦法》，對生命科學和醫學領域的研究作了更詳細的規定，而人工智能領域尚缺少更具體的規定，因此人工智能倫理審查實施細則的制定應是下一步重點工作之一，并且要在審查實踐中逐步完善。在實施細則的設置中，如何恰當把握審查尺度將面臨挑戰，容易出現尺度過松或過嚴的現象，進而對后續的倫理審查產生系統性影響。如果尺度過松，有可能導致一些存在倫理風險的科技活動倫理審查不全面，從而留下倫理風險隱患；如果尺度過嚴，可能妨礙科技活動的正常推進，降低國家科技進步和經濟、社會發展的速度。

　　三是加強科技倫理風險預警與跟蹤研判?！秾彶檗k法》規定，對可能產生較大倫理風險挑戰的新興科技活動實施清單管理。清單的制定涉及對倫理風險的預測，這種預測往往是非常困難的，對人工智能長期社會效應的分析、預測尤其困難。因此，清單的滯后性將持續存在。尤其需要警覺的是，某些倫理后果無法通過事后治理加以消除，或事后治理的代價過大。因此，清單的動態調整機制尤為重要。在對較高風險的科技活動的倫理風險防控上，要堅持《關于加強科技倫理治理的意見》提出的敏捷治理要求，加強科技倫理風險預警與跟蹤研判，及時動態調整治理方式和倫理規范，快速靈活應對科技創新帶來的倫理挑戰。

　　多措并舉推動人工智能倫理審查落到實處

　　人工智能領域的倫理審查是一項新事物，要求科技活動的承擔者、倫理委員會委員和工作人員、參與復核的專家和其他工作人員等參與《審查辦法》實施的人員認真學習、深刻理解《審查辦法》及其他相關政策規定，掌握背景知識，不斷在實踐中提高倫理審查的能力。

　　首先，要提高參與《審查辦法》實施的人員對人工智能的認識水平。當前，人們對于人工智能的認識仍存在不少誤區，不少人錯誤地認為人工智能與人類智能是本質相同的，只是程度不同而已，為此認為對人的管理、教育方法也適用于人工智能。這種誤解、誤判會嚴重地干擾人工智能治理?！叭斯ぶ悄苤浮丙溈ㄥa等人首次使用了“人工智能”一詞，并明確指出，“AI的大部分工作是研究世界對智能提出的問題，而不是研究人或動物。AI研究者可以使用人沒有或人不能使用的方法，即使這些方法主要涉及計算”。由此可見，在人工智能倫理審查中務必根據數據、模型、算法、平臺等AI技術要素的實際特性，作出客觀的判斷，而不能混淆人工智能與人類智能。

　　其次，根據倫理審查的人才現狀和工作需要，亟須加強科技倫理審查人才隊伍的培養，以滿足現階段的迫切需要。要從更長期的需要出發，加大力度，通過學校教育、進修培訓等方式，培養一大批科技倫理治理的專業人才。

　　再次，落實《審查辦法》必須從全局觀點出發，清單管理是重中之重，應根據人工智能研究和應用的發展情況和治理需要，對清單進行及時調整，并就調整內容及時發布相關說明和實施指導。另外，有條件的地區、行業和單位，應加快啟動倫理審查工作，及時總結經驗教訓，發揮示范和引領作用。還需加強《審查辦法》實施過程中相關經驗的信息共享，以提高全國范圍內倫理審查的效率和效能。

　　最后，針對滯后性挑戰和人工智能的特點，建議開設一個新的研究方向——人工智能可控性研究。以往的研究主要針對工程可靠性，而對人工智能來說，這是遠遠不夠的，有必要從基礎理論、模型、算法、數據、平臺等各個角度，對人工智能的可控性展開全面研究。同時，需要積極探索人工智能在相關領域的倫理效應和潛在風險，增強我國對人工智能等科技活動的風險預測和防范能力。

　　(作者系中國人工智能學會人工智能倫理與治理工委會主任)

　　來源：科技日報