全國政協十三屆二次會議10日下午3點舉行第三次全體會議，委員進行大會發言。

　　中國民間商會副會長，百度在線網絡技術（北京）有限公司董事長兼首席執行官 李彥宏：

　　我的發言題目是：加快推動人工智能倫理研究。

　　作為新一輪科技革命和產業變革的重要驅動力，人工智能已上升為國家戰略。2018年，習近平總書記在中共中央政治局集體學習時強調，要發揮好人工智能的“頭雁”效應，也要“加強人工智能相關法律、倫理、社會問題研究”。這為我國人工智能健康發展指明了方向，讓技術更好地服務于經濟社會發展和人民美好生活。

　　人工智能將會在未來幾十年對人類社會產生巨大的影響，帶來不可逆轉的改變，這已經成為國際社會的共識。如同倫理道德是人類文明數千年發展的重要穩定器，人工智能倫理將是未來智能社會的發展基石。當前，人工智能還處在發展初期，但已經展現出巨大的變革力量。機器不僅在語音識別、人臉識別等領域接近，甚至在某些方面超過了人的能力，而且未來可以代替人駕駛汽車、診斷病情、教授知識、檢驗產品等。也就是說，機器將不再是單純的工具，而是有可能幫助甚至部分代替人進行決策。只有建立完善的人工智能倫理規范，處理好機器與人的新關系，我們才能更多地獲得人工智能紅利，讓技術造福人類。

　　歷史上，幾乎每一次重大技術變革都會對經濟社會發展帶來新的挑戰，人工智能已經引發了社會上的一些擔憂：人工智能是否安全可控，人會不會被機器取代，人與機器的責任如何界定，等等。例如，隨著人工智能在衣食住行領域的廣泛應用，個人身份信息和行為數據有可能被整合在一起，這讓機器更了解我們，為每個人提供更好的服務，但如果使用不當，則可能引發隱私和數據泄露問題；如何更好地解決這些社會關注的倫理相關問題，需要我們提早考慮和布局。

　　2017年，國務院出臺的《新一代人工智能發展規劃》提出到2020年，要初步建立部分領域的人工智能倫理規范。一些國內企業也在積極探討，提出了人工智能倫理的原則，如人工智能的最高原則是安全可控，創新愿景是促進人類更平等地獲取技術和能力，存在價值是教人學習、讓人成長，而非超越人、替代人，終極理想是為人類帶來更多自由和可能。中國人工智能技術研發和應用處在國際領先的位置，但有關人工智能倫理的探討剛剛起步，參與的國際合作也相對較少，尚未形成廣泛共識。

　　建議由政府主管部門牽頭，組織跨學科領域的行業專家、人工智能企業代表、行業用戶和公眾等相關方，開展人工智能倫理的研究和頂層設計，促進民生福祉改善，推進行業健康發展，掌握新一輪技術革命的主動權。

　　一是明確人工智能倫理原則。統籌各方力量，加強相關研究，以老百姓的美好生活為終極目標，兼顧行業創新發展，明確人工智能在安全、隱私、公平等方面的倫理原則，制定人工智能倫理的指引性文件，對涉及人工智能倫理的相關問題進行評估和指導。

　　二是強化領軍企業擔當，加快人工智能倫理原則落地。在信息推薦、自動駕駛、虛擬現實等熱點領域，推進企業引領示范，在產品設計和業務運營中貫徹人工智能倫理原則，讓人工智能提供的信息和服務幫助人們成長，獲得更多發展機會。同時，鼓勵企業探索解決實踐中產生的人工智能倫理新問題，共享行業經驗，實現人工智能技術和倫理的協同發展，更好地服務于社會。

　　三是加強國際交流，引領行業發展，凝聚全球共識。我們要積極參與全球人工智能倫理原則的研究和制定，及早識別禁區，吸收和弘揚“以人為本”等中國優秀傳統文化精髓，讓技術創新更好地造福人類，為國際人工智能倫理研究貢獻中國智慧。

　　未來已來，讓我們抓住人工智能的戰略發展機遇期，加快倫理研究和創新步伐，構筑我國人工智能發展的競爭優勢，早日建成智能社會，用技術造福百姓。