超級人工智能帶來(lái)的AI倫理是什么樣的？

　　時(shí)至今日，人們對AI人工智能并不陌生——城市中隨處可見(jiàn)的AI場(chǎng)景及應用，給人類(lèi)生活帶來(lái)了很多變化：面部識別，讓城市通勤、居家有了更便捷的體驗;AI模擬成像，讓古風(fēng)甚至穿越成為可能;智能算法的物品篩選，讓購物實(shí)現千人千面。而隨著(zhù)接踵而來(lái)的核心技術(shù)的突破、重磅落地的技術(shù)前沿革新，“超級人工智能”的誕生及應用讓社會(huì )對其產(chǎn)生了不同的看法，一方面認為AI可極大提升生產(chǎn)力，推動(dòng)社會(huì )進(jìn)步，改善人類(lèi)的生存環(huán)境;另一方面則強調AI顛覆性的發(fā)展與存在，或將在未來(lái)大面積取代人類(lèi)，并帶來(lái)倫理層面的挑戰。

　　AI倫理，顧名思義就是AI的倫理學(xué)，亦稱(chēng)作“道德哲學(xué)”，是對人類(lèi)道德生活進(jìn)行的系統性思考和研究。人類(lèi)對于A(yíng)I倫理相關(guān)的話(huà)題，探討已久。數據科學(xué)家凱西·奧尼爾則在《算法霸權：數學(xué)殺傷性武器的威脅》一書(shū)中，描述了利用大數據、人工智能相關(guān)技術(shù)導致的偏見(jiàn)和不公。物理學(xué)家史蒂芬·霍金曾經(jīng)談到，徹底的人工智能可能導致人類(lèi)的滅亡，伊隆·馬斯克認為，人工智能是一個(gè)惡魔，但是人類(lèi)不一定具備控制這個(gè)惡魔的能力。

　　但即便如此，從1950年的圖靈測試落地到今日人工智能城市AI CITY的誕生，AI的發(fā)展顯而易見(jiàn)，在“曲折”中持續前行，由此其中夾雜的AI倫理也逐漸成為AI發(fā)展之于社會(huì )影響的輿論焦點(diǎn)：“超級人工智能”是否會(huì )威脅人類(lèi)的生存安全?算法決策是否能夠保證結果公平?當越來(lái)越多的“超級人工智能”，特別是機器人投入到使用中，人與機器人的關(guān)系如何處理?從弱人工智能到強人工智能甚至是超級人工智能，人工智能是否會(huì )失控?所有這些關(guān)乎人工智能發(fā)展對人類(lèi)社會(huì )基本運營(yíng)法則的影響的討論，都屬于人工智能倫理的研究范疇。這些專(zhuān)家和學(xué)者的擔心并非杞人憂(yōu)天。機器學(xué)習、深度學(xué)習算法等人工智能技術(shù)，使得計算機可以從數據中不斷“學(xué)習”，實(shí)現自主學(xué)習與進(jìn)化。當前在眾多領(lǐng)域，如餐飲、社會(huì )服務(wù)、巡控檢查等，人工智能已經(jīng)代替人開(kāi)展了很多工作。未來(lái)在某些領(lǐng)域，人工智能可以做出比人類(lèi)更高效、更精準、更科學(xué)的預測和決算。當人工智能進(jìn)化到足夠的高度，產(chǎn)生類(lèi)似人的情感及“人性”，甚至是與人類(lèi)倫理類(lèi)似的“道德倫理觀(guān)”時(shí)，人與機器人的關(guān)系是什么，倫理學(xué)中人的地位是否會(huì )發(fā)生變化?這些當前并未清晰定義的問(wèn)題關(guān)系到未來(lái)人類(lèi)生存、生活、發(fā)展的方方面面。

　　AI倫理的5大熱點(diǎn)領(lǐng)域

　　隨著(zhù)人們對于這一問(wèn)題的認識不斷深入，目前圍繞人工智能倫理，已經(jīng)有了明確的問(wèn)題聚焦。算法歧視、數據隱私、安全與責任、機器人與人的關(guān)系以及科技貧困是當前AI倫理5大熱點(diǎn)研究領(lǐng)域。

　　算法歧視 算法基于已有的數據進(jìn)行未來(lái)的預測，算法模型和數據輸入很大程度上決定著(zhù)預測結果。無(wú)法保證算法開(kāi)發(fā)設計者自身的價(jià)值判斷不會(huì )嵌入算法系統。

　　數據隱私 人工智能充分挖掘和利用數據的相關(guān)性，促進(jìn)了大量數據的采集和流動(dòng)。通過(guò)人工智能終端，后臺服務(wù)器可以輕易讀取個(gè)人的活動(dòng)信息，公共區域高清攝像頭隨時(shí)捕捉行人、行車(chē)信息，人臉識別系統輕松抓取面部生物特征，個(gè)人、企業(yè)的數據隱私將面臨越來(lái)越多的討論。深度偽造技術(shù)的應用，也出現了濫用個(gè)人信息，制造虛假導向等問(wèn)題。

　　安全與責任 自動(dòng)駕駛汽車(chē)曾導致人員的傷亡、機器人也曾致人受傷。人工智能系統有較強的自主性，也存在受到網(wǎng)絡(luò )黑客篡改汽車(chē)數據的隱患，當出現相關(guān)的安全與責任問(wèn)題時(shí)，如何判斷責權。

　　機器人與人的關(guān)系 人工智能與人類(lèi)是命令和服從的關(guān)系還是友好互動(dòng)，和諧共生?機器人是否應該獲得“意識覺(jué)醒”，機器對人類(lèi)是否會(huì )產(chǎn)生“反控制”，機器人與人的關(guān)系應該如何界定。

　　科技貧困 人工智能應用將在越來(lái)越多領(lǐng)域代人工，人工智能對人力資源的取代，使人類(lèi)勞動(dòng)力將面臨失業(yè)風(fēng)險。人工智能作為一種高精尖的技術(shù)，具有一定的技術(shù)門(mén)檻，可能產(chǎn)生人工智能技術(shù)被少數實(shí)力雄厚的大企業(yè)壟斷的情況，而造成財富格局的固定化、收入差距的擴大化。

　　可以看到，AI倫理的5大焦點(diǎn)研究領(lǐng)域實(shí)際上涵蓋了從科技發(fā)展到經(jīng)濟增長(cháng)，乃至人類(lèi)安全和社會(huì )穩定等諸多重大問(wèn)題，僅靠學(xué)界提出呼聲，顯然是不夠的?？上驳氖?，我們正在看到包括各國政府在內的多種組織和社會(huì )團體正在參與到AI倫理的討論與探索當中。尤其是一批新銳科技公司從自身業(yè)務(wù)出發(fā)對AI倫理的闡述和發(fā)展貢獻了有益的新思路。

　　多方構筑下的世界通識

　　2015年之后，隨著(zhù)人工智能在包括自動(dòng)駕駛、城市智能化領(lǐng)域的廣泛應用，各國政府、非政府組織及各類(lèi)研究機構開(kāi)始對AI倫理積極地探索。2019年，我國提出組建國家科技倫理委員會(huì )進(jìn)行科技倫理相關(guān)的規范和研究，2020年該委員會(huì )正式成立。2021年1月1日，新《民法典》正式實(shí)施，從包括保障公眾私生活“安寧權”、構筑個(gè)人信息安全防火墻到全面建立反性騷擾制度防線(xiàn)以及及時(shí)應對AI等新技術(shù)對人格權的挑戰進(jìn)行了描述。

　　歐洲委員會(huì )在《人工智能白皮書(shū)》中提出，人工智能最終的目的是增進(jìn)人類(lèi)福祉，AI以人為本，給予道德，可持續發(fā)展，尊重最基本的權利和價(jià)值;歐盟委員會(huì )提出“可信AI”，明確了三項基本原則：一、AI 應當符合法律規定;二、AI 應當滿(mǎn)足倫理原則;三、AI應當具有可靠性。

　　IEEE(電器和電子工程師協(xié)會(huì ))發(fā)布《道德準則設計》，主張將價(jià)值觀(guān)嵌入自主智能系統，并將體現人權的最高立項納入人工智能及自主系統的一般原則。生命未來(lái)研究所提出的阿西洛馬人工智能原則中從價(jià)值歸屬、司法透明、共同繁榮等13個(gè)方面對人工智能系統及應用提出了要求。

　　與此同時(shí)，一批新銳的人工智能領(lǐng)域的科技公司作為AI技術(shù)的具體研發(fā)方和應用方也提出了自己對于A(yíng)I倫理的理解。AI倫理無(wú)疑將成為未來(lái)AI CITY建設的重點(diǎn)關(guān)注方向。這類(lèi)需要在全球進(jìn)行業(yè)務(wù)拓展的公司而言，將中西方倫理觀(guān)念進(jìn)行融合，使其更具普適性和指導性，不僅是出于業(yè)務(wù)拓展的需要，也從具體操作層面彌補了當前AI倫理研究的盲點(diǎn)。

　　圍繞人工智能倫理的探索，從當前的倫理問(wèn)題思索，到未來(lái)可能產(chǎn)生相對明確而又普適性極強的倫理原則，形成倫理測度，進(jìn)而進(jìn)行倫理符合性評估是未來(lái)人工智能城市建設中不可回避的問(wèn)題。但是中西方在道義與功利的倫理價(jià)值取向、情感主義和理性主義文化精神等層面存在差異，導致了對于A(yíng)I倫理的闡述和解讀形成了不同的思想陣營(yíng)。以疫情中東西方社會(huì )面對個(gè)人健康碼的態(tài)度和反應速率為例，不同文化心理下的市民對于公眾安全與個(gè)人隱私之間的博弈有不同的理解。

　　此外，有研究者將人工智能分為弱人工智能、強人工智能和超人工智能，面對人工智能本身的復雜性以及未來(lái)發(fā)展極大的不確定性，當前還無(wú)法計算和預測超人工智能是否會(huì )產(chǎn)生危害，產(chǎn)生何種危害。而人工智能倫理的研究，正是希望通過(guò)倫理的原則對人工智能產(chǎn)生的負面影響形成制約。對于這樣的科技公司而言，如何將倫理研究嵌入技術(shù)研發(fā)，使二者形成深度融合，解決當前及未來(lái)的問(wèn)題，最大效用發(fā)揮人工智能的正面作用必將是關(guān)乎公司未來(lái)長(cháng)遠發(fā)展的重要課題。

　　任何一種革命性技術(shù)的到來(lái)，總是會(huì )伴隨著(zhù)這樣或那樣的認知沖擊。從轉基因技術(shù)到克隆技術(shù)再到當前的人工智能，隨著(zhù)人們知識邊界的拓展，倫理范疇的討論也將始終伴隨左右。未來(lái)的AI倫理研究和應用必將是一個(gè)學(xué)界、政界、司法界、科技界共同構建的有機生命體，并向著(zhù)世界范圍內的通識漸進(jìn)。