那曲檬骨新材料有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

探討人工智能倫理建設的標準和規范

mK5P_AItists ? 來源:未知 ? 作者:工程師郭婷 ? 2018-07-16 14:50 ? 次閱讀

生物進化方向不明朗,是導致人類社會和人工智能領域很難統一倫理規范的深層次原因。21世紀以來,科技呈現爆發趨勢,特別是互聯網,腦科學和人工智能的最新進展,使的生物進化方向研究有了新的啟示,2008年以來,我們對互聯網大腦模型、AI的智商評測、和腦的進化進行研究,提出種群知識庫的進化是判斷生物進化方向的關鍵。并由此對人工智能倫理建設的標準和規范進行了探討。

一、制定人類和人工智能倫理的困境

倫理與智能、意識、生命和宇宙一樣,很難有統一的定義,一般來說,倫理是指在處理人與人,人與社會相互關系時應遵循的道理和準則。是指一系列指導行為的觀念,是從概念角度上對道德現象的哲學思考。它不僅包含著對人與人、人與社會和人與自然之間關系處理中的行為規范,而且也深刻地蘊涵著依照一定原則來規范行為的深刻道理。

由于倫理的設定往往與文化、宗教、地域、價值觀、世界觀有關,在人類數千年的文明史,至今我們也沒有一個統一的、標準的、明確的倫理體系,僅有一些大部分人承認的大體的原則。對于人工智能帶來的倫理沖擊,因為倫理問題的不完善和爭議而變得更為突出。

譬如1912撞上冰山后沉沒的泰坦尼克號,船上旅客在逃生的過程中究竟哪個群體獲得生命優先權。成為逃難過程中面臨的重要的問題

《2012》是一部關于全球毀滅的災難電影,電影中美總統讓物理科學家安全離開,自己留下時說到“一個科學家比幾十位官員更重要“;

著名的倫理思想實驗“扳道工的選擇”中,火車高速行駛,不能急停。而正前方有一分叉路軌, 左邊有5名被綁架者,右邊有1名被綁架者,這時扳道工是選擇讓火車通往左側還是右側?;

2017年,波士頓動力機器人在搬動箱子時,受到測試科學家的攻擊,導致站立不穩摔倒,互聯網的視頻觀眾提出抗議,認為侵犯了機器人的權利。并引發了科學界的爭論機器人有沒有自己的權利。

這些問題背后都蘊含了深刻的倫理問題,如何選擇,對與未來人工智能的倫理建設也將有重要的影響和意義。

二、生物進化沒有方向是倫理爭議的深層次原因

19世紀中葉,達爾文創立了科學的生物進化學說,以自然選擇為核心的達爾文進化論作為人類科學史最偉大的理論之一。統一了生物學的各個學科。達爾文進化論的影響不僅僅局限在生物學領域,也提供了一種全新的世界觀、生命觀、宇宙觀和方法論,對幾乎所有的科學和人文領域產生影響。包括人工智能的倫理問題最終也會受達爾文理論的影響。

達爾文進化論生物的進化沒有確定的方向,達爾文把生物進化過程設想成一棵不斷地生長、分支的大樹,現存的所有生物都位于這棵樹的某個小分支的頂端,進化樹不存在一個以人類為頂端的主干,人類只是進化樹上一個普普通通的分支。從達爾文進化論的角度看,人并不比老鼠,螞蟻更為高級,人類并不能代表生物的發展方向。

達爾文的進化論排斥了目的論(這被邁爾贊譽為其偉大的貢獻之一),達爾文主張變異是隨機的,用比上帝一點也不遜色的“自然”一詞來解釋其所精心構建的進化理論的核心。但是,達爾文也有其困惑和無奈,他感嘆道“這廣闊無垠、奇妙無比的宇宙……竟然是盲目的機遇或必然的產物感到非常難于甚至無法理解”(2-謝平. 2014. 生命的起源—進化理論之揚棄與革新.)

生物進化沒有方向,沒有高低等級之分的觀點,對人類社會和人工智能倫理建設會帶來如下影響:

因為生物的進化(演化)沒有方向,那么人類的進化也沒有統一的方向;人類進化沒有統一的方向,那么人類的創造物特別是人工智能也就沒有相同的進化方向;由于沒有沒有統一的進化方向,規范人類、人工智能與社會、自然關系的倫理就很難達成統一,形成標準。

三、新科技進展對生物進化方向的啟發

21世紀以來,互聯網,云計算、大數據、物聯網、人工智能、類腦計算、腦科學等等領域不斷涌現。人類科技出現又一輪爆發式增長。這其中腦科學、互聯網和人工智能領域的發展為尋找和發掘生物的進化方向提供了新的視角

3.1數億年來生物大腦的進化

數億年來,生物為了適應環境的變化,遵循“物競天擇,適者生存“的原則形成了不同種類的生命形態,雖然生物的表現形式千差萬別,但生物的核心-大腦確表現出明顯的方向性,從單細胞到人類,大腦越來越復雜,智慧程度越來越高。

諾貝爾獎獲得者澳大利亞科學家John.C.Eccles在其著作《腦的進化》中就提到“生物的大腦是從魚的大腦進化到爬行動物的大腦,再進化到哺乳動物的大腦,最后進化到人類的大腦。如果解剖人腦,我們可以清晰的看到類魚、類爬行動物、類哺乳動物的結構在人腦中涇渭分明。

生物通過自然競爭和自然選擇體現出生物的多樣性,長頸鹿的脖子更長,瞪羚羊跑的更快,老鷹的眼睛更犀利,但在大腦這個生物(動物)最重要的器官上,表現出方向,人類腦的結構中,在進化進程中的生物大腦一層包裹著一層,就如同化石的堆積一樣。

3.2互聯網大腦的形成與進化

2008年,根據不斷涌現的互聯網類腦現象,劉鋒(本文作者)和科學院大學彭庚等教授等人參考神經科學的大腦架構,發表論文《互聯網進化的趨勢與規律》,提出了互聯網大腦的模型,用來闡述互聯網發展的最新架構,此后10年之中劉鋒與彭庚,劉穎,石勇等教授和博士形成的研究團隊,逐步形成了互聯網大腦的完整圖示和定義;[1]

互聯網大腦的定義:互聯網大腦就是互聯網向與人類大腦高度相似的方向進化過程中,形成的類腦巨系統架構。互聯網大腦架構具備不斷成熟的類腦視覺、聽覺、軀體感覺、運動神經系統、記憶神經系統、中樞神經系統、自主神經系統。互聯網大腦通過類腦神經元網絡將將社會各要素(包括但不僅限于人,AI系統,生產資料,生產工具)和自然各要素(包括但不僅限于河流,山脈,動物,植物,太空)鏈接起來;互聯網大腦在群體智慧和人工智能的驅動下通過云反射弧實現對世界的認知,判斷,決策、反饋和改造。

互聯網類腦巨系統的形成可以存在如下推論:當生物進化到人這個程度之后,人類通過互聯網聯合在一起共同進化。而這種共同進化的結果是。連接了人類的互聯網,在結構上與大腦一步步走向高度相似,在空間上隨著人類的擴張不斷蔓延,如果有足夠的時間,可以預見到在足夠時間點后,空間,大腦,和互聯網三者將合為一體,進化成為智慧宇宙或宇宙大腦。

達爾文進化論的結論是向前推導的,即生物有共同的祖先,通過自然選擇,人這種物種出現了。互聯網、腦科學、人工智能的聯合進化是向后推導的,認為人通過自己創造的技術-互聯網向著智慧宇宙或宇宙大腦的方向進化。“人“這個要素將互聯網的進化和生物的進化連接起來【2】。

3.3智能等級的劃分與進化

2012年,劉鋒(本文作者)和和科學院石勇教授開始思考能否對不斷發展的互聯網大腦的智慧水平進行評測。這個研究課題隨后延伸成為對人工智能系統的智商水平進行評測研究。研究難點,如何建立一個能統一描述人類生命,機器人,人工智能系統、互聯網大腦模型智能特征的模型.

2014年,研究獲得進展,在參考馮·諾伊曼結構、戴維·韋克斯勒人類智力模型、知識管理領域DIKW模型體系等。建立了標準智能模型(Agent),提出任何一個智能體,包括AI程序,機器人,人類,也包括互聯網大腦模型都可以被描述成一個同時具備知識的輸入,掌握,創新和反饋的綜合系統。下圖為增加創新和云存儲的擴展馮諾依曼架構。【3】

探討人工智能倫理建設的標準和規范

擴展的馮·諾伊曼架構對于我們劃分智能的水平等級給與了重要啟發,判斷標準如下:

● 能不能和測試者(人類)進行信息交互,也就是有沒有輸入/輸出系統;

● 系統內部有沒有能夠存儲信息和知識的知識庫;

● 這個系統的知識庫能不能不斷更新和增長;

● 這個系統的知識庫能不能與其他人工智能系統進行知識共享;

● 這個系統除了從外部學習并更新自己的知識庫之外,能不能主動產生出新的知識并分享給其他人工智能系統。

依照上述原則,我們可以形成7個智能系統的智能等級劃分(數學公式省略)

探討人工智能倫理建設的標準和規范

對于人工智能系統的最高等級也就是第6級系統,最基本的特征就是隨著時間的向前推進,并趨向于無窮點時,不斷創新創造產生新知識的智能系統其輸入輸出能力,知識的掌握和運用能力也將趨近于無窮大,按照基督教對于上帝的定義“全知和全能”,可以看出智能系統在不斷創新創造和不斷積累知識的情況下,在足夠的時間里以人類為代表的智能系統將最終實現“全知全能”的狀態,從這個角度看,無論是東方文化的”神“,或西方文化中的“上帝”概念,從智能系統發展的角度看,可以看作是智能系統(包括人類)在未來時間點的進化狀態【3】。

如果基于標準智能模型,可以用如下數學公式描述全知全能的狀態(I 知識信息接收,O知識信息輸出,S,知識信息掌握或存儲,C 知識信息創新創造)

探討人工智能倫理建設的標準和規范

四、生物進化方向-用種群知識庫判斷進化方向和等級

推論1 種群知識庫向全知全能的方向進化

腦的進化,互聯網的進化,智能系統的智力等級劃分都表現出明顯的方向性。人工智能先驅尼爾遜教授對人工智能下了這樣一個定義:“人工智能是關于知識的學科,怎樣表示知識以及怎樣獲得知識并使用知識的科學。

對于這三個領域,他們的共同點都是承載的知識庫和使用知識的能力不斷提升

無論是腦的進化,互聯網的進化,智能系統的智力等級劃分,還是從生物的發展史可以看出,知識和智慧的提升是生物進化的核心,從種群知識庫容量和使用種群知識庫的能力兩個角度判斷生物進化的方向和生物的高低等級。當趨于無窮大時,通過種群知識庫向全知全能的進化,從而到達“上帝之點”。

探討人工智能倫理建設的標準和規范

上帝之點也就是歐米伽(Ω)點,是法國著名進化論哲學家德日進20世紀上半葉在《人的現象》一書中提出他寫到:人類是通過“合而創造”、“聯通領圣”、集成、綜合、統一、凝聚,由簡單到復雜,由低級到高級,由組織結構松散到組織結構富集,最終趨于一個終極目的的必然過程。他把這個人類進化的終極目的用最后一個希臘字母Ω來表示,叫作歐米伽(Omega)點。也就是人類將全知全能,因此Ω點也被稱作“上帝之點”。

推論2 物種之間通過種群知識庫發展速度進行競爭

生物種群知識庫和使用知識庫的能力,其膨脹速度是生物進化的焦點,其它生物的知識庫停滯,走向死胡同,因此在千萬年里沒有進一步的變化,在地球的生命圈中也處在越來越低的地位。

人類在近10萬年里,在知識和智慧上不斷擴展和加速,并因為互聯網和人工智能的發

明而得到進一步巨大飛躍,從而獲得了地球自然競爭的統治地位。

探討人工智能倫理建設的標準和規范

五、從生物進化方向探討AI倫理的建設和決策

5.1人工智能能否看作與人類同權的生命體

從標準智能模型的構造和生命的進化看,AI還不能看做與人類同權的生命體,它分擔了人類的部分知識和智慧功能,但在最重要的創造性和評審創造性價值方面無法替代,更為重要的是AI無法確定自己的進化方向和進化目標,也沒有正確進化的自然動力,它的進化動力來源于人類,依然是人類的工具,人與AI的對抗歸根結底依然是人與人的對抗。

探討人工智能倫理建設的標準和規范

5.2 以從種群知識庫的進化作為構建AI倫理的標準

從前面的討論看,知識和智慧的提升是生物進化的核心,從知識庫容量和使用種群知識庫的能力兩個角度判斷生物進化的方向和生物的高低等級。當趨于無窮大時,通過種群知識庫向全知全能的進化,從而到達“上帝之點”。這說明生物的進化存在方向和終點。那么在生命進化的過程中,那些促進和保護種群知識庫發展的行為和關系為正向的倫理標準。那些阻礙和危害種群知識庫發展的行為和關系為負面的倫理規則

探討人工智能倫理建設的標準和規范

5.3.從進化方向看AI倫理的決策探討

1)對于泰坦尼克號,在無法判斷乘客身份的緊急情況下,優先逃生的為婦女和兒童,他們代表了人類的未來。

2)2012電影中,總統選擇讓科學家乘坐飛機到達安全之地,并表達“一個科學家比幾十位官員更重要“,也是基于基于科學家相比總統對未來人類在知識的延續和創新更重要的判斷。

3)“扳道工的選擇”中,能否判斷哪一邊對人類未來的知識和智慧貢獻大?在沒有第三種選擇和無法判斷哪一邊對人類未來知識和智慧貢獻大的情況下,選擇讓人數更多的5人存活下去應為無奈之舉。

4)波士頓動力機器人在搬動箱子時,受到測試科學家的攻擊,導致站立不穩摔倒,這并不涉及對生命的虐待問題,因為我們在前面探討過,目前機器人和AI系統還不是生命體,更不是與人類平權的生命體。

5)最后一條也是非常重要的一條,在非緊急情況下對應對個體利益應進行保護,不能以群體利益侵占個體利益,發揮個人探索的能動性對種群知識庫的提升應是非常重要的途徑。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 人工智能
    +關注

    關注

    1796

    文章

    47676

    瀏覽量

    240297

原文標題:【南科大發言】人類賦予人工智能倫理,生物進化方向的突破是關鍵

文章出處:【微信號:AItists,微信公眾號:人工智能學家】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    【「具身智能機器人系統」閱讀體驗】1.初步理解具身智能

    : 應用場景的不確定性 產業鏈成本高 系統集成難度大 數據瓶頸 倫理規范 四、具身智能的傳統技術方向 具身智能從傳統的技術方向來看,主要分為如下幾個方向: 基于行為的
    發表于 12-28 21:12

    嵌入式和人工智能究竟是什么關系?

    嵌入式和人工智能究竟是什么關系? 嵌入式系統是一種特殊的系統,它通常被嵌入到其他設備或機器中,以實現特定功能。嵌入式系統具有非常強的適應性和靈活性,能夠根據用戶需求進行定制化設計。它廣泛應用于各種
    發表于 11-14 16:39

    萬集科技受邀參加北汽人工智能科技日活動

    近日,萬集科技受邀參加了由北汽新能源舉辦的人工智能科技日活動。此次活動匯聚了眾多人工智能領域的領先企業及科研機構,共同探討人工智能技術如何推動智能網聯汽車產業的升級與發展。
    的頭像 發表于 11-13 16:41 ?532次閱讀

    《AI for Science:人工智能驅動科學創新》第6章人AI與能源科學讀后感

    探討人工智能如何通過技術創新推動能源科學的進步,為未來的可持續發展提供了強大的支持。 首先,書中通過深入淺出的語言,介紹了人工智能在能源領域的基本概念和技術原理。這使得我對人工智能
    發表于 10-14 09:27

    AI for Science:人工智能驅動科學創新》第4章-AI與生命科學讀后感

    很幸運社區給我一個閱讀此書的機會,感謝平臺。 《AI for Science:人工智能驅動科學創新》第4章關于AI與生命科學的部分,為我們揭示了人工智能技術在生命科學領域中的廣泛應用和深遠影響。在
    發表于 10-14 09:21

    《AI for Science:人工智能驅動科學創新》第一章人工智能驅動的科學創新學習心得

    ,還促進了新理論、新技術的誕生。 3. 挑戰與機遇并存 盡管人工智能為科學創新帶來了巨大潛力,但第一章也誠實地討論了伴隨而來的挑戰。數據隱私、算法偏見、倫理道德等問題不容忽視。如何在利用AI提升科研效率
    發表于 10-14 09:12

    risc-v在人工智能圖像處理應用前景分析

    其在人工智能圖像處理領域的應用提供更多支持。 標準化和規范化推進 :為了降低RISC-V的碎片化風險并促進其在全球范圍內的廣泛應用,標準化和規范
    發表于 09-28 11:00

    OpenAI等簽署歐盟《人工智能公約》

    歐盟委員會于近日公布了《人工智能公約》(AI Pact)的首批簽署方名單,標志著全球科技巨頭在人工智能倫理與責任方面邁出了重要一步。該公約旨在通過“自愿承諾”的方式,引導企業在人工智能
    的頭像 發表于 09-27 14:31 ?312次閱讀

    名單公布!【書籍評測活動NO.44】AI for Science:人工智能驅動科學創新

    、污染治理、碳減排三個方面介紹了人工智能為環境科學引入的新價值和新機遇。 第8章探討了AI for Science在快速發展過程中面臨的機遇和挑戰,并對“平臺科研”模式進行了展望。 申請時間
    發表于 09-09 13:54

    FPGA在人工智能中的應用有哪些?

    FPGA(現場可編程門陣列)在人工智能領域的應用非常廣泛,主要體現在以下幾個方面: 一、深度學習加速 訓練和推理過程加速:FPGA可以用來加速深度學習的訓練和推理過程。由于其高并行性和低延遲特性
    發表于 07-29 17:05

    人工智能技術在集成電路中的應用

    隨著科技的飛速發展,人工智能(AI)與集成電路技術已成為推動現代電子工業進步的重要力量。兩者相輔相成,共同推動著電子產品的智能化、高效化和可靠化。本文將從多個角度詳細探討人工智能技術在集成電路中的應用,涵蓋其設計、優化、功能實現
    的頭像 發表于 07-15 09:43 ?3898次閱讀

    中國電信亮相2024世界人工智能大會

    在2024年世界人工智能大會暨人工智能全球治理高級別會議(WAIC2024)的璀璨舞臺上,上海以其獨特的魅力與前沿的科技氛圍,再次成為全球目光的焦點。本次大會以“以共商促共享·以善治促善智”為主題,匯聚了全球人工智能領域的精英與
    的頭像 發表于 07-08 15:59 ?717次閱讀

    人工智能與大模型的關系與區別

    在科技日新月異的今天,人工智能(AI)已成為推動社會進步的重要力量。而在人工智能的眾多分支中,大模型(Large Models)作為近年來興起的概念,以其巨大的參數數量和強大的計算能力,在多個領域展現出了非凡的潛力。本文旨在深入探討人工
    的頭像 發表于 07-04 16:07 ?4121次閱讀

    嵌入式人工智能的就業方向有哪些?

    嵌入式人工智能的就業方向有哪些? 在新一輪科技革命與產業變革的時代背景下,嵌入式人工智能成為國家新型基礎建設與傳統產業升級的核心驅動力。同時在此背景驅動下,眾多名企也紛紛在嵌入式人工智能
    發表于 02-26 10:17

    全球科技巨頭聯手遵循人工智能倫理建議

    教科文組織總干事阿祖萊對此表示贊賞,他指出,隨著《人工智能倫理問題建議書》于2021年11月獲批,實現全球科技界的類似公開承諾成為了一項當務之急。
    的頭像 發表于 02-18 16:29 ?734次閱讀
    大发888xp缺少 casino| 明珠百家乐的玩法技巧和规则 | 百家乐官网棋牌交| 月亮城百家乐官网的玩法技巧和规则| 百家乐玩法和技巧| 金榜百家乐的玩法技巧和规则| 网上娱乐城| 百家乐官网庄闲和各| 天地人百家乐现金网| 威尼斯人娱乐 老品牌| 阜阳市| 百家乐官网园是真的不| 威尼斯人娱乐客户端| 梁山县| 24山向是什么| 大发888娱乐城 建账号| 百家乐官网路单破解软件| 博九网百家乐游戏| 大发888游戏平台dafa 888 gw| 波音百家乐官网网上娱乐| 百家乐视频游戏冲值| bet365在线体育| 百家乐官网娱乐网77scs| 金冠百家乐的玩法技巧和规则 | 大西洋娱乐城开户地址| 沙龙百家乐官网娱乐城| 赌王百家乐的玩法技巧和规则 | 网络百家乐的玩法技巧和规则| 夏津县| 百家乐筹码方形筹码| bet365网址| 恒丰百家乐官网的玩法技巧和规则 | 娱乐城百家乐官网技巧| 百家乐路单规则| 澳门百家乐官方网站| 百家乐磁力录| bet365网址yalanad| 怎么赢百家乐官网的玩法技巧和规则 | 阳曲县| 百家乐游戏平台有哪些哪家的口碑最好 | 百家乐官网投注外围哪里好|