最近，韓國科學技術院大學與軍工企業“韓華 Systems”合作研發自主武器，遭全球50多名人工智能學者聯名抵制，南京大學周志華教授是唯一一名中國內地學者。
周志華認為，其危險之處在于讓機器自己決定是否對人類進行毀滅性打擊，“自主武器首先在倫理上就是錯誤的”。
近年來，人工智能技術突飛猛進，產業界為此狂熱不已。但是從已經暴露出的多起輿論事件來看，人工智能技術正在被利益綁架，倫理規范、法律約束一片蒼白，這已引發業界的深憂。
自主武器要舉起簡單規則的屠刀
兵者不祥之器，非君子之器，不得已而用之。我國著名思想家老子對武器的使用曾有恰如其分的闡述。
“武器作為一種必要的‘惡’而存在，它的倫理規范要高得多。”東南大學程國斌副教授認為，與人類控制的武器相比，自主武器依靠提前設定的程序，但再復雜的程序也是一種簡單規則，一旦達到觸發條件，即可自動執行，比如對方攜帶武器或有顯著特征等，“而現場的環境是極其復雜多變的，換成是人類，當時的決策也不見得就正確，更何況是機器依據一個簡單的規則”。
一般的智能武器早就有了，但是最終做決定的都是人類。而自主武器，是要把這個“決定權”交給機器，讓機器去決定是否對人類進行殺戮。
“如果這樣的武器開發出來，自主武器將導致戰爭的第三次革命，戰爭將比以往任何時候都更容易發生并且更殘忍。”周志華等50多名學者在公開信中寫道，它們有可能成為恐怖分子的武器。暴君和恐怖分子可以利用它們對付無辜的人群，他們不會理會任何的道德限制。如果打開了這個潘多拉魔盒，將很難關閉。
任何一個科研領域都存在不該去觸碰的東西。例如克隆人是被主流生命科學界所禁止的。這就是科技倫理劃定的禁區，也是主流價值觀和人類道德的共識。
“人類在使用武器時，受自由意志和道德責任支配，而自動武器則是依據固定程序做出判斷，既沒有責任主體，也不會產生對殺戮的道德反思，這非常可怕。”程國斌說。
兩種倫理規范缺一不可
設想一下：當一輛自動駕駛汽車在高速行駛，前方車道上突然跑出一個人，如果保持車道不打方向就有可能撞死對方保住自己，如果急打方向避開對方卻有可能丟了自己的性命……這時，計算機如何決策才是合理的？
這是人工智能業界廣為討論的一個倫理問題，就如同媽媽和女友落水先救誰的問題一樣，答案并不明朗。
“人工智能面對的倫理問題，其實都是傳統倫理學討論過的。只是問題形式變了，從而引起公眾關注。”程國斌告訴記者，把這個案例中的駕駛者換成人類，就不會引起這么廣泛的關注。
學界把人工智能倫理分為兩方面，一是對機器而言，人類設計的程序，本身就包含道德規范在其中；另一方面是對人，將技術或產品應用的人群，也必須受道德約束。兩者缺一不可。
周志華認為，強人工智能“不能做、不該做！”強人工智能即具有心智和意識、能根據自己的意圖開展行動。霍金、馬斯克等擔憂的“人工智能威脅人類”，即指強人工智能。迄今為止，主流研究都不支持讓機器擁有自主意識。
而對于技術使用者的倫理和法規要求，目前還顯得支離破碎和虛弱無力。例如，近日支付寶因收集個人金融信息不符合最少、必須原則，且信息使用不當被罰5萬元。有網友戲稱，“這處罰也就是罰酒一杯”。
“在網絡信息領域，技術走得太快，倫理卻沒有共識，比如數據搜集技術非常高效，但是幾乎沒有有效的控制和評價的手段，這就像一個小孩拿槍玩耍，誰也不知道危險會在何時以什么樣的方式發生。”程國斌說。
倫理不是技術創新的絆腳石
過去，倫理對計算機科學來說似乎不太相關。“碼農”寫的軟件，似乎不大可能造成身體的傷害、疼痛或死亡。
但是，近年來倫理問題陡增。國內的大數據殺熟輿論事件還未平息，國外就曝出Facebook的數據泄露為政治競選服務的丑聞。技術帶來的負面問題，極大地增加了公眾的焦慮和不信任。
2018年新學期，哈佛、康奈爾、MIT、斯坦福等美國高校的課程表上多了一門新課程，名為人工智能倫理、數據科學倫理、技術倫理、機器人倫理等。
與此同時，谷歌、亞馬遜、Facebook等越來越多的互聯網和人工智能公司都開始擁抱科技倫理，甚至成立專門的倫理中心或倫理委員會，招聘人工智能政策和倫理研究員。
而我國，才剛剛開始針對理工科研究生系統化地推行科技倫理教育，更毋庸說是詳細地劃分不同科學領域的倫理課程。
“這是因為西方社會受宗教文化影響，始終對科技發展懷有警惕之心，對倫理問題更為敏感。”程國斌說，在我國還是對技術持簡單樂觀主義占主流。
2016年3月，“阿爾法狗”橫掃圍棋世界冠軍，讓人工智能名聲大噪。“產業界、金融界、技術界一下子狂熱起來，但是倫理和法律確實沒跟上。”南京信息工程大學副教授徐軍說，“技術是一把雙刃劍，就看是誰在用它。”
技術發展不同于科學探索，它指向更加具體的目標。近代德國社會學家馬克斯·韋伯曾提出工具理性與價值理性區分的學術概念，其核心是說技術或者工具追求的是如何高效地實現既定的目標，而價值理性的任務是考察這一目標對人類福祉和社會發展所具有的價值，兩者必須統一。
“當出現倫理問題，單靠幾十名學者呼吁是不夠的，需要開發者、決策者以及社會各方形成共識。”徐軍認為。
但是，在道德觀愈加多元化的今天，形成社會共識越來越難。即使如此，專家們還是呼吁，人工智能的開發者、決策者應該更加自律；相關企業應設立倫理審查機制，以防止技術被濫用；相關高校應盡快開設人工智能倫理課程，讓學生走出校門可以做到負責任地創新；同時，要設定更加嚴厲的法律法規紅線，大幅提高違法成本。
上一篇：新疆最大機器人制造基地三個月建成投產
下一篇：桁架機器人干起活來“飛檐走壁”
推薦閱讀
史海拾趣
常州能動（ENDRIVE）公司自創立之初，就將技術創新作為公司發展的核心驅動力。在公司發展的早期階段，研發團隊成功開發出一款高效能、低能耗的電源管理芯片，這一創新產品在市場上引起了廣泛關注。通過不斷的技術迭代和優化，這款芯片的性能逐漸提升，成本逐漸降低，成為了公司的明星產品，為公司的快速發展奠定了堅實基礎。
進入21世紀，隨著數據存儲需求的爆炸式增長，CMD公司敏銳地捕捉到了這一市場機遇。公司開始重點研發光纖通道和SCSI RAID控制器方案，并在這一領域取得了顯著的突破。CMD的產品被廣泛應用于PC和嵌入設備中，其IDE/UltraATA及通用串行總線的半導體器件在市場上占據了重要地位。
在FCI的發展歷程中，貝恩資本的收購起到了關鍵的作用。貝恩資本是一家在全球近75個工業領域和技術公司有著豐富投資經驗的私有投資基金。在2005年收購FCI后，貝恩資本為FCI提供了強大的財力支持和國際業務擴展能力。這些支持使得FCI能夠進一步鞏固其在全球連接器市場的領先地位。
Crouzet一直致力于產品創新和技術研發。公司的產品線不斷豐富，涵蓋了自動控制元件、智能控制器、可編程邏輯控制器、觸摸屏、測量傳感器、模擬和數字電子元件等多種產品。這些產品廣泛應用于汽車、化工、電力、機械、消費電子、空調和冷庫、石油和天然氣等多個行業，為客戶提供了高效、可靠的自動化解決方案。
隨著電子行業的快速發展和變革，Codeco面臨著新的挑戰和機遇。為了應對這些變革，公司及時調整戰略，加大在人工智能、物聯網等領域的投入。通過與高校、研究機構的合作，Codeco不斷吸收新的技術和理念，推出了一系列符合市場需求的創新產品。這些舉措使得Codeco在行業中保持了領先地位。
進入21世紀，冠西電子不斷加大在研發方面的投入，成功突破了一系列技術難題，特別是在光耦合器和繼電器領域取得了顯著成果。這些技術突破不僅提升了冠西電子產品的競爭力，也為其贏得了更多國際大廠的信賴。同時，冠西電子積極拓展市場，其產品廣泛應用于電源、互聯網設備、電腦系統和相關系統、家電、工業、安防系統等領域，為全球客戶提供優質的產品和服務。
|
我想實現單片機LED動態顯示,有六個數碼管,能夠任意實現我要顯示的數, 如12\\1.234\\65.87\\897.435等等.不知道程序該如何去寫,請高手指教.… 查看全部問答∨ |
|
|
將Eboot.nb0下載下去是不是斷電后就沒有了，還需要重新下載啊？是使用download下載的。地址為0x30038000，應該是下到Nadflash里了吧。… 查看全部問答∨ |
ARM-GCC 3.4.1 U-BOOT 1.1.4 (devx那里下的)什么都沒干 tar -jzvf 后出現 untime 類似的話,后來make 的時候 出了倆錯誤 我什么都沒改,為什么啊 偶菜鳥 … 查看全部問答∨ |
|
#include<msp430x14x.h>#include"BoardConfig.h"#define Lcd_Out P4DIR=0xff#define Lcd_0 P4DIR=0x00#define Lcdenable_Out P3DIR |=BIT0+BIT1+BIT2;#define Lcdenable_0 P3DIR &=~(BIT0+BIT1+BIT2)#define Lcd_R P3OUT|=BIT0#define Lcd_S ...… 查看全部問答∨ |
|
|
Power Expert是一套可以支持Xilinx FPGA設計的最新設計工具，設計數字系統的工程師只要利用這套工具，便可解決仿真電路的設計問題。這個設計工具網頁詳列Xilinx各種不同的FPGA產品以供工程師挑選。Xilinx芯 ...… 查看全部問答∨ |
- Teledyne e2v 雙倍容量太空級 8GB DDR4 內存芯片，面向高可靠性太空應用超緊湊、彈性的存儲器芯片提高了面向通信、地球觀測、科學和邊緣計算的衛星的高級任務的SWaP。8GB DDR4的合格工程樣片 (EM) 現已發布， ...
- 汽車膨脹閥壞了有什么表現電子膨脹閥是汽車空調制冷系統中的一個重要部件，一般安裝在儲液筒和蒸發器兩者之間，膨脹閥通過蒸發器末端的過熱度變化來控制閥門流量 ...
- 汽車電腦板壞了有哪些表現汽車發動機電腦板損壞的癥狀相對較多，相當于控制發動機的程序完全失效，其中較為常見的狀況有車輛儀表盤亂碼顯示或者顏色灰暗、行車電 ...
- 點火線圈常見的故障火線圈燃燒電壓低，或不產生燃燒電壓，會造成發動機怠速不穩、間斷熄火、不能起動。點火線圈常見的故障有： 1、點火線圈繞組短路會 ...
- 火花塞故障如何診斷點火系統的任務是保證在合適的時刻為準備點火的氣缸提供足夠能量的火花，點燃混合氣作功。其中點火火花必須具備三點： 1、有足夠的 ...
- 發動機線束故障的危害_發動機線束的保養
- 進氣壓力傳感器安裝在哪里
- 燃油壓力調節器有什么作用
- 發動機冷車時起動正常，熱車后起動困難的故障分析
IPB60R070CFD7ATMA1
京公網安備 11010802033920號