在真實(shí)的生活中，人工智能創(chuàng)造者們卻試圖為一些大問題尋找答案，例如正義對(duì)抗邪惡，機(jī)器人的浪潮的影響，機(jī)器大腦對(duì)人類工人的影響等問題。

如何防止人工智能毀滅人類？

最大的挑戰(zhàn)在于它對(duì)就業(yè)的影響科學(xué)家知道自己的成果正在走出實(shí)驗(yàn)室，應(yīng)用于真實(shí)的世界。12月10日，科學(xué)家在Montreal開了一天的會(huì)，討論了一些倫理問題，比如如何防止比人類聰明的電腦將人類的工作奪走，它會(huì)為法律帶來怎樣的困擾，或者是他會(huì)對(duì)社會(huì)構(gòu)成什么傷害。今天的人工智能技術(shù)可以播放視頻游戲、自動(dòng)回復(fù)郵件、在特定條件下駕車。人們開始擔(dān)心它對(duì)勞動(dòng)者的影響。

百度首席科學(xué)家吳恩達(dá)說：“我認(rèn)為最大的挑戰(zhàn)在于它對(duì)就業(yè)的影響。”他認(rèn)為人工智能技術(shù)的快速發(fā)展可能會(huì)改變工作環(huán)境，許多人在20多歲、40多歲、50多歲時(shí)需要重新接受訓(xùn)練，而訓(xùn)練的方式是之前沒有過的。

麻省理工學(xué)院經(jīng)濟(jì)學(xué)家埃里克?布呂諾爾夫松（ErikBrynjolfsson）認(rèn)為：“毫無疑問的是有些工種現(xiàn)在可以自動(dòng)化了，以前它們是不能的。”例如負(fù)責(zé)電子取證的初級(jí)律師、自助結(jié)帳超市里負(fù)責(zé)結(jié)帳過道管理的人。

“希望在這些行業(yè)中能出現(xiàn)一些新的職位。”他說，“企業(yè)家和管理者在開創(chuàng)新職位方面是極有創(chuàng)造力的，現(xiàn)有的一些職位已經(jīng)自動(dòng)化了。”

Facebook人工智能研發(fā)主管伊恩?勒坤（Yann LeCun）并不擔(dān)憂，他說社會(huì)在過去已經(jīng)適應(yīng)變化。勒坤說：“技術(shù)已經(jīng)發(fā)展到了另一個(gè)階段，過程不容易，但我們必須面對(duì)。”

機(jī)器人可能最終不會(huì)臣服于人類可能還會(huì)出現(xiàn)其它的一些困擾，例如，隨著人工智能獨(dú)立于人類操作者自己做出更多的決定，它會(huì)對(duì)法律界產(chǎn)生什么樣的影響。渥太華大學(xué)法學(xué)院專門研究倫理道德的教授伊恩?科爾（Ian Ker）說：“在當(dāng)前的法律環(huán)境中，要在一些領(lǐng)域?qū)⑺惴〝[在優(yōu)先位置是很困難的。我覺得這面臨極大的挑戰(zhàn)。

一些科學(xué)家看得更遠(yuǎn)，他們開始分析人工智能在哪些地方的影響可能會(huì)超過人類。去年谷歌收購(gòu)了DeepMind，這是一家人工智能公司，它關(guān)注基礎(chǔ)研究，目標(biāo)是開發(fā)比人類聰明的機(jī)器。DeepMind聯(lián)合創(chuàng)始人杰米斯?哈薩比斯（Demis Hassabis）稱它為人工智能發(fā)展中的“阿波羅項(xiàng)目”。

盡管這些科學(xué)家認(rèn)為出現(xiàn)邪惡超級(jí)智力的機(jī)率很小，一些人還是在研究，看它能對(duì)人類構(gòu)成何種重大威脅。

《超級(jí)智能:方法、危險(xiǎn)、策略》（Superintelligence:Paths， dangers， strategies）的作者、牛津大學(xué)人類未來研究院院長(zhǎng)、哲學(xué)教授尼克?博斯特羅姆（Nick Bostrom）認(rèn)為：“我覺得世界的最終結(jié)局不會(huì)像現(xiàn)在一樣，那些服務(wù)機(jī)器人不會(huì)端著盛滿食物的盤子來伺候你。最后的結(jié)果可能是完全不同的，跟我們熟悉的完全不同。”

劍橋大學(xué)存在風(fēng)險(xiǎn)研究中心研究員沙哈?艾文（Shahar Avin）認(rèn)為，如何防止邪惡人工智能成形，現(xiàn)在的人工智能研究還沒有找到好辦法。艾文還說：“我們需要建立一個(gè)機(jī)構(gòu)，它不能也不會(huì)修改自己的價(jià)值系統(tǒng)。”他還說，大家面臨的共同難題是如何做。將更多的資金和更多的爭(zhēng)論結(jié)合，可以將更多的研究者吸引到問題上來，一起尋找辦法確保人工智能的安全。

機(jī)器沒有傷害人的動(dòng)機(jī)特斯拉CEO馬斯克和其它一些科技名人正是先行者，他們于12月11日創(chuàng)立了OpenAI，這是一個(gè)非盈利機(jī)構(gòu)，它可以盡可能公開地開發(fā)新的人工智能技術(shù)。

百度科學(xué)家吳恩達(dá)的看法不太一樣，他認(rèn)為過度關(guān)注“人工智能的邪惡智力”可能會(huì)分散精力，它更可能帶來消極影響，恰如失業(yè)一樣。Facebook人工智能研發(fā)主管伊恩?勒坤（Yann LeCun）則說：“機(jī)器的智力會(huì)是完全不同的，人有做壞事傷害他人的動(dòng)機(jī)，機(jī)器沒有。”

加拿大總督戴維?約翰斯頓（David Johnston）曾經(jīng)在多倫多的會(huì)議上說過一番話，這些話可能反映了我們的共同心聲。約翰斯頓說：“我們?cè)絹碓揭庾R(shí)到機(jī)器學(xué)習(xí)和人工智能很可能馬上就會(huì)出現(xiàn)，當(dāng)它們真的出現(xiàn)時(shí)，我們清楚它的影響是很大的。既然這樣，我們能扮演什么角色呢？我們?nèi)绾螐娜斯ぶ悄芗夹g(shù)中獲得最大的機(jī)會(huì)呢？如何將它帶來的挑戰(zhàn)最小化呢？”??
??