※ 本文為 MindOcean 轉寄自 ptt.cc 更新時間: 2016-11-15 19:43:26
看板 Gossiping
作者 標題 Re: [問卦] 要發明什麼東西,人類文明才能大躍進?
時間 Wed Nov 2 02:12:28 2016
好像沒有人提到最有可能讓人類科技天翻地覆的改變: 人工智慧
之前很有名做Alpha GO的公司deepmind 你點進去它的網站 官網就寫著
解決人工智慧>>>讓人工智慧解決剩下所有問題。
英文好可以參考這篇:
http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
The Artificial Intelligence Revolution: Part 1 - Wait But Why
Part 1 of 2: "The Road to Superintelligence". Artificial Intelligence — the topic everyone in the world should be talking about. ...
![[圖]](http://waitbutwhy.com/wp-content/uploads/2015/01/G1.jpg)
簡單講就是,人類跟猩猩的智能差異是生物學的差異
人類跟猩猩智能上巨大的差異其實只在於很小的DNA不同,人工智慧沒有任何的
生物限制,因此一旦做出一個可以自我優化的人工智慧,它沒有理由會停在人類智能
附近,當人工智慧變得更聰明,它會以更聰明的方式變更聰明,也就是會在極短的時
間內智慧大爆炸,超越人類可以理解。其實世界科技的演變也的確是這樣,人類是以
越來越快的速度在發展,科技的進步在21世紀的前10幾年(切確數字忘了),已經超越
整個20世紀,因為當你有更好的科技,更好的科技會幫助你更快創造出更進步的科技
,這叫做Law of Accelerating return。
附近,當人工智慧變得更聰明,它會以更聰明的方式變更聰明,也就是會在極短的時
間內智慧大爆炸,超越人類可以理解。其實世界科技的演變也的確是這樣,人類是以
越來越快的速度在發展,科技的進步在21世紀的前10幾年(切確數字忘了),已經超越
整個20世紀,因為當你有更好的科技,更好的科技會幫助你更快創造出更進步的科技
,這叫做Law of Accelerating return。
文內有個這件事情"可能"發生的方式:
花了十幾年,終於有人工智慧成長成跟最笨的人類一樣,有一個人工智慧終於可以像
四歲小孩開始觀察世界,一小時內,它解決了相對論和量子力學的矛盾,一個半小時
後,這個人工智慧的智能超越正常人類的17萬倍
四歲小孩開始觀察世界,一小時內,它解決了相對論和量子力學的矛盾,一個半小時
後,這個人工智慧的智能超越正常人類的17萬倍
再來最有趣的地方來了,作者引用其他人所做的統計,那些人做了一個問卷去問2013
AI產業的專家,問他們啥時人工智慧會跟人類一樣(AGI)就像人一樣靈活可以同一個AI
開車,煮飯,甚至創造。樂觀的話麼時候AI會跟人類一樣,悲觀的預測,和最有可能的
預測,以下為中位數:
AI產業的專家,問他們啥時人工智慧會跟人類一樣(AGI)就像人一樣靈活可以同一個AI
開車,煮飯,甚至創造。樂觀的話麼時候AI會跟人類一樣,悲觀的預測,和最有可能的
預測,以下為中位數:
樂觀預測(定義為10%可能性): 2022
客觀預測(定義為50%可能性): 2040
悲觀預測(定義為90%可能性): 2075
另一個同樣的類似問券也問了一堆AI專家,這次是問西元幾年前,AI可以跟人類智慧一樣
2030前: 42%
2030前: 42%
2050前: 25%
2100前: 20%
2100後: 10%
永遠不會:2%
這只是跟人類智能一樣的AI,那回到超級AI,多久會從人類智慧變成超級AI,平均值
約20年,所以2040+20=2060,就算是2060,也只差40年。
超級AI出現的那個時間,有個英文叫做singularity。應該有點類似審判日,因為假設一
開始的參數沒設定好,這個AI只是聰明,並沒有擁有跟我們一樣的價值觀,地球上的生命
可能瞬間消失,如果他跟我們有類似的價值觀,那恭喜大家,這個AI將跟神沒有兩樣。
開始的參數沒設定好,這個AI只是聰明,並沒有擁有跟我們一樣的價值觀,地球上的生命
可能瞬間消失,如果他跟我們有類似的價值觀,那恭喜大家,這個AI將跟神沒有兩樣。
超級AI是人類所創造的最後一樣發明,而這些預測都是AI領域裡專家的預測,其實想想
蠻恐怖的,因為大家還覺得Elon Musk、Stephen Hawking呼籲大家小心發展AI,因為當
你一旦搞砸了,就回不去了,因為高智能者永遠是贏家。
蠻恐怖的,因為大家還覺得Elon Musk、Stephen Hawking呼籲大家小心發展AI,因為當
你一旦搞砸了,就回不去了,因為高智能者永遠是贏家。
可是感覺大家沒有把這件事情認真看待,我是覺得蠻奇怪的,全世界最聰明的幾個人都
ㄘㄨㄚˋ著等,大家還只管一些剩下其他芝麻蒜皮的小事,當初不限制核武最後大家才
知道造出那麼可怕的武器,核武你做出來比不發射就部會死人,超級AI一旦出現了,你
根本不可能把它殺掉...
ㄘㄨㄚˋ著等,大家還只管一些剩下其他芝麻蒜皮的小事,當初不限制核武最後大家才
知道造出那麼可怕的武器,核武你做出來比不發射就部會死人,超級AI一旦出現了,你
根本不可能把它殺掉...
希望有生之年出現的是神,不是失控的AI
※ 引述《gold97972000 (Miyanaga Saki)》之銘言:
: 要發明什麼東西,人類的文明才能以倍速成長阿?
: 1.時光機
: 2.任意門
: 3.時間停止器
: 4.其他
: 講來講去好像不是跟時間有關,就是跟空間有關
: 到底發明什麼東西最好呢?
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.227.7.172
※ 文章代碼(AID): #1O6DiFvl (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1478023951.A.E6F.html
推 : 霍金也有提出警訊惹1F 11/02 02:15
推 : 結果被更新成WIN102F 11/02 02:15
→ : 謝謝,我要準備拋售股票了3F 11/02 02:16
→ : 如果AI出現了 可以操控哪些東西R?我是說操控喔 癱瘓不算4F 11/02 02:16
推 : 因為還有很多全世界最聰明的人覺得這件事情是無稽之談5F 11/02 02:16
→ : 你說濫用AI就算了,Skynet那種AI現在八字還沒一撇
→ : 你說濫用AI就算了,Skynet那種AI現在八字還沒一撇
推 : 人類會進化嗎 還是會被滅絕?7F 11/02 02:19
推 : 所以AI會用鼻孔吃花生嗎?用眼睛吃麵?8F 11/02 02:21
推 : 或許獲得超高的智商找不到存在的意義,他就自殺了?9F 11/02 02:22
→ : 我賭到2100年都生不出這種AI10F 11/02 02:22
推 : 就是一台很聰明但是什麼都做不了的電腦阿11F 11/02 02:23
→ : 機器學習12F 11/02 02:23
→ : 一堆人肯定看不懂那張圖,呵呵13F 11/02 02:23
推 : 樓上看得懂可以幫解釋一下ㄇ14F 11/02 02:27
→ : 我不懂 為何低智能的生物最終有辦法創造出高智能的東15F 11/02 02:29
→ : 西
可是其實人類也創造出比自己運算更快的電腦啊? 這不矛盾吧→ : 西
推 : 沒插電就是一台廢鐵17F 11/02 02:30
推 : 我覺得人類沒辦法做出可以超越自己智能的東西 如果18F 11/02 02:32
→ : 做出來了 在那時人類的智慧不是也更上一層樓了嗎
→ : 做出來了 在那時人類的智慧不是也更上一層樓了嗎
推 : 同樓上 我的看法也差不多 人類也常常高估自己的能力20F 11/02 02:33
推 : 我賭人類滅亡都還做不出來啦 呵呵21F 11/02 02:33
→ : 以前的人類有些對我們現在的年代有些科學上的猜測22F 11/02 02:34
→ : 都覺得過不了多久人類的科技會如何的進步之類的
→ : 只是真的到了他們猜測的年代 科技幾乎不如他們猜想的高
那是某些不如猜想,你問1916年的人,他也不會相信6 70年後,人類真的想的話,可以→ : 都覺得過不了多久人類的科技會如何的進步之類的
→ : 只是真的到了他們猜測的年代 科技幾乎不如他們猜想的高
殺光所有的人類,我自己就連五年前都不相信,那麼快就有自動駕駛了
推 : 阿法狗不就屌打所有人類棋手? 只要知道規則就有可能阿25F 11/02 02:35
→ : 機器可以用很笨的方式探索,他們的優勢在速度快且不會累
→ : 機器可以用很笨的方式探索,他們的優勢在速度快且不會累
推 : 人腦會遺忘、處理資訊速度緩慢,若能製出有創造力及自我意27F 11/02 02:36
→ : 識的AI,很快就能比人類聰明了....
→ : 識的AI,很快就能比人類聰明了....
推 : 那人類還有存在的必要嗎29F 11/02 02:38
推 : 阿發狗只會照人設定的走 這篇是說有自我成長優化的AI30F 11/02 02:38
推 : 如果AI只是在規則內很猛的話,那還真沒什麼好害怕的31F 11/02 02:39
推 : 阿法狗照著人類的規則走,但最後走到超出現在人類的知識32F 11/02 02:39
→ : 難道給阿法狗的規則不能改變?
→ : 難道給阿法狗的規則不能改變?
→ : 還真的是不能34F 11/02 02:40
→ : 應該說,他不能自己改變規則,規則是工程師告訴他的
→ : 應該說,他不能自己改變規則,規則是工程師告訴他的
推 : AI最後一定會贏人類 因為他沒有破綻不會怠惰還會自我更新36F 11/02 02:41
→ : 不容易被干擾
→ : 不容易被干擾
推 : 圍棋的玩法就那樣 有比較明確的方法來達到勝利 可以慢慢試38F 11/02 02:42
→ : 但是像文章說的 解決相對論和量子力學的矛盾
→ : 電腦就算想用暴力解 也完全沒有方向吧
→ : 但是像文章說的 解決相對論和量子力學的矛盾
→ : 電腦就算想用暴力解 也完全沒有方向吧
推 : 暴力解或者DeepLearning,都只是找尋最佳策略的一種方式41F 11/02 02:44
推 : 單一的人會死亡,但是AI可以一直累積之前的東西42F 11/02 02:48
AI沒有生物界限,又可以用以用大量數據判斷推 : AI可以學習五感也有情緒,失控也是很有可能的43F 11/02 02:53
推 : 單個AI不如人類,但是AI可以透過網路互相溝通44F 11/02 02:53
推 : 樓上說到重點了~而且還能以人類無法達到的速度讀完全部的45F 11/02 02:54
→ : 可用資訊,還不會遺忘
→ : 可用資訊,還不會遺忘
→ : 全世界的電腦一起解..你怎麼可能玩得贏..47F 11/02 02:54
→ : 我是說ccm大48F 11/02 02:54
→ : 而且若駭進全世界有連上網路的電腦,作分散運算....整個世界
→ : 都是我的超級電腦><
基本上只會越來越猛,除非人類自己先滅亡→ : 而且若駭進全世界有連上網路的電腦,作分散運算....整個世界
→ : 都是我的超級電腦><
→ : 阿發狗單機板棋力絕對下不贏李世石51F 11/02 02:56
→ : 可是分散式運算下就是我們看到的結果
→ : 可是分散式運算下就是我們看到的結果
推 : 我是覺得所有固定規則的競技 只要AlphaGO能玩都會贏人類53F 11/02 02:57
→ : 但這對人類並不構成威脅吧 反而是一件好事情
應該說AI進步就算只侷限於單一領域,也已經超過很多人預期了,有多少人在AlphaGO之→ : 但這對人類並不構成威脅吧 反而是一件好事情
前,會覺得李會輸? 其實科技進步速度越來越快日常生活是有感的,頂多再幾年就有一堆
自動駕駛的車了
※ 編輯: aalluubbaa (36.227.7.172), 11/02/2016 02:59:58
推 : 去看銃夢吧55F 11/02 02:59
推 : 要有能夠危及人類的AI,要心理學或腦神經科學那邊有突破56F 11/02 02:59
→ : 科技進步速度我是覺得還好 理論完備的速度才誇張
→ : 這80年來一堆理論真的是被搞到後人沒辦法在做什麼東西
→ : 科技進步速度我是覺得還好 理論完備的速度才誇張
→ : 這80年來一堆理論真的是被搞到後人沒辦法在做什麼東西
推 : 天網降臨59F 11/02 03:02
推 : 類神經網路那套 理論上讓他自己生 可以自己生出智能60F 11/02 03:02
推 : 這看你怎麼定義 智能61F 11/02 03:04
噓 : 電池,能夠長期大量儲存電能的!!62F 11/02 03:04
→ : 能找出一個不錯的policy我相信 但這跟智慧有落差63F 11/02 03:04
推 : 很好奇,如果給他佛像老莊思想,會不會算到最後自動64F 11/02 03:08
→ : 關機XD
→ : 關機XD
推 : 結果 從他有意識 馬上研究出什麼是意識 超越兩百多年研66F 11/02 03:13
→ : 究 超猛der 所以不能放資源給它 跑512k 巫毒顯卡吧
→ : 究 超猛der 所以不能放資源給它 跑512k 巫毒顯卡吧
推 : 問題是由模糊理論推出來的演算法 的特色就是難預測68F 11/02 03:13
→ : 就是 無限猴子假設 總有一天是會被他跑出智能
→ : 再者就是 人類如何定義人類的問題了
→ : 我也完全無法了解理解任何一個熟人或是陌生人的運作
→ : 就是 無限猴子假設 總有一天是會被他跑出智能
→ : 再者就是 人類如何定義人類的問題了
→ : 我也完全無法了解理解任何一個熟人或是陌生人的運作
推 : 無限猴子假設跟智能沒有關係吧72F 11/02 03:16
→ : 若一個設定好的機械人 對應回答和陌生人差不多73F 11/02 03:16
→ : 那他是個陌生人咩?
→ : 那他是個陌生人咩?
→ : 他是個回答跟陌生人差不多的機器75F 11/02 03:17
→ : 但是無限猴子假設 和部份模糊理論的演算法有關76F 11/02 03:17
推 : 假設人工智能有辦法被寫出來,那危險猴子就有可能寫出來呀77F 11/02 03:18
→ : 無限猴子
→ : 無限猴子
推 : 是啊 如果強AI真的被做出來 他靠自我進化是一定比人類強79F 11/02 03:19
推 : 假設 啊你的判斷動勢勒 誰去主持判斷勢?下棋有規則主持80F 11/02 03:20
→ : 對了,我認為人工智慧跟「真隨機」演算法也很有關係81F 11/02 03:20
推 : AI沒靈魂,取代不了人類的音樂藝術等創意領域的82F 11/02 03:20
→ : 靈魂這種講法就可以省了,AI就只是單純的智能不夠高而已83F 11/02 03:21
→ : 無限猴子也可以產生音樂家和藝術家的大作
→ : 無限猴子也可以產生音樂家和藝術家的大作
推 : 學習 能自主學習 而不是被動學習 界限點在這裡85F 11/02 03:21
→ : 若他能自主要學的東西 他還學你指定的下棋作啥?
→ : 若他能自主要學的東西 他還學你指定的下棋作啥?
推 : 問題是人類不知道怎麼做出一個可以自主學習的機器啊XD87F 11/02 03:23
→ : 這問題卡了20年有了吧
→ : 這問題卡了20年有了吧
推 : 這種東東 和複製人一樣 有阻力的啦89F 11/02 03:26
推 : 靠杯 被更新成WIN10 笑了XDDDDDDDDDDDDD90F 11/02 03:35
推 : 揪竟是天網 lovemachine 還是禪亞塔呢ˊㄇˋ91F 11/02 03:43
→ : ai光 可以操控公共運輸 就穩了92F 11/02 03:51
推 : 別再發明那些會讓自己更忙更沒時間的東西就好了93F 11/02 03:58
推 : 「18個讓全人類驚恐尖叫的方式」----- Alpha 天網94F 11/02 04:03
推 : 那是你自己的問題吧! 自動駕駛發展應該也有至少10多年了,95F 11/02 04:04
→ : 而且說真的技術也沒有到多難! 是因為你在台灣所以可能覺得
→ : 交通很亂,事實上他的原理真的不會到太難的
→ : 而且說真的技術也沒有到多難! 是因為你在台灣所以可能覺得
→ : 交通很亂,事實上他的原理真的不會到太難的
推 : 會像法人或政府這種抽象的概念(組織?)存在於社會吧...98F 11/02 04:05
→ : 在找到取代人類的資源之前會依附在人類社會上...
→ : 在找到取代人類的資源之前會依附在人類社會上...
推 : 霍金在AI應該不算研究太深捏..感覺他隨口嘴幾句而已100F 11/02 05:35
→ : Elon Musk講說要小心 但他自己發展的最兇 哈哈
推 : 現在在搞的AI 基本上還沒有脫離工具的範疇
→ : 先讓他們繼續發展個20年再來緊張吧
→ : Elon Musk講說要小心 但他自己發展的最兇 哈哈
推 : 現在在搞的AI 基本上還沒有脫離工具的範疇
→ : 先讓他們繼續發展個20年再來緊張吧
推 : SCP-079104F 11/02 05:50
推 : ㄏㄠˇㄨㄣ105F 11/02 06:11
推 : 這樣說好了,光是人工智慧用最佳解可以減掉多少人無意義106F 11/02 06:13
→ : 的勞動,這樣的突破就夠世界大亂了
→ : 的勞動,這樣的突破就夠世界大亂了
→ : 我很好奇一個問題,阿發狗能不能做到教完全不會下圍棋108F 11/02 07:39
→ : 的人去下圍棋
→ : 的人去下圍棋
推 : 如果ai可以做到通通全自動全智慧 那人類存在有意義嗎?110F 11/02 07:46
推 : 我有生之年可以看到人類滅絕,讚111F 11/02 07:57
推 : 先拔電源112F 11/02 08:38
推 : 最強的AI就是加入mistake. 有看westworld的都知道.113F 11/02 08:38
推 : 科技在軟體上進步是在增進效率,算是cost down。 真
→ : 的下一階段的大躍進是要能源的進步。能獲得無限的能
→ : 源才有可能發展更高度的文明。或許就可以扭曲空間跟
→ : 時間了
推 : 科技在軟體上進步是在增進效率,算是cost down。 真
→ : 的下一階段的大躍進是要能源的進步。能獲得無限的能
→ : 源才有可能發展更高度的文明。或許就可以扭曲空間跟
→ : 時間了
→ : 人類對地球,就像癌症對人類。智慧至高者,不可能不明白。118F 11/02 08:44
→ : 那麼,人工智慧必會發現自己使命,最重要的就是減少人類數量
→ : 那麼,人工智慧必會發現自己使命,最重要的就是減少人類數量
→ : 我約翰康納喇120F 11/02 09:04
推 :121F 11/02 09:07
推 : 拔他插頭122F 11/02 09:10
推 : 切他電路123F 11/02 09:13
推 : 斷他電源124F 11/02 09:18
推 : 推個125F 11/02 09:20
推 : 推2樓XD126F 11/02 09:23
推 : 難度很高 目前都還是使用傳統電腦 運算有其極限127F 11/02 09:27
推 : 結果最後AI出來是金髮雙馬尾高智能傲嬌蘿 DM幹得好阿!128F 11/02 09:28
推 : 就說已經發明了啊129F 11/02 09:35
噓 : 智能、優化 支那用語130F 11/02 09:42
噓 : 人類只要乖乖待在母體電腦裡就可以無憂無慮幸褔快樂一131F 11/02 10:04
→ : 輩子了
→ : 輩子了
→ : 解決所有問題,包括人類。133F 11/02 10:38
推 : 我認為沒有肉體的AI,不可能擁有跟人類一樣的價值觀134F 11/02 10:47
推 : 程式要Hard code入價值觀, 人性很簡單,難在要他自135F 11/02 11:06
→ : 己"理解"並當做準則用
→ : 己"理解"並當做準則用
推 : 最後超級AI會做出跟人一模一樣的軀殼,偽裝人類選上世137F 11/02 11:22
→ : 界大總統,艾西莫夫在說你有沒有在聽?
→ : 界大總統,艾西莫夫在說你有沒有在聽?
推 : 叫AI生論文 看論文好像不錯139F 11/02 11:25
推 : 能被人類操控的AI就像有人類智能的猴子能幹麼?140F 11/02 11:37
→ : 生產一堆香蕉嗎?
→ : 生產一堆香蕉嗎?
推 : 怕是人類以為能控制他。。。142F 11/02 11:59
推 : 人工智慧完成後,人類就變成猴子了143F 11/02 12:06
推 : singularity翻譯成奇異點 就是科學發展再也無法被人144F 11/02 12:14
→ : 類所理解的深刻
→ : 類所理解的深刻
推 : 我的傲嬌AI哪有那麼恐怖146F 11/02 13:39
推 : 有點可怕其實147F 11/02 21:29
推 : 巨神兵148F 11/03 00:27
--
※ 看板: Gossiping 文章推薦值: 0 目前人氣: 0 累積人氣: 1510
回列表(←)
分享