作者 hermis (火山菌病病人No.01221)標題 Re: [問題] AI真的有必要具備“意識”嗎？時間 Tue Nov 14 16:06:42 2023
※ 引述《Sinreigensou (神靈幻想)》之銘言：
: 真的要定義什麼是意識
: 當年剛有AI這個概念時
: 不是有個圖靈測試
: ChatGPT基本上通過圖靈測試是毫無問題
: 2023年7月25日，Nature刊登新聞指出ChatGPT已經能突破圖靈測試，並建議尋求新的人工智
: 慧評估方法。
: 但是這就代表有意識了嗎
: 我看維基，到目前為止
: 學界對意識還沒有一個定論
: 所以在討論有沒有意識之前
: 要先定義什麼是意識
: 如果你覺得通過圖靈測試就是有意識
: 那衍生的neurosama就有價值
: 我看還蠻多人喜歡這個AI
圖靈測試通過的條件不是只要能騙過人類就好嗎？
既然如此只要表現出與人類相同高度的智慧就行，不需要意識。
但人工智慧到底有沒有意識
這個還真不好說
人類連意識是甚麼都沒搞懂
我們判斷意識的方式比較簡單粗暴，就是看腦波活動
再來，有意識是否代表有自我意識，那又是另外一回事。
有自我意識是否代表能有情緒，這又得另外看
甚至於理解愛與恨等抽象的概念，那又不是前面三樣能證明的。
先從第一道關卡開始說
假設人工智慧能通過圖靈測試，那只是證明他看起來跟人類差不多，但這也
只是表示他的智慧活動已經能做出跟人類一樣的判斷，在與人類進行信息
交流上，不會被人類識破
第二道關卡，有沒有意識
首先人類要對自己的意識與大腦活動有足夠的了解，能夠判斷哪些腦波屬於
有意識的象徵
再來是透過腦機介面，將人類的意識模擬成電子信後。
然後才能將人工智慧的電子信號與人類意識的電子信號做比較
若是相同，那才可以說人工智慧擁有意識
但那也只是說這是與人類相近的意識
有大腦的動物也有腦波，也可能有意識，但我們還沒辦法分辨有意識的動物
腦波長甚麼樣子，畢竟這牽涉到神經系統與大腦，而且沒有參照物。
說不定人工智慧有的是鯨魚的意識，或者狗狗的意識，但它們的電子信號轉換
成腦波後跟人類對不上，那也沒辦法證明人工智慧到底有沒有意識。
只能說人工智慧的電子信號與人類腦波相近時，可以假設他擁有人類的意識，可以
用人類的標準看世界。
第三關就是自我意識，人工智能能不能認知到自己，就算他已經通過第二關
不代表他就能認知到自己，因為就連人類本身在幼兒時期對自己的認知也是
不存在的。
這個就更麻煩了，首先要認知到我與非我，這中間是基於感官差異判斷的，
看著鏡中的自己認知到自己，那是視覺，從水溫跟體溫的差異認知到自己，
那是觸覺。
但人工智慧的感受跟人類肯定不同，除非我們真得建造了一個可以模擬五感
的虛擬世界，能讓人工智慧在其中生活，或者我們做出了可以模擬人類五感
的機體，可以讓人工智慧如同人類那般感受到外界的環境，不然這個認知自我
的證明是沒辦法做的。
當然這前提依然是站在人工智慧的確擁有人類的意識，要是沒有前面講的兩個
條件就算滿足，也很難判斷是否有自我意識。
第四關，人工智慧能不能感受到情緒，比方說快樂？悲傷？害羞？興奮？這又
牽涉到另一個問題，那就是情緒與生理反應是綁在一起的，但人工智慧並沒有
如人類那般的生理反應，當然這還是能用暴力破解法，也就是用腦波模擬的電
子信號來判斷。但這個相對上複雜一點的地方在於，情緒與情境的交互作用。
也就是說你需要模擬出會讓人類快樂的情境，還要能對上人工智慧的電子信號
模擬腦波跟快樂時的腦波相近，才能說人工智慧擁有與人類相同的情緒。
但這也可能誤判，因為人類的快樂就連人類自己都會有差異性，更不用說人工
智慧，所以人工智慧的電子信號看起來像是快樂的就真的快樂嗎？可能沒辦法
驗證這個問題，除非我們能真正地模擬出人類的生理反應，才有辦法驗證。
最後一關，人工智慧能不能理解愛與恨等抽象的概念。這就牽涉到人工智慧與人
類的互動，能否讓人工智慧產生感情了。那又是一個困難點，因為就算人工智慧
有人類意識，能認知到自我，但也缺乏情緒等感性的判斷，這些東西或許可以
透過心理學的手段去作出判斷，但實際還得看人工智慧是否建立出與人類相近的
道德觀與價值觀。
如果不能，那也不能判斷人工智慧能理解愛或恨等抽象的概念。總之，如果只是通過
圖靈測試是不夠的。
當然這五關都可以用一個簡單粗暴的方法來實驗，那就是捉i
捉i可以一次測試這五關需要的情境，對方能不能感知到自我與人類的差異
能不能從捉i中感受到情緒，能不能從捉i中感受到愛與恨
一次捉i就能捕捉到所有的信息，多做幾次就能確定人工智慧是否能與人類
擁有相近的意識、情緒、價值觀等。
要是一個人工智慧能透過捉i與人類達到身心靈的交融，那它基本上就可以
當成人類看了！
--
神說，要有光，於是有了光之美少女！
https://www.penana.com/user/2969/
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 211.23.39.77 (臺灣)
※ 作者: hermis 2023-11-14 16:06:42
※ 文章代碼(AID): #1bKogLtc (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1699949205.A.DE6.html
※ 同主題文章:
Re: [問題] AI真的有必要具備“意識”嗎？
11-14 16:06 hermis
這個意識跟人體結構是要分開看的
人類的定義不一定就要有意識才算人類
你看植物人也是人類啊，但植物人不一定有意識。
要是沒辦法捉i就沒辦法證明自己是人類，那未免也太慘了。
可以用腦波模擬去判斷啦
但人工智慧欸癌就沒辦法了/ w \
推 probsk: 你是不是想說處男/女不是人4F 11/14 16:21
還是可以用別的方法判斷啦，不要放棄希望。
※ 編輯: hermis (211.23.39.77 臺灣), 11/14/2023 16:33:15
推 saiya: GOOGLE AI虛擬小鎮 很有趣6F 11/14 17:01
→ hermis: 喔喔感謝關鍵字7F 11/14 17:23
--