電腦會思考嗎？淺談電腦的心靈狀態
前言
這是我2020年，替某間公司寫的文章。
我離開公司一段時間了，也沒看到這篇文章，所以在此發表。
謝謝閱讀。
圖靈測試
自從人類學會使用程式開始，我們就不斷地給電腦輸入無數文字，要它幫我們做事。後來就有人想藉由程式，讓電腦開始像人類一樣思考。這種嘗試，成了今天為人熟知的人工智慧（Artificial intelligence, AI）。
而電腦的泰斗亞倫·圖靈（Alan Turing）更提出了圖靈測試（Turing test），以回答他在論文提出的問題：「機器會思考嗎？」（Can Machines Think?）
圖靈測試，簡單來說就是「在受試者面前給一台電腦與一個人，讓三方透過文字聊天。只要受試者分不出文字是電腦還是人，電腦就通過圖靈測試了」——從此以後，我們寫了更多程式，試著想讓自己的產品，通過圖靈測試。我們的程式越來越好、讓電腦能作越來越多的事情：算數、存東西、連接其他電腦、選土豆、下棋、管理超市、監視交通系統⋯⋯甚至很多我們覺得電腦作不來的地方，電腦最後也做到了。
等等——我們能說這樣的電腦，思考了什麼嗎？無數哲學家想了非常多的問題，以下是一些例子：
- 機械能重現人類的思考嗎？
- 機械有心智嗎？
- 思考是計算的一種嗎？
- 機械能有情緒嗎？
- ⋯⋯
這篇文章將從「機械有心智嗎？」開始講。
問題
機械有心智嗎？
這是有關他心問題（Problem of other minds）與意識難題（The hard problem of consciousness）的問題。
我們先從「心智」的定義開始吧：不講定義的討論都是耍流氓。
心智的問題
我們討論的心智（consciousness），其實有很多定義：有些人認為「心智」是一種衝動性的流體；也有人認為他是一種靈魂的別稱。就連哲學家也不是完全有共識。以大多數哲學家的定義來說，心智，是指一種有關的自我意識的感覺。
那麼還有什麼問題呢？
有關心智，問題重點並不是「何謂」，而是「如何」：**一團脂肪與細胞，如何有著我們稱為「心智」的東西？**而這個如何，恰好是意識難題的重點。電腦，這一串電路與金屬，能不能也擁有我們稱為「心智」的東西？
另一個問題是。我們該如何證明電腦擁有「心智」？
舉個例子：當我們在下圍棋時，如何證明對弈的那個人，現在也有著思考的感覺？你怎麼說對面的業餘棋手，和我一樣在思考呢？進藤光下棋時，也有在思考嗎？怎麼證明？難道別人在思考，不該只是你的幻覺、或其實只是一隻鬼在下指導棋嗎？
AlphaGo 又該怎辦呢？
強弱AI
約翰·希爾勒（John Searle）是一位語言哲學家，他對於這方面提出了一個想法實驗，也就是著名的中文房間（Chinese Room）。
在講到這個想法實驗前，先說說他對「強AI」與「弱AI」的定義吧：
- 弱AI：能模擬人類思考的物理符號系統。
- 強AI：除了能模擬人類思考外，還能模擬人類心智狀態的物理符號系統。
舉個例子，聊天機器人再怎麼強，它還是弱AI，因為這聊天機器人並沒有人類的心智；而所謂的強AI，起碼要哆拉A夢那樣，會因為耳朵被機器鼠咬掉而怕老鼠、或是因為女朋友送銅鑼燒而喜歡它，而不是因為程式寫「怕老鼠」或「喜歡銅鑼燒」而喜歡或討厭——這樣才行。
所以，下次當有人和你說「如果要達到真正實質的強AI，就需要強度深化的AI教育」時，你就知道他是不是在鬼扯了吧？
中文房間
好，講回中文房間。
假設我們請了位只會講英文的服務生，把她帶進一間可以接收與輸出中文字的小房間。房間裡有一本操作手冊，告訴你怎麼把把輸入的中文字、變成輸出的中文字。
比如說我從房間丟進了以下中文字：「請問反水怎麼還沒入賬？」手冊就會要服務生給這個輸入，按順序丟出以下的中文字：「『請』『提供』『你的』『帳號』『與』『日期』」當我拿到「請提供你的帳號與日期」的中文字後，就會提供帳號與日期的字符；而服務生也會透過手冊，丟出相對應的中文字。週而復始。
甚至當你丟說：「我帳號死了，你媽也死了」服務生也會按照手冊，丟出相對應的：「『您继续骂吧』『，』『只要能发泄』『就會对身体有好处』『。』『所以』『您帳號』『發生什麼事』『？』」
或是：「我想睡了，能和你上床嗎」就給出：「『小心』『我』『向』『老师』『打小报告』『哦！』」
儘管這個房間的服務生，不管給她什麼樣的中文字，都能給出正確的回應。但我們能會這房間的服務生，能懂我們說的「中文」嗎？換句話說，這位服務生，真的知道我們講的中文嗎？她真的知道「反水」、「你媽死了」、「帳號」、「发泄」、「上床」、「老師」這些中文字的意思嗎？
在這裡，希爾勒把電腦比喻為服務生、手冊比喻為程式、中文字自然就是人類語言的輸入輸出了：就算電腦能成功轉換人類語言、並給我我們滿意的答覆，我們就能說電腦「懂」了人類語言嗎？
好像很難。
希爾勒也因此結論，人類不可能發明擁有人類心智的強AI。
當然這中間有很多論證方面的攻防，不過下次再說吧。
結語
電腦會思考嗎？
隨著人工智慧的發展，關於這個的問題，哲學家們做了很多問題與思考。其中一個稱為「中文房間」的思想實驗，否定了電腦擁有人類思考的可能。