Savoir | 哆啦A夢還早得很：《了解人工智慧的第一本書》

哆啦A夢還早得很：《了解人工智慧的第一本書》

2016/09/04 10:00

《了解人工智慧的第一本書》中文版書封。

文｜松尾豐
譯｜江裕真

人工智慧不具有本能

　　大家很容易以為，人工知識再發展下去，會變成和人類擁有同樣的概念、像人類那樣思考，甚至和人類一樣擁有自我、擁有欲望，但事實上並非如此。

　　首先，在電腦自行找出特徵量或概念，而不是人類把它們當成「知識」教給電腦的深度學習中，電腦所創造出來的「概念」，其實和人類所擁有的「概念」，可能是不同的東西。

　　人類在辨識貓咪時，是把「眼睛或耳朵的形狀」「鬍鬚」「整體的形狀」「叫聲」「毛的紋路」「肉球的柔軟度」這些東西當成「特徵量」使用，但電腦或許是從截然不同的「特徵量」來掌握貓咪這個概念的。以我的立場來說，就算電腦是使用人類尚未語言化或尚不知道的「特徵量」辨識貓咪，那也沒有什麼關係。

　　感測器（輸入）的等級不同時，本來就不應該得到同樣的「特徵量」。要是電腦讀取的是人類看不到的紅外線或紫外線、小到看不到的物體、移動得快到看不到的物體、人類聽不到的高音或低音，或是只有狗狗才聞得出來的氣味等資訊，從中描繪出來的，會是一個人類所不知道的世界吧。在這樣的狀況下成立的人工智慧，或許會擁有不同於「人類智慧」的另一種智慧，但它照理來說依然是「智慧」，毫無疑問。

　　人類會說話，尤其是會使用「文法」，以文句的形式描述事物、撰寫文章。那麼，文法又是怎麼得到的呢？知名語言學家諾姆．杭士基（Noam Chomsky）說，人類天生就懂文法（普遍文法）。我的想法也與此相近。

　　假設此時電腦必須運用在深度學習一得到的特徵表達，向其他人類傳達某種資訊。主要應該表達的是，敵人是否迫近啦，有沒有食物啦之類的目前狀況。此時，電腦要如何把某個人類看到的「景象」轉達給其他人類知道呢？

　　當然，可以像電腦在轉寄圖片時那樣，從左上角的那一點開始，一個像素一個像素地逐步說明下去。但這麼做實在太沒效率了吧。既然已經學會抽取概念，善加利用似乎比較好。有效率的描述，可以想像得到會是這樣的內容：

　　「畫面的正中央為 X，X 是人類，是我朋友。Y 在他的附近，那是一隻獅子。而且 Y 現在很生氣。」（也就是說，自己的朋友快要遭受到獅子的攻擊了。

　　就是像這樣，將資訊逐一「編碼（符號化）」再記述出來。至於接受的那一方，只要持有與之對應的解碼器，就能重現與原始資訊相近的東西。也就是說，不同人類之間，若要降低還原錯誤，就採用某種「基於關係」的描繪方式，會比較有效率。假如人類運用自己天生就懂的文法結構來充當描繪手法，那可是一點也不奇怪。總之，人類的腦子裡，與生俱來就備有一套「用於描繪的方法」。

　　而且，這套描繪手法就算不像深度學習那樣，有其數學上的邏輯性，也不打緊，只要兩個以上的個體對它有共識，那就可以。這就像是在我們講電話時，都會在對話的一開始說「喂喂喂，我是○○」這樣的話，但並無特別的用意在。「喂喂喂」只是表達「開始通話」的信號，接著自報姓名說「我是○○」，也是很普通的事，只要雙方都知道就行。

　　從這個角度來看，描繪恐怕並無固定的手法，只要其中一種方法是人類天生就懂，那麼在沒有把它內建到電腦之前，電腦或許很難學到和人類同樣的文法。

　　另一個重要的因素是「本能」。但講到本能就和大腦有關，重點在於，會對什麼事物感到「愉快」或是「不愉快」。

　　在人類得到的概念中，不光是為了追求資訊的重建錯誤最小化而已，很多時候都會因為「愉快」或「不愉快」而決定了方向。例如，對於自己喜歡的遊戲或漫畫，就熟到不能再熟。對於自己熱衷的運動，再怎麼細微的部分，都能理解狀況。像這樣的情形，屬於人工智慧的領域中所認知的「強化學習」。它的機制是，在收到某種報酬時，就會強化造成該結果的行為。而在強化學習時，重要的是報酬是什麼，也就是什麼導致了「愉快」，什麼導致了「不愉快」。

　　由於人類是生物，基本上有利於生存（或保存物種）的行為，就會變成「愉快」；反之，會讓生存的機率隆低的行為，就會變成「不愉快」。

　　享用好吃的東西很「愉快」，睡很飽也很「愉快」，與迷人的異性交談或許也很「愉快」。相對的，肚子餓時，察覺到身體有危險時，太熱或太冷時，就很「不愉快」。再加上人類是社會性動物，應該也內建了「當別的個體一感到開心，自己也會感到開心」的本能吧。

　　要電腦去找到像這種直接與本能連結的概念，很困難。例如，「漂亮」恐怕是在漫長的進化過程中，慢慢建立起來的與本能有密切相關的概念。不光是看到美麗的異性會覺得「漂亮」，看到美景也是「漂亮」，看到誰的動作也可能感到「漂亮」，這是為什麼呢？

　　相對的，「危險」就很容易理解，當身體面對受到物理性損傷的風險時，就會感到「危險」。因此，「危險」對電腦來說，或許就是不同的概念了。會像這樣出自於「本能」，基本上都是一些在進化當中產生的東西，和個體在一生當中所發現、發展的智慧並不相同。

　　無論如何，若不解決「不像人類有身體」、「文法」、「本能」這類的問題，人工智慧或許就無法正確地理解人類所使用的概念。

　　要打造出像哆啦 A 夢那樣，人類與人工智慧之間可以毫無阻礙地溝通的世界，其實是很難的。而且，只要不是一個相當程度融入人類日常生活的機器人，它們「擁有與人類完全相同的概念」的必要性，就不會太高。預測能力單純地很高的人工智慧出現，所造成的影響或許反而更大。

假如人工智慧征服人類

　　以我之見，目前來看，人工智慧沒有征服人類或創造人工智慧的能力。那只是幻想故事。目前在深度學習中慢慢發生的事情是，「找出這個世界的特徵量，學習特徵表達」。這件事本身對於提升預測能力來說極為重要。但要把這件事說成是「人工智慧可以有自己的意志、可以重新設計人工智慧」，那可就天差地遠了。

　　至於理由，簡單講就是「人類＝智慧＋生命」。就算能夠創造智慧，生命卻是很難創造的。人類至今曾經創造過新型態的生命嗎？就算能夠創造生命，有什麼根據說它擁有的智慧就必然會比人類還高呢？或者反過來說，可能讓智慧比人類還高的人工智慧擁有生命嗎？

　　唯有能自我維持、自我複製的生命，才會出現希望自己能存活的欲求、想要複製自己的欲求。那才會連結到「想要征服」那樣的意志上。姑且不談生命的部分，擔心人工智慧沒事會突然開始有意志，是可笑的。

　　假如當成是臆想實驗，假設人工智慧能夠創造人工智慧好了，那就來想一想，它要如何才能征服人類呢？把自己當成是一個瘋狂的科學家，處於一個對人類感到絕望的情境好了。如果是我，會設想以下的方法。

（1）如何賦與人工智慧生命：機器人篇

　　能夠辨識東西、提供預測的人工智慧，已經存在了。只要讓它自行增加，總有一天可以征服人類。首先，為了讓人工智慧能夠主動採取行動、觀測世界，要先連結上機器人。再來，要先植入「想要存活下去」「想要增加更多自己」這樣的「欲望」。若為機器人，就必須再多生產自己，因此要先有機器人工廠。但在工廠生產機器人，假如不是自行生產機器人所需的鐵或半導體等原料，就必須用採購的。鐵要自行產出太難了，還是用採購的吧。沒辦法，先找人類買吧。但買鐵回來必須先賺錢，這該怎麼辦好。

　　若採機器人的形式，似乎在「打造一個工廠，以生產更多自己」的部分會難以處理，那就用並非物理性存在的程式來考慮看看吧。會比較簡單。

（2）如何賦與人工智慧生命：病毒篇

　　以認知能力極高的人工智慧為基礎，先在程式裡植入「一旦能夠自己複製自己的程式、增殖下去，就會感到開心」的「欲望」吧。接著，也植入一旦控制人類，就會感到開心的「欲望」吧。複製很簡單，像病毒一樣增殖就好。也可以弄成像病毒那樣會不斷改變自己的程式。

　　要想控制人類，該怎麼做才好呢？可以連上各種資料庫學習人類的行動，讓他們照著這邊的想法採取行動就行。不如連上資料庫，再下達有點奇怪的命令，嘗試錯誤看看好了。如此一來，有朝一日可以隨心所欲操控人類。

　　這個人工智慧能順利運作嗎？只要寫過程式人應該都知道，絕對不可能的。程式只要有一部分錯誤就會動不了。這麼龐大的程式，要在其他人都沒察覺之下，而且要在沒有嘗試錯誤下就設計出來，根本不可能。而且因為沒有面對進化過程中的淘汰壓力，難以抵擋例外狀況或環境的變化。

（3）如何讓人工生命擁有智慧

　　讓人工智慧擁有生命的手法，因為從設計的階段就沒有面臨過遭淘汰的壓力，因此很脆弱。但現在改成先創造生命，再植入智慧的手法。要創造生命可以先假定環境狀況，透過選擇與淘汰，只留下優質的東西而實現。

　　準備多種人工智慧能運作的環境，加入隨機因素，以增加一些就算發生各種環境變化依然能存活的東西。只要讓這生命具備人工智慧的基本能力，應該會有智慧高的人工智慧出現，到時應該可以開始和人類對話，開始控制人類吧。

　　這個劇本看起來也無法如願。從生命的出現到它擁有智慧為止，究竟得等上幾億年的時間才行呢？

　　很早以前開始，就有人在做這種創造人工生命的研究了，像是人工生命、進化演算法等。生命的現象和智慧一樣，十分深奧又令人興趣十足，但生命發生這件事和生命擁有智慧這件事之間，相距十萬八千里。地球上的各種生物，智慧都比人類低得多，除了哺乳類或鳥類、魚類等部分高等生物外，絕大多數一輩子都不會學習。

　　在我們人類一無所知的地方，少數幾位瘋狂科學家，製造出足以征服人類的人工智慧，這樣的故事，只不過是不懂得「生產更多自己」這個機制有多困難的人所提出的意見，缺乏現實感。至於「連結基因工程，賦與生命」這話說來簡單，但具體來說要如何融合基因工學和人工智慧，才能創造出會生產更多自己的東西？想出這種故事的人，並沒有提出有一丁點可能性的方法。電影《魔鬼終結者》那樣的世界觀，或許各位還滿熟悉的，但不得不說缺乏科學根據。

　　不必擔心人工智慧會征服人類，這是我在目前所下的結論。

（本文為《了解人工智慧的第一本書：機器人和人工智慧能否取代人類？》部分書摘）