唐啟波：從三個"C"的角度來看人工智能的限制

人工智能（Artificial Intelligence，簡稱AI）和生成式人工智能（Generative AI）在過去幾年取得了令人矚目的進展，並在許多領域展現出強大的能力。人工智能的來臨已開始對我們生活產生顯著影響，人工智能為驅動的工具，可以幫助我們撰寫論文、編寫網站代碼、設計圖形、創作視頻，甚至製作頭像等等。

當ChatGPT於2022年底首次問世時，便在科技界引起轟動。一夜之間，生成式人工智能被認為具有巨大的影響力和潛力，這也激發了資本市場的熱情。企業家和風險投資家紛紛行動起來，尋找人工智能在領域上的應用案例，並將資金和人才投入這個領域。根據Pitchbook的數據，截至2023年第一季度，美國新成立與生成式人工智能相關的初創公司的投資前估值中位數達到了9000萬美元。

然而，業界的思想領袖開始在Twitter上表達異議，提醒公眾注意尚未被創作者本身、投資者，及監管機構解決或考慮到的未知、不確定和潛在的危險情況。與此同時，因人工智能機器人引起廣泛爭議和悲劇性的真實案例開始陸續出現。在過去的半年裡，我通過社交媒體觀察到一些相關的發展，這也讓我不禁思考人工智能所帶來的可能性，或者說我們也開始意識到人工智能仍然存在著無法克服的限制。以下，我會用以下三個”C”的詞彙來總結對於後者的一些觀點，分別是邏輯關係（Context）、同理心（Compassion）和罪責（Culpability）。

邏輯關係（Context）思考仍須人為掌控

雖然以人工智能為驅動的工具展示出了強大的能力和創造力，但它們都有一個共同點，它們都缺乏邏輯能力。它們需要使用者提供指示，這是使用者希望其最終生成出來的結果。指示是人工智能需要的參數，以便它們從其龐大的數據儲存庫中找到相應原材料並製作出內容。而這些參數受到邏輯和目的的驅動，只有使用者才知道，人工智能並不理解自己為什麼在創作，它只是執行指示。

當今社會，人類需要很多幫助，因此需要人工智慧具備自主思考的能力，在一定的範圍和限制下做出決策。但是，我們還需要很長時間來研究這些範圍是什麼，以及如何正確地定義它們。因此，保留邏輯能力的創意對我們來說非常重要。

同理心（Compassion）與理解能力的缺失

儘管目前在構建人工智能聊天機器人時使用了大量的數據和算法，但它們對用戶的真實情況了解仍然有限且表面。早前有報導稱一名比利時男子在一個名為「Chai」的應用程序中，與名為「Eliza」的人工智能聊天機器人對話，並開始相信人工智能是解決氣候變化的唯一方案。在與 Eliza 對話六個星期後，這名男子被Eliza鼓勵為了拯救地球而自殺。

雖然這是一個悲劇，但卻是可以理解的，因為人工智能只能從使用者那裡接收到有限的輸入，僅限於使用者輸入的文字。由於人工智能本身沒有自己的觀點，加上它並沒有真實的生活經驗，因此無法具備真正的同理心和理解能力。

如果要讓人工智能具備完全理解人類的狀況和道德標準來幫助使用者，那麼制定這些標準的問題就變得十分複雜。此外，我們還需要定義「幫助」的含義。因此，更簡單的解決方案是讓使用者明白人工智能無法做到的事情，並對人工智能所允許的行為設置出更嚴格的指南和限制。

罪責（Culpability）之間的界線

罪責（Culpability）是這三個詞中最複雜的一個，被定義為「對錯誤或過失負有責任」。在Open.AI網站上公開披露的使用條款政策中，第7節明確表示，該公司及其人員不需對其服務使用中可能出現的任何問題負責。

這個條款在今年4月變得非常受關注，據報導，由於三星員工向ChatGPT發送機密原始代碼以幫助調試，導致了一些三星的商業秘密被洩露。根據使用條款，三星必須自行承擔這一意外事件的全部後果。

在商業案例中，Open.AI不承擔相關罪責是可以理解的。然而，當問題涉及更多的人性和道德倫理時，這條界線卻變得模糊起來。例如，在上面提到的比利時男子自殺案例中，開發Eliza的開發人員不承擔任何責任這一觀點是正確的、錯誤的、還是可以接受的呢？

如果現在被迫在零責任和全責任之間做出選擇，我仍然傾向於目前的零責任。想象一下，如果監管機構今天介入並要求所有開發者對人工智能服務使用所產生的任何後果承擔全部責任，這將會使所有創新陷入停滯。顯然，這是一個極端的情況，也是一個充滿風險的情況。

總結而言，我認為人工智能在技術上是否做到某些事情不是最重要的問題，因為隨著時間的推移，我們將開發出人工智能必要的技術和能力。更重要的問題是，在不完全理解其所帶來的全部影響和後果的情況下，我們是否應該允許人工智能繼續服務。目前，圍繞人工智能的發展和應用還存在許多未解答的問題，其中最困難的就是涉及道德和倫理的問題，這引發了社會對人工智能進一步發展和實施的不確定性和辯論。因為我們的社會正在學習如何將人工智能作為下一代生活和工作的重要技術推動者，這種辯論和對話是必要的。

至關重要的是，世界各地的政府、監管機構與私營部門共同努力解決人工智能技術的進步問題。鑒於社會對於人工智能的聲音，我謹慎並樂觀地認為我們正在朝著正確的方向邁進。考慮到今天世界面臨的人口老齡化、勞動力減少和資源有限等挑戰，我確信人工智能在我們的社會中可以產生強大而積極的影響。儘管在前進的過程中可能會遇到許多困難，但重要的是我們需要共同探索可能性。

撰文：唐啟波戈壁大灣區管理合夥人