183
次閱讀

【知識型0.1學分】天河講堂經典系列（二）：有超人工智慧的未來是烏托邦還是反烏托邦世界？——George Orwell與Robert Nozick

講者：甘偵蓉（清華大學人文社會AI應用與發展研究中心）

時間：2023年03月15日（三）16：00-18：00

地點：天河書屋（學生活動中心一樓）

撰文：陳薇安

烏托邦就是西方名詞的桃花源的概念。近年來AI技術高度發展，而AI技術的發展其實比我們想像中的還要早。以現在被廣泛使用的無人機為例，它為人們省去大量時間和人力成本，如農作的監控，和街景的拍攝。

近期的ChatGPT，更是人工智能達到更高水平的代表。

ChatGPT雖然有完整組織語言能力，但只限於字面上的意義。而在實現於「產業落地」則需要更完整更細緻的程式編碼，因此發展上仍有待進步。

我們常說的AI，其實可分為「ANI」、「AGI」、「ASI」。ASI是最發達的階段，它所代表的是：所有能力皆在人類之上，而目前的ChatGPT 則處於AGI狀態，就是能力與人類相仿，但當其到達ASI時，AI就有可能改寫、更新自己的程式碼，使其能力飛越。

講師分享在書中所見的，內容描述有大量ASI的十二種世界。其中一種的可能：假設今有一專做迴紋針的ASI，其目的就是製造最大量迴紋針，接著，在所到之處，為大量設置迴紋針製造工廠，人類就會如螞蟻般被剷除。因此，ASI雖不是有意為之，卻有極高機率傷害人類。

她更分享《無政府、國家與烏托邦》一書提及的政治哲學概念，從自然狀態到無政府主義，再到國家，探討「國家」是否應該存在。可以說，無政府主義是完全自由的展現，但國家對於生活會有許多限制。

在提及個人與團體的權利，Robert Nozick主張自由至上主義，現代社會的社會福利制度被視為等同於強盜行為，它的正義觀是以歷史性為基礎，提出「獲取原則（洛克但書）」、「轉讓原則」、「賠償原則」並非財富的重新分配，是依照以上原則試圖達到民主性的公平，不遵守者將受罰。

Robert Nozick認為，保護個人權利是國家唯一存在的目的，它還論證了國家為何應該存在的結構。此時的國家是無政府主義國家，也是烏托邦的理想世界。