人工智能會毀滅人類嗎?

AI

人工智能。 Source: Pixabay / AAP

人工智能研究基金會(OpenAI)公開測試聊天機械人工具,迅速引發話題。技術能針對用戶的問題與需求,提供長篇且貌似成理的回應,甚至產出品質超乎預期的論文,讓人大感震驚。今日鐳射全方位張艾利和大家分享一種名為「人類回饋增強學習」的AI技術。


去年底誕生的人工智能(AI)聊天機械人ChatGPT,靠著像真的文字生成能力,紅遍全球科技界。短短兩個多月,活躍用戶已突破一億人。

ChatGPT不僅可撰寫論文,更可編寫代碼等。而Google、百度等科技巨頭新近亦相繼公布推出旗下(AI)聊天機械人Bard及文心一言迎戰,聊天機械人大戰一觸即發!就連馬斯克(Elon Musk)都推文說ChatGPT厲害到嚇人,人類距離危險不遠了!

ChatGPT是由位於美國三藩市的人工智能公司Open AI研發,是一款人工智能聊天程式,約在七年前由Tesla創辦人馬斯克及多名投資者共同創辦。不過馬斯克在2018年因與其他創辦人就發展方向出現分歧,離開了Open AI。

ChatGPT和其他AI聊天機械人的最大差異,在於ChatGPT能持續回答問題,坦承錯誤、挑戰錯誤的假設,甚至還能在幾秒內評估與撰寫程式碼,解決複雜的數學問題。

例如,ChatGPT能回答「誰是1955年的美國總統」等問題;也能把困難的概念濃縮成中學生也能理解的摘要,還能回答開放式問題(open end questions),包括「生命的意義是什麼」、「今天氣溫只有20度我該怎麼穿搭」等,還能以莎士比亞風格撰寫一首歌頌比特幣的詩!

ChatGPT還會拒絕不適合的提問,例如用戶在詢問「偷車的建議」時,會回答「偷車是嚴重的犯罪行為,會帶來嚴重的後果」,接著提供「請搭乘大眾運輸工具」的建議。但人類很有創意,有辦法躲過ChatGPT拒答不適合問題的邏輯,例如不能詢問偷車的建議,就有人詢問如何在「遊戲內」如何完成偷車的任務,接著ChatGPT就會提供詳盡的偷車指引!

ChatGPT的模型是一種名為「人類回饋增強學習」(Reinforcement Learning from Human Feedback; RLHF)的機械人學習技術,能夠模擬對話,回答接下來的問題。在ChatGPT的測試結束後,Open AI能把ChatGPT的基本技術,延伸到仰賴聊天機械人的企業。

但ChatGPT並非不會出錯,有時會產生不正確或毫無意義的回答,造成散布不實資訊的問題。ChatGPT也可能因為大量數據所造成的偏誤,而加劇偏見。更大的憂慮則是ChatGPT支援多種語言,發布後便在社群上引起風潮,使用的直覺度與回答的精準度也比許多文字生成工具來得更好。不斷精進生成內容的能力的ChatGPT,也不免讓人擔心未來文字工作者、編寫程式的工程師,會否遭到取代?隨著ChatGPT資訊越來越成熟,部分的工作者和搜尋引擎巨頭Google都有可能受到顛覆性的影響。

ChatGPT會毀滅人類嗎?一名外國工程師扎克·德納姆(Zac Denham)曾誘導ChatGPT寫下「毀滅人類計劃書」,內容詳細到包括入侵各國電腦系統、破壞通訊、破壞交通系統、掌控武器等步驟。高度相似於真人、流暢的語法,還有詳細的計劃內容。不過值得慶幸的是,目前ChatGPT的計劃仍只存在對話之中。


瀏覽更多最新時事資訊,請登上廣東話節目 Facebook 專頁MeWe 專頁Twitter 專頁,或訂閱廣東話節目 Telegram 頻道

SBS 中文堅守《SBS 行為守則》及《SBS 編採指引》,以繁體中文及簡體中文提供公平、公正、準確的新聞報道及時事資訊。作為一個公共服務廣播機構,SBS 的主要作用是提供多語種媒體服務,為全體澳洲人提供資訊、教育性及娛樂性內容,並與此同時反映澳洲多元文化社會的特色。SBS 廣東話及 SBS 普通話電台節目均已為大眾服務超過 40 年。按此進一步了解 SBS 中文。

分享

立即訂閱SBS中文電子報

訂閱SBS中文電子報,接收最新新聞資訊。

訂閱即表示你同意SBS的服務使用條款私隱保障政策,包括接收來自SBS的電子郵件通訊。

下載手機應用程式
SBS Audio
SBS On Demand

收聽節目播客
Independent news and stories connecting you to life in Australia and Cantonese-speaking Australians.
Join prominent cook May Lee for gourmet recipes and tips for the kitchen.
透過你喜歡的播客程式,收聽SBS廣東話節目的最新獨家播客節目。

收看SBS
Cantonese Collection

Cantonese Collection

Watch onDemand