AI 反過來統治人類?Google正研發「安全中斷」機制,防範「天網」般情節上演

本文作者Chris,原刊自INSIDE,天地人授權轉載。「硬塞的」科技網誌成立於2009年11月底,係由一群熱愛網路的人所成立的共筆部落格。我們閱讀、觀察、思考並分享。針對新媒體的過去、現在與未來,分享新知、討論個案、研討技術,竭誠歡迎您跟我們一起關心、討論與分享。

25717574115_a13441f167_b(Photo Credit:Buster Benson@flickr)

不得不提,自從 AlphaGo 圍棋下贏李世乭以後,人工智慧的熱度一下子就爆發開來,但有關「天網」或「駭客任務」般 AI 是否會反過來統治人類的討論,則出現了正反兩種截然不同的聲音。像是 Elon Musk、Bill Gates 都十分擔心真的會發生,但也有人從技術與意識的角度告訴大家不會發生(反而要擔心有心人士使用機器來破壞秩序)。

但不管會不會成真,有所防範總是好的。因此打敗李世乭的 Google DeepMind 與牛津大學合作發表了一篇論文,表示已經正在研擬對 AI 可隨時「安全中斷」的機制,以防止人工智慧或機器人的異常甚至有害行為。論文雖然還沒有明確解釋其運作原理,但表示已經創造了一個「框架」,允許現實中的人類「操作員」可以隨時反覆安全中斷 AI,又確保 AI 不能把「如何阻止中斷」的方法學習起來。

不過他們也承認,有些系統或演算法可能無法使用這套框架機制。

DeepMind 確實很清楚認知到他們所研發的人工智慧技術是有其危險性的,因此讓他們的母公司 Google 成立了 AI 倫理委員會監督其進展,但這個機構由誰來管理、怎麼運作,卻一直還是一團謎。肯塔基州路易斯維爾大學獨立研究者 Federico Pistono 和 Roman Yampolskiy 也認為,惡意的人工智慧系統很可能會在缺乏監督、使用閉源代碼等極為封閉的環境所創造出來的,所以要防治惡意的人工智慧,另一個根本之道可能還是確保一切發展都處在公眾的視野之中。

斜標_合作媒體
1375670_10151676163421566_797850962_n
INSIDE
「硬塞的」科技網誌成立於 2009年11月底,係由一群熱愛網路的人所成立的共筆部落格。我們閱讀、觀察、思考並分享。針對新媒體的過去、現在與未來,分享新知、討論個案、研討技術,竭誠歡迎您跟我們一起關心、討論與分享。

 


> > >延伸閱讀:為何在KKBOX看不到廣告?織田紀香:不看點擊、不做導購的廣告策略改革

> > >延伸閱讀:
4模式累積用戶、4型態廣告獲利,全球第三大APP開發商的事業拓展關鍵
> > >延伸閱讀:
AR/VR重新洗牌產業規則?不可不知最新數位技術4大趨勢

推薦課程

想加入行動市場卻不知從何開始?需要方便快速的製作專業 APP 企劃文件?如何與 APP 相關開發人員溝通? 本次課程內容從:APP 基礎的TA定位、產品思維與優化、專業企劃文件製作、開發流程到對外發包作業兼顧各層面的重點教學,讓您快速上手專業 APP 企劃及開發管理!

SEO課程_官網

如何讓我的網站出現在搜尋結果第一頁?在手機、平板等行動裝置上,怎樣才能抓住消費者目光?以上都與SEO息息相關。什麼是SEO(Search Engine Optimization,搜尋引擎優化)?簡單地說,SEO就是透過關鍵字「讓搜索引擎認識你的網站」的方法,但SEO背後的行銷觀念與執行細節可不簡單。在品牌推廣、客戶開發還是銷售轉換上,SEO 均可為企業創造可觀的行銷效益;同時SEO更是建置網站的基礎,無論是官網、活動網站或是購物網站,在設計開發階段就必須考慮到SEO,然而大多數的企業均未具備這樣的觀念,導致網站後續推廣困難,耗費人力資源卻無法獲得期望的行銷績效。有鑑於此,天地人文創 旗下 天地人學堂 所開設的【搜尋引擎SEO網路行銷暨實務操作】系列課程,針對不是工程師背景的我們,一次學習搜尋引擎SEO網路行銷與實務操作能力。

你知道產品經理等於是團隊中的「CEO」嗎?你知道一名優秀產品經理的必備「6 力」嗎?在每項成功產品的背後,最容易被忽略卻也最不可或缺的關鍵要素正是「產品經理」(Product Manager)!產品經理的工作範圍不僅要負責聯繫各單位、控管專案流程,同時更要懂得掌握消費者需求、釐清市場環境,從產品開發流程伊始即奠下成功產品的第一塊基石!產品經理在團隊中就是如此重要,所需要的工作能力其實非常接近企業總經理、執行長的範疇,故也有人稱產品經理就是團隊中的微型 CEO!


_平蝬_嚗踵帖

_訾_銵嚗踵帖

_萎_撱嚗踵帖

閮剛___嚗踵帖

蝔__嚗踵帖

_瓷__嚗踵帖

雓漣瘝_嚗踵帖

瀏覽所有_橫

02

jjjjj   跨產業   天地人文創   天地人學堂   天地人空間

未命名-2

路標