※ 本文為 MindOcean 轉寄自 ptt.cc 更新時間: 2017-11-11 12:19:04
看板 Gossiping
作者 標題 [新聞] 打開AI黑箱，NEC要發展白箱AI技術
時間 Sat Nov 11 11:30:49 2017
iThome
打開AI黑箱，NEC要發展白箱AI技術
AlphaGo的招數下得很妙，但人們又無法說明AlphaGo為何下此妙招，難道人類的未來要全
部交由AI來決定嗎？
文/吳其勳 | 2017-11-10發表
隨著AI人工智慧的復興，許多令人不可思議的應用開始浮出檯面，然而，AI的決策過程宛
如黑箱作業，人們的未來是否要交由AI技術來決定，逐漸引起討論。在今日（11/9）於日
本東京舉辦的NEC iExpo 2017大會，NEC社長新野隆就指出，未來要打開AI黑箱，發展白
箱AI（White-Box AI）技術。
如黑箱作業，人們的未來是否要交由AI技術來決定，逐漸引起討論。在今日（11/9）於日
本東京舉辦的NEC iExpo 2017大會，NEC社長新野隆就指出，未來要打開AI黑箱，發展白
箱AI（White-Box AI）技術。
AI人工智慧技術正在快速改變世界，在AI人工智慧為世界帶來更多便利的同時，其智慧決
策也在決定這個世界未來的樣貌。然而，以深度學習為首的AI技術，其運作過程猶如一個
黑箱，把訊息輸入之後，AI技術就輸出一個結果，而外人往往無法理解其演算法的決策依
據，甚至就連演算法開發者也難以具體說明AI技術的決策結果。
策也在決定這個世界未來的樣貌。然而，以深度學習為首的AI技術，其運作過程猶如一個
黑箱，把訊息輸入之後，AI技術就輸出一個結果，而外人往往無法理解其演算法的決策依
據，甚至就連演算法開發者也難以具體說明AI技術的決策結果。
NEC社長新野隆表示，AI最大的意義是將真實世界的各種資訊數位化，轉換為對人類有價
值的決策。首先，影像、視訊、聲音、文件等資訊都數位化之後，就可以進行過去無法做
到的分析。雖然社會上已經充滿各種資訊，但數據品質並不好，例如監視攝影機在晚間，
或遇到起霧就無法取得有用的資訊，而AI技術首先可用於提升數據的品質。
值的決策。首先，影像、視訊、聲音、文件等資訊都數位化之後，就可以進行過去無法做
到的分析。雖然社會上已經充滿各種資訊，但數據品質並不好，例如監視攝影機在晚間，
或遇到起霧就無法取得有用的資訊，而AI技術首先可用於提升數據的品質。
接著，真實世界的各種資訊都數位化之後，AI技術就能對數據予以分析，再透過各種技術
綜合分析提出結果建議，但是，「對於AI最後得出的結果，我們卻無法說明。」新野隆說
：「AI技術就像是黑盒子，以圍棋程式AlphaGo為例，為何AlphaGo會出這招，沒人知道，
但我們又不得不承認AlphaGo很精明，招數下得妙。」
綜合分析提出結果建議，但是，「對於AI最後得出的結果，我們卻無法說明。」新野隆說
：「AI技術就像是黑盒子，以圍棋程式AlphaGo為例，為何AlphaGo會出這招，沒人知道，
但我們又不得不承認AlphaGo很精明，招數下得妙。」
然而，AI技術分析得出的決策，最終是要對真實世界的決策有所助益，新野隆表示，很多
AI技術提出的決策建議，都需要再由人來判斷，然而把關的人若無法理解AI決策的依據，
又該如何判斷？最終豈不是全數交由AI來決定。
AI技術提出的決策建議，都需要再由人來判斷，然而把關的人若無法理解AI決策的依據，
又該如何判斷？最終豈不是全數交由AI來決定。
新野隆表示，NEC未來的AI開發趨勢之一，就是研發白箱AI技術，在以AI技術提供決策建
議的同時，也提有效的證據為基礎，讓人們有辦法據以判斷AI的決策建議。
https://www.ithome.com.tw/news/118187
![[圖]](https://s4.itho.me/sites/default/files/field/image/nec-ceo_-_1.png)
叭叭~我們要求阿法狗公開透明，不能密室協商，所有決策都要攤在陽光下！
--
噓 :噓的人我看連字都寫不好06/06 10:59
→ :幹 我怎麼噓了
→ :等等補推 = =
推 :呼
→ :幹 我怎麼噓了
→ :等等補推 = =
推 :呼
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.132.107.225
※ 文章代碼(AID): #1Q1cxppV (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1510371059.A.CDF.html
推 : 哥德羅莉大人1F 11/11 11:31
→ : 日本軟體…2F 11/11 11:31
→ : 粒紅：3F 11/11 11:32
推 : 想被矢野踩4F 11/11 11:32
推 : NEC 呵呵5F 11/11 11:32
→ : white box test6F 11/11 11:32
→ : AI表示：連這都不懂，消失吧7F 11/11 11:34
推 : 天真，結果偷偷摸摸寫，然後丟到網路測試變天網。8F 11/11 11:35
推 : 本來就是白箱，只是無法轉化成人類好理解的方式9F 11/11 11:36
→ : 一個天才又不一定是好老師
→ : 一個天才又不一定是好老師
→ : 痾 至少目前學術界都覺得是個 black box 啦11F 11/11 11:37
推 : 白箱不就是了解各個node在幹嘛嗎12F 11/11 11:39
推 : 白箱是動畫在上到電視前的那捲帶子啊13F 11/11 11:40
推 : 日本人只會蔣幹化啦14F 11/11 11:50
推 : 先發展人腦15F 11/11 12:04
→ : 渾沌沒聽過嗎 阿法狗適用統計決策的16F 11/11 12:04
推 : 把演算參數浮動值跟判斷式呈現，再視覺圖表輔助，應該有點17F 11/11 12:12
→ : 效果
→ : 效果
--
回列表(←)
分享