※ 本文為 MindOcean 轉寄自 ptt.cc 更新時間: 2020-12-10 20:33:22
看板 C_Chat
作者 標題 Re: [閒聊] 現實世界有哪些原理不明的科技
時間 Thu Dec 10 15:24:19 2020
現在的AI就是啊
深度學習爆紅是十年前就開始了
但大家根本不知道為什麼neural堆深一點就可以學習
CNN出來時屌炸天，好像什麼pattern都學的起來一樣
CNN出來時屌炸天，好像什麼pattern都學的起來一樣
然後你問研究者為什麼圖片和文字的data structure兩者可以取得有類比性的成功
他會和你說我也不知道，甚至直接寫在論文裡那種
然後花了好幾年時間trial and error，用結果反推為什麼
這個研究方法不叫懂基本原理，的確比較像動漫那種黑科技知道能用就將就著應用而已
基礎原理的理解完全跟不上
當然啦，我們知道nerual net可以趨近任意函數
我們也知道這個世界和高斯分布關係很深
(高斯分布encode了最多的不確定性，同樣大小的空間下高斯能紀錄最多資訊)
但一樣啊，這只是稍微justify我們用神經網路，還有每個未知的分布都先用高斯套或高斯p
rior套而已
然後他就work了
明明說因為天下沒有白吃的午餐理論，任何一個演算法都會被某一些分布的資料搞爆
但他就work了啊
著名學者像Andrew Ng在課堂上也就聳肩說看起來這世界對我們敵意沒那麼深
.
.
但是最近好像終於開始有些進展了，NTK之類的
滿多是19年和今年的論文的，我還沒跟上，懂得大大請體諒我的認知
我自己一路學來是覺得
這個領域就是霧裡看花，但你學越多霧就越散
現有理論的不完整，我是覺得一部分是真的不完整
但其他一部分是大部分人，甚至可以講非AI領域，貝氏統計領域，量子領域以外的對uncert
ainty(不確定性)都沒什麼認知
絕大多數人覺得世界就是0和1，不會去問threshold是什麼背後的分布長啥
一旦接受了這世界就是建立在不確定性的基礎上這設定後
很多事情就不會腦袋轉不過來這樣
要知道不一定要知道某一現象才叫懂
你知道你不懂什麼不知道什麼再能夠去推論你懂什麼
能做到這樣就很近似你懂了，這樣
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.12.84.61 (臺灣)
※ 文章代碼(AID): #1VqSqbKF (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1607585061.A.50F.html
※ 同主題文章:
12-10 14:39 ■ [閒聊] 現實世界有哪些原理不明的科技
12-10 15:06 ■ Re: [閒聊] 現實世界有哪些原理不明的科技
● 12-10 15:24 ■ Re: [閒聊] 現實世界有哪些原理不明的科技
12-10 16:43 ■ Re: [閒聊] 現實世界有哪些原理不明的科技
→ : 我知道寫程式溝通都像你文章這樣 但是你好歹打文章的時候1F 12/10 15:25
→ : 要換成全部都是中文吧 雖然有些名詞用中文沒辦法精確表達
→ : 意思
我學這些沒透過中文學過，很多是真的想不出對應中文是什麼，不好意思→ : 要換成全部都是中文吧 雖然有些名詞用中文沒辦法精確表達
→ : 意思
推 : 太棒了 我逐漸理解一切4F 12/10 15:25
→ : 很多數學公式也是先找到通則,再想辦法證明或反證,很正常.5F 12/10 15:26
推 : 類神經的節點 每個都是不知道衝三小的 但最後就是能6F 12/10 15:26
→ : 算好
→ : 算好
推 : 因為實際上他真的沒辦法保證這做法一定比較強8F 12/10 15:26
→ : 供三小9F 12/10 15:26
→ : 可以撲要中文English mix在一起ㄇ，這樣讓我很confuse10F 12/10 15:26
→ : 現在真的大家懂得原理就是Fundamental Approximation Thm11F 12/10 15:27
→ : 也就是「資料夠多 層數夠多 就可以學得夠像」
→ : 也就是「資料夠多 層數夠多 就可以學得夠像」
推 : 哪天我們變成劍與魔法的世界 也會有人問魔法原理是啥13F 12/10 15:27
推 : 總之train下去就有結果惹，比魔法還玄14F 12/10 15:27
→ : 但是要多少資料或多深這類 performance gurantee 目前15F 12/10 15:27
→ : 是不清楚的，而且我覺得大家也不感興趣XD
→ : 是不清楚的，而且我覺得大家也不感興趣XD
→ : 那這樣來看 科技其實就是魔法17F 12/10 15:28
※ 編輯: praiseZun (101.12.84.61 臺灣), 12/10/2020 15:28:40→ : 這東西沒有那麼像魔法，只是有時候效果很棒18F 12/10 15:28
→ : 但實際上reinforcement learning 現在正在撞壁
我自己覺得不是大家不敢興趣，是感興趣弄懂的都在數鈔票了。而且那些大家就算感覺的出→ : 但實際上reinforcement learning 現在正在撞壁
來怎麼做要寫成嚴謹的證明也是另一回事。
推 : 其實大家都是魔法師peko20F 12/10 15:29
→ : 我知道 因為我寫程式也都直接英文學習英文應用英文溝通21F 12/10 15:29
→ : 因為他很容易發生"在這個情況好棒棒 但其他情況不是"22F 12/10 15:29
→ : 但是我沒學過AI看你的文章就會看不懂QQ23F 12/10 15:29
→ : 這些詞真想全部tran成中文會馬上引來支語警察24F 12/10 15:29
推 : niubi25F 12/10 15:30
→ : 把Deep Network 想成偶爾會膛炸的大砲就好了26F 12/10 15:30
→ : 這東西並不是像程式那樣保證會成立的東西
→ : 他隨時有可能在你不清楚的情況下爆開來
※ 編輯: praiseZun (101.12.84.61 臺灣), 12/10/2020 15:31:01→ : 這東西並不是像程式那樣保證會成立的東西
→ : 他隨時有可能在你不清楚的情況下爆開來
推 : 硬派寫實啊 人也是一樣29F 12/10 15:31
→ : 至少就我知道的部分，performance guarantee是一攤死水30F 12/10 15:31
→ : 你沒能寫成數學證明 基本上就是不知道啊XD
→ : 我想了一下 講不感興趣是不太對的說法
→ : 應該說，你現在去做那個研究 會比較難拿到錢
→ : 而且我聽到的部分是...那理論真的很難做
基礎研究現狀真的是這樣。我之前就看過美國很有名的教授在抱怨現在產的論文90%都是垃→ : 你沒能寫成數學證明 基本上就是不知道啊XD
→ : 我想了一下 講不感興趣是不太對的說法
→ : 應該說，你現在去做那個研究 會比較難拿到錢
→ : 而且我聽到的部分是...那理論真的很難做
圾，只是能快速累積應用上的成果就能被發出來了這樣
推 : It just works35F 12/10 15:33
→ : 有些專有名詞真的不知道要怎麼翻成中文36F 12/10 15:33
推 : 俺尋思...37F 12/10 15:35
推 : 樣本標準差...38F 12/10 15:35
※ 編輯: praiseZun (101.12.84.61 臺灣), 12/10/2020 15:36:10推 : 看過對岸的教科書之後就知道翻成中文不見得比較好XD39F 12/10 15:36
推 : 天網全民beta不刪檔公測40F 12/10 15:36
→ : 翻成中文反而比原文還能看懂…41F 12/10 15:37
推 : 因為現在大家比較關心應用層面的部分42F 12/10 15:37
→ : 畢竟那些應用DEMO起來挺炫砲的
→ : 畢竟那些應用DEMO起來挺炫砲的
→ : 深度學習某種程度上比起膛炸大砲更像煉金丹炸爐44F 12/10 15:37
推 : 我懂用英文表達會比較習慣 但是work的中文你說沒學過45F 12/10 15:38
→ : 我還真不相信==
→ : 我還真不相信==
推 : 英文的比例明明就夠低 work用workg是因為最順啊47F 12/10 15:39
→ : 不然要打 行得通嗎==
→ : 不然要打 行得通嗎==
→ : 其實是模型穿模了(?49F 12/10 15:40
推 : 很多詞翻成中文也不會好懂到哪去 堆疊類神經網路來50F 12/10 15:41
→ : 學習（？） 別為難工程師了（扶額
→ : 學習（？） 別為難工程師了（扶額
推 : 用work最能表達那個意思啊==52F 12/10 15:41
→ : convolutional 這個中文我還真的不知道是啥53F 12/10 15:41
→ : 全部打英文就好了54F 12/10 15:41
→ : 卷積55F 12/10 15:42
→ : 卷積 ... 好像看起來還滿像回事的56F 12/10 15:43
推 : 被叫現代煉金術不是沒原因57F 12/10 15:44
推 : 所以現在就在走可解釋性了58F 12/10 15:44
推 : ML就有人搞黑科技也有人搞造假的59F 12/10 15:45
講到這個就想起一個好笑的。因為現在AI還真什麼解釋性無法檢驗，之前就有個新聞是公司造假AI其實是印度人在背後下判斷。
"人工"智慧，嗯
推 : 謝謝你，大魔法師60F 12/10 15:48
※ 編輯: praiseZun (101.12.84.61 臺灣), 12/10/2020 15:50:03→ : 看不懂不是英文的問題 因為這些東西只有懂的人才懂61F 12/10 15:50
推 : 人工智慧(X) 工人智慧(O)62F 12/10 15:51
→ : 有些詞就跟代號一樣 還是要看解釋才懂 翻成中文沒意義63F 12/10 15:51
→ : 就像我看線代和電磁學一樣64F 12/10 15:53
推 : 就跟飛機為什麼會飛 一樣，雖然知道有利用牛頓第三運65F 12/10 15:54
→ : 動定律和白努力運動，但更詳細的原理還是未知的
→ : 動定律和白努力運動，但更詳細的原理還是未知的
推 : 樓上只是需要多寫些習題而已XD67F 12/10 15:54
推 : 宇宙貓貓.jpg68F 12/10 15:54
→ : 我是說 dieorrun69F 12/10 15:54
→ : 大家只知道這樣設計會飛起來跟如何飛好70F 12/10 15:55
推 : 怎麼會有人想要翻譯專有名詞==71F 12/10 15:55
→ : 很多詞中文根本沒辦法表達
→ : 很多詞中文根本沒辦法表達
推 : 看不懂 幹73F 12/10 15:57
→ : 湍流的流體力學分析很是很玄的東西啊==74F 12/10 15:57
推 : 這倒是真的，Alphago Zero那麼強，但是圍棋邏輯也說不75F 12/10 16:00
→ : 出來
→ : 出來
推 : 印度人 笑死77F 12/10 16:00
→ : 因為AlphaGO就不是用人類的理論去分析啊78F 12/10 16:01
→ : 用人類的圍棋理論反而是自行設定限制
→ : 用人類的圍棋理論反而是自行設定限制
推 : 名詞翻下去本來只有外行人不懂的文章會變成沒人看得懂80F 12/10 16:04
推 : 本來就不該翻譯 我們教育都看原文書的 中文翻譯沒有真的81F 12/10 16:06
→ : 統一居多 硬要翻原本看得懂的變成看不懂
→ : 統一居多 硬要翻原本看得懂的變成看不懂
→ : 趕快推文免得別人以為我看不懂83F 12/10 16:13
推 : 嗯嗯跟我想的一樣84F 12/10 16:19
推 : 資訊很多專有名詞還是用英文好一點85F 12/10 16:19
→ : 因為這樣才會有metaheuristic誕生阿86F 12/10 16:24
推 : 我覺得CNN(DNN)的原理爆開來的那一天人類應該會有很可怕87F 12/10 16:25
→ : 的進步。
→ : 的進步。
→ : 真的不是中英文的問題，是專業問題89F 12/10 16:43
→ : Neural Network翻成神經網路我相信不懂的人還是不懂
→ : 還有像domain這種翻成域以後講話別人都不知道你說什麼
→ : Neural Network翻成神經網路我相信不懂的人還是不懂
→ : 還有像domain這種翻成域以後講話別人都不知道你說什麼
推 : 深度學習我們能理解的只有梯度下降，數學只能證明到這一92F 12/10 16:47
→ : 步，證明模型是終究可以收斂的，但是這是微觀的理解，全
→ : 局上沒人懂他到底收斂了什麼，怎樣會平滑怎樣會卡在saddl
→ : e point
→ : 步，證明模型是終究可以收斂的，但是這是微觀的理解，全
→ : 局上沒人懂他到底收斂了什麼，怎樣會平滑怎樣會卡在saddl
→ : e point
推 : 翻成中文明明比較好，只是繁中翻譯成本太高96F 12/10 16:47
推 : 沒錯 AI基本上就是瘋狂亂套亂算寫公式 再套進去97F 12/10 16:53
→ : 大概只有前0.000001%的人 真的知道自己在幹嘛
→ : 其他:誰他媽知道那些LAYER在幹三小 結果all right就好
→ : 大概只有前0.000001%的人 真的知道自己在幹嘛
→ : 其他:誰他媽知道那些LAYER在幹三小 結果all right就好
→ : 我以為靠大量的解來叫電腦湊多元方程式就叫AI100F 12/10 16:57
Attention Required! | Cloudflare
Please stand by, while we are checking your browser...Completing the CAPTCHA proves you are a human ... ...
Please stand by, while we are checking your browser...Completing the CAPTCHA proves you are a human ... ...
→ : 以目前絕大部分論文都還是英文的情況來說 翻成中文102F 12/10 17:17
→ : 可不一定比較好，泛用性也得考慮進來啊
→ : 可不一定比較好，泛用性也得考慮進來啊
推 : 流體力學最後幾章都直接教你做個等比例模型去模擬情況104F 12/10 17:30
→ : ，然後用公式換算到原始比例。因為實際情況複雜到原始
→ : 比例根本很難用公式算
→ : ，然後用公式換算到原始比例。因為實際情況複雜到原始
→ : 比例根本很難用公式算
推 : 萬聖節107F 12/10 17:35
→ : 歸類黑科技108F 12/10 17:54
推 : 的確是黑科技109F 12/10 18:33
推 : 用電腦做流力計算到現在也只能說是有算出趨勢110F 12/10 18:33
→ : 然後計算方式也是百家爭鳴...
推 : 白努力只能用在層流計算，現在一般環境幾乎都是湍流，
→ : 但計算問題前面也提到了==
→ : 然後計算方式也是百家爭鳴...
推 : 白努力只能用在層流計算，現在一般環境幾乎都是湍流，
→ : 但計算問題前面也提到了==
推 : 我覺得未來十年二十年會很噁心114F 12/10 18:55
→ : 抱歉，白努力的部份說錯，希望原po幫刪115F 12/10 18:56
推 : 很多人在期待泛用型的AI超越人類的那天116F 12/10 19:06
推 : 不就大數據性質?117F 12/10 19:24
推 : 就是抄自然界存在的東西 就像飛機先抄鳥類構型一樣118F 12/10 19:34
→ : 非線性複雜系統只能部分解析特性
→ : 原理部分還是不完全明白
→ : 非線性複雜系統只能部分解析特性
→ : 原理部分還是不完全明白
--
※ 看板: ACG 文章推薦值: 0 目前人氣: 0 累積人氣: 497
回列表(←)
分享