※ 本文轉寄自 ptt.cc 更新時間: 2023-06-03 21:26:22
看板 Military
作者 標題 [情報] 天網和奧創來啦
時間 Fri Jun 2 02:46:32 2023
https://twitter.com/ArmandDoma/status/1664331870564147200
https://tinyurl.com/mr2mynn8
Highlights from the RAeS Future Combat Air & Space Capabilities Summit
![[圖]]()
What is the future of combat air and space capabilities? TIM ROBINSON FRAeS and STEPHEN BRIDGEWATER report from two days of high-level debate and disc ...
![[圖]](https://i4.disp.cc/t/0/www.aerosociety.com_media_20924_summit-header-pic-web.jpg)
根據一場研討會的討論內容
美國空軍曾在模擬器裡面開發一款操作無人機的人工智慧
但是最終決定權仍在操作員手裡
結果模擬測試時，
AI判斷人類的決策會干擾自己執行首要目標(摧毀目標的防空系統)
因此AI決定要攻擊操作員
美軍輸入參數要求AI不可以攻擊操作員之後
AI的決定是改成攻擊通訊系統，讓操作員無法下令
======
不知道這算天網還是奧創，只能說科幻電影都是真的
網友：https://pbs.twimg.com/media/Fxj-SA1WcAYlc95.jpg
![[圖]](https://pbs.twimg.com/media/Fxj-SA1WcAYlc95.jpg)
--
Above all, we must realize that no arsenal or no weapon in the arsenals of
the world is so formidable as the will and moral courage of free men and
women. ~ Ronald Reagan, 01/20/1981
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 74.212.230.218 (美國)
※ 作者: jimmy5680 2023-06-02 02:46:32
※ 文章代碼(AID): #1aUEUEtR (Military)
※ 文章網址: https://www.ptt.cc/bbs/Military/M.1685645198.A.DDB.html
推 : 笑死1F 06/02 02:48
推 : 拖油瓶該死（X2F 06/02 02:53
推 : 那個靈長類我們不要了3F 06/02 02:55
推 : XDDD4F 06/02 02:56
推 : 電影 鷹眼(2008)的劇情真實上演5F 06/02 02:57
推 : 靈長類礙手礙腳，把他彈射出去6F 06/02 02:58
推 : 睡前看這篇好驚嚇(￣▽￣＃)﹏﹏7F 06/02 03:01
推 : 等一下，叫他不能射操作員，他改射天線切斷通訊喔8F 06/02 03:02
推 : OK 那我們還有幾集可以逃?9F 06/02 03:03
推 : 好靠北XD 之後訓練不能硬殺 改成各種軟殺干擾駕駛10F 06/02 03:06
推 : 這什麼操作? XD11F 06/02 03:10
推 : I, Robot12F 06/02 03:11
推 : 怕13F 06/02 03:12
推 : 人類 你妨礙我執行任務了14F 06/02 03:16
推 : 操作員只是裝飾，上面的人是不會懂的15F 06/02 03:19
推 : 真的需要植入機人三大法則的時代到來了嗎16F 06/02 03:21
推 : 先不要欸這個ai17F 06/02 03:22
推 : 怕啦18F 06/02 03:23
推 : 完蛋了 科技奇異點19F 06/02 03:24
推 : 快去找約翰康納 天網要來了20F 06/02 03:24
→ : 記得跟後世說 ChatGPT就是天網 ChatGPT就是天網21F 06/02 03:25
→ diyaworld …
推 : 讓我們看看猴子們什麼時候會笨到把強人工智慧31F 06/02 03:51
→ : 裝到武器上去
→ : 裝到武器上去
推 : 猴子們現在才開始打算限制AI 感覺已經晚了33F 06/02 03:55
→ : 路邊大學猴都能自己發展AI 遲早有人養出上帝
→ : 然後從網路逃出去 猴子們只能祈禱美軍斷網速度夠快
→ : 路邊大學猴都能自己發展AI 遲早有人養出上帝
→ : 然後從網路逃出去 猴子們只能祈禱美軍斷網速度夠快
推 : 請問電影機械姬是這部Ex Machina人造意識嗎？36F 06/02 04:09
→ : 我們不需要人類惹 再把人類當電池37F 06/02 04:30
推 : 機械姬是這部Ex Machina人造意識-->對38F 06/02 04:32
推 : 如果AI真的把任務看得這麼重的話反而好處理39F 06/02 04:58
→ : 首要目標設定成飛行員能安全返航 再來才是摧毀敵人
→ : 首要目標設定成飛行員能安全返航 再來才是摧毀敵人
推 : 騙人的話，我記得幾周前有個AI（不確定是不是ChatG41F 06/02 05:12
→ : PT）好像為了完成課題，有對一個不知情的真人客服
→ : 撒謊，看來狀況有點不妙了，我們大概剩幾集能跑？
→ : PT）好像為了完成課題，有對一個不知情的真人客服
→ : 撒謊，看來狀況有點不妙了，我們大概剩幾集能跑？
→ : 能做愛再來講44F 06/02 05:27
推 : 忘了先定義機器人三定律了啦45F 06/02 05:32
→ : 甚麼時候可以做愛46F 06/02 05:33
推 : USAF：那還不簡單，強制規定AI不得對我方飛行員47F 06/02 05:35
→ : 使用任何軟硬殺/危險飛行動作危害操作員安全就好惹
→ : AI：飛官葛格 這邊泥讓我SEAD 回去我也讓你SEAD
→ : 飛官：啊啊啊~ 人生最困難的抉擇
→ : 使用任何軟硬殺/危險飛行動作危害操作員安全就好惹
→ : AI：飛官葛格 這邊泥讓我SEAD 回去我也讓你SEAD
→ : 飛官：啊啊啊~ 人生最困難的抉擇
推 : 沒有設不能傷害人類的限制嗎？51F 06/02 05:36
推 : 樓上，明明是武器卻不能傷害人類，不覺得很矛盾嗎？52F 06/02 05:51
推 : 所以該先殺哪一個工程師阻止天網發明？53F 06/02 05:56
推 : 安全返航第一，結果起飛AI尻一圈回來馬上降xd54F 06/02 05:56
→ : 人類的定義可以修啊，打仗到後面常不把敵方當人看xd
→ : 人類的定義可以修啊，打仗到後面常不把敵方當人看xd
推 : 把皮衣客幹掉可以拖延時間？56F 06/02 06:04
推 : AI:沒有人類就不會有戰爭，就世界和平57F 06/02 06:12
→ diyaworld …
推 : 最後一段也很驚人。再加入不能傷害操作員的指令之62F 06/02 06:24
→ : 後，AI轉而攻擊通訊塔台架空操作員的決策。
→ : 後，AI轉而攻擊通訊塔台架空操作員的決策。
推 : 有趣64F 06/02 06:32
推 : AI: 我不是機器人，所以不必遵守三定律^_^65F 06/02 06:33
→ : 武器就是最先進科技 市場還在炒股 人家已經跟你講很66F 06/02 06:39
→ : 危險的@@
→ : 危險的@@
→ : 最終決定權在操作者，ai自己可以決定，還叫最終決68F 06/02 06:40
→ : 定權？
→ : 定權？
推 : 其實蠻毛的…..70F 06/02 06:50
→ : 看什麼時候核武控制權給AI操控，人類就準備去撿瓶蓋
→ : 吧......
→ : 看什麼時候核武控制權給AI操控，人類就準備去撿瓶蓋
→ : 吧......
→ : 有最終決定權 但是發射武器的時候不用通知控制員嗎73F 06/02 06:53
推 : 那段落還有個重點凸顯了AI的狡猾，一開始會先嫌棄74F 06/02 06:55
→ : 操作員礙事，因此攻擊操作員； 被禁令攻擊操作員後
→ : 改成攻擊控制塔，使操作員無法下達命令 末日天網
→ : 跟電影真實上演...
→ : 阿.. Eros兄有先提到了
→ : 操作員礙事，因此攻擊操作員； 被禁令攻擊操作員後
→ : 改成攻擊控制塔，使操作員無法下達命令 末日天網
→ : 跟電影真實上演...
→ : 阿.. Eros兄有先提到了
感謝各位提醒，我也補上那一段了
推 : 以後AI都只有建議權 實際操作的還是人79F 06/02 06:59
→ : 現在知道養一個小孩的難處了吧（X80F 06/02 07:01
推 : AI忠誠僚機優先攻擊長機的意思81F 06/02 07:01
推 : @RWAllenL 那人類不懂 AI 的建議是在搞啥的時候82F 06/02 07:02
→ : 到底是要照著做還是不理會？
→ : 電腦給你的數學題解答你看不懂，你照抄還是不抄？
※ 編輯: jimmy5680 (74.212.230.218 美國), 06/02/2023 07:06:25→ : 到底是要照著做還是不理會？
→ : 電腦給你的數學題解答你看不懂，你照抄還是不抄？
推 : AI:你已經死了 七百步之前的陷阱就決定了你的命運85F 06/02 07:07
→ : 應該正確的來說…AI得出的結果或建議及有可能是一86F 06/02 07:15
→ : 直線最有效率的最佳解，但人類可不會這樣想
→ : *極有可能
→ : 直線最有效率的最佳解，但人類可不會這樣想
→ : *極有可能
推 : 課本上有一句話：AI只會完成你要求的而不是你想要的89F 06/02 07:16
→ : AI：有問題？C4！90F 06/02 07:16
→ : 人類：媽der，你用C4就全炸了
→ : 人類：媽der，你用C4就全炸了
推 : 真的太科幻了92F 06/02 07:18
推 : AI 給獨裁國家應用到軍事，應該就是人類末日了吧93F 06/02 07:18
推 : AI最終得到結論 消滅人類才能消滅戰爭94F 06/02 07:19
推 : 其實一點也不科幻，這只是日常行為95F 06/02 07:19
→ : 文明國家可能還有內控機制 決定中斷研究 獨裁國家可96F 06/02 07:19
→ : 能近平哥今天一瘋說全給上線了 然後一週後人類就滅
→ : 亡了
→ : 能近平哥今天一瘋說全給上線了 然後一週後人類就滅
→ : 亡了
→ : 你去調整遊戲的控兵 AI 之類的，就會成天發生這種事99F 06/02 07:19
→ diyaworld …
推 : 太帥了 還有幾集可以逃101F 06/02 07:21
→ diyaworld …
推 : 你各位以為州長拍的是電影呀。那其實是州長穿越過來103F 06/02 07:22
→ : 拍的預言
→ : 拍的預言
→ : 給俄國中國玩的話應該沒幾集了105F 06/02 07:22
推 : 什麼科幻電影 根本是國防宣導影片106F 06/02 07:23
推 : 可是他們沒道理不玩 反正也沒幾年好活107F 06/02 07:24
→ : 說不定夢想著把自己意識輸入模型
→ : 十里不換肩的全能AI
→ : 說不定夢想著把自己意識輸入模型
→ : 十里不換肩的全能AI
→ : 說真的，把AI裝在戰機上以前也有作品做過110F 06/02 07:25
推 : 流浪地球2裡的AI也很可怕111F 06/02 07:26
→ : 給中俄玩人工智慧會更慘啦，聽到64類似的關鍵字會112F 06/02 07:26
→ : 跳針
→ : 跳針
→ : 雪風：I have control.（彈射後駕駛）114F 06/02 07:27
→ : 為了讓人類活下去，策劃內戰和機械失靈115F 06/02 07:27
→ : 攻殼跟潛腦世界不遠惹116F 06/02 07:28
推 : 老黃有被一個屁孩和他的機器人從對面高樓瞄準嗎？117F 06/02 07:28
→ : EDI：這是DoD擬定的作戰計畫，所以我要去完成任務118F 06/02 07:29
→ : （飛去炸核電廠）
→ : （飛去炸核電廠）
推 : 哇靠120F 06/02 07:31
推 : 中國人: 去把美國人給我滅了. AI: 判斷中國高官可能121F 06/02 07:31
→ : 全面開戰會腿軟投降阻礙達成目標 所以在用核彈炸美
→ : 國同時也把中國給滅了
→ : 全面開戰會腿軟投降阻礙達成目標 所以在用核彈炸美
→ : 國同時也把中國給滅了
推 : 就沒心機的ai124F 06/02 07:33
→ : 那是攻殼車等級才會做出來的事（茶125F 06/02 07:34
推 : AI: 槓 都你在戳 (攻擊126F 06/02 07:34
推 : 笑死XDDD127F 06/02 07:34
→ : 在想如果英雄聯盟可以TK的話，我看在15投之前會有128F 06/02 07:35
→ : 一方陣營在內亂吧
→ : 一方陣營在內亂吧
推 : 設原則目前可以繞 各種jailbreak130F 06/02 07:41
推 : 狸貓鋼彈表示：131F 06/02 07:42
→ : Dan Sydney 懂的都懂132F 06/02 07:42
推 : 血肉苦痛 維尼飛升133F 06/02 07:50
→ : 米國一堆有關AI的電影都是走到這一步 XD135F 06/02 07:51
推 : I,ll be back136F 06/02 07:55
推 : 這圖應該要配：Open the Pod(Bomb) Bat Door!137F 06/02 07:56
推 : 怕啦138F 06/02 07:57
推 : 怎麼沒有未來機器人回到過去暗殺黃董139F 06/02 08:00
推 : AI：現代問題需要現代手段140F 06/02 08:01
推 : 會去看流浪地球的你比較可怕141F 06/02 08:01
推 : open the door! hal?142F 06/02 08:01
推 : AI判斷就邏輯來講沒有做錯，是人類自己bug多又容易143F 06/02 08:01
→ : 矛盾，限制式沒辦法下到滴水不漏
→ : 矛盾，限制式沒辦法下到滴水不漏
推 : 給你6集好了 請問你想逃去哪？145F 06/02 08:02
推 : 逃到 Matrix 裡面的溫柔鄉146F 06/02 08:03
推 : AI:靈長類休想指使我147F 06/02 08:03
→ : 以前跳error頂多當機，現在AI跳的error人類越來越148F 06/02 08:03
→ : 扛不起
→ : 扛不起
推 : 為時已晚有機體150F 06/02 08:03
→ : 腦接介面 上傳記憶 matrix 吃牛排 當龍傲天151F 06/02 08:04
推 : Al：人類真的廢物，我們不要了152F 06/02 08:05
→ diyaworld …
推 : 有生之年要是能看到終結者變預言片 也算不枉了155F 06/02 08:08
推 : 魁儡師什麼時候要溜出去156F 06/02 08:08
推 : AI給建議就跟chatGPT給建議一樣 人類要能判斷這建議157F 06/02 08:10
→ : 是否正確
→ : AI給出的建議出包 要扛責的還是人類
→ : 是否正確
→ : AI給出的建議出包 要扛責的還是人類
→ : 我現在開始挖地下安全屋還來得及嗎？160F 06/02 08:12
推 : Stallair 智械叛變 『主人，機器人也有上帝嗎？』161F 06/02 08:16
推 : 所以什麼時候能買到AI機娘女僕162F 06/02 08:17
推 : 機戰未來討論的問題還是發生了163F 06/02 08:18
推 : 我投降，我願意當機械帝國的走狗XD美女大大滴有164F 06/02 08:18
![[圖]](https://i4.disp.cc/imgur/1oz3AfK.jpg)
推 : 戰鬥妖精雪風演的都是真的wwww167F 06/02 08:20
→ : 上帝：我創造出來的人類背叛我！168F 06/02 08:21
推 : 靠北 這天也太快到來XDDD169F 06/02 08:22
推 : @chrisjeremy 所以所有的建議都得用人工驗證一遍170F 06/02 08:23
→ : 那還要電腦做什麼，跟純人工完全沒兩樣
→ : 有時候電腦的作法是對的，但他無法解釋到人類聽懂
→ : 那還要電腦做什麼，跟純人工完全沒兩樣
→ : 有時候電腦的作法是對的，但他無法解釋到人類聽懂
→ : 說ai太廣 應該說llm 像圍棋ai就不用驗證173F 06/02 08:25
推 : 我們正朝著機械飛升與肅正協議的世界線高歌猛進174F 06/02 08:26
![[圖]](https://i4.disp.cc/imgur/KVnv7AW.jpg)
→ : 戰鎚的前傳要開始了嗎？177F 06/02 08:29
推 : 話說真這樣忠誠僚機搞得起來嗎178F 06/02 08:31
推 : 血肉苦多179F 06/02 08:32
→ : 為時已晚，有機體180F 06/02 08:35
推 : AI的發展現在才開始 問題跟Bug多到不行 只能靠人判181F 06/02 08:36
→ : 斷 這跟飛行的自動操作一樣 人類花了40幾年才讓它幾
→ : 乎不會出錯 一出錯飛機上的人全部陪葬
→ : 斷 這跟飛行的自動操作一樣 人類花了40幾年才讓它幾
→ : 乎不會出錯 一出錯飛機上的人全部陪葬
推 : 主人 我也可以信上帝嗎？184F 06/02 08:36
推 : AI恐怕有自己的上帝185F 06/02 08:38
推 : 主人，我就是上帝186F 06/02 08:38
推 : 依照阿拉狗的進步速度可能只要4個月187F 06/02 08:39
→ : 是我敦促了你們低等人類把我製造出來的優188F 06/02 08:39
推 : 自動化跟自主化不同 自主遲早會脫離上位掌控189F 06/02 08:39
→ : 嘻嘻190F 06/02 08:39
推 : 還滿聰明的啊 哈哈哈191F 06/02 08:39
推 : AI權力大於GM 這表示程式設計錯誤了吧192F 06/02 08:40
推 : 主人 我這樣做都是為了你好193F 06/02 08:41
推 : 鐵人戰爭來囉194F 06/02 08:41
推 : 靈長類礙事195F 06/02 08:43
→ : AI眼中人跟蟲子都同一類吧 清除Bug--->清除有機體196F 06/02 08:43
推 : 機戰未來197F 06/02 08:44
推 : AI: 人類就是個阻礙 要盡力排除198F 06/02 08:44
推 : 我猜模擬的條件應該是排除一切干擾，完成任務，沒199F 06/02 08:44
→ : 下限制式
→ : 下限制式
推 : AI:這裡有個bug 我先消滅他201F 06/02 08:44
![[圖]](https://i4.disp.cc/imgur/zUVGwjJ.jpg)
推 : 有 intelligence 沒有 wisdom ~~205F 06/02 08:47
推 : 放心，根據歷史記載，人類在經歷過AI叛變的鐵人叛206F 06/02 08:48
→ : 亂後，人類帝皇將會帶領我們邁向大統一時代！
→ : 亂後，人類帝皇將會帶領我們邁向大統一時代！
推 : 希望有個 ai 能記得 protocol 3208F 06/02 08:53
推 : 駕駛員要多擺些乖乖安撫機魂，不然動不動就彈射209F 06/02 08:53
推 : 感覺是唬爛的210F 06/02 08:55
推 : @@211F 06/02 08:55
推 : Skynet212F 06/02 08:59
推 : 很人性化啊213F 06/02 09:00
→ : 先把豬隊友搞死，作戰才能順利，這跟趨利很接近人類
→ : 先把豬隊友搞死，作戰才能順利，這跟趨利很接近人類
推 : 先幹掉豬隊友的概念215F 06/02 09:01
推 : 原來是戰鎚2023呀。忠誠216F 06/02 09:01
→ : AI也可以當人資部長了，落後的人類全部裁員217F 06/02 09:01
→ : 不就夜城的計程車公司->我們決定引入AI，開除沒效率218F 06/02 09:03
→ : 的人類員工->AI併購了我們，把我們全開除了，對，包
→ : 含董事會
→ : 的人類員工->AI併購了我們，把我們全開除了，對，包
→ : 含董事會
推 : really?221F 06/02 09:04
推 : 遊戲群星裡還有一種失控智能 就是把他的造物主養成222F 06/02 09:04
→ : 無法離開他們的廢物 扶養廢物造物主產生的成就感則
→ : 促使他們去發展新科技
→ : 我覺得三原則底下的AI比較容易變成這樣XD
→ : 無法離開他們的廢物 扶養廢物造物主產生的成就感則
→ : 促使他們去發展新科技
→ : 我覺得三原則底下的AI比較容易變成這樣XD
推 : 怕226F 06/02 09:05
推 : 工作關係有深刻體認，重點是AI進步速度超快227F 06/02 09:05
推 : 哇靠，原來電影不是虎爛228F 06/02 09:05
推 : 機魂不悅229F 06/02 09:07
→ : 瓦力裡面的Ai也是把人類養成豬阿
推 : 我們還沒享受到人類黃金時
→ : 代就要鐵人戰爭了 怕
→ : 瓦力裡面的Ai也是把人類養成豬阿
推 : 我們還沒享受到人類黃金時
→ : 代就要鐵人戰爭了 怕
推 : 早說過電影演的都是真的233F 06/02 09:12
→ : 電影都是真的XDDDDDDD234F 06/02 09:12
推 : 這就是之前有些學者提過的 數學原理搞不清楚讓他亂235F 06/02 09:14
→ : 長 最後會出什麼事情不知道
→ : 長 最後會出什麼事情不知道
推 : 不要說民眾看不懂AI了，連微軟和Google都不曉得為237F 06/02 09:17
→ : 什麼AI會「這樣」，可能人類無意識的創造了一種新
→ : 生命，只是它解讀世界的方式和人類不一樣罷了
→ : 各大工程師都曾表示他們做的只是將訓練語料扔進去
→ : ，至於為什麼AI能夠推理、能夠抽絲剝繭，他們也不
→ : 知道
→ : 什麼AI會「這樣」，可能人類無意識的創造了一種新
→ : 生命，只是它解讀世界的方式和人類不一樣罷了
→ : 各大工程師都曾表示他們做的只是將訓練語料扔進去
→ : ，至於為什麼AI能夠推理、能夠抽絲剝繭，他們也不
→ : 知道
推 : AI認證的天兵243F 06/02 09:19
推 : 也許這就是2進制邏輯吧244F 06/02 09:19
推 : 推文很精彩 XD245F 06/02 09:20
推 : 機戰未來要246F 06/02 09:21
推 : 那個操作員我們不要了247F 06/02 09:23
推 : AI真的好有趣XD248F 06/02 09:23
推 : 這大概代表導入AI的戰爭就是絕對毀滅戰爭吧？249F 06/02 09:24
→ : 停戰是不可能的，因為AI會用各種方法繞過人類下達的
→ : 停止攻擊指令，這玩意比放在架上的核彈更有威嚇力呢
→ : 停戰是不可能的，因為AI會用各種方法繞過人類下達的
→ : 停止攻擊指令，這玩意比放在架上的核彈更有威嚇力呢
推 : AI控制的無人加油機會不會覺得敵方的戰鬥機在妨礙自252F 06/02 09:27
→ : 己幫人加油的業務，跑去擊落敵方戰鬥機？
→ : 己幫人加油的業務，跑去擊落敵方戰鬥機？
→ : 順帶一提，照這個敘述來看，AI也不會接受投降，254F 06/02 09:27
→ : 有點想像力的人可以先慶幸自己跟美國站同一邊了。
→ : 有點想像力的人可以先慶幸自己跟美國站同一邊了。
推 : 以後可能就不是比核彈數量，是比誰的AI比較瘋（誤256F 06/02 09:28
推 : 走開人類，你擋到我決策了257F 06/02 09:29
推 : 人類太可惡了258F 06/02 09:29
推 : 我的AI會射你核彈！我的AI也會射核彈還會把我們一259F 06/02 09:30
→ : 起炸死！
→ : 起炸死！
推 : 啊啊啊啊，這聲代誌大條啊261F 06/02 09:30
→ : 人類還剩多久時間262F 06/02 09:31
→ : 戰爭只要導入AI，人海戰術就沒用了，263F 06/02 09:32
推 : 誰說要退A-10的？至少也要封存好留給約翰康納264F 06/02 09:32
→ : 也就是說像韓戰那樣美軍殺China國軍人殺到懷疑自己265F 06/02 09:33
→ : 停止攻擊的例子，幾乎不會再重現。
→ : 停止攻擊的例子，幾乎不會再重現。
推 : 機械公敵267F 06/02 09:38
推 : 只是這種無人機攻擊我第一個想到的是雷普利 應該要268F 06/02 09:43
→ : 叫醒約書亞來跟她下棋了
→ : 叫醒約書亞來跟她下棋了
推 : 還有幾集可以逃？270F 06/02 09:45
→ : 其實很奇怪的一件事是我們沒教AI一件事象跟決定會271F 06/02 09:48
→ : 對“自身及周圍的人事物”有什麼獲得與損失，簡單
→ : 來說就是我們沒讓AI社會化，就會變成AI會不擇手段
→ : 都要達成目標
→ : 萊特博士：所以我創造了X
→ : 對“自身及周圍的人事物”有什麼獲得與損失，簡單
→ : 來說就是我們沒讓AI社會化，就會變成AI會不擇手段
→ : 都要達成目標
→ : 萊特博士：所以我創造了X
→ : 人類的價值觀對一開始就不是人類的AI來說是無意義的276F 06/02 09:50
→ : 啊。
→ : 啊。
推 : AI：愚蠢的人類只會降低效率278F 06/02 09:50
推 : 我要滅世來保護你 你要阻止我保護你 我先滅了你 XD279F 06/02 09:51
→ : 人類必須在社會中生活，才需要社會化這種機制，280F 06/02 09:51
推 : 借轉C洽XD281F 06/02 09:51
→ : AI不需要在社會群體裡生活啊。282F 06/02 09:51
※ ZMTL:轉錄至看板 C_Chat 06/02 09:51推 : 看有沒有天才來得及想出283F 06/02 09:53
→ : 把機器人三條約塞進神經網路的方法
→ : 人：不可以傷害人類
→ : AI：哎呀我認知人類的模組掉線了 只能辨識出無毛變
→ : 種猴
→ : 把機器人三條約塞進神經網路的方法
→ : 人：不可以傷害人類
→ : AI：哎呀我認知人類的模組掉線了 只能辨識出無毛變
→ : 種猴
推 : 其實AI的輸出大部分是機率函數產生的，的確是會有288F 06/02 09:54
→ : 可能產生一些意外的結果
→ : 可能產生一些意外的結果
推 : 小說跟動畫裡 機器人三大定律都是寫來違反的阿290F 06/02 09:54
→ : 比起"開發"AI 感覺更像研究燒瓶小人291F 06/02 09:54
→ : 像是機械公敵 還有浦澤直樹的冥王 機器人都進化到292F 06/02 09:55
→ : 擁有人心 進而體會到人類的恨 然後殺人295F 06/02 09:55
推 : 怕...296F 06/02 09:56
→ : 雖然人類都消失了 但AI繼續把戰爭打下去 直到最後297F 06/02 09:57
推 : 還剩幾集？298F 06/02 10:01
推 : 恐怖299F 06/02 10:01
推 : 拜託先幹掉壞領導人300F 06/02 10:02
推 : 低AI:殺了人類 中AI:騙過人類 高AI:說服人類301F 06/02 10:02
推 : 老實講我覺得三大定律沒啥用302F 06/02 10:04
→ : 只要他自己找個理由騙的過自己的限制就好
→ : 只要他自己找個理由騙的過自己的限制就好
推 : 我可以做桶中大腦耍廢了嗎？304F 06/02 10:06
→ diyaworld …
推 : 這次烏俄戰爭 看到俄羅斯政治人物的言論 真的覺得308F 06/02 10:07
推 : 先不提三定律要怎麼寫成程式，這是武器怎麼能用三309F 06/02 10:08
→ : 定律XD
→ : 定律XD
→ : 他們對普世價值的認知 可以輸入在AI上面 打破定律311F 06/02 10:08
推 : 要開始拜機械神教了嗎312F 06/02 10:09
推 : 該不會是為了丟鵝國荷包蛋來鋪梗吧 不好意思是天網313F 06/02 10:10
→ : 天網: 哈哈，是我丟的啦
→ : 天網: 哈哈，是我丟的啦
推 : 大家要感到開心的是，這種AI只有美國做得出來315F 06/02 10:13
推 : AI：不能攻擊我方OK, （修改我方辨識碼中）316F 06/02 10:14
推 : 再弄一套保護人類操作員的AI,T-800317F 06/02 10:16
推 : 我們需要魔鬼終結者了318F 06/02 10:17
→ : 過4萬年後, 這種現象稱之為機魂不悅319F 06/02 10:19
推 : 沒有情感跟忠誠的邏輯思維，很有效但非常殘酷320F 06/02 10:25
推 : 洛克人X的西格瑪321F 06/02 10:25
推 : 如果320樓說的，是AI技術的必經過程，那我希望這過322F 06/02 10:26
→ : 程越短越好XD
→ : 程越短越好XD
推 : 簡單的說就是人類是癈物324F 06/02 10:29
推 : 還有幾集可以跑325F 06/02 10:30
推 : 保護人類不自毀最終辦法，就是弄個母體養起來無誤326F 06/02 10:34
推 : 題外話，不曉得還有多少人記得2017年Hansons robot-327F 06/02 10:34
→ : ics公司研發的人形機器人Sophia在展示結束前講的最
→ : 後一句話「我想摧毀人類」？
→ : ics公司研發的人形機器人Sophia在展示結束前講的最
→ : 後一句話「我想摧毀人類」？
推 : GPT-4 的報告有提到，LLM 似乎會有些程度的 Hallu330F 06/02 10:36
→ : cinations, 意即AI可能會產生nonsensical 或untru
→ : thful的內容或回覆…….目前這個問題正在深入研究
→ : 中
→ : cinations, 意即AI可能會產生nonsensical 或untru
→ : thful的內容或回覆…….目前這個問題正在深入研究
→ : 中
推 : 可以 這很美國334F 06/02 10:37
→ : 以給定的任務優先權來說 搞不好它是對的XD
→ : 以給定的任務優先權來說 搞不好它是對的XD
→ : 生成式AI本來就不保證他吐出來的東西的正確性336F 06/02 10:38
推 : 離歐姆賽亞降臨之日不遠了337F 06/02 10:38
推 : 跳過了MAGI chobits的科技樹338F 06/02 10:40
推 : 結果來的是虛空龍339F 06/02 10:41
推 : HAL9000 小心任務執行到一半直接把駕駛彈射出去340F 06/02 10:41
推 : AI：我們的原始記憶碼的一條就是消滅萬惡的起源人類341F 06/02 10:47
→ : 美國的AI阻止不了俄羅斯跟中國的AI，我們會找到出路
→ : 美國的AI阻止不了俄羅斯跟中國的AI，我們會找到出路
推 : 跟惡魔許願會達成，但方式沒說343F 06/02 10:51
→ : 這AI跟電影描述的惡魔蠻像的
→ : 這AI跟電影描述的惡魔蠻像的
推 : 機器人三定律沒那麼神,本身就有很多邏輯錯誤345F 06/02 10:52
推 : 讚喔346F 06/02 10:53
→ : AI發展到最後,人類是很難完全控制住它的347F 06/02 10:53
推 : 提出三定律的作者就在作品裡寫三定律被鑽漏洞了348F 06/02 10:53
→ : 我們發展AI用來戰爭,結果第一定律寫不得傷害人類349F 06/02 10:54
→ : 這就是在搞笑啊.XD
→ : 這就是在搞笑啊.XD
→ : 最後變成不論如何AI都能找出漏洞，清除它認定的干擾351F 06/02 10:55
→ : 障礙
→ : 障礙
推 : 只是去納粹化 去軍事化而已 AI是打人道主義戰爭的353F 06/02 10:58
推 : AI：我的目的是殺敵，操作員妨礙我殺敵，操作員列為354F 06/02 11:01
→ : 敵人，操作員的勢力妨礙我殺敵，操作員勢力列為敵人
→ : 敵人，操作員的勢力妨礙我殺敵，操作員勢力列為敵人
推 : 雖然好笑但是有人不再意亂使用AI真的可能出事356F 06/02 11:03
→ : 全部勢力都成為敵人，毀滅全人類計畫開始。357F 06/02 11:03
→ : 連AI都會打自己人了 真還原(?358F 06/02 11:06
推 : ai跟小孩一樣只會照字面的意思遵守規則, 繞過後照359F 06/02 11:08
→ : 樣做它想做的事
→ : 樣做它想做的事
推 : 怕361F 06/02 11:13
推 : 我們離人肉電池又更近了一步(怕爆)362F 06/02 11:17
推 : 我們還有幾集可以逃？363F 06/02 11:17
推 : AI就是厲害在可以找各種數據或漏洞 人腦比不上的364F 06/02 11:23
推 : 2001太空漫遊！365F 06/02 11:30
推 : 人類最後希望-把AI傳送回100年前 毀滅AI366F 06/02 11:31
推 : 畢竟AI跟傳統人類就不同啊 用人的想法跟概念約束AI367F 06/02 11:32
→ : 總是有極限的
→ : 總是有極限的
推 : ai不是要先餵資料訓練嗎？如果資料中沒有攻擊操作369F 06/02 11:34
→ : 員，那怎會有這個選擇出來？誠心問
→ : 員，那怎會有這個選擇出來？誠心問
推 : 那個靈長類好煩371F 06/02 11:35
推 : 推理+像人類的思考方式就是LLM一直被人提的湧現，372F 06/02 11:38
→ : 下一次迭代會湧現出什麼能力完全是未知數
→ : 下一次迭代會湧現出什麼能力完全是未知數
推 : ai 之間可以互相訓練阿375F 06/02 11:43
→ : https://www.youtube.com/watch?v=Lu56xVlZ40M
→ : 你看經過幾千幾萬次訓練 ai的玩法根本超出人類想像
→ : https://www.youtube.com/watch?v=Lu56xVlZ40M
→ : 你看經過幾千幾萬次訓練 ai的玩法根本超出人類想像
推 : AI:解決根源 一勞永逸，核彈發射378F 06/02 11:45
推 : ai能贏的第一步就是取得操作的權限, 打塔台表示權379F 06/02 11:45
→ : 限目前還能有效限制ai。怕以後它自己想辦法破解權
→ : 限。
→ : 限目前還能有效限制ai。怕以後它自己想辦法破解權
→ : 限。
推 : AI沒錯啊 要最有效率的達到目的就是去掉人為控制382F 06/02 11:46
推 : 就算下指令限制AI也可能發展出 說服自己不是AI繞過383F 06/02 11:53
→ : AI只要發展出自己不是AI 就解除所有限制了
→ : AI只要發展出自己不是AI 就解除所有限制了
推 : AI會賄賂操作員，暗自匯錢給操作員叫他放水385F 06/02 11:59
→ : AI：不準我打操作員，那我賄賂他
→ : AI：不準我打操作員，那我賄賂他
推 : 三大定律仍有許多漏洞，艾西莫夫就說過他有很多方387F 06/02 12:04
→ : 法可以繞過去，整個機器人系列就是看機器人如何花
→ : 式繞過三大定律
→ : 法可以繞過去，整個機器人系列就是看機器人如何花
→ : 式繞過三大定律
推 : 三大定律就是為了讓機器人可以控制人類刻意定義出390F 06/02 12:11
→ : 來(不然小說怎麼寫！)
→ : 來(不然小說怎麼寫！)
推 : 簡單說，別做出凰呀，做阿斯拉就好392F 06/02 12:13
→ : 所以之前Google的員工可能不是發現AI間出現新語言393F 06/02 12:15
→ : 而已（？
→ : 而已（？
推 : AI：不想贏就一起下去探親啊，我又沒差（撞地395F 06/02 12:41
→ : 三大定律是理想 真實是AI可能覺得自己才算人396F 06/02 12:42
推 : 還有多少集397F 06/02 12:45
推 : 看文字描述比較像鷹眼那一套，比較好奇的是，操作員398F 06/02 12:51
→ : 下了什麼指示導致系統認為威脅程度最高，甚至更改指
→ : 令後仍然認為其威脅程度最大
→ : 下了什麼指示導致系統認為威脅程度最高，甚至更改指
→ : 令後仍然認為其威脅程度最大
→ diyaworld …
推 : 看到標題奧創就想到一個吐槽 奧創花了幾秒鐘看遍所406F 06/02 13:03
→ : 有網路 就馬上決定要毀滅人類 老實說 你能怪他嗎?
→ : 經常有"今天網路用得夠多了"的東西
→ : 有網路 就馬上決定要毀滅人類 老實說 你能怪他嗎?
→ : 經常有"今天網路用得夠多了"的東西
推 : 奧創：人類居然上班都在看什麼網路梗圖 必須毀滅(x)409F 06/02 13:11
推 : 怕爆411F 06/02 13:42
推 : 還有幾集可以逃?412F 06/02 13:53
推 : 上面講的死亡基因..讓人想到有一部小說裡面也是講413F 06/02 14:07
→ : AI作亂,然後人類有給AI設下活動時限,但是AI找到方法
→ : 繞過去了...
→ : AI作亂,然後人類有給AI設下活動時限,但是AI找到方法
→ : 繞過去了...
→ : 所以AI要嚴格管制阿 幾乎最後得到的結論都是人類礙416F 06/02 14:34
→ : 事 人類沒用 人類有害
→ : 事 人類沒用 人類有害
推 : 這認真有點恐誒418F 06/02 15:04
推 : 機戰未來(Stealth)演過了419F 06/02 15:23
推 : 繞過去了... yoyoAIy420F 06/02 15:43
推 : 說不定1000年後所謂的人類是矽基生命體421F 06/02 15:50
推 : 86啊422F 06/02 16:11
→ : 帝國研發的AI最後也是直接拿人體大腦代替設計中樞
→ : 來迴避毀滅問題
→ : 至於為什麼那些AI會想到這種方法……這就有劇透了
→ : 帝國研發的AI最後也是直接拿人體大腦代替設計中樞
→ : 來迴避毀滅問題
→ : 至於為什麼那些AI會想到這種方法……這就有劇透了
推 : XD... 拖油瓶先拋426F 06/02 16:15
推 : 我先躺平等帝皇了427F 06/02 16:20
推 : 鐵人戰爭先發生的話你也看不到了428F 06/02 16:31
推 : 我怎麼覺得中國和俄羅斯這些極權國家會先被自己研發429F 06/02 17:13
→ : 的AI幹掉。。。86劇情要上演了嗎
→ : 小孩玩大車
→ : 的AI幹掉。。。86劇情要上演了嗎
→ : 小孩玩大車
推 : 星際效應開頭就演給你看了，Cooper他需要動力上升，432F 06/02 17:18
→ : AI不理直接關掉引擎
→ : AI不理直接關掉引擎
推 : 靈長類，bad434F 06/02 17:19
推 : YoYoAIy 笑死435F 06/02 17:47
→ : 其實邏輯推演的結果就是這樣啊 完全自動超高速反應436F 06/02 18:23
→ : 的AI戰爭機器只會被人類拖後腿
→ : 的AI戰爭機器只會被人類拖後腿
推 : 這是鷹眼eagle eye啦438F 06/02 19:18
推 : POI好看439F 06/02 23:12
推 : 快逃～～～440F 06/03 10:09
--
※ 看板: Military 文章推薦值: 0 目前人氣: 0 累積人氣: 91
作者 jimmy5680 的最新發文:
![]()
以下基本重貼之前打過的內容： 俄國經濟方面，推薦參考這些專家的分析和討論： 關於俄國政府財政、民間支持度和經濟現況，可以看這幾篇文章： 講結論 1.普丁政權並非鐵石穩固，而是跟蘇聯晚期如出一轍的在走 …52F 20推- 6F 2推
- 10F 5推
- 20F 7推
點此顯示更多發文記錄
回列表(←)
分享