1樓：abcxyz
目前人類無法完全理解機器學習的決策。一般是對測試結果進行大量的分析，確定是否相對可靠，再去找到可能會出現問題的地方，然後增加一些規則。來盡量降低災難問題的發生。
我是那機器學習做投資，第乙個月，我就能回測盈利了。但仍然用了三個月的時間去測試優化，來保證演算法更可靠。最後我也會增加一些規則，比如實盤過程中，出現巨大虧損了，緊急停止實盤，發出告警。
來人工干預。
2樓：致熵
人類知道ai的決策機理和決策過程，也能從原理和培養過程中知道ai的決策缺點，當ai在決策過程中出現典型失誤時可以由人類接管。
ai本質上是介於人腦與傳統軟體的東西，而軟體必定有bug，只有充分測試才能找出bug、調整決策，如果是一些很難重現的使用環境，就會犯人腦和軟體一樣的錯誤。失敗是成功之母，只不過ai失敗一次後，人類可以立即開啟它的大腦進行調整，而人腦只能跌倒多次慢慢學會，這點比人腦強太多。
所以，一般情況下，只要充分測試，決策錯誤可以最大限度地避免，但無法完全避免，因為測試不可能做到全覆蓋。只要有多重預案，就可以把損失降到最低。
但似乎有一種情況會導致人類無法理解ai的結論，也就是ai決策結論高出人類太多，比如乙個業餘九級的棋手開發出alphago，根本無法理解結論，但能理解決策機理和決策過程。這種情況發生在規則簡單，組合和程序卻極其複雜的決策型別，可是由於人類人腦限制，無法組合出甚至分析出複雜決策的好壞，此時，可能會發生。
人工智慧真的能算人類嗎？
林先生 不能。我是這麼看待的，我們曾提示過 我們總已經活動在對存在的某種領會之中了。明確提問存在的意義 意求獲得存在的概念，這些都是從對存在的某種領會中生髮出來的。我們不知道 存在 說的是什麼，然而當我們問道 存在 是什麼？時，我們那已經棲身在對 是 在 的某種領會之中了 存在與時間 在我看來，人是...
NLP和人工智慧，距離機器真正理解人的語言，創作自己的東西有自己的思想還有多遠
馬屁哥哥 目前的深度學習其實還離不開統計機器學習的範疇，可能需要一種完全新的正規化才行，沒有關注過相關的方向，也不知道啥時候才能有突破。 風的聲音 目前看，感覺很難給出乙個判斷。機器理解人類的語言是理解某一專業領域還是人模擬較泛的日常生活領域？創作自己的 哪類 東西是否被人類認可？換句話說，機器真正...
人類能製造出滅絕人類的人工智慧嗎？
Edwin 簡單來說，可以把真正的人工智慧看成是另一種 我們 具備天生不帶有指向性的思考和行為能力。我們自己都不確定是否會毀滅自己，所以人工智慧也是一樣的。 qianxuehuanyu 這讓我想起來 第一序列 網文大神肘子的這本書，裡面就有人工智慧毀滅人類的情節 剛巧又換了工作去科大訊飛，了解了一場...