5月20日消息,自從ChatGPT爆火以來,全球誕生了無數(shù)的大模型,光國內(nèi)就有上百種,但實用性卻并不如意。
在今天下午的2024搜狐科技年度論壇上,中國工程院院士、國家數(shù)字交換系統(tǒng)工程技術(shù)研究中心主任、復(fù)旦大學(xué)大數(shù)據(jù)研究院院長鄔江興指出,他們團隊對當(dāng)前最流行的10種大模型進行安全分析發(fā)現(xiàn),90%以上的主流大模型是不可信的。
鄔江興表示,深度學(xué)習(xí)模型存在“三不可”基因缺陷。
分別是:
第一,不可解釋性。
從數(shù)據(jù)提供AI模型訓(xùn)練到知識規(guī)律,到獲得應(yīng)用推理階段,工作原理到現(xiàn)在不明確,問題發(fā)現(xiàn)定位非常困難,AI系統(tǒng)中的安全問題比破解密碼還要難。
第二,不可判識性。
因為AI對序列性強依賴,不具備對內(nèi)容的判識能力,所以數(shù)據(jù)存在質(zhì)量差異,來源差異,就可能導(dǎo)致訓(xùn)練出的結(jié)果有差異。
第三,不可推論性。
AI的推理是從已知數(shù)據(jù)中獲得規(guī)律性,難以勝任對中長期未來事物變遷的預(yù)測和推理,只是把現(xiàn)有的東西歸納起來,看起來它聰明無比,但僅僅是比我看得多,并沒有產(chǎn)生什么新的認知。
發(fā)布日期: 2024-05-09
發(fā)布日期: 2024-04-17
發(fā)布日期: 2024-04-23
發(fā)布日期: 2024-05-11
發(fā)布日期: 2023-07-04
發(fā)布日期: 2024-04-09
發(fā)布日期: 2024-04-09
發(fā)布日期: 2024-01-05
發(fā)布日期: 2025-03-31
發(fā)布日期: 2025-03-31
發(fā)布日期: 2025-03-31
發(fā)布日期: 2025-03-31
發(fā)布日期: 2025-03-31
尋找更多銷售、技術(shù)和解決方案的信息?
廣州綠測電子科技有限公司(簡稱:綠測科技)成立于2015年11月,是一家專注于耕耘測試與測量行業(yè)的技術(shù)開發(fā)公司。綠測科技以“工程師的測試管家”的理念向廣大客戶提供專業(yè)的管家服務(wù)。綠測科技的研發(fā)部及工廠設(shè)立于廣州番禺區(qū),隨著公司業(yè)務(wù)的發(fā)展,先后在廣西南寧、深圳、廣州南沙、香港等地設(shè)立了機構(gòu)。綠測科技經(jīng)過深耕測試與測量領(lǐng)域多年,組建了一支經(jīng)驗豐富的團隊,可為廣大客戶提供品質(zhì)過硬的產(chǎn)品及測試技術(shù)服務(wù)等支持。
技術(shù)工程師
020-22042442