![]() |
構(gòu)建可信 AI 體系的企業(yè),AI 項目回報率翻倍概率高出60%,若忽視可信實踐則代價高昂
北卡羅來納州卡里市2025年9月30日 /美通社/ -- 數(shù)據(jù)與人工智能(AI)領(lǐng)域的領(lǐng)先者之一SAS今日公布了一項最新研究,聚焦AI的應(yīng)用場景、實際影響及可信度水平。該研究成果已收錄于由SAS委托IDC編制的《IDC數(shù)據(jù)與AI影響力報告:信任必要性》(IDC Data and AI Impact Report: The Trust Imperative)。報告指出,IT及業(yè)務(wù)領(lǐng)導(dǎo)者對生成式AI(GenAI )的信任度,顯著高于其他各類AI。
這項覆蓋全球的AI應(yīng)用與落地研究還發(fā)現(xiàn),盡管優(yōu)先推進可信AI建設(shè)的組織,其AI項目投資回報率翻倍的概率高出60%,但僅有40%的企業(yè)會在治理機制、可解釋性及倫理保障措施方面進行投資,以提升AI系統(tǒng)的可信度。矛盾之處在于,雖然傳統(tǒng)AI是當前發(fā)展最成熟、最可靠且可解釋性最高的AI類型,但那些對可信AI系統(tǒng)投入最少的企業(yè)卻認為,生成式AI(如ChatGPT)比傳統(tǒng)AI(如機器學(xué)習(xí))的可信度高出200%。
國際數(shù)據(jù)公司(IDC)AI與自動化實踐研究總監(jiān)Kathy Lange指出:"我們的研究揭示了一個核心矛盾—無論實際可靠性或準確性如何,那些具備類人交互特性、且在社會層面更易被大眾熟知的AI類型,似乎更能贏得高度信任。作為AI領(lǐng)域的提供商、專業(yè)人士及個人用戶,我們必須直面兩個關(guān)鍵問題:雖然生成式AI獲得了信任,但它是否始終值得信賴?對于這一新興技術(shù),行業(yè)領(lǐng)導(dǎo)者是否采取了必要的防護機制與AI治理措施?"
完整研究報告可通過以下鏈接獲?。?/b>http://sas.com/ai-impact.
該研究基于一項覆蓋全球的調(diào)研數(shù)據(jù),共收集到來自北美、拉丁美洲、歐洲、中東及非洲、亞太地區(qū)的 2375名受訪者反饋。調(diào)研對象中,IT 專業(yè)人士與業(yè)務(wù)部門負責(zé)人占比均衡,從技術(shù)、業(yè)務(wù)兩大核心視角為研究提供了多元觀點支撐。
新興AI技術(shù)最受信任
總體而言,該研究發(fā)現(xiàn),在各類AI應(yīng)用中,生成式AI、代理式AI(agentic AI,)等新興技術(shù)的受信任度顯著高于其它發(fā)展更為成熟的AI類型。近半數(shù)受訪者(48%)表示對生成式AI "完全信任",還有三分之一(33%)的受訪者對代理式AI持 "完全信任" 態(tài)度。傳統(tǒng)AI則是受信任度最低的類別 —— 僅有不到五分之一(18%)的受訪者表示對其完全信任。
盡管受訪者對生成式AI和代理式AI的信任度較高,卻也表達了多方面的擔(dān)憂,具體包括數(shù)據(jù)隱私問題(62%)、透明度與可解釋性問題(57%),以及倫理應(yīng)用問題(56%)。
與此同時,量子AI(quantum AI)的受信任度正快速提升——盡管實現(xiàn)大多數(shù)量子AI應(yīng)用場景所需的技術(shù)尚未完全成熟。全球近三分之一的決策者表示熟知量子AI,且有 26% 的受訪者對該技術(shù)表示完全信任 ,即便目前其現(xiàn)實應(yīng)用仍處于早期階段。
AI防護措施滯后:削弱AI影響力,拉低投資回報率
研究顯示,AI的使用率正快速攀升——其中生成式AI的表現(xiàn)尤為突出,其關(guān)注度與應(yīng)用率(分別達到81%和66%)已迅速超越傳統(tǒng)AI。這一趨勢也引發(fā)了全新層面的風(fēng)險與倫理擔(dān)憂。
IDC研究人員發(fā)現(xiàn),在所有地區(qū),企業(yè)對AI的信任程度與該技術(shù)實際具備的可信度之間均存在偏差。研究數(shù)據(jù)顯示,近八成(78%)企業(yè)聲稱完全信任AI,但其中僅有四成會通過采用AI治理、可解釋性優(yōu)化及倫理保障措施,使系統(tǒng)的可信度具備可驗證性。
此外,研究還指出,在AI項目落地運營過程中,可信AI相關(guān)措施的優(yōu)先級普遍較低。在受訪者列出的企業(yè)三大優(yōu)先級中,僅有2%的受訪者將"構(gòu)建AI治理框架"納入其中,而表示已制定可信任AI政策的受訪者占比則不足10%。然而,對可信AI措施的優(yōu)先級下調(diào),或?qū)璧K這些企業(yè)在未來充分兌現(xiàn)AI投資的價值。
研究人員將受訪者劃分為"可信 AI 領(lǐng)先者" 與 "可信 AI 追隨者"兩類。領(lǐng)先者在相關(guān)實踐、技術(shù)及治理框架上投入最多,以提升其 AI 系統(tǒng)的可信度 —— 且顯然已從中獲得回報。數(shù)據(jù)顯示,這些可信 AI 領(lǐng)先者實現(xiàn) AI 項目兩倍及以上投資回報率的概率,是其他企業(yè)的 1.6 倍。
AI發(fā)展受制于數(shù)據(jù)基礎(chǔ)薄弱與治理缺失
隨著AI系統(tǒng)自主性不斷增強,并深度融入關(guān)鍵業(yè)務(wù)流程,數(shù)據(jù)基礎(chǔ)的重要性也隨之凸顯。數(shù)據(jù)的質(zhì)量、多樣性及治理水平直接影響AI的應(yīng)用成效。因此,智能化數(shù)據(jù)策略既是挖掘AI價值(如提升投資回報率、提高生產(chǎn)效率)的核心前提,也是規(guī)避相關(guān)風(fēng)險的關(guān)鍵保障。
該研究指出,AI落地面臨三大主要障礙:數(shù)據(jù)基礎(chǔ)設(shè)施薄弱、治理機制不完善以及AI技能人才短缺。近半數(shù)(49%)企業(yè)表示,數(shù)據(jù)基礎(chǔ)未實現(xiàn)集中化管理,或云數(shù)據(jù)環(huán)境未完成優(yōu)化,是阻礙AI推進的主要瓶頸。緊隨其后的兩大痛點為:缺乏完善的數(shù)據(jù)治理流程(44%)和缺少AI專業(yè)技能人才(41%)。
在AI實施涉及的數(shù)據(jù)管理問題上,受訪者反饋的首要挑戰(zhàn)是難以獲取相關(guān)數(shù)據(jù)源(58%)。其他主要擔(dān)憂還包括數(shù)據(jù)隱私與合規(guī)問題(49%),以及數(shù)據(jù)質(zhì)量問題(46%)。
"無論對社會、企業(yè)還是員工而言,可信任的AI都至關(guān)重要,"SAS首席技術(shù)官Bryan Harris表示,"要實現(xiàn)這一目標,AI行業(yè)需提高技術(shù)落地的成功率,人類需對AI輸出結(jié)果進行審慎核查,而企業(yè)領(lǐng)導(dǎo)層則需借助AI為員工賦能。"
關(guān)于SAS
SAS是數(shù)據(jù)和人工智能領(lǐng)域的全球領(lǐng)導(dǎo)者。 通過SAS軟件和行業(yè)特定的解決方案,企業(yè)能將數(shù)據(jù)轉(zhuǎn)化為值得信賴的決策。 SAS賦予您 "洞察的力量" (THE POWER TO KNOW®) 。
SAS和所有其他SAS Institute Inc.產(chǎn)品或服務(wù)名稱均為SAS Institute Inc.在美國和其他國家/地區(qū)的注冊商標或商標。 ®表示已在美國注冊。 其他品牌和產(chǎn)品名稱是其各自公司的商標。 版權(quán)所有© 2025 SAS Institute Inc. 保留所有權(quán)利。
Editorial Contacts: |
|
Jennifer James |
Julia Norton |
919-531-0858 |
919-531-4661 |