專題：服貿會第七屆中國金融科技論壇
中國國際服務貿易交易會-第七屆中國金融科技論壇於2025年9月10日-11日在北京舉行。主題為「科技賦能—金融業數字化轉型與應用」。星展銀行（中國）有限公司首席信息官兼科技及營運部主管宮霄峻出席並演講。
以下為演講實錄：
非常榮幸參加今天這個論壇，分享一下星展銀行在科技金融上面的一些經驗。星展是亞洲領先的金融服務集團。我們總部位於新加坡並於當地上市。星展資本充裕，所取得的AA-和Aa1級信貸評級位列全球最高級別之一。星展在人工智能這方面的應用，也走得比較早、比較前面。從集團層面來說，星展銀行已投入AI技術研發超過10年時間，目前手中握有超過800個AI模型，可運用到至少350種業務案例上，預估2025年可創造逾10億新加坡元經濟效益。
星展銀行目前在新加坡、中國等核心市場已部署諸多AI應用案例，涵蓋銷售、運營服務與處理、軟件開發等多個部門。例如在企業客戶服務方面，通過AI進行驗證、盡職調查以及完善ESG調查；在欺詐識別上，藉助AI技術支持更高效智能的詐騙風險檢測。星展銀行也推出了面向員工的「DBS-GPT」，基於ChatGPT的版本，旨在幫助員工在安全的環境中生成內容和完成撰寫任務，目前已面向所有星展銀行員工開放。
在這個應用過程當中，針對於大模型的安全這方面的一些體驗，我們有很多經驗和教訓，所以我在這裏就分享一下這方面的案例。
2024年10月，國內的某一個大型互聯網公司發布公告，他們的大模型訓練項目遭遇了一起投毒事件，主要是一個內部人員在內部訓練的時候專門使用了攻擊代碼，就把大模型訓練任務整個破壞了，這樣就等於教大模型一些破壞性的信息，令整個團隊的工作全部都偏離了正軌，造成了800萬人民的損失。
2024年9月，英國某一個頭部的AI處理公司遭到了勒索軟件， 1400萬用戶的數據都已經泄露了，這當中也是造成了巨大的經濟損失。
也是2024年3月，某家軟件公司在全球最大的AI模型開源平台上，就發現超過100個惡意的AI大模型。這令人想到AI是一個新的場景，很多惡意攻擊會發生，對安全是一個至關重要的內容。
我們看安全分析，在大模型上主要有四個方面的安全存在風險：
一是幻覺問題。因為大家知道大模型都會有各種各樣的幻覺，幻覺的錯誤會導致決策的錯誤以及導致經濟損失。
二是隱私風險。隱私風險就是個人的敏感信息在大模型的應用裏面，有沒有可能導致泄露？這個也是一個法律合規的風險。
三是提示詞的注入攻擊，就像當年互聯網通過提示詞的注入攻擊的情況是一樣的，在客戶、用戶輸入一些語句的時候，讓大模型解答問題的時候，有可能會能會輸入一些提示詞特殊的字符造成攻擊。
四是數據投毒，剛纔講了幾個案例，是通過一些壞的數據能夠教大模型，造成整個大模型系統性的破壞。
五是模型竊取的攻擊。
隱私風險，我們剛纔講到了，數據泄露是一塊。還有一塊是數據竊取，因為大模型是一個公開的平台，會讓很多的用戶去輸入或者獲取很多的大模型分析的結果，有人試過可以從大模型上通過特別的話術，會獲取一些隱私的數據。
通過這些東西我們怎麼做呢？在金融大模型的安全管控架構裏面，在我們內部實施金融大模型的過程裏邊，也開始採用這樣的一種步驟。開發和應用方面，從剛開始開發應用的時候就要做風險管控，從數據採集、預處理，訓練數據的安全需要管控，在模型微調、增強索引的時候就需要做一些安全評估以及模型測試，在部署模型的時候，要測試，要做用戶輸入的防禦，防止有一些有毒或者攻擊代碼能夠輸入進來。
真的在模型推理的時候，要對模型輸出的風險做好管理。它如果做出一個錯誤的或者非常有毒的推斷結果的話，在結果輸出之前要做管控，這樣的話就有6個方面我們需要做到，就剛纔提到的六個方面：訓練數據的安全、安全評估機制和模型測試、用戶輸入的防禦、預設數據投毒攻擊、科技倫理、合規審查，數據模型輸出的風險管控。
這裏想要提到一點，科技倫理與合規審查中國的監管是特別重視的一點，我覺得我們也走得比較領先了。
這個是基於知識訪問的控制，這個和下面都會講到，知識庫是大模型的一個基礎，做人工智能大模型的話會建立各種各樣的知識庫，知識庫的保密性和隱私性是相當重要的，有兩個維度可以做這些安全訪問，一個就是對於知識的訪問控制。用戶請求到知識建模，到推理決策，到授權，到權限授予，這個當中整個流程裏面，我們都需要做好管控。
這裏有兩類的管控：
一是基於角色的訪問控制。二是基於知識的訪問控制。
角色的訪問控制是什麼呢？我們在星展內部有一個星展自己的大模型，針對不同的工作崗位會設定不同的權限，比如說財務部的同事設定的權限會高一點，他能夠接觸到財務的知識庫。其他崗位的同事就不會接觸到這些敏感的知識庫，類似對客服務的客戶經理能夠接觸的知識功能，其他的部門同事就不能接觸到。這樣是通過不同的角色設定不同的訪問控制。
第二個維度是基於知識的訪問控制，知識有不同的類別，每一種不同的知識所授予的權限是不一樣的我們就可以通過兩個維度合在一起，起到對大模型安全的訪問控制。
提高了訪問控制之後，勢必會產生另一個問題，是否會降低計算效率？這個就需要從設計開發就開始要注重整個模型、數據、硬件、算法以及業務場景共同的影響，需要做一個平衡。因為硬件的彈性化配置、算法的輕量化、數據風層管理，自動化調優，都需要在這個維度裏面結合金融習慣的實時性、合規性需求做一個總體的調整，達到這個目的。
從我們的經驗來看，安全最主要的一個點是觸發到一個合規的考慮，實際上這一點就把大數據、大模型的建設裏面，把安全的控制是放到一個很高的地位。
我們在設計的時候，需要對一些低延遲的、高吞吐量的模型的架構要輕量化，讓計算資源要高效集中，同時要提升對隱私保護、抗攻擊、整個合規的審計需求。
對星展中國來說，我們和國內各大銀行相比數據體量還是比較小的，對於我們在國內運用這個大模型，就帶來另一方面的挑戰，如果進行私有化的算力部署都我們來說成本上會產生壓力。我們最近在跟其他的一些公司在尋找一些算力共享的模式，希望通過這種方式能夠獲得一些更加具有性價比的算力。
在這個過程裏邊就遇到一個更重要的挑戰，就是在算力共享場景下的隱私保護。我們就需要探索通過一些隱私計算的手法，在算力共享的場景下面，更有效的獲取一些算力。
這裏也就延伸到安全策略裝重要性，安全策略的系統化部署要求對應用場景和數據資產進行精細化分級分類。通過動態調配安全計算資源，並引入自動化合規引擎，可實現安全控制措施與業務效率目標的智能匹配與協同優化。
在大模型的應用中，尤其是在處理海量數據輸入時，實現自動化的資源分配機制至關重要。對於高敏感性或高等級的數據，需配套更強的安全防護與計算能力。
這個就是和大家分享的關於安全領域的分享。
謝謝大家！
新浪聲明：所有會議實錄均為現場速記整理，未經演講者審閱，新浪網登載此文出於傳遞更多信息之目的，並不意味着讚同其觀點或證實其描述。
責任編輯：王翔