商湯科技（ SenseTime ）近日升級「商湯日日新」（ SenseNova ）大模型，同時針對當下生成式 AI 的風險特點，發布可信 AI 基礎設施「 SenseTrust 」。該平台包括數據治理、模型治理、應用治理等層面技術工具，並提供數據處理、模型訓練、模型部署、推理服務等可信 AI 檢測與加固「工具箱」，目的推動安全可信的人工智能產業生態發展。
在數據層面而言，「 SenseTrust 」提供從數據脫敏、數據去毒、數據合規審查及偏見評估等治理工具，如在模型訓練數據的預處理環節，以數據去毒工具檢測數據來源中是否包含帶有後門、有毒數據，並建議去毒方案。官方指，針對顯性、隱性等不同形式的「毒素」檢測率逾 95% ，結合數據清洗與對抗防禦等方法能有效去毒。
在模型層面，該平台能針對傳統判別式模型和生成式模型的不同特點，提供標準化和個人化的模型評測能力。在判別式模型方面，從面向活體識別、圖像分類、目標檢測等提供一鍵式評測。在生成式模型上，「 SenseTrust 」建立百萬量級的測試數據集，覆蓋 30 多類倫理和安全測評範疇，可對對抗安全、穩健安全、後門安全、可解釋和公平性等作評測。為進一步提升模型的風險防禦能力，平台還能提供「 AI 防火牆」，從源頭過濾對抗樣本，綜合檢出率達到 98% 。
在應用層面，商湯逐步開發了結合生成、鑒偽和溯源的綜合解決方案，例如針對 AI 生成式內容相關的產權和鑒偽問題，「 SenseTrust 」提供數碼水印解決方案，可將特定訊息嵌入到數據載體中，不影響載體的使用價值，也不易被人察覺，只有通過特定的解碼器和專屬密鑰才能提取，能支援多模態數據。數碼水印技術已於「商湯秒畫 SenseMirage」、「商湯如影 SenseAvatar」等產品上使用。
根據商湯的資料，「 SenseTrust 」綜合鑒偽解決方案已應用於 10 間銀行的安全系統中，對各類攻擊攔截的成功率超過行業同類產品 20% 以上，有效防範身分盜取、支付盜刷等網絡詐騙。此外，模型體檢、數碼水印，以及主動投毒保護等相關技術，已通過「商湯 AI 安全治理開放平台」對外開放。
