近日,中国人工智能产业发展联盟(AIIA)第十次全体会议暨2023年通用人工智能创新发展论坛在重庆召开。
会上,商汤科技联合中国信息通信研究院云计算与大数据研究所(中国信通院云大所)共同发布行业首个《大模型可信赖研究报告》,系统化分析阐释了人工智能大模型发展风险要素及治理建议,具体包括:
● 重点梳理大模型发展现状,点明大模型风险来源。
● 从大模型涉及的关键要素和可信维度出发,全面分析大模型面临的各项风险并进行整理归纳,形成大模型风险全景视图。
● 针对大模型在框架、数据、模型和生成内容等层面风险,系统梳理产业界保障大模型可信赖的关键举措。
● 指出当前大模型可信赖发展面临的问题及挑战,从多个维度提出参考建议。
该《报告》为人工智能大模型的可信发展提供了重要的方向参考。同时,也对大模型风险管理体系化建设提供了框架依据。
此外,《报告》还对如何实现大模型的可信赖目标给出一系列实践方案,从技术、管理、监管等维度对大模型的可信赖目标实现进行了分析研究。
商汤SenseTrust可信AI基础设施
入选《报告》可信赖实践案例
今年7月,为迎接大模型全新挑战,基于“日日新SenseNova”大模型体系,商汤科技快速推出可信AI基础设施SenseTrust,构建领先的解决方案,推动大模型开发训练和应用治理可靠、可信。
“SenseTrust” 商汤可信AI基础设施
数据层面,商汤SenseTrust能够提供从数据脱敏、数据去毒、数据合规审查及偏见评估等治理工具。
模型层面,商汤SenseTrust基于自研模型体检系列平台,能够针对传统“小模型”、生成式“大模型”,以及基础模型提供标准化和定制化的模型评测能力。
应用层面,借助商汤在数据保护、数字取证及伪造检测等技术领域的深厚积累,逐步开发了基于生成、鉴伪和溯源三位一体的综合解决方案。
目前,商汤SenseTrust相关技术已服务于“商汤秒画SenseMirage”文生图平台、“商汤如影SenseAvatar”数字人等多个产品,以及内容创作、大数据客户,以及银行安全系统。
商汤也将持续通过“商汤AI安全治理开放平台”等多种形式,为行业提供AI治理公益技术服务,推动建设安全可信的人工智能产业生态。
(商汤科技)