（2023年7月17日，上海）生成式人工智能风靡全球，国内外人工智能大模型日新月异，人工智能加速走进日常生活。 在技术“飓风”的同时，如何引导技术应用积极发展？ 在今年的世界人工智能大会上，商汤科技给出了这个问题的答案：聚焦实际问题，用可信AI基础设施为大模型的发展“保驾护航”。
继4月发布自主研发的大型模型系统后，商汤科技快速升级迭代，推出全面升级的“商汤日报”。 与之相伴的，还有商汤科技值得信赖的AI基础设施——。 包含一套完整覆盖数据、模型、应用治理环节的可信AI治理工具，可以为商汤科技自身及行业提供道德安全的二维一体化检测加固解决方案，推动安全可信的发展人工智能产业生态。
活动上，商汤科技副总裁、人工智能伦理与治理委员会主席张望表示：“技术大规模落地有两个关键条件，一是成本低、应用广泛，二是另外就是可靠可信的安全性。基于大算力和通用人工智能的大型模型加速了条件1的满足，同时带来了技术滥用风险的大规模升级。如何保证人工智能系统的安全性和可靠性已成为行业乃至全社会共同关注的问题，为此，商汤科技针对新时代人工智能的风险特征，构建覆盖人工智能全生命周期的可信人工智能基础设施。数据处理、模型开发、应用部署等AI系统，帮助打造可信的大模型。”
活动期间，商汤科技还正式发布了人工智能伦理与治理年度报告——《商汤科技大模型伦理原则与实践白皮书》。 该白皮书由商汤科技智能产业研究院和上海交通大学计算法与人工智能伦理研究中心联合编写。 白皮书以大规模模型发展为背景，以生成式人工智能治理为主题，以“时感”大规模模型系统治理实践为案例，提出提出生成式人工智能治理核心原则和“立体对齐”科技伦理模型，系统呈现双方在人工智能治理领域的最新观点。
范式变革带来新挑战 行业亟需新时代的技术治理方法
大模型时代，以“基础模型+微调”为特征的生产范式，大大降低了开发成本和应用门槛。 人工智能应用场景更加开放，数据模式更加多样，应用领域更加广泛； 相应地，技术滥用、风险源呈指数级增长，风险评估标准更加难以界定，潜在影响大规模扩散。 在应用层面，“假象”现象、数据中毒、混淆攻击、诱发攻击等具有实际意义的风险和挑战相继出现。 无论是未来生命研究院发布的公开信，还是国内外一系列监管政策的出台，都体现了世界各方对人工智能风险和挑战的高度关注。
大模型时代：生产范式变化引发AI风险范式
商汤“”打造大型模型时代的“压舱石”
作为行业领先的人工智能公司，商汤科技一直高度重视人工智能的伦理与治理，对技术创新与技术治理并重。 早在2019年，商汤科技就同时启动两项前瞻性任务，一是大模型研发，二是AI伦理与治理。 此前，商汤科技已形成较为完善的人工智能伦理与治理组织架构、管理体系、审核机制、工具体系、伦理文化建设体系和外部生态网络，并得到了业界的广泛认可。
新时代，技术创新加速，应用日新月异。 传统的运营治理方式需要相应升级，以满足快速发展和无限扩张的治理需求。 商汤科技融合长期的伦理治理思维和技术能力，针对当前生成式人工智能的风险特征，打造可信的人工智能基础设施——包括数据治理、模型治理、应用治理等技术工具，能够提供数据处理、模型训练、模型部署、推理服务等全方位、全链路的可信AI检测和强化“工具箱”，为大模型时代筑起“压舱石”。
《》——商汤科技可信AI基础设施应用格局
・在数据层面，“”可以提供从数据脱敏、数据解毒、数据合规审查、偏见评估等治理工具。 例如，在模型训练数据的预处理中，“”提供的数据去毒工具可以检测数据源是否含有带后门、干扰的有毒数据，并提供去毒方案。 针对显性、隐性等不同形式的“毒素”，检出率大于95%，结合数据清洗、对抗防御等方法，可实现有效排毒。 目前，“数据脱敏工具”已落地于数据标注、城市管理、自动驾驶相关业务场景。
・在模型层面，《》可以根据传统判别模型和生成模型的不同特点，提供标准化和定制化的模型评估能力。 对于判别模型，可以为活体识别、图像分类、物体检测等商业需求提供一键评估； 对于生成模型，商汤科技构建了百万级测试数据集，覆盖了30余个伦理与安全评估维度，可用于评估对抗性安全、鲁棒安全、后门安全、可解释性、公平性。 为了进一步增强模型的风险防御能力，商汤科技还可以提供“AI防火墙”，从源头过滤对抗样本，综合检出率高达98%。
・在应用层面，商汤科技在数据保护、数字取证、防伪等技术领域拥有深厚的积累，逐步形成了基于生成、防伪、溯源三位一体的综合解决方案。 例如，针对各方都非常关心的AIGC相关权益溯源和防伪认证问题，“”为此开发了数字水印解决方案，可以将特定信息嵌入到数字载体中而不影响使用载体价值高且不易被盗。 人类感知只能通过特定的解码器和专有密钥来提取，能够支持多模态数据。 数字水印技术已服务“商汤妙花”、“商汤如影”等众多产品，以及内容创作、大数据领域的客户。
今年的世界人工智能大会上，“商汤科技天天有新”大型模型体系再次升级。 针对系统中的一系列应用平台，基于传统的“判别式模型”治理经验，结合生成式人工智能的风险特征，商汤科技利用工具系统进行了一系列评估，并进行持续的后续测试。 提高风险防范能力。
全方位、全链路可信AI检测与加固
同时，商汤科技还积极输出大模型和生成式人工智能的治理实践成果。 例如，商汤科技的“”综合认证解决方案已投入十几家银行的安全系统，拦截各类灰黑产品攻击的成功率比同类产品高20%以上。行业，有效防止黑灰产品身份盗用。 提现、支付诈骗等网络诈骗。 此外，模型体检、数字水印、主动中毒防护等相关技术也通过“商汤人工智能安全治理开放平台”向公众开放。
广告声明：文章中包含的外部跳转链接（包括但不限于超链接、二维码、密码等）用于传达更多信息，节省选择时间。 结果仅供参考。 IT之家的所有文章均包含此声明。
