可信 AI

我们认为 AI 应遵守隐私和数据保护法规，以安全可靠的方式运营，以透明和负责的方式运作，并避免不必要的偏见和歧视。我们致力于按照“白宫自愿承诺”和其他全球 AI 安全计划，打造安全可靠的 AI。

我们的可信 AI 指导原则

AI 应遵守隐私法律和法规，并符合个人数据和信息隐私的社会准则。

确保 AI 系统按预期运行，并避免意外伤害和恶意威胁。

让人们理解 AI 技术。用非技术性语言解释 AI 系统如何输出结果。

尽可能减少 AI 系统中的偏见，并让所有群体都有平等的机会从 AI 中受益。

可信 AI 原则是我们端到端开发的基础，也是实现卓越技术(使合作伙伴、客户和开发者能够出色完成工作)的关键。我们正在构建用于生成式 AI 服务的数据工厂工具为计算机视觉精心策划和验证无偏差数据集库为大语言模型扩展自然语言处理数据开创性的安全功能，例如机密计算以及开源等创新模型比对技术和人工反馈。

可信性是我们技术的基本属性。

— NVIDIA 创始人兼首席执行官黄仁勋

AI 模型卡是一份文档，其中详细介绍了机器学习模型的工作原理，有助于提高透明度和可靠性。

NVIDIA 正在生成各种合成数据集，以复制自动驾驶汽车、工业检测和机器人模拟中的真实用例，从而减少不必要的偏见并保护隐私。

NVIDIA NeMo Guardrails 有助于确保由大型语言模型 (LLM) 驱动的智能应用程序准确、合适、针对主题且安全。

NVIDIA Inception 计划会员 Te Hiku Media 为毛利语和新西兰英语创建了一个高精度的双语语音识别系统，由其自己的语言社区构建和拥有。

Getty Images 的生成式 AI 在 NVIDIA Picasso 的指导下，针对负责任、干净且完全授权的数据进行训练，为创意工作提供了无数机会。

借助 NVIDIA GPU，Adobe Firefly 是 Adobe 的创意生成式 AI 模型系列，旨在生成安全的商业用途内容，同时显著改善创意工作流程。

我们的 AI 研究专注于开发能够增强人类能力、解决复杂问题并提高各行各业效率的算法和系统。我们致力于在所有研究实践和方法中维护隐私、透明、不歧视以及安全和安保的指导原则。

From Descriptive Richness to Bias: Unveiling the Dark Side of Generative Image Caption Enrichment | Hirota, Yusuke, Hachiuma, Ryo, Yang, Chao-Hun Huc, Nakashima, Yuta
BiasTestGPT: Using ChatGPT for Social Bias Testing of Language Models | Rafal Kocielnik, Shrimai Prabhumoye, Vivian Zhang, Roy Jiang, R. Michael Alavarez, Anima Anandkumar. 2023
Human-In-The-Loop Task and Motion Planning for Imitation Learning | Mandlekar, Ajay, Garrett, Caelan Reed, Xu, Danfei, Fox, Dieter
Avatar Fingerprinting for Authorized Use of Synthetic Talking-Head Videos | Ekta, Prashnani, Koki Nagano, Shalini De Mello David, Luebke Orazio Gallo. 2023.
Defending against Adversarial Audio via Diffusion Model (Audio) | Shutong Wu, Jiongxiao Wang, Wei Ping, Weili Nie, Chaowei Xiao. 2023.

我们的可信 AI 追踪从 NVIDIA GTC 是与多个学科的专家讨论的集合，包括生成式 AI 这些会议旨在帮助公司识别和解决发展自身计划的潜在障碍。