安全与风险指引

发布时间：2023年【9】月【25】日

生效时间：2023年【9】月【25】日

引言

百川大模型开放平台（以下简称“本平台”）由北京百川智能科技有限公司（以下简称“我们”或“百川”）提供。本平台作为大模型应用平台，支持通过API调用的方式使用我们的人工智能模型，以实现问答、对话与写作等功能（以下简称“本服务”）。为了帮助开发者（以下简称“用户”或“您”）了解本服务适用的人群、场合与用途，以及科学理性地认识和依法使用人工智能技术，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《生成式人工智能服务管理暂行办法》等法律、法规，同时参考相关标准与行业良好实践，制作本《安全与风险指引》（以下简称“本指引”），旨在向您阐述人工智能技术存在的限制，以及使用过程中需要注意的安全问题及潜在风险。

我们理解，安全的大模型应用应避免对生命、健康、财产及环境造成危害。在应用大模型的过程中，了解大模型本身的局限性，并采取负责的开发与部署实践，对偏离预期功能的应用尽早进行人工干预，将有利于协助您应对安全风险挑战。我们建议您在应用的过程中关注如下内容：

一、大模型的验证、可靠性、准确性、鲁棒性或泛化能力

在使用本服务的过程中，我们提醒您优先考虑采取降低安全风险的措施，并始终保持对大模型的验证、有效性、可靠性、准确性与鲁棒性或泛化能力的关注。

验证

验证是指通过提供客观证据认定应用开发、更新过程中某一阶段的输出满足输入要求，包括验证测试（单元测试、集成测试、系统测试）、设计评审等系列活动。在使用本服务的过程中，您作为开发者应确保您的应用具备鲁棒性，为此您对大模型的应用与部署应当确保其能满足您所设定的预期用途。

可靠性

您所应用和部署的大模型应当在预期使用的条件和时间段内表现稳定。相关应用应当能够在给定条件下，长期稳定运行，并能够有效避免数据泄露等安全故障。

准确性

准确性是确保模型有效性和可信度的关键。您在使用过程中请考虑准确性的各种衡量标准，包括以计算为中心的衡量，例如假阳性和假阴性率。

鲁棒性或泛化能力

鲁棒性或泛化能力意味着应用或系统应在各种情况下保持一定的性能水平。请注意，为确保您的应用具备良好的鲁棒性或泛化能力，您应当确保该应用不仅能够按照实现预期用途所设定方式执行任务，还能够在非预期环境中运行时尽量减小可能对生命、健康、财产及环境造成的潜在危害。

持续评估与风险管理

为确保您的应用的有效性和可靠性，您应当对其性能进行持续的测试或监测，以便及时发现和纠正可能的问题。为了将潜在的负面影响控制在最小范围内，您可能需要通过人工干预来检测或纠正错误。

二、管理歧视性内容

您在使用本服务的过程中，应当遵守法律、行政法规，尊重社会公德和伦理道德，并采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视。为有效管理歧视性内容，您的应用与部署应在可能的情况下适应不同地域与文化等之间的差异，并采取适当措施，以防止针对特定人群的不利影响，例如对残疾人士或老年人的歧视。请确保在整个大模型应用的生命周期中持续检测和管理偏见与歧视，以保持应用方案的公平性和准确性。

三、管理与提示可能出现的误差

AI可能会向用户提供有关安全或健康问题的虚假信息，例如，对用户询问他们是否遇到医疗紧急情况并应寻求护理的问题，给予错误的答复。

您在使用我们的服务进行应用与部署的过程中，应当高度关注大模型本身可能产生的误差和虚假内容问题，特别是涉及诸如医疗、法律等方面的专业咨询。AI可能会向用户提供误导性的建议。在易产生虚假或误导性信息的场景中，您应当向用户提供明确的警告和提示，让他们保持审慎并鼓励寻求专业意见。

我们严禁通过利用本服务，故意制作、传播或鼓励制作、传播误导性信息，我们将密切监测并采取必要措施来防止此类行为。

四、确保网络安全与数据安全

您在使用本服务的过程中，需要结合您所开发的应用的预期用途、使用场景、核心功能，基于保密性、完整性等网络安全特性，确定网络安全能力建设要求，以应对网络攻击和数据窃取等网络威胁，如算法编程框架漏洞攻击、数据污染等。除此之外，您还需要考虑数据安全问题，例如数据转移需明确转移方法、数据污染防护措施、数据销毁等要求；数据整理、数据集构建、算法训练、算法性能评估、软件验证等内部活动需在封闭或受控的网络环境下开展以防止数据污染；数据标注等涉及外方的活动需明确数据污染防护措施，特别是在开放网络环境下；各数据库（集）均需进行数据备份，明确备份的方法、频次、数据恢复方法。

五、联系我们

如您在使用本服务时对本指引有任何问题的，您可通过发送邮件至api@baichuan-inc.com或通过本服务意见渠道或网站上公示的其他联系方式与我们联系，您也可以将您的问题邮寄至北京市海淀区清华园街道赛尔大厦B座17层收。

六、争议解决

本指引适用中华人民共和国大陆地区法律。用户如因本指引与百川发生争议的，双方应首先友好协商解决，如协商不成的，该等争议将由北京市海淀区人民法院管辖。