1 简介

1.1 定义

1.2 我们的意图

1.3 范围

2 指导性原则

2.1 我们的目标是符合良好实践的质量和标准

2.2 我们将评估数据的可靠性

2.3 我们将评估我们的人工智能应用的稳健性

2.4 我们将努力减少人工智能应用中的偏见

2.5 我们将是透明的，并将努力解释人工智能应用

2.6 我们将致力于保护个人数据

2.7 我们将尊重个人的自我决定

2.8 我们将提供人工干预

1.1 定义

人工智能（AI）是一项技术，近年来随着大数据能力的发展而取得了重大进展，并因其前景广阔的潜在应用而吸引了越来越多的兴趣。它也引起了人们对负责任的使用、可靠性和失去人类控制的担忧。

人工智能的定义有很多，因为它是一项不断发展的技术。我们对人工智能的定义以这些定义的共同要素和机器学习应用为中心，这些应用使用训练和/或操作数据来实现特定的目标。这种狭义的人工智能定义排除了一般的人工智能，反映了目前商业领域的实践，因为更广泛、更普遍的人工智能技术还没有出现。

我们所说的人工智能是指系统，它使用数据来学习并相应地调整其行动或输出。

人工智能应用可以根据处理或锁定的数据进行动态调整。这类人工智能应用程序的例子包括：对话聊天机器人或机器人，用于筛选交易或数据点，以发现异常模式，表明错误、欺诈或质量问题。AI功能还可以解释图像并嵌入诊断设备或应用程序中，识别指示风险或病理的模式，并可能还建议相关课程行动或提供结论。

1.2 我们的目的

我们的产品和服务致力于改善生活，我们的目标是在研究、开发、生产和商业化方面遵守最高标准。我们的目标是透明、客观地向患者、消费者和医疗保健专业人员（HCP）告知我们的产品和服务，提供有力的证据，使他们能够在尊重其独立权利和决定的同时做出明智的决定。此外，我们将为用户提供适当的信息，以评估使用我们的产品和服务所涉及的利益和风险。患者及其安全至关重要。我们希望与医疗系统中的所有各方合作，并将努力向所有可能从中受益的人提供我们的产品。

基于这一意图，我们为负责任地使用人工智能技术制定了一套指导原则，以获取该技术的好处，并减轻滥用该技术的潜在风险。

1.3 范围

这些指导原则适用于赛诺菲的所有分支机构，在这些机构中，人工智能被应用于我们的任何产品，或被用于提供服务，向外部各方提供证据，或被用于影响我们的员工或影响患者的过程。

2.1 我们以质量为目标，遵守良好的实践标准

我们对我们的产品质量、所提供的证据和按规定提供的服务负有责任。我们将不断调整我们的内部治理框架，以确保遵守这些指导原则和所有适用的法律法规。这将包括教育、培训和咨询、实践分享、数据保护、实施标准的一致性、投诉、持续改进和监督。随着技术及其应用的发展，我们还将根据需要调整这些指导原则。

2.2 我们将评估数据的可靠性

我们的目标是使用可靠的数据。如果数据具有代表性，人工智能的应用是最强大的。我们将构建并组合不同的数据集，以确定新的相关因素或应用程序，并将致力于使我们的应用程序对目标人群和预期用途更加强大。

我们将评估训练和真实世界数据之间的差异，找出任何偏差并评估其影响。我们将在安全和受控的环境中，用数量和质量充足的数据来培训和操作人工智能应用程序。

2.3 我们将评估我们的人工智能应用程序的稳健性

我们的人工智能应用程序将在发布之前进行稳定性测试。我们将开发、维护、改进和运行我们的应用程序，这些应用程序将在质量管理体系（QMS）下处理患者数据或受监管的流程，这将反映当前良好的行业实践。我们将评估人工智能应用程序的风险，并将其提交定期审查和评估，以确保其结果的安全性和稳健性。对患者健康和安全至关重要的应用程序将受到投诉、输入数据及其结果的持续监控。

我们承认，产生科学假说的人工智能应用不能被验证，只能产生有效的假说，但这些假说应该在前瞻性试验中得到验证。

在某些情况下，部分训练数据可能与期望的AI输出相关，而没有任何因果或基本关系。因此，训练的输出可能取决于这些因素。在适用的情况下，我们将在合理可能的范围内减少与预期输出或声明无关的干扰输入因素。对于临床应用，我们将证明应用的输入与临床条件之间的临床关联，以及为预期用途正确可靠地生成输出。

2.4 我们将努力减少人工智能应用中的偏见

如果训练数据不具有代表性，那么人工智能应用在某些群体或情况下可能不太可靠。我们将寻求识别潜在的偏见，包括对弱势群体或少数群体的偏见，在可获得或可获得的范围内，我们将使用各自的识别属性。漂移或偏见将被评估和评价，并采取适当的纠正措施（包括必要时的额外培训或退出）。我们将努力防止对子群体的不公平的偏见输出，这可能源于非代表性的或有偏见的训练数据或对少数群体的不充分纳入。

我们将保持透明，并提醒或限制使用我们的应用程序的子群体，因为其结果不够健全。我们将努力把我们的应用程序提供给所有能从中受益的人，但我们承认，我们可能没有足够的数据来为所有人群提供有力的结果。在这些情况下，我们将采取合理的步骤将其纳入。

2.5 我们将是透明的，并将努力解释人工智能的应用

我们将向用户通报人工智能的使用情况。我们将评估我们的应用的性能和质量，我们将评估结果的合理性。我们将努力在合适和合理可行的情况下，在不损害我们的知识产权的前提下，也向用户提供这些信息。

我们将向用户适当地解释我们的人工智能应用的预期用途以及它们是如何工作的。我们将确定并告知用户我们的人工智能应用程序的使用范围。我们还将解释我们打算如何控制、维护、纠正和改进这些应用程序。

2.6 我们将致力于保护个人数据

我们将致力于保护个人数据。我们将尽可能使用匿名或假名的数据。我们将防止或保护个人的身份被重新识别。

我们将为合法的需要并在个人同意的基础上收集必要的个人数据。二次使用也可以包括在人工智能开发或评估中使用其数据集，或者同样在大数据探索或研究中使用。当主要或次要用途的同意被拒绝或撤回时，我们将尊重，并将前瞻性地确保他们的数据将不再被用于此类目的。

我们将保留个人数据，同时我们将被要求保留记录，或将其用于研究或开发或评估应用中的潜在偏见。

2.7 我们将尊重个人的自我决定

我们将避免任何未经用户基于公平和公开信息明确同意的干预、规定性输出、劝导或自主行动。

我们将采取合理的步骤，了解为什么用户可能会忽略我们的人工智能应用程序的结果来改善它们。我们将接受他们的决定。

2.8 我们将提供人工干预

对于所有对受影响的个人利益至关重要的自主人工智能应用程序，我们将提供一个投诉的方式，与公司的代表直接互动。

高级分析法（Advanced Analytics）是否包括在范围内？

高级分析法使用人工智能工具来识别相关因素，以提出新的假设或确定新的研究目标或途径。只有在随后的强制性阶段，该假设才由人类进行评估，并通常在随机对照试验中进行验证，即前瞻性研究。个人不会接触到自主产生的探索性结果。在确认性试验步骤中，使用的任何人工智能都必须遵守这些指导原则和适用的质量和监管程序。

本指南是否具有约束力？

本指南提出了我们对赛诺菲的sponsors和项目经理的具体要求，即我们希望他们如何在范围内的任何项目中实施人工智能。技术、实践、法律和法规以及我们的指导意见都在不断发展。本指南为在尽最大努力的基础上负责实施提供了指导。随着良好的人工智能实践体系的巩固，我们打算在未来进一步调整和规范基于风险的控制。

匿名、假名和去掉身份的数据之间有什么区别？

假名化指的是个人数据，它是用访问数据的识别部分所需的单独密钥来保护的。根据欧盟法规，匿名化指的是个人数据，它完全不能与可识别的个人联系起来（不可逆转）。美国的法规指的是去识别化的数据，即删除个人数据的识别部分，并禁止通过数据的组合来重新识别，尽管这可能仍然是可能的。数据保护法和法规不保护匿名数据。

赛诺菲的人工智能应用是否不存在偏见？

我们寻求设计训练数据，以合理地减少偏见，特别是对少数群体和弱势群体，以避免歧视。现实世界的操作使用可能会演变，并与受过训练的人群不同，因此可能会产生偏见。始终存在残余偏差，识别需要进行分组分析，并与实际操作数据进行比较。在人工智能之外的传统环境中也存在偏见。

你们如何确保人工智能应用是稳健的？

我们的目标是不仅在发布前用历史数据测试人工智能应用程序，而且要前瞻性地验证该应用程序在实践中提供正确的输出。操作数据可能与训练数据不同或发生转变。我们也将验证训练数据的质量。

我们承诺以适当的间隔定期用真实世界/操作数据重新测试应用程序，以确保持续的性能。