研究等级和研究构建 QC 代理
“研究等级”功能会根据研究对最佳实践的遵守情况对研究进行审查和评级。部署后,研究等级 作业将运行并针对研究的研究设计执行一组检查。这些检查将根据 Veeva CDMS 最佳实践审查定义或定义组,并突出影响研究设计、性能和数据提取的领域。你可以在研究等级(Study Grade)选项卡中查看研究等级记录。
作为研究等级作业的一部分,可以使用 Veeva AI 和 研究构建 QC 代理来生成 AI 研究设计 QC 报告。研究构建 QC 代理会根据一系列质量检查(包括特定推荐的设计实践)验证研究配置。
先决条件
只有在贵组织签署了 Veeva AI 协议后,研究构建 QC 代理功能才可用。请联系 Veeva 服务代表了解详细信息。
默认情况下,具有标准 CDMS Study Designer(CDMS 研究设计者)研究角色的用户可以执行下述操作。如果贵组织使用用户定义的研究角色,则你的角色必须授予以下权限:
| 类型 | 权限标签 | 控制 |
|---|---|---|
| “标准”选项卡 | 工作室选项卡 | 能够访问工作室选项卡 |
| “标准”选项卡 | “研究等级”选项卡 | 能够访问研究等级选项卡 |
| 功能权限 | 查看研究等级 | 能够查看研究等级记录 |
如果你的“研究”包含受限数据,你必须具有“受限数据访问(Restricted Data Access)”权限才能查看该数据。
了解有关“研究角色”的更多信息。
请注意,这组检查的目的仅仅是为了评估并为当前或未来的研究设计更改提供建议(很像验证中的警告)。据了解,由于研究设计的复杂性和多样性,必须做出一些选择以偏离最佳实践,从而导致总体等级较低。出于这些原因,此功能并非专门用于衡量或评估个人的表现,也不得用作此类用途。
研究等级功能的使用
在成功从 DEV 部署到 TST 后,会自动针对研究运行研究等级。你也可在工作室的操作(Actions)菜单中,手动生成研究等级报告。部署后,Vault 会运行一个作业来评估研究设计,其结果将记录在格式化的 Excel™ 文件中。作业完成后,将在研究等级选项卡中创建一个研究等级 记录,其中包含总体定量分数以及每个检查的详细分数。
一旦研究获得定量评分,Veeva CDMS 服务将审查结果并确定应该进行哪些更改以改进研究设计。这些建议以及定性分数将记录在研究等级 记录的研究等级审查(Study Grade Review)子选项卡中。
在你的研究经过审查和评级后,你可以与 Veeva 服务审查员一起确定后续步骤。
手动运行研究等级报告
可以在工作室的研究设置(Study Settings)选项卡中手动运行研究等级报告。
运行研究等级报告的步骤如下:
- 导航到工作室(Studio)> 研究设置(Study Settings)。
-
可选:选择包含 AI QC 报告(Include AI QC Report)。这是对你的研究的额外 AI 质量控制检查。请参见下面的详细信息。
- 点击立即运行(Run Now)。
Vault 将运行研究等级报告,报告生成完成后会向你发送电子邮件通知。
如何查看研究等级和研究等级审查
每个研究等级 记录都包含以下子选项卡:详细信息(Details)、系统等级(System Grade)、研究等级审查、研究等级评分(Study Grade Scores)、其他信息(Other Information)和附件(Attachments)。
- 详细信息:此部分包含研究信息,如名称、研究、研究版本 和工作版本,以及 上次运行 或系统上次更新记录的时间。
- 系统等级:此部分包含研究的定量分数,该分数是通过计算研究等级 分数的加权平均值确定的。此分数显示在此研究使用最佳实践(This Study Uses Best Practices)字段中。
- 研究等级审查:此部分包含研究等级审查,包括定性分数以及由 Veeva 服务审查员撰写的评估。
- 研究等级评分:此部分详细列出了针对研究环境运行的检查和相应的分数。
- 其他信息:此部分提供有关研究等级 记录的基本信息,例如创建日期 和上次修改日期。
- 附件:此部分包含 Excel™ 文件形式的研究报告卡。
了解你的研究等级
Vault 提供两个分数(0-4)作为研究等级的一部分:一个是逐个检查的分数,旨在对接受该检查的记录进行评级和评分,另一个是基于单个检查分数的加权计算结果的总体计算分数。
这些分数的目的是从系统的角度提供检查的摘要。虽然这些分数是标准化的,但出于研究设计的可变性和要求考虑,可能需要偏离,这就是我们采用定性审查流程的原因。
下表提供了研究等级评分系统的一般概述:
| 分数 | 说明 |
|---|---|
| 0 - 不适用 | 该设计不适用于在此上下文中进行评估。当系统无法确定设计与指定标准的相关性,或者当所测量的方面不适用于该特定记录时,可能会出现此分数。因此,没有进行任何评估。* |
| 1 - 高度不符 | 该设计明显偏离了系统的预期,远低于性能或可用性的标准,表明在符合方面存在巨大差距。 |
| 2 - 不符 | 该设计在一定程度上符合预期的设计标准,但仍未达到性能或可用性的关键预期。可能有几个方面有效,但整体设计不足,需要改进才能满足系统的基线标准。 |
| 3 - 符合 | 该设计比较符合预期标准。性能和可用性符合系统的预期,并且该设计满足要求。可能有小幅的改进机会,但记录通常功能正常且高效。 |
| 4 - 高度符合 | 该设计满足了系统对性能和可用性的预期,代表了符合标准的理想状态。 |
*在以下情况下,Vault 将跳过记录评估:
- 记录未在计划中使用
- 记录与规则相关,并符合以下标准:
- 一个或多个标识符与正在使用的定义不一致
- 记录处于非活动状态和/或已存档
检查及其解决方法
下表详细列出了可能的研究等级检查以及如何解决针对这些检查记录的任何错误:
| 名称 | 标签 | 解决方法 |
|---|---|---|
| codelist_consistency | 编码列表的格式一致 | 确保编码列表和编码列表条目的不同编码列表编码和解码之间的格式(大写和标点符号)匹配。 |
| codelist_display | 编码列表会根据编码列表中的条目数适当显示 | 最佳实践建议,条目数少于 4 个的代码列表应显示为单选按钮,而条目数超过 6 个的代码列表应显示为选项列表。编码列表通常最好用单选按钮表示,以提高可见性,但是,选项过多会影响表单的显示方式和研究中心的使用方式。 |
| event_group_repeating | 重复事件组用在允许使用的位置 | 审查具有类似表单的事件,如果可能,使用这些事件创建重复事件组。 |
| event_group_usage | 事件组具有适当的利用率 | 审查你的研究对事件组的使用:是否过度使用(每个事件都有一个事件组?)或未充分利用(只有一个事件组?)事件组?请注意,在某些情况下,单个事件组可能对你的研究有意义。 |
| form_order | 在多个事件中重复使用的表单具有相同的相对顺序 | 如果收到了与表单顺序相关的检查,则表示你正在多个事件中重复使用表单,并且其中一些表单的顺序不同(相对于彼此)。要解决此问题,请查看你重复使用表单的事件并进行组织,以便它们在不同事件中使用时都按相同的相对顺序排列。由于检查无法确定正确的顺序,因此你必须确定正确的顺序,并相应地对表单进行建模。 |
| form_total_items | 表单显示正确数量的条目 | 此检查将查找可能在一个表单上显示过多条目的情况。这可能是由以下原因引起的:默认重复条目组生成了大量行,重复条目组在条目组中包含大量条目,或者重复条目组的重复最大值过大。要解决此问题,请根据数据集要求审查条目组,以确保需要在此数据集中收集所有数据,确保默认值只是预期的默认值,并将重复最大值更新为合理的数量。我们意识到,在某些情况下可能会由于研究要求而无法进行这些更新,并提请注意,当表单变得太大时,可能会对 EDC 性能产生影响。 |
| form_unnecessary_copy | 避免了不必要的表单副本 | 尽可能重复使用条目、条目组和表单。此问题在某些情况下不可避免。 |
| rule_blank_checks | 针对空值和空白值的规则检查 | 确保规则将 IsBlank() 用于文本、日期和数字标识符(如果适用)。 |
| rule_complexity | 规则具有必要的复杂度 | 在许多情况下,应编写复杂规则以减少规则的总数,但是,在某些情况下,这些规则的排列组合可能会导致性能问题。在这些情况下,可能需要对其中一些规则进行拆分,以减少单个规则中可能的排列组合数量。要解决此问题,请审查非完全限定的标识符或操作以及重复对象,以查看是否有可能减少检查或将其中一些拆分为不同的规则。 |
| rule_dynamics_results | 动态规则操作适当地利用全局范围 | 更改动态操作范围以匹配操作的目标和事件组。如果范围为“全局”,有一个完全限定的操作标识符,并且事件组是重复的,则需要更改其中一个值。在操作标识符中使用 @Event 或将范围更改为“全局”以外的其他值。 |
| rule_qualified_identifiers | 规则对重复对象使用 @ 标识符 | 针对重复定义(事件组、表单、条目组)运行的规则不应被限定且应具有匹配的事件或事件组范围,或者不应被限定且应具有全局范围。 |
| rule_scope | 根据操作适当确定规则的范围 | 操作的目标和表达式中使用的标识符必须全部是完全限定,或者全部不是完全限定。更新操作或标识符以匹配 @Form、@Event 等的使用。 |
操作研究构建 QC 代理
可以选择让研究构建 QC 代理作为研究等级的一部分生成 AI 研究设计 QC 报告。该代理会对构建内容进行评估,包括表单布局、条目属性、标签命名一致性、未来日期设置、必填检查、重复表单和条目组设置、代码列表配置以及拼写错误。该代理会将这些评估结果整理成一个 CSV 文件(“StudyDesignQC_{StudyName}_{StudyInstance}.{HighestCasebookVersion}.{CurrentVersionNum}.{BuildNum}-{DateGenerated}.csv”)。
启用:只有在贵组织签署了 Veeva AI 协议后,研究构建 QC 代理功能才可用。请联系 Veeva 服务代表了解详细信息。
下载 AI 研究设计 QC 报告:
- 导航至研究等级选项卡。
- 在列表中找到刚刚生成的研究等级。
- 单击研究等级的名称将其打开。
- 滚动到附件(Attachments)部分。
- 单击附件以展开。
- 单击文件名或下载 () 按钮,以下载 CSV 文件。
- 在你选择的工具中审查 CSV 文件。
代理检查内容
研究构建 QC 代理检查以下内容:
- 标签中的拼写错误
- 标签和外部 ID的值是否匹配
- 表单和条目的标签在表单之间保持一致(例如,“其他,请注明”与“如果是其他,请注明”与“其他请注明”)。
- 条目名称长度适中(通常不超过 8 个字符)
- 标题可见和视觉组属性需要设置为 true(需选中复选框)
- 如果代码列表有超过 6 个代码列表条目,控制类型设置为选项列表。
- 如果代码列表少于 6 个条目,控制类型设置为单选按钮 - 水平或单选按钮 - 垂直。
- 在表单内,所有代码列表尽可能使用相同的控制类型。
- 在单一表单中,复合布局和并排布局的设计决策保持一致。
- 问题(即表单的标签)清晰,遵循逻辑顺序,且不引导最终用户
- 表单在跨事件重复使用时,保持相同的相对顺序
- 提示和悬浮标签在使用时应拼写无误,并与文本所描述的条目相匹配
- 重复的表单和条目组均适用于该表单。
- 重复的条目组已选择网格视图
- 在重复表单中使用重复条目组受到限制。
- 数字类型条目配有适当的单位,且标签格式中显示固定单位
- 数字类型条目具有逻辑范围检查、精度、长度和默认单位
- 日期类型条目被设置为质疑未来日期(无未来日期属性),用于采集预测日期或来自 IVRS 的日期的条目除外。
- 代码列表类型条目的长度需与最长代码列表条目标签的长度相匹配
代理还会执行以下操作以供参考:
- 返回任何已选中允许未知日、允许未知月或允许未知时间属性的日期类型条目列表
- 返回条目列表,其中必填未被选择,但不包括以下情况:条目为派生、只读、实验室或参考类型;条目为布尔型或浮点型数据类型;或条目的标签类型不为 null(如信息性或描述性字段)
- 返回使用标题条目类型的条目列表