测试和应用验证
OpenFactory 有两个相关表面:
- 启动构建的工件并运行有界访客断言的图像场景;和
- 一个应用程序平台预览,可创建不可变的应用程序变体以及 UI 测试和 walker 工作流程。
不同应用程序平台模块的可用性存在很大差异。使用前请阅读每个页面上的状态。
应用程序平台可用性
| 主题 | 当前边界 |
|---|---|
| App Deployment | 通过不可变变体管道对 Git 源进行排队;遵循异步部署和运行状况证据。 |
| App UI Testing | 针对可到达的目标存储和运行有界语义场景;结果仅证明所陈述的行为和主张。 |
| Prompt-assisted deployment | 需要现有模板 Git URL;简介是出处,而不是来源生成。 |
| App environment variables | 配置所需的密钥/令牌后,即可实现加密存储和部署切换;旋转和运行时间证据仍然是操作员关注的问题。 |
| Managed Databases | 仅存根合同;没有配置数据库。 |
| Object Storage | 仅存根合同;没有配置存储桶。 |
| Custom Domains | Public-DNS 仅限所有权验证;自定义 TLS 服务/路由未激活。 |
| Checkpoints | 仅存根标识符;不存在可恢复的快照。 |
| Observability | 手动事件存储和VM分配是真实的;摄取、探针、样本、日志和仪表板不完整。 |
| Web IDE | 仅存根绑定;没有提供编辑器或私人路线。 |
| App Auth | 仅存根绑定;不提供身份提供商、发行者或真实令牌流。 |
| Templates and Remix | 从清单或合格的源沿袭创建应用程序记录;不部署或自动创建声明的服务。 |
| Autonomous Walker | 有界 UI 发现,具有重要的覆盖范围、授权和副作用限制。 |
| Walker Diffs | 比较存储的路径并导出票据形状的有效负载;它本身不会提交外部票据。 |
| Walk and Fix | 创建修复意图;旧版实时虚拟机修补与不可变部署模型存在冲突。 |
不要将存根适配器链接到生产工作流程中,因为它的 API 返回成功。
图像场景
仅当选定的构建/场景启用图像测试并且所需的测试基础设施可用时,才会运行图像测试。将这些状态分开:
- 工件构建;
- 来宾配置和启动;
- 断言执行;
- 证据最终确定;和
- 认证或公布政策。
当测试被禁用、待定、失败或不完整时,构建可以成功。
测试设计
内置测试
boot、login、packages、network 和 services 等内置名称提供了基准。检查 Default Tests 的精确限制。
自定义断言
使用 Custom Assertions 进行服务、端口、HTTP、文件、命令、进程和支持的 GUI 观察。每个断言都应包括描述、预期结果、目标、超时和失败含义。
基准
基准目录是结构化检查集,而不是合规性确定。匹配确切的操作系统/版本,保留适用性和故障,并阅读 CIS benchmark evidence。
证据清单
对于决策运行,请保留:
- 配方、源、构建、工件、VM、场景和运行 ID;
- 精确的工件和源摘要;
- 测试环境和运行器版本;
- 每个断言结果和原始输出;
- 仅在合理且安全处理的情况下使用屏幕截图;
- 遗漏、跳过或不适用的检查;
- 时间戳和终端状态;和
- 审阅者对所述决定的处置和批准。
当测试失败时,在重建之前诊断失败的层。重复的构建可能会隐藏所有权、部署、测试运行程序或证据最终确定缺陷,而不是修复它。