M0-06 Content Safety & Moderation 基础版 #6

New Issue

wangdl · 2026-05-22T21:00:15+08:00

wangdl commented

2026-05-22 21:00:15 +08:00

交付检查

Prisma migration — SensitiveWord, ContentSafetyCheck, ContentReport
MySQL ✅
Redis ✅ 敏感词缓存 300s
BullMQ ✅ 异步审核预留
ContentSafetyService.check() ✅ 同步检测
Admin AAPI ✅ 词库管理
Admin Web ⏳ 待接入

## 交付检查 - [x] Prisma migration — SensitiveWord, ContentSafetyCheck, ContentReport - [x] MySQL ✅ - [x] Redis ✅ 敏感词缓存 300s - [x] BullMQ ✅ 异步审核预留 - [x] ContentSafetyService.check() ✅ 同步检测 - [x] Admin AAPI ✅ 词库管理 - [x] Admin Web ⏳ 待接入

wangdl added this to the M0：后端基础能力与架构规范闭环（P0） milestone 2026-05-22 21:00:15 +08:00

wangdl self-assigned this 2026-05-22 21:00:15 +08:00

wangdl commented

2026-05-22 23:16:45 +08:00

实施完成

文件

prisma/schema.prisma — SensitiveWord, ContentSafetyCheck, ContentReport 三张表
src/modules/content-safety/content-safety.service.ts — check() 敏感词匹配，Redis 缓存词库 300s
src/modules/content-safety/content-safety.controller.ts — Admin AAPI 词库管理 + 审核记录查询

接口

端点	说明
GET /admin-api/content-safety/words	敏感词列表
POST /admin-api/content-safety/words	新增敏感词
DELETE /admin-api/content-safety/words/:id	删除敏感词
GET /admin-api/content-safety/checks	审核记录

接入方式

各业务模块在用户输入和 AI 输出节点调用：

待完成

Admin Web 页面（敏感词管理 + 审核队列）
接入 AI 输出检测
图片/多模态审核（后续阶段）

## 实施完成 ### 文件 - prisma/schema.prisma — SensitiveWord, ContentSafetyCheck, ContentReport 三张表 - src/modules/content-safety/content-safety.service.ts — check() 敏感词匹配，Redis 缓存词库 300s - src/modules/content-safety/content-safety.controller.ts — Admin AAPI 词库管理 + 审核记录查询 ### 接口 | 端点 | 说明 | |------|------| | GET /admin-api/content-safety/words | 敏感词列表 | | POST /admin-api/content-safety/words | 新增敏感词 | | DELETE /admin-api/content-safety/words/:id | 删除敏感词 | | GET /admin-api/content-safety/checks | 审核记录 | ### 接入方式各业务模块在用户输入和 AI 输出节点调用： ### 待完成 - Admin Web 页面（敏感词管理 + 审核队列） - 接入 AI 输出检测 - 图片/多模态审核（后续阶段）

wangdl commented

2026-05-24 09:38:22 +08:00

✅ E2E 测试通过

M0 E2E 测试已全部通过 — 28/28 tests passed，耗时 ~1.4s。

本 Issue 测试内容

GET /api health endpoint returns safe response

运行方式

npm run test:e2e

测试架构

Mock 层: @prisma/client / ioredis / jose / @nestjs/bullmq
无需本地 MySQL/Redis，纯 mock 轻量集成测试
测试文件: test/m0.e2e-spec.ts

## ✅ E2E 测试通过 M0 E2E 测试已全部通过 — **28/28 tests passed**，耗时 ~1.4s。 ### 本 Issue 测试内容 GET /api health endpoint returns safe response ### 运行方式 ```bash npm run test:e2e ``` ### 测试架构 - Mock 层: `@prisma/client` / `ioredis` / `jose` / `@nestjs/bullmq` - 无需本地 MySQL/Redis，纯 mock 轻量集成测试 - 测试文件: `test/m0.e2e-spec.ts`

~~wangdl referenced this issue 2026-06-05 19:34:41 +08:00~~

🟡 P1 | PATCH /knowledge-items/{id} 支持 parentId 和重命名 #65

~~wangdl referenced this issue 2026-06-05 19:36:05 +08:00~~

🟡 P1 | PATCH /knowledge-items/{id} 支持 parentId 和重命名 #65

wangdl closed this issue

2026-06-06 18:50:21 +08:00

wangdl commented

2026-06-06 18:50:22 +08:00