3.5 KiB

Raw Permalink Blame History

GLM-OCR Java服务

基于DJL (Deep Java Library) 的纯Java实现GLM-OCR本地部署服务，提供REST API接口。

特性

✅ 纯Java实现，无需外部服务依赖（vLLM/Ollama/Python）
✅ 支持多种OCR任务：文本识别、公式识别、表格识别、信息提取
✅ 基于DJL框架，使用PyTorch引擎
✅ 支持CPU和GPU推理
✅ 提供完整的REST API和Swagger文档
✅ Apache 2.0开源协议

技术栈

Java 17
Spring Boot 3.2.0
DJL 0.27.0 (PyTorch引擎)
PyTorch 2.1.1
HuggingFace Tokenizers

快速开始

1. 环境要求

Java 17+
Maven 3.6+

2. 下载模型

从ModelScope下载GLM-OCR模型：

# 使用Git LFS
git lfs install
git clone https://modelscope.cn/ZhipuAI/GLM-OCR.git ./models/GLM-OCR

或手动下载并解压到 ./models/GLM-OCR/ 目录。

3. 配置

编辑 src/main/resources/application.yml：

glm-ocr:
  model-path: ./models/GLM-OCR
  device: cpu  # 或 gpu(0) 如有GPU
  precision: fp32

4. 构建并运行

mvn clean package -DskipTests
java -jar target/glm-ocr-service-1.0.0.jar

服务将在 http://localhost:9090 启动。

API接口

健康检查

GET /api/v1/health

文本识别

POST /api/v1/ocr/text
Content-Type: application/json

{
  "image": "iVBORw0KGgoAAAANSUhEUg...",
  "imageType": "base64"
}

公式识别

POST /api/v1/ocr/formula
Content-Type: application/json

{
  "image": "iVBORw0KGgoAAAANSUhEUg...",
  "imageType": "base64"
}

表格识别

POST /api/v1/ocr/table
Content-Type: application/json

{
  "image": "iVBORw0KGgoAAAANSUhEUg...",
  "imageType": "base64"
}

信息提取

POST /api/v1/ocr/extract
Content-Type: application/json

{
  "image": "iVBORw0KGgoAAAANSUhEUg...",
  "imageType": "base64",
  "extractionTemplate": "{\n  \"name\": \"\",\n  \"id_number\": \"\"\n}"
}

通用识别

POST /api/v1/ocr
Content-Type: application/json

{
  "image": "iVBORw0KGgoAAAANSUhEUg...",
  "imageType": "base64",
  "taskType": "text"
}

重新加载模型

POST /api/v1/model/reload

Swagger文档

访问 http://localhost:9090/swagger-ui.html 查看完整的API文档和在线测试。

配置说明

配置项	说明	默认值
`glm-ocr.model-path`	模型本地路径	`./models/GLM-OCR`
`glm-ocr.device`	推理设备 (cpu/gpu(0))	`cpu`
`glm-ocr.precision`	精度 (fp32/fp16/bf16/int8)	`fp32`
`glm-ocr.max-tokens`	最大生成token数	`8192`
`glm-ocr.batch-size`	批次大小	`1`
`glm-ocr.image-size`	图像预处理大小	`448`
`glm-ocr.temperature`	温度参数	`0.1`
`glm-ocr.top-p`	Top P采样参数	`0.95`

项目结构

glmocrdemojava/
├── pom.xml
├── api-test.http
├── src/main/
│   ├── java/com/example/glmocr/
│   │   ├── GlmOcrApplication.java
│   │   ├── config/
│   │   ├── controller/
│   │   ├── dto/
│   │   ├── model/
│   │   ├── service/
│   │   └── tokenizer/
│   └── resources/
│       └── application.yml
└── models/
    └── GLM-OCR/

开源协议

本项目：MIT License
DJL：Apache License 2.0
GLM-OCR模型：MIT License

3.5 KiB Raw Permalink Blame History Unescape Escape