Skip to main content
modal-ocr-script Modal上でOCRモデルを動かすスクリプトの新規作成・デバッグ・動作確認を行う。 このプロジェクトのmodal_scripts/パターンに準拠したスクリプトを生成し、 既知のハマりどころを事前回避する。 Use when: "Modal", "modal_scripts", "Modalスクリプト", "Modalで動かす", "GPUで実行", "新しいOCRモデルを追加", "Modalモデル追加", "modal run".
Jump to install Skills Marketplace Discover and explore AI skills built by the community.
Install with Codex or Claude Copy this prompt, paste it into Codex, Claude, or another assistant, and let it review the skill page and install it for you.
Show prompt details A direct command skips the review prompt. Inspect the source before running it.
npx skills add https://github.com/nyosegawa/ocr-comparison --skill modal-ocr-scriptThe command stays on one line. Scroll horizontally to inspect it before copying.
Prefer a local copy? Download the files currently available to SkillsMP.
Download Zip Downloading... Related occupations SOC
Based on SOC occupation classification
More from this repository
name modal-ocr-script description Modal上でOCRモデルを動かすスクリプトの新規作成・デバッグ・動作確認を行う。 このプロジェクトのmodal_scripts/パターンに準拠したスクリプトを生成し、 既知のハマりどころを事前回避する。 Use when: "Modal", "modal_scripts", "Modalスクリプト", "Modalで動かす", "GPUで実行", "新しいOCRモデルを追加", "Modalモデル追加", "modal run".
compatibility Requires Modal CLI (modal token new), Python 3.11, evaluation/ directory with modal_scripts/
Modal OCR Script Builder
このスキルの目的
evaluation/modal_scripts/ 配下に新しいOCRモデル用のModalスクリプトを作成し、
動作確認まで完了させる。過去の実装で得られたハマりどころを事前に回避する。
Instructions
Step 1: 既存パターンの確認
新しいスクリプトを書く前に、必ず既存のスクリプトを1つ読んで構造を把握する。
cat evaluation/modal_scripts/paddleocr_run.py
cat evaluation/modal_scripts/nanonets_ocr.py
cat evaluation/modal_scripts/_common.py
全スクリプトは以下の構造に従う:
"""Model Name on Modal (params, ~VRAM)."""
import modal
app = modal.App("ocr-eval-{model-name}" )
image = (
modal.Image.debian_slim(python_version="3.11" )
)
@app.function(gpu="T4" , image=image, timeout=1800 )
def run_ocr
images_b64: list [str ]
list
str
@app.local_entrypoint()
def
main
input : str , output: str
from
import
input
"images"
Step 2: スクリプト作成 A. VLMモデル (transformers/vLLM) — HunyuanOCR, DeepSeek, Nanonets等
image = (
modal.Image.debian_slim(python_version="3.11" )
.pip_install("torch" , "transformers" , "accelerate" , "Pillow" , "vllm" )
)
@app.function(gpu="L4" , image=image, timeout=1800 )
def run_ocr (images_b64: list [str ] ) -> list [str ]:
from _common import OCR_PROMPT_JA, decode_images
from vllm import LLM, SamplingParams
llm = LLM(model=MODEL_ID, trust_remote_code=True , max_model_len=4096 )
sampling = SamplingParams(max_tokens=4096 , temperature=0.0 )
images = decode_images(images_b64)
results = []
for img in images:
prompt = f"<image>\n{OCR_PROMPT_JA} "
output = llm.generate(
[{"prompt" : prompt, "multi_modal_data" : {"image" : img}}],
sampling_params=sampling,
)
results.append(output[0 ].outputs[0 ].text.strip())
return results
B. 専用OCRライブラリ — PaddleOCR, YomiToku等
image = (
modal.Image.debian_slim(python_version="3.11" )
.apt_install("libgl1-mesa-glx" , "libglib2.0-0" )
.pip_install("model-specific-package" , "Pillow" )
)
@app.function(gpu="T4" , image=image, timeout=1800 )
def run_ocr (images_b64: list [str ] ) -> list [str ]:
import base64, os, tempfile
...
Step 3: 動作確認 python3 -c "
import base64, json
with open('../annotation/uploads/$(ls ../annotation/uploads/ | head -1) ', 'rb') as f:
b64 = base64.b64encode(f.read()).decode()
with open('/tmp/test_input.json', 'w') as f:
json.dump({'images': [b64]}, f)
"
cd evaluation
modal run modal_scripts/{script_name}.py --input /tmp/test_input.json --output /tmp/test_output.json
注意: -- は不要。Modalの引数はそのまま渡す。
cat /tmp/test_output.json | python3 -m json.tool
"results": ["テキスト..."] が返ればOK"results": ["ERROR: ..."] ならエラー内容を確認して修正"results": [""] なら結果のパース方法が間違っている（後述のトラブルシューティング参照）
Step 4: 評価フレームワークへの統合
evaluation/src/models/modal_runner.py にクラス追加: class NewModelModal (ModalOCRModel ):
name = "model-name"
script_name = "script_name.py"
gpu = "T4"
evaluation/src/models/registry.py の get_all_models() に追加
評価実行:
cd evaluation
uv run python -m src.evaluate run --models model-name
TODO.md のチェックリストを更新 (- [ ] → - [x] + スコア記載)
既知のハマりどころと対策
PaddlePaddle: CPU版はoneDNNエラーで動かない 症状: ConvertPirAttribute2RuntimeAttribute not support [pir::ArrayAttribute]
原因: paddlepaddle (CPU版) のoneDNNバックエンドがPP-OCRv5のserver modelに非対応
対策: paddlepaddle-gpu をPaddlePaddle公式インデックスからインストール:
image = (
modal.Image.debian_slim(python_version="3.11" )
.apt_install("libgl1-mesa-glx" , "libglib2.0-0" )
.run_commands(
"pip install paddlepaddle-gpu"
" -i https://www.paddlepaddle.org.cn/packages/stable/cu126/"
)
.pip_install("paddleocr>=3.0" , "Pillow" )
)
FLAGS_enable_pir_api=0 では解決しない。
PaddleOCR 3.x: APIが2.xから変更されている 症状: PaddleOCR.predict() got an unexpected keyword argument 'cls'
engine.ocr(path, cls=True) → engine.predict(input=path) に変更結果は res.json["res"]["rec_texts"] にネスト（res.json["rec_texts"] ではない）
コンストラクタ: PaddleOCR(use_angle_cls=True, lang="japan") →
PaddleOCR(use_doc_orientation_classify=False, use_doc_unwarping=False, use_textline_orientation=False, device="gpu:0")
pip install の順序とカスタムインデックス 問題: pip_install() はPyPIのみ。カスタムインデックスが必要な場合は使えない。
対策: run_commands() で先にインストールしてから、残りを pip_install() で:
image = (
modal.Image.debian_slim(python_version="3.11" )
.run_commands("pip install some-pkg -i https://custom-index/" )
.pip_install("other-pkg" )
)
OpenCV依存パッケージ (libgl1) 症状: ImportError: libGL.so.1: cannot open shared object file
対策: .apt_install("libgl1-mesa-glx", "libglib2.0-0") を追加。
画像処理系ライブラリ（PaddleOCR, YomiToku等）で必要。
GPU版パッケージのCUDAバージョン Modal T4/L4/A100は CUDA 12.x 環境。cu126 (CUDA 12.6) パッケージを選択すれば動作する。
結果が空文字列になる 対策: デバッグ時に一時的にJSON構造をダンプして確認:
import json as _json
print (f"DEBUG keys: {list (res_json.keys())} " )
print (f"DEBUG: {_json.dumps(res_json, ensure_ascii=False , default=str )[:2000 ]} " )
_common.py のインポート_common.py は @app.local_entrypoint() (ローカル側) でのみimport可能。
@app.function() (リモート側) では _common.py は存在しないため、
リモート関数内で decode_images や OCR_PROMPT_JA を使う場合は
from _common import ... をリモート関数の先頭に書く（Modalが自動マウントする）。
Examples
Example 1: 新しいVLMモデルを追加 User: 「InternVLをModalで評価に追加して」
modal_scripts/internvl_ocr.py を VLMテンプレートで作成テスト入力で modal run 確認
modal_runner.py と registry.py に登録uv run python -m src.evaluate run --models internvl で評価TODO.md を更新
Example 2: 既存スクリプトがエラーで動かない User: 「YomiTokuのModalスクリプトがエラーになる」
エラーメッセージを確認
上記の「既知のハマりどころ」に該当するか確認
該当しない場合はライブラリのドキュメント/PyPIで最新APIを調査
修正して modal run で再テスト
