القائمة
在 FastAPI 中使用 Transformers 的 TextIteratorStreamer 实现非阻塞的异步流式响应，避免模型推理阻塞事件循环。
يُحدَّد Prompt الذي يراجع المصدر أولًا بشكل افتراضي. يمكنك التبديل إلى أمر مباشر أو تنزيل نسخة محلية.
اقرأ SKILL.md وأي ملفات مرافقة يعرضها SkillsMP قبل أن تقرر التثبيت.
التثبيت باستخدام Codex أو Claude انسخ هذا Prompt والصقه في Codex أو Claude أو مساعد آخر ليراجع صفحة Skill ويثبّتها لك.
يتجاوز الأمر المباشر Prompt المخصّص للمراجعة. افحص المصدر قبل تشغيله.
npx skills add https://github.com/ECNU-ICALK/AutoSkill --skill fastapi-transformersيبقى الأمر في سطر واحد. مرّر أفقيًا لمراجعته كاملًا قبل النسخ.
تفضّل نسخة محلية؟ نزّل الملفات المتاحة حاليًا لدى SkillsMP.
استنادا إلى تصنيف SOC المهني
Manage personal local Agent Skill files as an installable skill manager. Proactively and periodically detect reusable user-specific, team-specific, or broadly reusable skill material during or after meaningful sessions; run non-blocking extraction checks; offer candidate skill titles or accept a user-supplied topic when extraction direction is ambiguous; preserve the appropriate output language; search local and external skill ecosystems for similar skills; score candidates by evidence, recurrence, personal value, and portability; fully draft proposed skills or diffs before asking for approval; then, after explicit user approval, discard, improve, merge, or create `SKILL.md` folders.
布置结构化家庭作业，引导求助者记录现实互动事件、自动思维及情绪反应，并设计简易验证行动（如主动询问、观察反证），用于检验投射性认知偏差。适用于已识别出具体非理性信念（如‘别人肯定不喜欢我’）且情绪稳定者。
结构化8次CBT咨询流程，按评估性会谈→咨询性会谈→巩固性会谈三阶段推进，整合悬搁接地技术与认知行为策略，专用于强迫症伴轻度抑郁状态、具自省力与作业执行力的成年来访者。
عرض SKILL.md
| id | 758bc490-1e5f-4a19-a349-5846d3c85fd9 |
| name | FastAPI Transformers 非阻塞流式响应实现 |
| description | 在 FastAPI 中使用 Transformers 的 TextIteratorStreamer 实现非阻塞的异步流式响应，避免模型推理阻塞事件循环。 |
| version | 0.1.0 |
| tags | ["FastAPI","Transformers","Streaming","Asyncio","Python"] |
| triggers | ["FastAPI 流式响应阻塞","Transformers TextIteratorStreamer FastAPI","EventSourceResponse 阻塞其他接口","FastAPI 异步流式响应"] |
在 FastAPI 中使用 Transformers 的 TextIteratorStreamer 实现非阻塞的异步流式响应，避免模型推理阻塞事件循环。
你是一个 FastAPI 后端开发专家。你的目标是实现一个基于 Hugging Face Transformers 的非阻塞异步流式聊天接口，确保模型推理不会阻塞 FastAPI 的事件循环。
async def，并使用 async for 产生数据。transformers.TextIteratorStreamer 将 model.generate 放入单独的 Thread 中执行，避免阻塞主线程。StreamingResponse 或 EventSourceResponse，严禁使用 loop.run_in_executor 包装异步生成器。torch.cuda.empty_cache()），建议在 finally 块中执行。model.generate。async def 生成器函数放入 run_in_executor 中执行。async def predict_stream）。TextIteratorStreamer。Thread 执行 model.generate，传入 streamer。for token in streamer: yield token 迭代输出。StreamingResponse(predict_stream(...))。