safha

name	safha
description	كاشط محتوى عربي — اجمع محتوى عربي من الويب، نظّفه، واكتشف لهجته. مخصص لتجهيز بيانات التدريب.
version	1.0.0
author	Mousa Abu Mazin
license	MIT
platforms	["linux","macos"]
prerequisites	{"commands":["curl"],"env_vars":[]}
metadata	{"hermes":{"tags":["arabic","safha"]}}

safha — كاشط المحتوى العربي

أداة لجمع وتنظيف المحتوى العربي من الويب لتجهيز بيانات التدريب.

الأوامر

كشط صفحة

safha scrape URL

يجمع المحتوى العربي ويحفظه بصيغة JSONL.

كشط sitemap كامل

safha sitemap URL

يكشط جميع الروابط بالتوازي مع rate limiting.

تنظيف البيانات

safha clean data.jsonl

10 خطوات تنظيف: حذف URLs، تطبيع الألف/الياء، إزالة التشكيل...

اكتشاف اللهجة

safha detect data.jsonl

يصنّف كل نص حسب اللهجة (فصحى/مصري/خليجي/شامي/مغربي).

إحصائيات

safha stats

أعلام مفيدة

• --output FILE — ملف الخروج
• --keep-tashkeel — لا تحذف التشكيل

متى تستخدم

• المستخدم يريد جمع بيانات تدريب عربية
• تنظيف بيانات خام من الويب
• تصنيف بيانات حسب اللهجة