turkish-pii-detection-GGUF

What is this model? turkish-pii-detection-GGUF is the GGUF (BF16, Q8_0) build of halilneed/turkish-pii-detection for local PII masking of Turkish text with Ollama or llama.cpp on CPU, without Python or transformers.

EN: Turkish PII detection / KVKK data masking, offline β€” GGUF (BF16, Q8_0) build for Ollama and llama.cpp. TR: TΓΌrkΓ§e kişisel veri tespiti / KVKK veri maskeleme, Γ§evrimdışı β€” Ollama ve llama.cpp iΓ§in GGUF (BF16, Q8_0) sΓΌrΓΌmΓΌ. Model page & setup help / Model sayfasΔ± ve kurulum desteği: halilneed.agency/models/turkish-pii-detection

halilneed/turkish-pii-detection v02'nin GGUF sürümü: Ollama ve llama.cpp ile yerelde, Python ve transformers olmadan çalışır. Türkçe metindeki kişisel verileri (ad, TCKN, IBAN, telefon, e-posta, adres ve 53 etiketin geri kalanı) metin bir LLM'e ya da log deposuna gitmeden ânce etiketle değiştirir; maskeleme politikasını talimat olarak okur.

Files / Dosyalar: turkish-pii-detection-Q8_0.gguf 299.7 MB (299,748,544 bytes) · turkish-pii-detection-BF16.gguf 551.0 MB (551,038,144 bytes). Runs on CPU, no GPU needed (llama.cpp / Ollama) / GPU gerekmez, CPU'da çalışır. Try the browser demo / Tarayıcı demosunu deneyin (demo runs the base model's ONNX conversion, not these GGUF files / demo bu GGUF dosyalarını değil ana modelin ONNX dânüşümünü çalıştırır).

Dosya Boyut Benchmark (1.000 satır, tam eşleşme) Ana modelle aynı çıktı
ana model, transformers BF16 536 MB 0.944 β€”
turkish-pii-detection-BF16.gguf 551 MB 0.943 %99,6
turkish-pii-detection-Q8_0.gguf 300 MB 0.944 %98,9

Γ–lΓ§ΓΌm: cagrigungor/turkish-pii-masking-benchmark, satΔ±r dΓΌzeyi tam eşleşme (strip sonrasΔ± karakter karakter aynΔ±), ana model kartΔ±ndaki betikle aynΔ± metrik. GGUF'lar Ollama 0.40.7 ΓΌzerinden, sΔ±caklΔ±k 0 ile koşuldu. Model tahminini yaptığı 1.000 satΔ±rΔ±n 996'sΔ±nda (BF16) ve 989'unda (Q8_0) ana modelle birebir aynΔ± Γ§Δ±ktΔ±yΔ± verdi.

Q8_0'Δ±n zayΔ±f dilimleri ana modelle aynΔ±: ek almış PII 0.803, BÜYÜK HARF 0.847. Tek fark, 20 satΔ±rlΔ±k Γ§ok kişili metin diliminde: 0.650, ana modelde 0.750 (iki satΔ±r). Γ‡ok kişili metinleri maskeliyorsan BF16'yΔ± kullan.

Q4_K_M yok: modelin 268M parametresinin 168M'i embedding tablosunda ve Q8_0 zaten 300 MB. 4 bitlik sΓΌrΓΌmΓΌ kΓΌΓ§ΓΌk bir modelde kaybΔ±nΔ± ΓΆlΓ§meden yayΔ±nlamΔ±yorum.

Ollama

ollama pull hf.co/halilneed/turkish-pii-detection-GGUF:Q8_0

Deterministik çıktı ve doğru durma için bu repodaki Modelfile ile kendi adını ver:

# Modelfile ve .gguf aynΔ± klasΓΆrde
ollama create turkish-pii -f Modelfile
ollama run turkish-pii "Metindeki tüm kişisel verileri uygun etiketlerle maskele.

Metin: müşteri Ayşe Yılmaz tc 12345678950 tel 0532 111 22 33"
# -> müşteri [AD] tc [TCKN] tel [TEL]

İstek her zaman <talimat>, boş satır, Metin: <metin> biçimindedir. Talimat politikayı belirler: "Sadece telefon numaralarını maskele", "TCKN dışındaki her şeyi maskele" gibi. Politikalar ve 53 etiketlik şema ana model kartında.

Python'dan, Ollama'nΔ±n yerel API'siyle:

import json, urllib.request

def maskele(metin, talimat="Metindeki tüm kişisel verileri uygun etiketlerle maskele."):
    body = {"model": "turkish-pii", "prompt": f"{talimat}\n\nMetin: {metin}", "stream": False,
            "options": {"temperature": 0}}
    req = urllib.request.Request("http://127.0.0.1:11434/api/generate", json.dumps(body).encode(),
                                 {"Content-Type": "application/json"})
    return json.loads(urllib.request.urlopen(req).read())["response"].strip()

llama.cpp

llama-cli -hf halilneed/turkish-pii-detection-GGUF:Q8_0 --temp 0 -n 512

Dânüştürme

  • llama.cpp convert_hf_to_gguf.py (commit 1ab09d6), --outtype bf16 ve --outtype q8_0, ana modelin v02 ağırlığından (sha256 Hub'daki model.safetensors ile aynΔ±).
  • Ana modelin tokenizer'Δ±nda embedding tablosunda karşılığı olmayan bir token var: Gemma 3'ΓΌn gΓΆrsel tokenΔ± <image_soft_token> (id 262144). DΓΆnüştΓΌrΓΌcΓΌ bunu kabul etmediği iΓ§in dΓΆnüştΓΌrme kopyasΔ±ndan Γ§Δ±karΔ±ldΔ±. Benchmark'Δ±n 1.000 promptu ve 1.000 beklenen Γ§Δ±ktΔ±sΔ±nda tokenizasyon birebir aynΔ± kaldΔ±.
  • Ollama 0.40.7 safetensors iΓ§e aktarmada Gemma 3'ΓΌ desteklemiyor; bu yΓΌzden GGUF.

SΔ±nΔ±rlar

Ana modelin sınırları geçerli: sentetik veriyle değerlendirildi, üretimden ânce kendi metninde âlç; bağlamsız kısa parçalarda temkinli; şema dışı etiket üretebilir, çıktıyı etiket listesine karşı doğrula. KVKK/GDPR uyumu kullananın sorumluluğundadır. Lisans: Gemma Terms of Use.

English

GGUF build of halilneed/turkish-pii-detection v02, a 270M model that masks Turkish personal data (names, national ID numbers, IBANs, phone numbers, emails, addresses; 53 labels) following a Turkish instruction. Runs locally with Ollama or llama.cpp. On the 1,000-row cagrigungor/turkish-pii-masking-benchmark, Q8_0 (300 MB) scores 0.944 row-level exact match, the same as the original model, and BF16 scores 0.943. The one difference is the 20-row multi-person slice, where Q8_0 scores 0.650 against 0.750. The prompt is <instruction>, a blank line, then Metin: <text>; use the Modelfile here for temperature 0 and the right stop token.

Model page with every result: halilneed.agency/models/turkish-pii-detection

Related models / Δ°lgili modeller

All five in one collection / Hepsi tek koleksiyonda: Turkish Privacy & Safety Models

FAQ / SΔ±k sorulan sorular

Which file should I use? / Hangi dosyayΔ± kullanmalΔ±yΔ±m? Q8_0 (300 MB) scores 0.944 row-level exact match on the 1,000-row benchmark, same as the original model; BF16 (551 MB) scores 0.943. On the 20-row multi-person slice Q8_0 scores 0.650 vs 0.750, so use BF16 for multi-person texts. / Γ‡ok kişili metinler iΓ§in BF16 ΓΆnerilir.

Is there a Q4_K_M build? / Q4_K_M sΓΌrΓΌmΓΌ var mΔ±? No. 168M of the 268M parameters are in the embedding table and Q8_0 is already 300 MB; a 4-bit build is not published without measuring its loss. / HayΔ±r, kaybΔ± ΓΆlΓ§ΓΌlmeden yayΔ±nlanmΔ±yor.

What is the prompt format? / Δ°stek biΓ§imi nedir? <instruction>, a blank line, then Metin: <text>. Use the Modelfile in this repo for temperature 0 and the right stop token. / Talimat maskeleme politikasΔ±nΔ± belirler.

Does it guarantee KVKK/GDPR compliance? / KVKK/GDPR uyumu sağlar mı? No. It was evaluated on synthetic data; measure on your own text, validate labels against the schema. Compliance is the user's responsibility. / Uyum kullananın sorumluluğundadır.

Resources / Kaynaklar

Downloads last month
1,177
GGUF
Model size
0.3B params
Architecture
gemma3
Hardware compatibility
Log In to add your hardware

8-bit

16-bit

Inference Providers NEW
This model isn't deployed by any Inference Provider. πŸ™‹ Ask for provider support

Model tree for halilneed/turkish-pii-detection-GGUF

Collection including halilneed/turkish-pii-detection-GGUF