Marul Dataset TR, Türkçe dil modellerinin (LLM) daha "insansı" ve bilgili konuşabilmesi için hazırlanmış, devasa bir metin koleksiyonudur. İnternetin en kaliteli Türkçe kaynaklarından süzülerek oluşturulmuştur.

Bu veri seti, hem genel kültür bilgilerini (Vikipedi, Haber, Bilim) hem de insanların günlük hayatta nasıl konuştuğunu gösteren gerçek forum diyaloglarını bir araya getirir.

Neler Var Bu Veri Setinde?

Bilgi Havuzu (dataset.jsonl):
- İçerik: Vikipedi makaleleri, bilimsel konular ve güncel haberler.
- Oranlar: %45 Vikipedi (bilgi odaklı), %20 Bilim (akademik), %35 Haber (güncel olaylar).
- Hacim: 280.000'den fazla temizlenmiş, benzersiz metin.
Konuşma ve Diyaloglar (dataset_dialogue.jsonl):
- İçerik: Forumlardaki gerçek soru-cevap etkileşimleri.
- Format: "Soru: ... Cevap: ..." yapısında. Modellerin soru sorma ve cevap verme mantığını kavraması için idealdir.
- Temizlik: Reklamlar, e-ticaret linkleri ve gereksiz forum kalabalıkları temizlenmiştir.

Nasıl Hazırlandı? (Teknik Süreç)

Veri seti toplanırken sadece "kopyala-yapıştır" yapılmadı, sıkı bir filtreden geçirildi:

Akıllı Tarama: Veriler yüksek hızda ve siteleri yormadan asenkron teknolojilerle çekildi.
Kopya Engelleme (Deduplication): Aynı metnin farklı sitelerde tekrar etmesi engellendi. Her metnin bir "parmak izi" (hash) alınarak mükerrer kayıtlar dosyadan silindi.
Çöp Temizliği: "Giriş yapın", "Reklamı geç", "Tıklayın" gibi modellerin kafasını karıştıracak bozuk metinler ayıklandı.

Dosya Yapısı

Tüm veriler kolay işlenebilir .jsonl formatındadır:

{
  "text": "Burada temizlenmiş Türkçe metin yer alır."
}

Lisans Bilgisi

Bu çalışma CC BY-NC-SA 4.0 lisansı altındadır.

Atıf: Kullanırken Marul AI veya hazırlayan ekibe teşekkür etmelisiniz.
Ticari Olmayan: Bu veriyi satamaz veya ticari projelerde doğrudan kullanamazsınız.
Paylaşım: Eğer veriyi değiştirirseniz, yine aynı lisansla paylaşmalısınız.

İletişim: [email protected]

Downloads last month: 10