Datasets documentation
Sorun Giderme
Sorun Giderme
Bu kılavuz, bazı yaygın sorunlarla başa çıkmak için gerekli araçları ve bilgileri sunmayı amaçlar. Bu kılavuzda listelenen öneriler durumunuzu kapsamıyorsa, spesifik sorununuzla ilgili yardım bulabileceğiniz yerleri öğrenmek için Yardım İsteme bölümüne başvurun.
push_to_hub ile veri setleri yüklerken yaşanan sorunlar
Kimlik doğrulama sorunları
🤗 Hub üzerinde bir veri setini Dataset.push_to_hub() ve bir Hugging Face erişim anahtarı kullanarak paylaşırken kimlik doğrulama sorunları yaşıyorsanız:
- Kimlik doğrulama için kullandığınız Hugging Face jetonunun write iznine sahip bir jeton olduğundan emin olun.
- OSX'te,
hf auth loginkomutunu kullanmadan önce anahtar zinciri erişimindeki tüm huggingface.co parolalarını temizlemenin vegit config --global credential.helper osxkeychainyapılandırmasını yeniden ayarlamasının faydalı olabileceğini unutmayın.
Alternatif olarak, kimlik doğrulama için SSH anahtarlarını kullanabilirsiniz - daha fazla bilgi için 🤗 Hub belgelerine göz atın.
Büyük veri seti yüklemesinde bağlantı koptu
Hub'a büyük veri setleri yüklerken, veri seti parçalarının sayısı yüksekse, kısa bir süre içinde Hub için çok fazla commit oluşturulabilir. Bu durum bir bağlantı hatasına yol açar. Bağlantı hatası, Hub'un içsel olarak kullandığı AWS S3 kovasının döndürdüğü bir HTTP 500 hatasından da kaynaklanabilir. Her iki durumda da veri seti yüklemeye devam etmek için Dataset.push_to_hub() işlemini yeniden çalıştırabilirsiniz. Hub, zaten yüklenmiş parçaların SHA değerlerini kontrol ederek bunların yeniden yüklenmesini önler. Yükleme sürecinin geçici hatalara karşı daha dayanıklı hale getirilmesi üzerinde çalışıyoruz, bu nedenle en güncel kitaplık sürümüne güncellemek her zaman iyi bir fikirdir.
Çok Fazla İstek
push_to_hub() ile büyük veri setlerinin yüklenmesi bir hataya yol açabilir:
HfHubHTTPError: 429 Client Error: Too Many Requests for url: ...
You have exceeded our hourly quotas for action: commit. We invite you to retry later.Bu sorunla karşılaşırsanız, datasets kütüphanesini en son sürüme (veya en azından 2.15.0 sürümüne) yükseltmeniz gerekir.
Özel verilerden veri kümeleri oluşturulurken karşılaşılan sorunlar
Bir klasörden görüntü ve ses yükleme
Bir klasörden veri seti oluştururken en sık karşılaşılan sorunlardan biri, dosya yapısının beklenen biçimi takip etmemesi veya meta veri dosyasında bir sorun bulunmasıdır.
Gerekli klasör yapısı hakkında ayrıntılı bilgiyi ilgili dokümantasyon sayfalarında bulabilirsiniz:
Pickling sorunları
Dataset.from_generator kullanırken Pickleme sorunları
Bir veri seti oluşturulurken IterableDataset.from_generator() ve Dataset.from_generator(), “picklable” bir üreteç fonksiyonu bekler.
Bu, veri setinin diskte önbelleğe alınabilmesi için fonksiyonun pickle kullanılarak hash’lenmesi gerektiğinden zorunludur.
Üretici fonksiyonları genel olarak “picklable” olsa da üretici nesneleri değildir. Dolayısıyla bir üretici nesnesi kullanıyorsanız, aşağıdaki gibi bir TypeError ile karşılaşacaksınız:
TypeError: cannot pickle 'generator' objectBu hata, örneğin bir DB bağlantısı gibi “picklable” olmayan bir global nesne kullanan bir üreteç (generator) fonksiyonu kullanıldığında da oluşabilir. Bu durumda, bu hatadan kaçınmak için söz konusu nesneyi doğrudan üreteç fonksiyonunun içinde başlatabilirsiniz.
Dataset.map ile Pickleme sorunları
Pickling hataları, çok işlemli Dataset.map() içinde de oluşabilir - nesneler, alt işlemlere aktarılacak şekilde pickled edilir.
Dönüşümde kullanılan nesneler picklable değilse, map sonucunun önbelleğe alınması mümkün olmaz ve bu durum bir hatanın yükseltilmesine yol açar.
Bu sorunu çözmek için bazı yollar şunlardır:
- Pickle sorunlarına evrensel bir çözüm,
__getstate__/__setstate__/__reduce__yöntemlerini uygulayarak nesnelerin (veya üretici sınıflarının) elle picklenebilir olduğundan emin olmaktır. - Ayrıca
new_fingerprintargümanıylamapiçinde kendinize ait benzersiz bir hash de sağlayabilirsiniz. - Önbellekleme,
datasets.disable_caching()çağrılarak da devre dışı bırakılabilir; ancak bu istenmeyen bir durumdur - önbelleğin önemi hakkında daha fazla bilgi edinin
Yardım isteme
Yukarıdaki sorun giderme önerileri sorununuzun çözülmesine yardımcı olmadıysa, topluluğa ve ekibe ulaşarak yardım isteyin.
Forumlar
Hugging Face forumlarında yardım isteyin - sorunuzu 🤗Datasets kategorisine gönderin. Sorununuzun çözülme olasılığını en üst düzeye çıkarmak için, kurulumunuzla ilgili ilgili bağlamı ve yeniden üretilebilir kodu içeren açıklayıcı bir gönderi yazdığınızdan emin olun!
Discord
Discord’da bir soru paylaşın ve ekibin ve topluluğun size yardım etmesine izin verin.
🤗 Hub'da Topluluk Tartışmaları
Hub'da özel bir veri seti oluştururken sorun yaşıyorsanız, veri setinizin Community sekmesinde bir tartışma açarak ve aşağıdaki mesajı göndererek Hugging Face ekibinden yardım isteyebilirsiniz:
# Dataset rewiew request for <Dataset name> ## Description <brief description of the dataset> ## Files to review - file1 - file2 - ... cc @lhoestq @albertvillanova
GitHub Sorunları
Son olarak, kütüphanenin kendisiyle ilgili bir hata bulduğunuzu düşünüyorsanız, 🤗 Datasets GitHub deposunda bir Issue oluşturun. Hatanın bağlamını dahil edin: hatayı yeniden oluşturmak için kod parçası, ortamınız ve verilerinizle ilgili ayrıntılar vb. Böylece neyin yanlış olduğunu ve nasıl düzeltebileceğimizi anlamamıza yardımcı olursunuz.
Update on GitHub