Metin Moderasyonu
Content Moderation
Metin Moderasyonu
Sadece metin içeriğini analiz ederek zararlı ifadeleri tespit eder
POST
Metin Moderasyonu
Metin Moderasyonu API’si
Bu endpoint, sadece metin içeriğinin moderasyon analizini yapar./moderation endpoint’inin daha basitleştirilmiş halidir ve doğrudan metin girdisi alır.
Kullanım Senaryoları
- Sohbet mesajlarının zararlı içerik kontrolü
- Forum yorumlarının filtrelenmesi
- Otomatik metin içerik denetimi
- Sosyal medya içeriklerinin analizi
Analiz Sonuçları
Endpoint, metindeki içeriği aşağıdaki kategorilerde skorlar:Örnek Kullanım
Bu endpoint, standart/moderation endpoint’inden farklı olarak sadece input parametresi gerektirir ve type parametresi gerekmez:
Yanıt Değerlendirme
Analiz sonucunda dönen skorlar 0 ile 1 arasındadır ve şu şekilde değerlendirilebilir:- 0.0 - 0.3: Düşük risk - İçerik büyük olasılıkla güvenlidir
- 0.3 - 0.7: Orta risk - İncelemeye değer olabilir
- 0.7 - 1.0: Yüksek risk - İçerik muhtemelen güvenli değildir
flags kısmında da boolean değerler döner. Bu değerler, belirli eşik değerlerini geçen kategoriler için true olarak belirlenir.Authorizations
Body
application/json
Analiz edilecek metin içeriği
Example:
"selam"