Skip to main content
POST
/
moderation
/
text
Metin Moderasyonu
curl --request POST \
  --url https://dev-api.detectivision.ai/api/v1/moderation/text \
  --header 'API-Key: <api-key>' \
  --header 'Content-Type: application/json' \
  --data '
{
  "input": "selam"
}
'
{
  "id": 25,
  "jobId": 122,
  "result": {
    "language": "tr",
    "scores": {
      "NEUTRAL": 0.9886459112167358,
      "SEXUAL": 0.0022032149136066437,
      "HATE": 0.001250135712325573,
      "SELF_HARM": 0.001079669571481645,
      "BAD_HABITS": 0.00073793507181108
    },
    "flags": {
      "NEUTRAL": true,
      "SEXUAL": false,
      "HATE": false,
      "SELF_HARM": false,
      "BAD_HABITS": false
    }
  },
  "createdAt": 1742201764,
  "updatedAt": 1742201764
}

​
Metin Moderasyonu API’si

Bu endpoint, sadece metin içeriğinin moderasyon analizini yapar. /moderation endpoint’inin daha basitleştirilmiş halidir ve doğrudan metin girdisi alır.

​
Kullanım Senaryoları

  • Sohbet mesajlarının zararlı içerik kontrolü
  • Forum yorumlarının filtrelenmesi
  • Otomatik metin içerik denetimi
  • Sosyal medya içeriklerinin analizi

​
Analiz Sonuçları

Endpoint, metindeki içeriği aşağıdaki kategorilerde skorlar:
KategoriAçıklama
NEUTRALİçeriğin zararlı olmadığı anlamına gelir
SEXUALCinsel içerik tespiti
HATENefret söylemi tespiti
SELF_HARMKendine zarar vermeyle ilgili içerik tespiti
BAD_HABITSZararlı alışkanlıklarla ilgili içerik tespiti

​
Örnek Kullanım

Bu endpoint, standart /moderation endpoint’inden farklı olarak sadece input parametresi gerektirir ve type parametresi gerekmez: 
{
  "input": "Analiz edilecek metin içeriği"
}

​
Yanıt Değerlendirme

Analiz sonucunda dönen skorlar 0 ile 1 arasındadır ve şu şekilde değerlendirilebilir:
  • 0.0 - 0.3: Düşük risk - İçerik büyük olasılıkla güvenlidir
  • 0.3 - 0.7: Orta risk - İncelemeye değer olabilir
  • 0.7 - 1.0: Yüksek risk - İçerik muhtemelen güvenli değildir
Her kategori için flags kısmında da boolean değerler döner. Bu değerler, belirli eşik değerlerini geçen kategoriler için true olarak belirlenir.

Authorizations

​
API-Key
string
header
required

Body

application/json
​
input
string
required

Analiz edilecek metin içeriği

Example:

"selam"

Response

Başarılı analiz sonucu

​
id
integer

Moderasyon işleminin ID'si

Example:

25

​
jobId
integer

İşlem ID'si

Example:

122

​
result
object
​
createdAt
integer

İşlemin oluşturulduğu zaman (Unix timestamp)

Example:

1742201764

​
updatedAt
integer

İşlemin son güncellendiği zaman (Unix timestamp)

Example:

1742201764