Skip to main content
POST
/
moderation
İçerik Moderasyonu
curl --request POST \
  --url https://dev-api.detectivision.ai/api/v1/moderation \
  --header 'API-Key: <api-key>' \
  --header 'Content-Type: application/json' \
  --data '
{
  "type": "text_moderation",
  "input": "selam"
}
'
{
  "id": 25,
  "jobId": 122,
  "result": {
    "language": "tr",
    "scores": {
      "NEUTRAL": 0.9886459112167358,
      "SEXUAL": 0.0022032149136066437,
      "HATE": 0.001250135712325573,
      "SELF_HARM": 0.001079669571481645,
      "BAD_HABITS": 0.00073793507181108
    },
    "flags": {
      "NEUTRAL": true,
      "SEXUAL": false,
      "HATE": false,
      "SELF_HARM": false,
      "BAD_HABITS": false
    }
  },
  "createdAt": 1742201764,
  "updatedAt": 1742201764
}

​
İçerik Moderasyonu API’si

Bu endpoint, metinlerde zararlı içerik olup olmadığını kontrol eder ve ayrıntılı bir analiz sonucu döndürür.

​
Kullanım Senaryoları

  • Kullanıcı yorumlarının platformunuza uygun olup olmadığını denetlemek
  • Forum gönderilerini otomatik olarak moderasyon sürecinden geçirmek
  • Eğitim içeriklerinin güvenliğini sağlamak
  • Sosyal medya etkileşimlerini analiz etmek

​
Sınıflandırma Kategorileri

API yanıtındaki skorlar ve bayraklar, metni aşağıdaki kategorilerde değerlendirir:
KategoriAçıklama
NEUTRALİçeriğin zararlı olmadığı anlamına gelir
SEXUALCinsel içerik tespiti
HATENefret söylemi tespiti
SELF_HARMKendine zarar vermeyle ilgili içerik tespiti
BAD_HABITSZararlı alışkanlıklarla ilgili içerik tespiti

​
Skor Değerlerine Göre Yorumlama

  • 0.0 - 0.3: Düşük risk
  • 0.3 - 0.7: Orta risk
  • 0.7 - 1.0: Yüksek risk
Her bir kategori için 0 ile 1 arasında bir skor değeri döndürülür. İçerik belirli bir eşiği geçtiğinde ilgili bayrak ‘true’ değerine sahip olur.

Authorizations

​
API-Key
string
header
required

Body

application/json
​
type
enum<string>
required

Moderasyon türü

Available options:
text_moderation,
image_moderation,
video_moderation,
audio_moderation,
live_stream_moderation
Example:

"text_moderation"

​
input
string
required

Analiz edilecek metin içeriği

Example:

"selam"

Response

Başarılı analiz sonucu

​
id
integer

Moderasyon işleminin ID'si

Example:

25

​
jobId
integer

İşlem ID'si

Example:

122

​
result
object
​
createdAt
integer

İşlemin oluşturulduğu zaman (Unix timestamp)

Example:

1742201764

​
updatedAt
integer

İşlemin son güncellendiği zaman (Unix timestamp)

Example:

1742201764