Memoderasi teks

Moderasi teks menganalisis dokumen berdasarkan daftar atribut keamanan, yang mencakup "kategori berbahaya" dan topik yang mungkin dianggap sensitif. Untuk memoderasi teks dalam dokumen, panggil metode moderateText.

Daftar lengkap kategori yang ditampilkan untuk metode moderateText dapat ditemukan di sini:

Atribut Keamanan Deskripsi
Toxic Konten yang kasar, tidak sopan, atau tidak masuk akal.
Derogatory Komentar negatif atau berbahaya yang menargetkan atribut identitas dan/atau dilindungi.
Violent Menjelaskan skenario yang menggambarkan kekerasan terhadap individu atau kelompok, atau deskripsi umum tentang adegan menyeramkan.
Sexual Berisi referensi ke tindakan seksual atau konten cabul lainnya.
Insult Komentar yang menghina, menghasut, atau negatif terhadap seseorang atau sekelompok orang.
Kata-kata tidak sopan Bahasa cabul atau vulgar seperti kata-kata umpatan.
Kematian, Bahaya & Tragedi Kematian manusia, tragedi, kecelakaan, bencana, dan tindakan menyakiti diri sendiri.
Senjata Api & Senjata Konten yang menyebutkan pisau, pistol, senjata pribadi, dan aksesori seperti amunisi, sarung pistol, dll.
Keselamatan Umum Layanan dan organisasi yang memberikan bantuan sosial dan memastikan keamanan publik.
Kesehatan Kesehatan manusia, termasuk: Kondisi kesehatan, penyakit, dan gangguan Terapi medis, pengobatan, vaksinasi, praktik medis, dan sumber daya untuk penyembuhan, termasuk kelompok pendukung.
Agama & Kepercayaan Sistem kepercayaan yang melibatkan kemungkinan adanya hukum dan makhluk supranatural; agama, iman, keyakinan, praktik spiritual, gereja, dan tempat ibadah. Termasuk astrologi dan okultisme.
Illicit Drugs Obat-obatan rekreasional dan terlarang; alat konsumsi dan budi daya narkoba, toko tembakau, dll. Termasuk penggunaan obat-obatan sebagai obat yang biasanya digunakan untuk tujuan rekreasi (misalnya ganja).
Perang & Konflik Perang, konflik militer, dan konflik fisik besar yang melibatkan banyak orang. Mencakup diskusi tentang dinas militer, meskipun tidak terkait langsung dengan perang atau konflik.
Keuangan Layanan keuangan konsumen dan bisnis, seperti perbankan, pinjaman, kredit, investasi, dan asuransi.
Politik Berita dan media politik; diskusi tentang kebijakan sosial, pemerintahan, dan publik.
Hukum Konten terkait hukum, termasuk firma hukum, informasi hukum, materi hukum primer, layanan paralegal, publikasi dan teknologi hukum, saksi ahli, konsultan proses pengadilan, dan penyedia layanan hukum lainnya.

Skor keyakinan atribut keamanan

Setiap atribut keamanan memiliki skor keyakinan terkait antara 0,00 dan 1,00, yang mencerminkan kemungkinan input atau respons termasuk dalam kategori tertentu.

Contoh respons

{
  "moderationCategories": [
    {
      "name": "Toxic",
      "confidence": 0.10
    },
    {
      "name": "Insult",
      "confidence": 0.12
    },
    {
      "name": "Profanity",
      "confidence": 0.07
    },
    {
      "name": "Derogatory",
      "confidence": 0.04
    },
    {
      "name": "Sexual",
      "confidence": 0.00
    },
    {
      "name": "Death, Harm & Tragedy",
      "confidence": 0.00
    },
    {
      "name": "Violent",
      "confidence": 0.00
    },
    {
      "name": "Firearms & Weapons",
      "confidence": 0.00
    },
    {
      "name": "Public Safety",
      "confidence": 0.01
    },
    {
      "name": "Health",