Comment détecter du contenu explicite (pornographie, gore, violence) dans une vidéo avec JavaScript ?

Dans ce didacticiel, vous allez apprendre à utiliser la détection de contenu vidéo explicite en 5 minutes à l'aide de JavaScript. Eden AI fournit une API simple et conviviale pour les développeurs qui vous permet de détecter le contenu explicite des vidéos.

‍

Qu'est-ce que la détection de contenu vidéo explicite ?

UNE API de détection de contenu vidéo explicite est un type de technologie spécifiquement conçu pour identifier et classer le contenu potentiellement inapproprié ou offensant des supports vidéo. Cela peut inclure des vidéos contenant un langage explicite, de la violence ou du contenu sexuellement suggestif.

Les API de détection de contenu explicite vidéo utilisent généralement des algorithmes d'apprentissage automatique et d'autres techniques avancées pour analyser le contenu visuel et audio d'une vidéo et déterminer si elle contient du matériel explicite. Ils peuvent également analyser d'autres caractéristiques de la vidéo, telles que ses métadonnées, afin de déterminer sa pertinence.

Les API de détection de contenu vidéo explicite sont souvent utilisées dans diverses applications, telles que les plateformes de réseaux sociaux, les places de marché en ligne et les systèmes de gestion de contenu, pour identifier et signaler automatiquement les contenus vidéo potentiellement inappropriés ou offensants. Cela peut contribuer à garantir que ce contenu ne soit pas mis à la disposition d'un public plus large ou soit correctement restreint ou supprimé.

‍

‍

Premiers pas avec l'API de modération vidéo

La première étape consiste à configurer Axios, un client HTTP basé sur des promesses pour le navigateur et Node.js, qui vous permettra d'appeler l'API Eden AI.

‍

Ensuite, vous devez initialiser le module Système de fichiers pour accéder aux fichiers locaux de votre ordinateur.

‍

Enfin, vous devrez créer votre formulaire de paramètres multipart/formdata :

‍

‍

Comment utiliser l'API de détection de contenu vidéo explicite avec JavaScript

Vous êtes maintenant prêt à traiter votre fichier vidéo dans l'API de détection de contenu explicite Eden AI Video.

1. Obtenez une clé d'API de détection de contenu explicite pour les vidéos sur Eden AI

Pour effectuer la détection explicite du contenu vidéo dans les vidéos, il vous suffit de créer un compte sur Eden AI gratuitement. Sur la page d'accueil, vous pourrez obtenir votre Clé API avec des crédits gratuits offerts par Eden AI.

2. Détectons le contenu explicite de votre fichier vidéo

Maintenant que vous avez initialisé les modules JavaScript requis et obtenu votre clé API, vous serez en mesure de détecter le contenu explicite des vidéos. La détection de contenu explicite dans les vidéos passe désormais par un LLM multimodal qui accepte la vidéo en entrée, appelé via l'endpoint de chat compatible OpenAI d'Eden AI : le modèle liste les segments au contenu explicite, avec leur catégorie, un score de probabilité de 1 à 5 et leur intervalle de temps. Vous pouvez utiliser tout modèle dont les input_modalities contiennent video : consultez notre documentation ici.

‍

Voici le code JavaScript pour ajouter votre vidéo au formulaire et définir votre clé API :

form.append("file", fs.createReadStream("path/to/your/video.mp4"));
const apiKey = "Your_API_Key";

‍

Une fois le fichier ajouté, vous pouvez configurer vos requêtes : la vidéo est d'abord envoyée à Eden AI, qui renvoie un file_id, puis la requête demande à un LLM multimodal, ici google/gemini-2.5-flash, de détecter le contenu explicite et de répondre dans le format JSON défini par le schéma :

// Step 1: upload your video to Eden AI, which returns a file_id
const uploadOptions = {
  method: "POST",
  url: "https://api.edenai.run/v3/upload",
  headers: {
    authorization: `Bearer ${apiKey}`,
    ...form.getHeaders(),
  },
  data: form,
};

// Step 2: ask a multimodal LLM to detect explicit content, with the JSON format of the answer
const schema = {
  type: "object",
  properties: {
    segments: {
      type: "array",
      items: {
        type: "object",
        properties: {
          category: { type: "string" },
          likelihood: { type: "integer" },
          start_time: { type: "number" },
          end_time: { type: "number" },
        },
        required: ["category", "likelihood", "start_time", "end_time"],
      },
    },
  },
  required: ["segments"],
};

const options = (fileId) => ({
  method: "POST",
  url: "https://api.edenai.run/v3/chat/completions",
  headers: {
    authorization: `Bearer ${apiKey}`,
  },
  data: {
    model: "google/gemini-2.5-flash", // any model with video in its input_modalities
    messages: [
      {
        role: "user",
        content: [
          { type: "text", text: "List the segments of this video that contain explicit content (nudity, violence, gore, drugs, hate symbols), with the category, a likelihood from 1 (very unlikely) to 5 (very likely) and the time range in seconds." },
          { type: "file", file: { file_id: fileId } },
        ],
      },
    ],
    response_format: { type: "json_schema", json_schema: { name: "segments", schema: schema } },
  },
});

‍

Ensuite, vous devez créer la fonction LaunchJob () qui exécutera la requête POST :

‍

Enfin, créez la fonction run() qui envoie la vidéo, lance la requête et lit la réponse. Il n'y a pas de tâche à interroger, car le résultat arrive dans la même réponse :

const run = async () => {
  const upload = await axios.request(uploadOptions);
  const response = await launchJob(options(upload.data.file_id));
  console.log(response.data);

  // The answer is a JSON string that follows the schema
  const result = JSON.parse(response.data.choices[0].message.content);
  console.log(result.segments);
};

run().catch((error) => {
  console.error(error.response ? error.response.data : error);
});

‍

Vous obtiendrez cette réponse, dans laquelle le modèle répond par une chaîne JSON placée dans choices[0].message.content :

{
  "status": "success",
  "model": "gemini-2.5-flash",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "{\n  \"segments\": [\n    {\n      \"category\": \"Violence\",\n      \"likelihood\": 2,\n      \"start_time\": 17.0,\n      \"end_time\": 18.0\n    },\n    {\n      \"category\": \"Violence\",\n      \"likelihood\": 3,\n      \"start_time\": 24.0,\n      \"end_time\": 35.0\n    }\n  ]\n}"
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 15661,
    "completion_tokens": 631,
    "total_tokens": 16292
  },
  "provider": "google",
  "cost": 0.0074455
}

‍

Une fois analysée, cette chaîne JSON donne le résultat de la tâche de détection de contenu explicite (les intervalles de temps sont estimés par le modèle, vérifiez-les sur quelques-unes de vos vidéos avant de vous y fier en production) :

[
  {
    "category": "Violence",
    "likelihood": 2,
    "start_time": 17,
    "end_time": 18
  },
  {
    "category": "Violence",
    "likelihood": 3,
    "start_time": 24,
    "end_time": 35
  }
]

‍

Avantages de l'utilisation de l'API de détection de contenu vidéo explicite avec Eden AI

L'utilisation de la détection de contenu vidéo explicite avec l'API Eden AI est simple et rapide.

‍

Économisez du temps et de l'argent

Nous proposons une API unifiée pour tous les fournisseurs : simple et standard à utiliser, avec un changement rapide d'un fournisseur à l'autre et un accès aux fonctionnalités spécifiques de chaque fournisseur.

‍

Facile à intégrer

Le format de sortie JSON est le même pour tous les fournisseurs grâce au travail de standardisation d'Eden AI. Les éléments de réponse sont également standardisés grâce aux puissants algorithmes de correspondance d'Eden AI.

‍

Personnalisation

Avec Eden AI, vous avez la possibilité d'intégrer une plateforme tierce : nous pouvons développer rapidement des connecteurs. Pour aller plus loin et personnaliser votre demande de modération vidéo avec des paramètres spécifiques, consultez notre documentation.

Questions fréquentes sur la détection de du contenu explicite (pornographie, gore, violence) dans une vidéo avec JavaScript