MovixOpenSource/API/Mainapi/utils/cacheManager.js
Movix 3a7ab5ad42 feat: synchronise le repo privé — Cast, sources, API et mobile 2.5.7
Gros lot de travail synchronisé depuis le repo privé. Cette mise à jour
regroupe la refonte du lecteur et du Cast, de nouvelles sources VOD/Live TV,
le durcissement de l’API et des proxies, ainsi qu’une nouvelle version de
l’application mobile.

Lecteur, sources et Live TV

- Refonte du lecteur HLS avec sélection et mémorisation de la qualité,
  détection des résolutions, scan des liens, choix des pistes audio et
  fallback contrôlé de 1080p vers 720p.
- Ajoute une garde contre les boucles de changement de source, notamment
  lors des erreurs vidéo et des réponses 429.
- Revoit SeekStreaming de bout en bout : validation des embeds, prise en
  charge de plusieurs candidats, regroupement par serveur, règles de headers
  persistantes et cache d’extraction raccourci.
- Ajoute SwiftFlow pour les films et séries, avec lecteurs VF/VOSTFR, cache
  stale-while-revalidate, déduplication des requêtes et limite partagée côté API.
- Adapte Coflix à son nouveau domaine et à son nouveau thème, ajoute un kill
  switch, développe les wrappers 1jour1film et actualise le domaine Wiflix.
- Ajoute NorthLive et Vavoo à la Live TV, regroupe les variantes d’une même
  chaîne et permet de choisir le serveur ou la qualité.
- Enrichit les Top 10 avec des filtres par période et par algorithme, ainsi
  que de nouvelles métriques de visionnage.

Cast et application mobile

- Unifie le contrôle Cast entre le Web Cast SDK et le pont Android :
  état distant, lecture, pause, seek, arrêt et reprise après reconnexion.
- Ajoute sur Android un relais média LAN sécurisé, limité au Chromecast et
  au réseau Wi-Fi sélectionnés, avec sessions opaques et service foreground.
- Prépare les sources avant diffusion et prend en charge les playlists HLS
  TS/fMP4, les flux progressifs, les sous-titres VTT, SeekStreaming et les
  segments MPEG-TS encapsulés dans des PNG.
- Renforce le proxy média local : support Range, validation des redirections,
  liaison DNS/socket au réseau Cast et meilleure gestion des headers Fsvid.
- Sécurise le bridge WebView avec contrôle de l’origine top-frame, capacités
  propres à chaque document et invalidation lors des navigations.
- Ajoute le Picture-in-Picture Android avec lecture/pause et seek de
  10 secondes depuis la fenêtre flottante.
- Maintient désormais l’écran allumé uniquement pendant une lecture active.
- Publie l’application Android 2.5.7, build 16, avec le nouvel APK et ses
  métadonnées d’intégrité.

API, base de données et paiements

- Remplace 13 migrations SQL isolées par un manifeste de schéma MySQL
  centralisé, additif et capable de détecter les divergences de structure.
- Ajoute le workflow db:init avec prévisualisation, dry-run, verrou MySQL,
  confirmations pour les tables Wrapped et couverture de tests dédiée.
- Rend configurables les limites du pool MySQL et fiabilise les advisory locks.
- Revoit entièrement PayGate : références de callback séparées, nonces,
  validation des wallets et transactions, états monotones, déduplication des
  paiements et protection contre les courses ou réutilisations de txid.
- Renforce l’annulation, la réconciliation et la livraison idempotente des
  factures VIP, avec réponses no-store sur les routes sensibles.
- Distingue les JWT invalides des indisponibilités MySQL afin de renvoyer
  correctement 401 ou 503 sans provoquer de déconnexions inutiles.
- Utilise ZZAPI/Claude Haiku pour la modération, avec OpenRouter/DeepSeek en
  solution de secours.
- Améliore la gestion HLS et Range dans proxiesembed.

Frontend, profils et infrastructure

- Protège la sélection et l’hydratation des profils contre les réponses
  concurrentes, les intentions obsolètes et l’effacement accidentel du
  stockage local.
- Rend VITE_SITE_URL obligatoire et l’injecte dans le runtime, les données
  structurées, le service worker, robots.txt et sitemap.xml.
- Optimise les probes réseau du service worker avec cache court et single-flight.
- Charge dynamiquement les traductions anglaises, plusieurs routes secondaires
  et les données Search/TMDB uniquement lorsqu’elles deviennent nécessaires.
- Ajoute des caches mémoire/session pour les images et contenus TMDB et réduit
  les animations, calculs et rendus hors écran.
- Ajoute la page publique des frais, les coins carrés persistants, une nouvelle
  intro Movix, les avertissements de publicités adultes et de nombreux textes
  Cast, qualité, Live TV et sources.
- Met à jour les extensions Chrome 1.3.12 et Firefox 1.5.9, ainsi que le
  userscript, avec la nouvelle extraction SeekStreaming et la préparation Cast.
- Ajoute une large couverture de tests Kotlin et JavaScript pour le Cast, le
  proxy média, le PiP, le bridge, la base de données, PayGate et le lecteur.
- Ajoute bootstrap-icons et patch-package, régénère les lockfiles npm et
  actualise la documentation d’installation et d’initialisation MySQL.

Co-authored-by: GPT-5.6 Sol <noreply@openai.com>
2026-08-02 12:09:37 +02:00

450 lines
15 KiB
JavaScript

/**
* Cache management utilities.
* Extracted from server.js — centralizes all file-based and memory cache helpers.
*/
const fsp = require('fs').promises;
const path = require('path');
const crypto = require('crypto');
const writeFileAtomic = require('write-file-atomic');
const { memoryCache } = require('../config/redis');
// === CACHE DIRECTORIES ===
// NOTE: __dirname is API/utils/, so we go up one level to reach API/
const ANIME_SAMA_CACHE_DIR = path.join(__dirname, '..', 'cache', 'anime-sama');
const CACHE_DIR = {
ANIME_SAMA: ANIME_SAMA_CACHE_DIR,
COFLIX: path.join(__dirname, '..', 'cache', 'coflix'),
FSTREAM: path.join(__dirname, '..', 'cache', 'fstream'),
CPASMAL: path.join(__dirname, '..', 'cache', 'cpasmal'),
TVDIRECT: path.join(__dirname, '..', 'cache', 'tvdirect'),
PURSTREAM: path.join(__dirname, '..', 'cache', 'purstream'),
NOCTAFLIX: path.join(__dirname, '..', 'cache', 'noctaflix'),
FTV: path.join(__dirname, '..', 'cache', 'ftv'),
J1F: path.join(__dirname, '..', 'cache', '1jour1film'),
SWIFTFLOW: path.join(__dirname, '..', 'cache', 'swiftflow')
};
const DEFAULT_CACHE_REFRESH_WINDOW_MS = 40 * 60 * 1000;
// Cr\u00e9er les dossiers de cache s'ils n'existent pas
(async () => {
for (const dir of Object.values(CACHE_DIR)) {
try {
await fsp.access(dir);
} catch {
await fsp.mkdir(dir, { recursive: true });
}
}
})();
// Fonction pour g\u00e9n\u00e9rer une cl\u00e9 de cache bas\u00e9e sur les param\u00e8tres
const generateCacheKey = (params) => {
const stringParams = typeof params === 'string' ? params : JSON.stringify(params);
return crypto.createHash('md5').update(stringParams).digest('hex');
};
// Fonction pour corriger le type de stream bas\u00e9 sur l'URL
const correctStreamType = (streamData) => {
if (streamData && streamData.url && streamData.url.includes('.mp4')) {
return {
...streamData,
type: 'mp4'
};
}
return streamData;
};
// Fonction pour v\u00e9rifier si une donn\u00e9e est en cache avec expiration de 8h
const getFromCacheWithExpiration = async (cacheDir, key, expirationHours = 8) => {
try {
// 1. V\u00e9rifier le cache m\u00e9moire (L1) (rapide)
// Si c'est en m\u00e9moire (TTL 5 min), c'est forc\u00e9ment valide (< 8h)
const memKey = `${cacheDir}:${key}`;
const memData = await memoryCache.get(memKey);
if (memData) {
if (process.env.DEBUG_CACHE) console.log(`[Cache] Memory hit for ${key}`);
return memData;
}
// 2. V\u00e9rifier le cache fichier (L2) (lent)
const cacheFilePath = path.join(cacheDir, `${key}.json`);
let stats;
try {
stats = await fsp.stat(cacheFilePath);
} catch (e) {
if (e.code === 'ENOENT') return null;
throw e;
}
const now = Date.now();
const fileTime = stats.mtime.getTime();
const expirationTime = expirationHours * 60 * 60 * 1000; // en millisecondes
// V\u00e9rifier si le cache a expir\u00e9
if (now - fileTime > expirationTime) {
return null;
}
const fileContent = await fsp.readFile(cacheFilePath, 'utf8');
const cacheData = JSON.parse(fileContent);
// Mettre \u00e0 jour le cache m\u00e9moire pour les prochaines fois
await memoryCache.set(memKey, cacheData);
return cacheData;
} catch (error) {
if (error.code === 'ENOENT') {
return null;
}
console.error(`Erreur lors de la r\u00e9cup\u00e9ration du cache pour ${key}:`, error);
return null;
}
};
// Fonction pour sauvegarder des donn\u00e9es en cache
const saveToCache = async (cacheDir, key, data) => {
try {
const cacheFilePath = path.join(cacheDir, `${key}.json`);
// S'assurer que le dossier de cache existe
await fsp.mkdir(cacheDir, { recursive: true });
// OPTIMISATION: Utiliser write-file-atomic directement sans lockfile
// lockfile (utilis\u00e9 dans safeWriteFile) ajoute 50-100ms de latence par \u00e9criture
// Pour des fichiers de cache temporaires, atomic write suffit largement
await writeFileAtomic(cacheFilePath, JSON.stringify(data), { encoding: 'utf8', fsync: false });
// Mettre aussi en cache m\u00e9moire pour \u00e9viter les lectures disque
await memoryCache.set(`${cacheDir}:${key}`, data);
return true;
} catch (error) {
console.error(`Erreur lors de la sauvegarde en cache pour ${key}:`, error);
return false;
}
};
// === CACHE EN MÉMOIRE POUR ÉVITER LES REQUÊTES DUPLIQUÉES ===
// Map pour stocker les promesses en cours d'exécution
const ongoingFStreamRequests = new Map();
const FSTREAM_REQUEST_TIMEOUT = 8000;
const FSTREAM_STALE_CLEANUP_MS = 5 * 60 * 1000; // 5 min max
// Fonction pour obtenir ou créer une requête FStream partagée
const getOrCreateFStreamRequest = async (cacheKey, requestFunction) => {
// Si une requête est déjà en cours pour cette clé, retourner la promesse existante
if (ongoingFStreamRequests.has(cacheKey)) {
const entry = ongoingFStreamRequests.get(cacheKey);
let dedupTimer;
return Promise.race([
entry.promise.finally(() => clearTimeout(dedupTimer)),
new Promise((_, reject) => { dedupTimer = setTimeout(() => reject(new Error('timeout of 6000ms exceeded')), FSTREAM_REQUEST_TIMEOUT); })
]);
}
// Créer une nouvelle promesse et la stocker
const requestPromise = (async () => {
let timeoutTimer;
try {
const result = await Promise.race([
requestFunction().finally(() => clearTimeout(timeoutTimer)),
new Promise((_, reject) => {
timeoutTimer = setTimeout(() => {
ongoingFStreamRequests.delete(cacheKey);
reject(new Error('timeout of 6000ms exceeded'));
}, FSTREAM_REQUEST_TIMEOUT);
})
]);
return result;
} finally {
clearTimeout(timeoutTimer);
ongoingFStreamRequests.delete(cacheKey);
}
})();
ongoingFStreamRequests.set(cacheKey, { promise: requestPromise, createdAt: Date.now() });
return requestPromise;
};
// Nettoyage automatique des requêtes expirées (toutes les 2 minutes pour réagir plus vite)
setInterval(() => {
const now = Date.now();
let cleaned = 0;
for (const [key, entry] of ongoingFStreamRequests) {
if (entry.createdAt && (now - entry.createdAt > FSTREAM_STALE_CLEANUP_MS)) {
ongoingFStreamRequests.delete(key);
cleaned++;
}
}
if (cleaned > 0) {
console.log(`[FSTREAM DEDUP] Nettoyage automatique: ${cleaned} requêtes expirées supprimées`);
}
}, 2 * 60 * 1000).unref(); // Toutes les 2 minutes — unref to not prevent process exit
// Fonction pour sauvegarder des donn\u00e9es FStream en cache
const saveFStreamToCache = async (cacheKey, data) => {
try {
const cacheFilePath = path.join(CACHE_DIR.FSTREAM, `${cacheKey}.json`);
const cacheData = {
data: data
};
// Utiliser l'\u00e9criture atomique pour les fichiers de cache FStream
await writeFileAtomic(cacheFilePath, JSON.stringify(cacheData), 'utf8');
// Mettre aussi en cache m\u00e9moire
await memoryCache.set(`fstream:${cacheKey}`, cacheData);
return true;
} catch (error) {
console.error(`[FSTREAM CACHE] Erreur lors de la sauvegarde en cache pour ${cacheKey}:`, error);
return false;
}
};
// Fonction pour g\u00e9n\u00e9rer une cl\u00e9 de cache FStream
const generateFStreamCacheKey = (type, id, season = null, episode = null) => {
const params = { type, id, season, episode };
return crypto.createHash('md5').update(JSON.stringify(params)).digest('hex');
};
// Fonction pour nettoyer le cache FStream
const clearFStreamCache = async () => {
try {
const cacheDir = CACHE_DIR.FSTREAM;
const files = await fsp.readdir(cacheDir);
for (const file of files) {
if (file.endsWith('.json')) {
await fsp.unlink(path.join(cacheDir, file));
}
}
return { success: true, deletedFiles: files.length };
} catch (error) {
console.error(`[FSTREAM CACHE] Erreur lors du nettoyage: ${error.message}`);
return { success: false, error: error.message };
}
};
// Fonction pour v\u00e9rifier si une donn\u00e9e FStream est en cache
const getFStreamFromCache = async (cacheKey) => {
try {
const cacheFilePath = path.join(CACHE_DIR.FSTREAM, `${cacheKey}.json`);
const cacheData = JSON.parse(await fsp.readFile(cacheFilePath, 'utf8'));
return cacheData.data;
} catch (error) {
if (error.code === 'ENOENT') {
return null;
}
console.error(`[FSTREAM CACHE] Erreur lors de la r\u00e9cup\u00e9ration du cache pour ${cacheKey}:`, error);
return null;
}
};
// Fonction pour vérifier si une donnée est en cache sans vérifier la date d'expiration
const getFromCacheNoExpiration = async (cacheDir, key) => {
try {
// 1. Vérifier le cache mémoire (L1)
const memKey = `${cacheDir}:${key}`;
const memData = await memoryCache.get(memKey);
if (memData) {
return memData;
}
const cacheFilePath = path.join(cacheDir, `${key}.json`);
let fileContent;
try {
fileContent = await fsp.readFile(cacheFilePath, 'utf8');
} catch (e) {
if (e.code === 'ENOENT') return null;
throw e;
}
const cacheData = JSON.parse(fileContent);
// Validation: s'assurer que les données en cache ne sont pas du texte "Maintenance en cours"
if (typeof cacheData === 'string' && cacheData.includes('Maintenance en cours')) {
console.error(`Cache invalide détecté pour ${key} - contient "Maintenance en cours"`);
try { await fsp.unlink(cacheFilePath); } catch (unlinkError) { }
return null;
}
// Validation: s'assurer que les données en cache sont bien du JSON valide et pas du texte brut
if (typeof cacheData === 'string' || cacheData === null || cacheData === undefined) {
console.error(`Cache invalide détecté pour ${key} - données non-JSON ou nulles`);
try { await fsp.unlink(cacheFilePath); } catch (unlinkError) { }
return null;
}
// Mettre en cache mémoire
await memoryCache.set(memKey, cacheData);
return cacheData;
} catch (error) {
if (error.code === 'ENOENT') {
return null;
}
console.error(`Erreur lors de la récupération du cache pour ${key}:`, error);
return null;
}
};
// Fonction utilitaire pour vérifier si un fichier de cache a été modifié dans les 40 dernières minutes
const shouldUpdateCache = async (cacheDir, cacheKey) => {
const cacheFilePath = path.join(cacheDir, `${cacheKey}.json`);
try {
const stats = await fsp.stat(cacheFilePath);
const now = Date.now();
const fileAge = now - stats.mtime.getTime();
const fortyMinutes = 40 * 60 * 1000; // 40 minutes en millisecondes
if (fileAge < fortyMinutes) {
return false; // Ne pas mettre à jour le cache
}
return true; // Mettre à jour le cache
} catch (error) {
// Si le fichier n'existe pas ou erreur de lecture, continuer avec la mise à jour
return true;
}
};
// Fonction pour vérifier si le cache French-Stream doit être mis à jour (3 heures)
const getCacheRefreshInfo = async (cacheDir, cacheKey, refreshWindowMs = DEFAULT_CACHE_REFRESH_WINDOW_MS) => {
const cacheFilePath = path.join(cacheDir, `${cacheKey}.json`);
try {
const stats = await fsp.stat(cacheFilePath);
const now = Date.now();
const lastModifiedAtMs = stats.mtime.getTime();
const refreshAvailableAtMs = lastModifiedAtMs + refreshWindowMs;
const refreshInMs = Math.max(refreshAvailableAtMs - now, 0);
return {
shouldRefreshNow: refreshInMs === 0,
cacheLastModifiedAt: new Date(lastModifiedAtMs).toISOString(),
refreshAvailableAt: new Date(refreshAvailableAtMs).toISOString(),
refreshInMs,
refreshInMinutes: Math.ceil(refreshInMs / 60000)
};
} catch (error) {
return {
shouldRefreshNow: true,
cacheLastModifiedAt: null,
refreshAvailableAt: null,
refreshInMs: 0,
refreshInMinutes: 0
};
}
};
// Fonction pour rafraichir la date d'un cache sans ecraser son contenu
const touchCacheEntry = async (cacheDir, key) => {
try {
const cacheFilePath = path.join(cacheDir, `${key}.json`);
const now = new Date();
await fsp.utimes(cacheFilePath, now, now);
return true;
} catch (error) {
if (error.code === 'ENOENT') {
return false;
}
console.error(`Erreur lors du rafraichissement du cache pour ${key}:`, error);
return false;
}
};
const shouldUpdateCacheFrenchStream = async (cacheDir, cacheKey) => {
const cacheFilePath = path.join(cacheDir, `${cacheKey}.json`);
try {
const stats = await fsp.stat(cacheFilePath);
const now = Date.now();
const fileAge = now - stats.mtime.getTime();
const threeHours = 3 * 60 * 60 * 1000; // 3 heures en millisecondes
if (fileAge < threeHours) {
return false; // Ne pas mettre à jour le cache
}
return true; // Mettre à jour le cache
} catch (error) {
return true;
}
};
// Fonction pour vérifier si le cache LecteurVideo doit être mis à jour (2 heures)
const shouldUpdateCacheLecteurVideo = async (cacheDir, cacheKey) => {
const cacheFilePath = path.join(cacheDir, `${cacheKey}.json`);
try {
const stats = await fsp.stat(cacheFilePath);
const now = Date.now();
const fileAge = now - stats.mtime.getTime();
const twoHours = 2 * 60 * 60 * 1000; // 2 heures en millisecondes
if (fileAge < twoHours) {
return false; // Ne pas mettre à jour le cache
}
return true; // Mettre à jour le cache
} catch (error) {
return true;
}
};
// Fonction pour vérifier si le cache doit être mis à jour (24 heures) - utilisée pour la route decode
const shouldUpdateCache24h = async (cacheDir, cacheKey) => {
const cacheFilePath = path.join(cacheDir, `${cacheKey}.json`);
try {
const stats = await fsp.stat(cacheFilePath);
const now = Date.now();
const fileAge = now - stats.mtime.getTime();
const twentyFourHours = 24 * 60 * 60 * 1000; // 24 heures en millisecondes
if (fileAge < twentyFourHours) {
return false; // Ne pas mettre à jour le cache
}
return true; // Mettre à jour le cache
} catch (error) {
return true;
}
};
const shouldUpdateCache48h = async (cacheDir, cacheKey) => {
const cacheFilePath = path.join(cacheDir, `${cacheKey}.json`);
try {
const stats = await fsp.stat(cacheFilePath);
const now = Date.now();
const fileAge = now - stats.mtime.getTime();
const fortyEightHours = 48 * 60 * 60 * 1000;
if (fileAge < fortyEightHours) {
return false;
}
return true;
} catch (error) {
return true;
}
};
module.exports = {
CACHE_DIR,
ANIME_SAMA_CACHE_DIR,
generateCacheKey,
correctStreamType,
getFromCacheWithExpiration,
getFromCacheNoExpiration,
saveToCache,
touchCacheEntry,
getCacheRefreshInfo,
shouldUpdateCache,
shouldUpdateCacheFrenchStream,
shouldUpdateCacheLecteurVideo,
shouldUpdateCache24h,
shouldUpdateCache48h,
ongoingFStreamRequests,
getOrCreateFStreamRequest,
saveFStreamToCache,
generateFStreamCacheKey,
clearFStreamCache,
getFStreamFromCache
};