Journalisation (logging)

Quand le système d'IA change, la preuve doit garder la mémoire. Par Mohand Ouidja, Avocat.

Un système d'IA évolue : modèle remplacé, seuil ajusté, données modifiées, fournisseur externe mis à jour. Or un contentieux peut porter sur une décision prise plusieurs mois auparavant. Une documentation tenue à jour ne suffit donc pas si elle efface l'état du système au moment des faits. L'article 11, paragraphe 1, de l'AI Act prévoit, pour les systèmes d'IA à haut risque concernés, que la documentation technique soit établie avant la mise sur le marché ou la mise en service et tenue à jour. L'exigence paraît simple. Elle soulève pourtant une difficulté : mettre un dossier à jour ne doit pas conduire à faire disparaître l'état antérieur du système. Une décision prise en janvier peut être contestée en (...) Lire la suite... > https://www.village-justice.com/articles/quand-systeme-change-preuve-doit-garder-memoire,58903.html?utm_so