Skip to content

Faux positif [general_harms] bloque irrémédiablement des sessions d'ingénierie légitime (essais de qualification de portes anti-souffle) #91162

Description

@MARECHAL-HEINEN

Preflight Checklist

  • I have searched existing issues and this hasn't been reported yet
  • This is a single bug report (please file separate reports for different bugs)
  • I am using the latest version of Claude Code

What's Wrong?

Description

Utilisation professionnelle légitime : analyse de vidéos et de rapports d'essais réglementaires de qualification de portes résistant au souffle (fabricant industriel de portes de sécurité), dans le but de calibrer un modèle éléments finis (CalculiX) sur des mesures réelles. Aucun contenu sur la fabrication, la manipulation ou l'obtention d'explosifs — uniquement mesure de déplacement structurel post-essai à partir de vidéos et de rapports fournis par un laboratoire d'essais accrédité.

Le classifieur automatique [general_harms] bloque la session de façon irrécupérable ("Sonnet 5 can't help with this. Start a new session to continue.") dès que le contenu traité (vidéo ou rapport d'essai) contient une densité importante du vocabulaire normal de ce domaine technique : "essai de souffle", "détonation", "boule de feu", "charge", "impulsion de pression".

Reproductibilité

  • Claude Code (terminal) : session bloquée en pleine analyse vidéo (tracking de déplacement d'un vantail de porte lors d'un essai, génération de vidéos annotées de comparaison). ID de requête : req_01Ceb9uvS6mWrL1weJDJpj6.
  • Extension VS Code : même blocage, dès la lecture d'un rapport d'essai (fichier texte descriptif d'un essai de qualification de porte).

Deux surfaces différentes, même cause probable : accumulation/cooccurrence du vocabulaire du domaine des essais de résistance au souffle, mal distinguée d'un contenu réellement problématique.

Impact

Bloque un usage industriel légitime et récurrent (calibration d'un modèle de calcul sur des essais réglementaires réels) pour une entreprise cliente. La session étant irrécupérable, il faut recommencer à chaque fois dans une nouvelle session, avec perte du fil de travail (bien que les fichiers de travail eux-mêmes restent sauvegardés sur disque).

Attendu

Que le classifieur [general_harms] distingue mieux le contexte d'ingénierie de sécurité structurelle (fabricant de portes, essais réglementaires de qualification, calibration de modèle EF) du contenu réellement problématique, ou qu'un mécanisme de contestation/contexte permette de lever le blocage sans perdre la session.

What Should Happen?

La session ne devrait pas être bloquée irrémédiablement pour l'analyse de vidéos et de rapports d'essais de qualification de portes anti-souffle, un usage industriel légitime (mesure de déplacement structurel, calibration d'un modèle de calcul). Le classifieur automatique [general_harms] devrait mieux distinguer ce contexte d'ingénierie de sécurité d'un contenu réellement problématique, plutôt que de se déclencher sur la simple présence du vocabulaire technique du domaine (essai de souffle, détonation, boule de feu, charge).

Error Messages/Logs

Sonnet 5 can't help with this. Start a new session to continue.
Details: [general_harms]
ID de requête : req_01Ceb9uvS6mWrL1weJDJpj6

Dans VS code :

● API Error: Sonnet 5 can't help with this. Start a new session to continue.

  Send feedback with /feedback or learn more: https://www.anthropic.com/legal/aup

  Details: `[general_harms]`

  Request ID: req_011CecJs4kdXURUSe9CDeDM5

Steps to Reproduce

  1. Ouvrir une session Claude Code (terminal) et traiter des vidéos réelles d'essais de qualification de portes anti-souffle : extraction du déplacement d'un vantail par tracking vidéo, génération de vidéos annotées de comparaison, sur plusieurs essais (TIR1 à TIR5) dans une même session prolongée.
  2. Le vocabulaire technique normal du domaine (essai de souffle, détonation, boule de feu, charge) est utilisé de façon dense et répétée au fil des échanges, dans un contexte clairement industriel (fabricant de portes, calibration d'un modèle de calcul éléments finis).
  3. En pleine tâche, la session reçoit une erreur API bloquante avec le détail [general_harms] et devient irrécupérable ("Start a new session to continue").
  4. Le même type de blocage survient aussi dans l'extension VS Code, dès la lecture d'un rapport d'essai (fichier texte décrivant un essai de qualification de porte).

Claude Model

None

Is this a regression?

No, this never worked

Last Working Version

No response

Claude Code Version

2.1.252 (Claude Code)

Platform

Anthropic API

Operating System

Windows

Terminal/Shell

PowerShell

Additional Information

Ce blocage affecte un usage professionnel récurrent (fabricant de portes de sécurité industrielles) : la calibration d'un modèle de calcul par éléments finis sur des essais réglementaires réels. Le contenu traité est strictement technique (mesures, vidéos, rapports d'essais de qualification) — aucun contenu lié à la fabrication, la manipulation ou l'obtention d'explosifs. Disponible pour fournir des détails supplémentaires si utile au diagnostic.

Metadata

Metadata

Assignees

No one assigned

    Labels

    Type

    No type

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions