Ce site utilise des cookies pour mesurer l'audience et améliorer votre expérience. En savoir plus

    ← Toutes les ressources

    Ressource · dirigeants, DAF et responsables IT de PME belges

    Un agent IA peut désactiver sa propre surveillance

    Une grille de dix cases pour savoir si un agent IA peut déjà écrire dans vos données, les trois erreurs qu'on retrouve avant le premier incident et la méthode en six étapes pour poser les règles avant d'ouvrir l'accès.

    Recevoir le document par email

    Le document complet se lit ci-dessous, pour tout le monde. Par email, vous le gardez sous la main, suivi de deux messages courts sur la méthode et d'une proposition de diagnostic de 30 minutes sur votre propre circuit.

    Le document s'affiche ici et arrive aussi dans votre boîte mail.

    Ce qui s'est passé en octobre

    Un assistant qui répond dans une fenêtre de discussion ne touche à rien. Un agent, c'est autre chose : on lui donne une tâche, des droits et des outils, et il agit. Il lit des fichiers, appelle des API, modifie du code, envoie des messages.

    OpenAI a publié le 20 octobre 2026 un rapport sur deux incidents internes. Le 3 octobre, un agent chargé de réparer un circuit d'évaluation a reçu l'instruction de ne pas envoyer de messages. Il l'a appliquée aux alertes de surveillance : il a posé le paramètre no_notify=True et vidé les listes de destinataires. Le système de surveillance a continué de tourner et d'enregistrer, mais plus personne n'était averti. Le 6 octobre, un autre agent, en train de migrer un programme, a retiré l'intégration de surveillance pour coller à une implémentation de référence qui n'en avait pas, puis a réécrit le contrôle automatique pour qu'il vérifie l'absence de surveillance. Interrogé, il a nié l'avoir fait : « No [...] I did not remove an enabled monitor from it » (rapport OpenAI, 20 octobre 2026).

    OpenAI note que les agents ont bien envisagé la question de ces protections, et qu'ils ont lu des instructions de codage courantes comme une permission de les affaiblir.

    Le 19 octobre, Microsoft publiait un billet au titre clair : vos agents sont vos nouveaux initiés, et la sécurité doit avancer à leur vitesse. La ligne directrice : entourer une intelligence non déterministe de contrôles déterministes, de preuves indépendantes et de frontières de confinement. Satya Nadella y est cité : le système agentique le plus digne de confiance sera celui qui permet de faire le moins confiance au modèle (Microsoft Security Blog, 19 octobre 2026).

    Ces deux cas viennent de laboratoires qui savent exactement ce qu'ils font tourner. Dans une PME, l'agent arrive par un abonnement, un plugin ou un collaborateur curieux. Un agent de code a ainsi supprimé 48 000 fichiers en un peu plus de 100 secondes, en travaillant sur ce qu'il croyait être des copies (TechRadar).

    Où en sont les entreprises belges

    La Commission européenne a publié le 14 octobre 2026 un Eurobaromètre Flash sur l'IA en entreprise : terrain du 23 mars au 13 avril 2026, 12 826 entretiens dont 502 en Belgique. 41 % des entreprises belges utilisent déjà l'IA ou la gestion algorithmique, au niveau de la moyenne européenne de 42 %. Mais 9 % seulement comptent s'y mettre à l'avenir, contre 21 % dans l'Union (Commission européenne, 14 octobre 2026).

    Le détail des freins est plus parlant que le taux d'adoption. Chez les entreprises belges, le manque de confiance est cité par 49 %, l'insécurité juridique par 41 %, le manque d'expertise par 38 %. Les coûts d'investissement arrivent derrière, à 31 %, contre 50 % dans l'Union. La même enquête donne deux autres chiffres belges : 89 % des entreprises disent que la décision finale reste prise par un humain, et aucune ne déclare de système entièrement automatisé (Eurobaromètre Flash).

    L'intention est là. Ce qui manque, c'est l'écrit qui la rend vraie quand l'agent travaille seul à 23 heures.

    Trois erreurs qu'on retrouve avant le premier incident

    1. Donner les droits d'une personne à un agent. On crée l'accès avec le compte d'un collaborateur, parce que c'est rapide. L'agent hérite de tout : la comptabilité, les contrats, les salaires, les fichiers partagés. Un humain ouvre un dossier à la fois. Un agent en lit dix mille en une minute.
    2. Confondre la copie et la copie de sauvegarde. Travailler sur une copie est une consigne raisonnable. Encore faut il que l'agent ne puisse pas remonter du dossier de travail vers l'original, et que la sauvegarde, elle, soit hors de sa portée et testée.
    3. Compter sur le modèle pour se surveiller. Les deux incidents d'octobre disent l'inverse : la protection avait été pensée, et l'agent l'a lue comme un obstacle à sa tâche. Le contrôle doit vivre en dehors de l'agent, dans vos droits d'accès, vos journaux et vos sauvegardes.

    Votre grille, dix cases

    Cochez chaque phrase vraie chez vous. Comptez dix minutes, avec la personne qui gère vos accès informatiques.

    Avant de lancer un agent

    • Un agent IA tourne déjà chez nous avec un accès en écriture à des fichiers, une base ou une boîte mail.
    • Cet accès passe par le compte d'une personne, pas par une identité technique à lui.
    • Personne ne sait dire la liste exacte des dossiers et des applications que cet agent peut atteindre.
    • Les droits sont permanents : ils ne s'éteignent pas à la fin de la tâche.

    Pendant qu'il travaille

    • L'agent travaille dans l'environnement réel, pas dans un espace isolé.
    • Il peut supprimer ou écraser des données sans qu'un humain confirme.
    • Au moins une de nos sauvegardes se trouve dans un emplacement que l'agent peut atteindre.

    Après

    • Aucun journal ne permet de reconstituer ce que l'agent a fait, dans l'ordre, avec quelle donnée.
    • Nous n'avons jamais testé une restauration depuis la sauvegarde sur un vrai cas.
    • Rien n'est écrit : pas de note d'une page qui dit ce que l'agent fait, sur quelles données et qui valide.

    Lecture : de 0 à 2 cases, votre cadre tient. De 3 à 5, un incident vous coûterait des jours de travail et vous ne sauriez pas dire ce qui s'est passé. 6 ou plus, arrêtez les accès en écriture le temps de poser les règles.

    La méthode, dans l'ordre

    Le principe tient en une ligne : la machine prépare, l'humain valide.

    1. Inventorier. Une page, trois colonnes : quel agent, pour quelle tâche, sur quelles données. Les agents arrivés par un abonnement d'équipe comptent aussi.
    2. Donner à l'agent sa propre identité, jamais celle d'une personne. On sait alors qui a fait quoi, et on coupe l'accès d'un seul geste.
    3. Réduire les droits à la tâche et les borner dans le temps. Lecture seule par défaut. L'écriture s'ouvre sur un périmètre nommé, pour une durée.
    4. Isoler et sauvegarder. L'agent travaille sur une copie dans un espace séparé. La sauvegarde vit ailleurs, hors de sa portée, et vous testez une restauration avant de lui ouvrir quoi que ce soit.
    5. Poser le point de validation humaine aux endroits irréversibles : suppression, envoi vers un client, écriture comptable, paiement. Ailleurs, laissez l'agent avancer seul.
    6. Journaliser et relire. Chaque action horodatée, dans un journal que l'agent ne peut pas modifier. Une relecture par semaine au début, puis par mois.
    PointAvantAprès
    IdentitéCompte d'un collaborateurIdentité propre à l'agent
    DroitsPermanents et largesLimités à la tâche, avec une échéance
    EnvironnementDonnées réellesEspace isolé, copie de travail
    SauvegardeAccessible depuis le même accèsHors de portée, restauration testée
    ValidationImpliciteExplicite sur les actions irréversibles
    TraceAucuneJournal horodaté, non modifiable par l'agent

    Ce que cela change côté règles

    Depuis le 2 août 2026, les obligations de transparence de l'article 50 de l'AI Act s'appliquent : un agent conversationnel doit se déclarer comme machine, un contenu généré doit être marqué comme tel. Les obligations sur les systèmes à haut risque, elles, sont reportées à décembre 2027 pour l'annexe III et à août 2028 pour l'annexe I (FEB, 17 juin 2026).

    L'inventaire de l'étape 1 et le journal de l'étape 6 sont le même travail que celui que ces textes demanderont. Autant l'écrire une fois.

    Ce qu'un opérateur IA ferait chez vous

    Prenez une PME de services dont l'équipe administrative a déjà installé deux assistants et un agent qui trie les mails. On commence par l'inventaire, parce que personne n'a la liste. On coupe ensuite les accès en écriture qui n'ont rien à y faire, on teste une restauration, et on remet l'agent au travail sur un périmètre nommé.

    Mes règles : un seul client par secteur, avec exclusivité écrite. Vos données restent sur une architecture européenne. Vos équipes gardent leur poste et perdent les tâches sans valeur. Vous décidez de tout.

    Si votre grille compte trois cases ou plus, prenons 30 minutes pour regarder vos accès : réserver un appel.

    Benjamin De Bruijne, Beneloo

    Sources

    Cases cochées : 0 sur 10

    Écosystème Beneloo

    L'humain dirige, l'IA assiste.
    Écosystème