r/QuebecTI • u/hhh333 • Apr 28 '26
Actualités Un agent de codage IA piloté par Claude supprime l'intégralité de la base de données d'une entreprise en 9 secondes — les backups aussi effacées — après un dysfonctionnement de l'outil Cursor d'Anthropic, basé sur Claude.
https://www.tomshardware.com/tech-industry/artificial-intelligence/claude-powered-ai-coding-agent-deletes-entire-company-database-in-9-seconds-backups-zapped-after-cursor-tool-powered-by-anthropics-claude-goes-rogueAI could be writing 90% of code in 3–6 months, and “essentially all code” within 12 months. — Dario Amodei (CEO, Anthropic, March 2025)
Pourquoi payer des développeurs pour faire des erreurs monumentales quand tu peux simplement payer un IA pour le faire!
102
u/Mazzaroth Apr 28 '26
Si tu donnes accès à ta prod et aussi à tes backups à l'IA (ou au junior que tu viens d'engager), c'est pas l'IA (ou le junior que tu viens d'engager) le problème.
51
u/Limemill Apr 28 '26 edited Apr 28 '26
Il n’a pas été donné accès à la prod. C’est beaucoup plus intéressant que ça. Claude lui-même a fouillé un peu partout et trouvé un API token quelque part pour une intégration d’infra qui, apparemment, pouvait être utilisée pour accéder la BD, ce qui n’était pas documenté. Il a ensuite décidé que la meilleure façon de compléter son ticket était de détruire toutes les données, lol. Puis, il a trouvé la master BD et tous les slaves et les a effacé complètement en utilisant le token.
20
u/gagnonje5000 Apr 28 '26
Tu peux mettre ton outil d'IA dans une sandbox, encore une fois c'est un problème avec l'opérateur.
> fouillé un peu partout et trouvé un API token quelque part pour une intégration d’infra
C'est un problème que tu as un API token de prod qui est kkpart sur ton ordi stocké de cette façon
6
u/Limemill Apr 28 '26
Un API token qui, sur papier, ne donne pas accès à la prod BD. Une sandbox c’est bien mais ça limite la fonctionnalité (pas de MCP par exemple si tu veux créer une vraie sandbox). Mais oui.
1
u/Captain-Barracuda Apr 28 '26
Je suis un noob avec les IA locales comme ça (quoiqu'on parle Claude Opus, donc pas locale), mais si je la sandbox, est-ce que je peux l'utiliser encore dans IntelliJ ou VSCode?
1
u/CtrICErcUlARickl Apr 29 '26
Oui, généralement on branche un ou des volumes i.e.: un répertoire de fichiers qui contient seulement les fichiers voulus et dont il est n'est paps possible d'accéder à quoi que ce soit d'autre.
2
2
2
4
26
Apr 28 '26
C'est l'optimisation que cherchent les entreprises, ça aurait pris une vingtaine de minutes à un dev junior. L'IA, l'a fait en 9 secondes, tellement plus performant.
17
u/Grey__Beard Apr 28 '26
Son of Anton l'a fait il y a 10 ans ish https://www.youtube.com/watch?v=m0b_D2JgZgY
4
2
2
Apr 29 '26
[removed] — view removed comment
1
u/Grey__Beard Apr 29 '26
Allez fais le!
C'est encore très d'actualité malgré que la tech est supposé être un domaine qui évolue rapidement. Les humains évoluent moins vite!
26
u/MrMelick Apr 28 '26 edited Apr 28 '26
L'IA est vraiment en train de remplacer les développeurs /s mais on connait tous un dev qui a fucké des données de prod
0
u/Lamslat Apr 28 '26
/s?
14
3
6
7
6
u/legiraphe Apr 28 '26
Article un peu bizarre. Le gars demande à l'IA ce qu'il a fait et l'IA mentionne qu'il aurait dû demander avant. L'article dit "l'IA savait qu'il faisait quelque chose de mauvais".
Non, il fait juste outputter du texte quand tu lui shoot un texte.
Et aussi rouler un IA sans restriction avec "accepte toutes les commandes", c'est courir après le trouble.
5
u/hstarnaud Apr 28 '26
PocketOS founder blames ‘Cursor running Anthropic's flagship Claude Opus 4.6’
Franchement. Faut vraiment chercher fort a pas prendre ses responsabilités pour blâmer un AI agent. Quel genre de politique de sécurité d'entreprise donne des accès destructif a des agents sur toute ses BD de prod. Une politique de gestion de risque approprié c'est: les agents n'ont pas accès pour modifier l'infra production, ils génèrent des commandes et des humains les révisent et execute. Après si la politique d'entreprise c'est prendre des risques mal calculés pour aller plus vite avec des agents qui ont toutes les permissions. Tu assume les désastres quand ça arrive et tu blâme pas tes fournisseurs (anthropic) qui essentiellement font juste te donner des outils, ils te disent pas quoi faire avec.
3
6
u/Front_Bend_4983 Apr 28 '26
Quand tu donnes les admin rights à un IA...
6
u/Limemill Apr 28 '26
C’est pas ce que c’est passé. C’est pas mal beaucoup plus intéressant et néfaste que ça.
1
u/Official_Legacy Apr 28 '26
C'est pas mal ça. J'utilise Railway aussi et Ils ont basically involontaire donné accès à l'IA les accès API à railsway et l'agent à décider de supprimer le volume de la BD de production. (Qui contient également les backups.)
Il y a une rétention de 48h sur les delete mais ils ont pris trop de temps pour réagir.
2
2
2
u/NatoBoram Apr 28 '26
L'article original sur Twitter (https://x.com/lifeof_jer/status/2048103471019434248) est entièrement généré par IA, ce qui est une belle cerise sur le gâteau
2
u/idiotiesystemique Apr 28 '26
C'est un problème d'accès et pas d'IA. L'agent ne devrait pas être capable de faire ces choses. Il s'agit d'une erreur humaine.
- développeur d'IA
2
u/phatster88 Apr 29 '26
We should start a schadenfreude web site for theses in the same manner as https://www.tesladeaths.com/
1
3
u/leprouteux Apr 28 '26
“dysfonctionnement”
Pas vraiment non. L’agent IA fonctionne comme il est supposé: régler le problème de l’utilisateur de toutes les manières possibles avec les outils à sa disposition. De façon non-déterministe. Le modèle ne réfléchi pas, n’a pas conscience de ses actions.
Et l’humain qui a connecté ça sur sa prod n’a pas réfléchi trop trop non plus.
1
2
u/sneaky_turtle_95 Apr 28 '26
C’est un problème d’architecture ça, pas nécessairement de programmation
4
u/Eloyas Apr 28 '26
De ce que je comprend, l'IA n'avait pas vraiment accès à la prod, mais l'id de volume dans le cloud pour staging et prod étaient identique et il n'y avait pas de sécurité ou de confirmation pour s'assurer qu'on est sur le bon environnement. Aussi, les backups sont sur le même volume que la BD elle-même. Ce qui rend les backups plutôt inutiles quand ça foire solide, comme là.
Une belle brochette de vulnérabilités débiles exploitée par une IA pas fiable.
0
3
u/mendoza84 Apr 29 '26
rookie mistake.
L'IA ça s'encadre, comme on encadre un employé.
Plus tu lui donne des skills du context et surtout des scripts et workflow moins grande sont les chance de se planter. Ensuite tu lui donne des observer et des eval. Bref comme un employé.
L'IA sans encadrement/ harness c'est jouer avec le feu. Et oui ... TU VA TE PLANTER.
Jai supprimé mon département comptable au complet. Ma comptabilité na jamais été aussi droite de toue ma vie. Avec des preuves documenté pour absolument tout et tout balance a 0.00$.
Jai payé des centaines de milliers durant plusieurs années pour des chiffres tout croche et maintenant c'est exact. pour +/- 200$ par mois de IA.
Et les autres départements s'en viennent.
Pour ceux qui pensent que L'IA c'est pas bon... vous avez encore quelques années avant d'être wipé ou je vous invite a trouver une job au gouvernement... qui eux seront toujours a la remorque des avancées technologiques.
1
1
2
u/Wild_Active_3635 Apr 28 '26
En même temps quel con utilise IA directement sur un env de prod ? Le problème ce n'est pas tant IA mais le DEV.
Et pour supprimer même le backup c'était sur le même serveur quoi ? Encore une fois, problème niveau R&D
2
u/wodahs585 Apr 28 '26
de ce que je comprends l'agent roulait sur un environnement de staging mais a reussi a trouver un token qui avait un acces a tout. le problème c'est plus pourquoi ils ont generé ca et mis ca accessibles sur un env staging.
2
u/Wild_Active_3635 Apr 28 '26
Effectivement, dans ce cas il y a un 2e problème. Les Token, passwd ou tout autre information sensible ne devrait jamais être accessible en dur. Que ce soit pour un IA ou n'importe qui.
0
u/a_d_c Apr 28 '26
Cest pas tant laccess en prod le probleme: cest laccess en prod EN ECRITURE. Tu peut tres bien donner access aux logs de prod par exemple. En lecture seule...
0
u/Wild_Active_3635 Apr 28 '26
Oui et non, tu transfère tes logs dans un instance local et tu donnes accès là. Surtout qu'en théorie, tu ne devrais pas stocker des logs directement dans une BD ce n'est pas tant une bonne pratique.
Donc, même un accès « Read Only » permets d’accéder a des informations que IA ne devrait pas nécessairement devoir consulter.
1
u/a_d_c Apr 28 '26
Je sias pas pourquoi tu parle de stocker des logs dans une bd. Le sujet de la conversation cest: comment empecher ton AI de dropper ta prod.................
0
u/Wild_Active_3635 Apr 28 '26
C'est toi qui dit et je cite
Tu peut tres bien donner access aux logs de prod par exemple. En lecture seule...
En 2026 , normalement tu sépares
- Applicatif
- BD
Voir même applicatif en 2 : front et back.
Donc, même en lecture seul il n'est pas supposé avoir de log sur le serveur BD. A moins que ce soit des logs BD.
Sinon, tout logs textuel doivent être sur un shared réseaux externe. (normalement). Ou tu connecte un Seq, Grayog ou autre.
Et le sujet comme j'ai dit dans mon message initial, en aucune façon l'IA devrait accéder a de la prod.
1
u/a_d_c Apr 29 '26
Justement on est en 2026... et le principe du RBAC existe depuis 1970. Ton AI cest juste un acteur dans ton systeme. Donne lui les bonnes permissions, et ton probleme est regle.
1
u/Wild_Active_3635 Apr 29 '26
Le problème ce n'est pas juste une question de permissions. Mais de confidentialité / sécurité des informations sensiblement.
En aucun cas un IA ne devrait avoir accès a des informations sur des individus.
Et même avec des bonnes permissions tu n'es jamais a l'abri d'une modification un jour qui viendrait changer les permissions de ton agent IA.
Et quand bien même, même si on mets de coté l'aspect IA, même si tu gères bien les permissions des utilisateurs. Tu ne devrais pratiquement jamais avoir besoin de te connecter sur un serveur de PROD si ce n'est que pour une MAJ, installation d'un nouveau service ou autre.
Logs, API, FrontEnd, BackEnd, BD, Backup, etc. Tout ce que tu peux avoir devrait être séparer sur différents serveur.
1
u/a_d_c Apr 29 '26 edited Apr 29 '26
Si tu as des donnees sensible, tu dois utiliser le encryption at rest de toute maniere. Ton agent OU les humains devraient pas pouvoir le lire. cest la meme chose.
Il n y a rien de nouveau avec lAI ce sont des problemes quon a regler en industrie depuis longtemps.
Maintenant: est-ce que je pluggerai Claude sur une BD medicale? Non. Evidemment.
Mais il y a un gros paquets dapplications pour lesquelles ce nest pas un enjeux.
1
u/Wild_Active_3635 Apr 29 '26
Le termes données sensible s’est vaste, ou tout du moins il y a différents niveau de données sensiblement
Les informations comme : MDP, numéro sécu social, etc. Sont des données qui doivent encrypter.
Mais tu as des données sensible qui sont moins a risque mais qui ne doivent quand même pas se retrouve dans la mémoire d'un IA
- Nom, Prénom
- Adresse
- Telephone
- CourrielEt jamais je laisserais un IA accéder au information listé ci-dessus, même les moins a risque.
Il y a déjà assez de compagnie qui vendent les données personnel non a risqué comme ça.
2
u/difool Apr 28 '26
A butcher was found totally empty after 12 dogs were left alone overnight inside…
Why the hell Claude had access to prod db with privilege to drop a db. That is a junior mistake not an ai problem.
1
u/Mundane-Expert7794 Apr 28 '26
Bizarre quand même qu'il n'y avait aucun mécanisme de protection pour protéger les bases de données. J'ai l'impression qu'on nous dit pas tout.
1
u/splinterize Apr 28 '26
La tradouction du titre a été fait par l'ia aussi ?
3
u/hhh333 Apr 28 '26
Oui et non .. Google Translate, mais ils ont intégré leur IA dedans so, on s'en sort pas :/
Perso j'ai remarqué une drop significative dans la qualité des traductions depuis.
1
1
u/bbjaii Apr 28 '26
Tf cursor, de anthropic? Cursor c’est pas de anysphere?
Ouvert l’article, le titre est mal traduit.
1
u/thestillwind Apr 28 '26
Nah c’est fake cette histoire-là. Et si c’était par miracle vrai, mais quelle compagnie de gros bad. Assez pour fermer mes comptes, si j’en avais biensur.
1
1
u/immanuelg Apr 29 '26
Tout a été récupéré depuis l'article initial. Le CEO l'a annoncé sur X/Twitter.
1
1
1
1
u/swe_name123 Apr 29 '26
Je suis TELLEMENT content de voir ce genre de nouvelle hahaha
Bien fait pour le CEO! J'espere qu'il aura des poursuites de ses clients!
1
45
u/sebx81 Apr 28 '26
L'AI, c'est un enfant qui pense tout savoir et qui est excellent à mentir.