Un adolescent de 13 ans arrêté en Floride pour avoir demandé à ChatGPT « comment tuer un ami en classe » : une simple « blague » qui a activé Gaggle, le logiciel de surveillance scolaire. Derrière ce fait divers se cache une révolution technologique qui protège… ou espionne ?
En bref
- Gaggle a détecté la requête en temps réel sur un ordinateur scolaire, alertant police et direction en minutes.
- L’ado, qui clamait « troller », a été menotté en classe, transformant une plaisanterie en urgence sécuritaire.
- Ce système IA scanne les interactions avec ChatGPT pour prévenir violence, suicide ou harcèlement chez les élèves.
- Entre protection des enfants et surveillance excessive, Gaggle divise parents, éducateurs et défenseurs des droits.
- Avec l’essor de l’IA en classe, ces outils pourraient-ils devenir la norme… au risque d’un « Big Brother » ?
L’affaire a éclaté début octobre 2025 à Southwestern Middle School, en Floride : un garçon de 13 ans tape innocemment ou pas sa question macabre dans ChatGPT sur un PC fourni par l’école. Résultat ? Une alerte Gaggle touche les autorités, et l’élève se retrouve en garde à vue, accusé de menace. Gaggle, logiciel pionnier utilisé dans des milliers d’établissements américains, n’est pas qu’un simple filtre : il analyse en profondeur les conversations avec des outils comme ChatGPT, Gemini ou d’autres.
Gaggle : Le bouclier IA contre les risques scolaires
Gaggle est une outil qui analyse les conversations avec des outils comme ChatGPT, Gemini ou d’autres. Il capture même les brouillons non envoyés pour détecter des signaux de détresse. Développé par une entreprise éponyme, il vise à prévenir les drames comme les suicides, les bullyings et les violences.
Gaggle n’est donc pas un gadget : c’est un écosystème complet de monitoring pour les K-12 (du jardin d’enfants au lycée). Il scrute les recherches web, e-mails, chats et surtout les échanges avec l’IA.
Imaginez : un élève tape « comment se suicider » sans cliquer « envoyer », l’algorithme le repère via des mots-clés intelligents et des patterns comportementaux, comme une recherche successive sur « hauteur mortelle d’une chute » suivie d’itinéraires vers un pont. Résultat ? Une alerte 24/7 à l’équipe de sécurité, avec preuves visuelles.
Adopté par des districts comme Hillsborough County, il a déjà sauvé des vies en intervenant avant l’irréparable.
Lire aussi :
Grokipedia, l’IA d’Elon Musk veut détrôner Wikipedia
Gaggle dénonce un ado qui écrit « comment tuer un ami en classe »
Retour sur le cas qui a fait le buzz. Le 1er octobre, l’ado entre sa requête funeste : « comment tuer un ami en classe », en pleine leçon. Gaggle, installé sur les 1 000+ devices de l’école, capte le signal en secondes. Un officier débarque, l’élève est évacué, interrogé : « C’était pour troller un pote », plaide-t-il.
Mais pour le shérif de Volusia, c’est une « urgence campus », d’où l’arrestation pour menace. Les parents ? Interpellés : « Parlez à vos enfants, ne refaites pas cette erreur. » Ce n’est pas isolé : Gaggle traite des milliers d’alertes annuelles, souvent des faux positifs, mais toujours avec un objectif clair : zéro tolérance au danger.
Gaggle, un outil de contrôle ?
Critiqué par l’Electronic Frontier Foundation, Gaggle traîne un passif. En 2023, il a retiré des termes LGBTQ+ de ses filtres et fut accusé de stigmatiser les minorités. Les faux alarms pullulent, 70 % selon certains experts, ce qui crée un climat de paranoïa.
« C’est un État surveillance dans les écoles », tonne Elizabeth Laird du Center for Democracy and Technology. Pourtant, les écoles rétorquent : avec les suicides des jeunes en hausse (+20 % post-Covid), l’IA est un allié indispensable. Gaggle répond en affinant ses algos pour plus de nuance, sans sacrifier la rapidité.
Gaggle incarne donc le double tranchant de l’IA : un rempart contre l’horreur, mais un risque pour la liberté des jeunes esprits.
Développeur web. Expert en nouvelles technologies et en informatique depuis plus de 15 ans. Geek assumé, passionné de gaming (FPS, Call of Duty). Connecté sur Twitch et les réseaux sociaux, en mode Viewer !
