Aujourd’hui, l’intelligence artificielle ne se contente plus de recommander des films ou d’optimiser le trafic. Elle observe. Partout. Sur les routes, dans les supermarchés… et désormais dans les écoles. Aux États-Unis, certains établissements surveillent même les conversations en ligne des élèves, à la recherche du moindre signe de violence potentielle.

L’objectif affiché est clair : prévenir les drames avant qu’ils ne surviennent. Mais derrière cette promesse de sécurité, un autre phénomène apparaît. Ces systèmes seraient si sensibles qu’ils déclenchent des alertes en cascade — et parfois des conséquences très lourdes pour des adolescents qui n’avaient, au départ, rien d’un danger public. Une enquête récente du Milwaukee Independent met en lumière cette dérive. Le média a analysé l’usage de logiciels de surveillance déployés dans plusieurs districts scolaires américains pour scruter les e-mails, discussions en ligne et recherches effectuées sur les ordinateurs de l’école. Ces outils traquent des mots-clés liés à la violence, au suicide ou aux menaces. Résultat : un nombre impressionnant d’alertes… mais très peu de véritables menaces.

En Floride, dans le comté de Polk, Gaggle a repéré environ 500 élèves en quatre ans. À la clé : au moins 72 enfants arrêtés ou hospitalisés de force sous le régime du Baker Act, une loi qui permet l’internement psychiatrique involontaire lorsqu’une personne est considérée comme un danger pour elle-même ou pour autrui. Pour Sam Boyd, avocat au Southern Poverty Law Center, ces interventions laissent des traces durables. Beaucoup d’enfants décrivent ces examens forcés comme des expériences traumatisantes, qui aggravent leur situation plutôt que de les aider. Et souvent, les élèves ignorent tout du dispositif. Ils ne savent pas que leurs e-mails, leurs messages ou leurs recherches sont surveillés. Encore moins qu’une phrase maladroite peut déclencher l’intervention des forces de l’ordre.

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.