Des images représentant des visages de filles au corps nu ont entraîné le départ des dirigeants d'une école privée en Pennsylvanie, provoqué une manifestation étudiante et déclenché une enquête criminelle. Un suspect mineur a été «retiré» de l’école Lancaster Country Day School et son téléphone portable a été saisi par les enquêteurs en août, a déclaré mardi Laurel Bair, détective du département de police régional de Susquehanna.Â
C’est le dernier exemple en date de la manière dont l’utilisation de l’intelligence artificielle pour créer ou manipuler des images à contenu sexuel est devenue une préoccupation, y compris dans les milieux scolaires.Â
Les forces de l’ordre américaines ont sévi contre les représentations graphiques d’enfants générées par ordinateur ainsi que contre les photos manipulées d’enfants réels. Le ministère de la Justice affirme qu’il poursuit ceux qui exploitent les outils d’IA et que les États se précipitent pour promulguer des lois pour résoudre le problème.Â
Une nouvelle loi de l’État de Pennsylvanie qui entrera en vigueur à la fin du mois prochain criminalise explicitement la création ou la diffusion de matériel d’abus sexuel sur enfant généré par l’IA.Â
Et la police en Corée du Sud s’efforce depuis sept mois de lutter contre le contenu explicite hypertruqué, avec des sanctions plus sévères, un recours accru aux agents d’infiltration et une réglementation accrue des médias sociaux. Les inquiétudes en Corée du Sud se sont intensifiées après la diffusion de listes non confirmées d’écoles avec des victimes plus tôt cette année.Â
Dans le cadre de l'enquête policière sur ce que la Lancaster Country Day School décrit comme des «photographies dérangeantes générées par l'IA», un mandat de perquisition a été utilisé cet été pour obtenir un iPhone 11 lié à un adolescent de 15 ans, selon les dossiers judiciaires. Les dossiers n'identifient pas l'adolescent.
Une femme a déclaré à la police que sa fille avait déclaré qu'un camarade de classe avait «pris des photos d'élèves et utilisé la technologie de l'intelligence artificielle (IA) pour représenter les élèves mineures comme étant nues», selon un affidavit de cause probable utilisé pour demander le mandat de perquisition.
Matt Micciche, alors directeur de l'école, a déclaré à la police que l'école avait reçu une plainte concernant les photos en novembre 2023 via le programme Safe2Say Something, mais le suspect, identifié par ses initiales, a nié les allégations, selon l'affidavit de Mme Bair.
Lorsque certains parents ont pris connaissance des photos en mai, a écrit Mme Bair, ils ont également appris que les «photographies nues par l'IA» avaient été publiées dans une salle de discussion.
Mme Bair, qui dirige l'enquête parce que le suspect vit dans la police régionale de Susquehanna La représentante du département de police de Lancaster, Heather Adams, a déclaré que l'école était choquée «par le fait que cela se produise et que cela se soit produit au sein de leur petite communauté». Elle a refusé de dire combien de filles étaient présentes sur les images, mais a ajouté que davantage d'informations sur l'affaire seraient probablement rendues publiques dans les deux semaines à venir.
Erik Yabor, porte-parole de la procureure du district de Lancaster, Heather Adams, a déclaré mardi que les procureurs du comté de Lancaster n'avaient aucun commentaire à faire sur l'enquête en cours.
Un porte-parole du bureau de la procureure générale Michelle Henry a indiqué que l'agence n'était pas en mesure de parler de renseignements ou de rapports spécifiques transmis à la plateforme Safe2Say Something, qui recueille des rapports anonymes d'étudiants et d'autres personnes sur les menaces à la sécurité.
