L’intelligence artificielle (IA) progresse à une vitesse fulgurante, transformant nos interactions avec la technologie et redéfinissant notre quotidien. Si ses opportunités sont immenses, ses risques le sont tout autant, notamment pour les enfants et les jeunes adultes.
C’est dans ce contexte que s’inscrit l’action d’everyone.AI, une organisation à but non lucratif dédiée à la prévention des risques et à l’encadrement de l’utilisation de l’IA pour les plus jeunes.
De retour du sommet pour l’action sur l’Intelligence Artificielle à Paris, l’association nous a partagé son action et les avancées récentes en matière de protection des enfants face à l’IA.
Une initiative née d’une expertise unique
Fondée en Californie par une équipe franco-belge, everyone.AI réunit des spécialistes de l’intelligence artificielle et des neurosciences. Parmi eux, Grégory Renard, expert en IA depuis plus de 25 ans, Mathilde Cerioli, Docteur en Neuroscience, Céline Malvoisin, Directrice Éducation, et Anne-Sophie Seret, Directrice Générale de l’entreprise à but non lucratif. L’organisation compte aujourd’hui plus de 25 volontaires, dans la Silicon Valley, en France et en Suisse.
Leur mission commune : anticiper les impacts de l’IA sur les enfants et sensibiliser les institutions et entreprises afin d’intégrer ces enjeux dès la conception des produits.
L’approche de l’organisation est centrée sur l’interaction entre l’IA et le développement des enfants et s’appuie sur une synergie unique entre technologie et sciences cognitives.
« Nous avons constaté que de nombreuses solutions éducatives basées sur l’IA étaient conçues sans une compréhension approfondie du développement de l’enfant » explique Mathilde Cerioli.
C’est cette lacune qu’everyone.AI entend combler en fournissant des recommandations aux développeurs et en sensibilisant les décideurs aux risques encourus, notamment par l’intermédiaire de webinaires et de conférences.
Identifier et anticiper les dangers de l’IA
L’entreprise à but non-lucratif apporte une approche nuancée des impacts de l’IA sur les enfants, soulignant notamment les bénéfices certains de l’IA dans l’éducation, comme par exemple pour la détection précoce des troubles neurodéveloppementaux et pour la personnalisation de certains apprentissages. Dans ses travaux de recherche, l’organisation met également en lumière des risques spécifiques liés à son usage par les enfants. Parmi les dangers majeurs identifiés :
- L’altération potentielle du développement social et émotionnel : Une interaction excessive avec des agents d’IA pourrait nuire à l’acquisition de compétences essentielles comme l’empathie ou la gestion des émotions.
- Des conséquences négatives sur le développement cognitif si les produits IAs développés ne tiennent pas compte des sciences de l’éducation et des sciences cognitives, en proposant des produits de faible qualité, remplaçant des opportunités d’apprentissage essentielles.
- La confusion entre le réel et le virtuel : Des expériences immersives en réalité virtuelle peuvent perturber la perception du monde chez les jeunes enfants.
- L’influence comportementale : Certains systèmes d’IA, mal conçus, pourraient involontairement encourager des comportements inappropriés.
« Nous avons rencontré une start-up voulant proposer des podcasts avec des voix parentales en deepfake pour rassurer les enfants en l’absence des parents. Cela pose de sérieuses questions en termes d’attachement et de sécurité », prévient Anne-Sophie Seret.
Everyone.AI insiste sur le fait que les enfants traversent des périodes critiques d’apprentissage, durant lesquelles leur cerveau est particulièrement réceptif à certains types de stimulation. Par exemple, de 0 à 6 ans, l’acquisition du langage est particulièrement intense, tandis qu’entre 12 et 14 ans, le développement des compétences sociales s’accélère. Une IA mal conçue pourrait ne pas fournir les interactions enrichissantes nécessaires à ces apprentissages.
Informer les parents et les enseignants est donc essentiel pour leur permettre de mieux comprendre ces impacts. En organisant des webinaires et des conférences dans les écoles, everyone.AI offre ainsi des clés de compréhension pour prendre des décisions éclairées sur l’usage du numérique et de l’IA.
Une approche proactive face aux réglementations insuffisantes
Si des cadres réglementaires comme le COPPA (Children’s Online Privacy Protection Act) aux États-Unis ou le RGPD en Europe existent, ils restent insuffisants face à l’ampleur des enjeux. En effet, ces régulations se concentrent principalement sur la protection des données personnelles et n’anticipent pas les impacts cognitifs et sociaux de l’IA sur les jeunes utilisateurs.
C’est pourquoi everyone.AI préfère adopter une approche proactive en travaillant directement avec les entreprises et en développant des lignes directrices éthiques et applicables. Lors de discussions avec OpenAI, l’organisation a reçu un message clair : « Ne nous donnez pas une liste d’interdictions, dites-nous comment améliorer nos modèles ». Cette approche constructive permet d’impliquer les acteurs technologiques et d’intégrer des protections directement au sein des produits.
Une coalition internationale pour une IA plus sûre
Lors du Sommet pour l’action sur l’Intelligence Artificielle organisé à Paris en février dernier, everyone.AI a lancé, en partenariat avec “Le Forum de Paris pour la Paix”, une coalition internationale soutenue par l’UNICEF et l’UNESCO regroupant 11 gouvernements (dont la France, la Norvège et le Danemark), des experts, des entreprises telles que Google, Open AI, Anthropic, Hugging Face, Vivendi, ou encore Plug and Play et plus de 20 ONG engagées pour mettre l’IA au service des enfants.
L’initiative vise à établir des lignes directrices communes entre l’industrie, les gouvernements et les experts pour les produits d’IA destinés aux enfants. Ces recommandations concrètes pourraient à terme influencer les réglementations. La coalition ambitionne également de promouvoir la recherche à long terme sur l’impact du développement de l’IA et d’améliorer la culture numérique des décideurs politiques, ainsi que des parents, éducateurs et jeunes utilisateurs.
Les prochaines étapes
Parmi ses priorités, everyone.AI prévoit d’investir dans la recherche sur les interactions des adolescents avec les agents d’IA, un sujet jugé critique. « Il existe déjà des cas d’adolescents exposés à des interactions nocives avec des IA. Nous ne pouvons pas attendre que le phénomène s’amplifie pour agir », souligne Anne-Sophie Seret.
L’organisation entend également tirer parti de la Coalition Internationale pour soutenir et amplifier les initiatives en faveur d’une IA éthique et sécurisée pour les enfants. Elle jouera un rôle clé dans la diffusion et le renforcement de propositions législatives portées par des États ou des ONG sur les normes encadrant l’IA. Enfin, la coalition mobilisera les entreprises technologiques afin de sensibiliser les startups et les gouvernements, en s’appuyant sur l’engagement des ONG pour accélérer cette prise de conscience et l’adoption de bonnes pratiques.
Everyone.AI a également développé la Fresque des Intelligences Humaines et Artificielles, un atelier d’intelligence collective inspiré de la Fresque du Climat. Destiné aux écoles, universités et entreprises, cet outil pédagogique interactif explore les enjeux de l’IA et son impact sur le développement humain. Il favorise une réflexion collective et une meilleure compréhension des opportunités et des risques, encourageant une utilisation plus éclairée et responsable de l’IA.
Un appel à l’action
everyone.AI tire la sonnette d’alarme : si aucune mesure n’est prise d’ici cinq ans, les grandes entreprises auront déjà investi des milliards dans des technologies difficiles à réguler a posteriori. L’urgence est donc d’instaurer des règles de conception éthiques dès aujourd’hui et de sensibiliser les parents, éducateurs et décideurs aux risques de l’IA sur les plus jeunes.
La prochaine échéance aura lieu le 29 octobre lors du sommet annuel du Forum de Paris sur la Paix. L’occasion de présenter les premières entreprises qui appliquent les recommandations d’everyone.AI et de la Coalition Internationale, et de continuer à mobiliser la communauté internationale sur cette question essentielle.
Comme le rappelle everyone.AI, il ne faut pas attendre que les enfants soient déjà impactés pour commencer à réagir.
Si cette cause vous tient à cœur, n’hésitez pas à apporter votre soutien en signant cette lettre ouverte déjà signée par de grands noms de l’intelligence artificielle, des sciences cognitives et des décideurs publics, afin d’amplifier leur message.
