ChatGPT et autres outils d’IA– comment gérer les risques en tant que parents

Pixabay

ChatGPT et les autres outils d’intelligence artificielle (IA) sont omniprésents dans notre quotidien. Aux quatre coins du monde, l’impact de l’IA sur notre société constitue une source d’inquiétude. Malgré l’enthousiasme pour le progrès technologique, il convient aussi d’examiner les risques inhérents à l’IA et la manière dont les parents peuvent « aborder » cette thématique avec leurs enfants.

Utilisation de longue date de l’IA par les médias sociaux

Cela fait longtemps que des plateformes telles que TikTok, Instagram et Snapchat recourent à l’intelligence artificielle (IA), notamment pour influer sur l’expérience utilisateur. Elles recommandent certains contenus, tentent de filtrer ceux qui sont inappropriés et injectent des publicités ciblées et adaptées dans les flux des utilisateurs. Les images ou vidéos publiées sont analysées afin de proposer des effets, des filtres ou des sous-titres adaptés. Ces mécanismes se déroulent en arrière-plan et l’utilisateur ne les associe pas nécessairement à l’IA. Les fonctionnalités en question relèvent de ce que l’on appelle les « IA faibles », conçues pour résoudre des problèmes spécifiques, par exemple pour sélectionner des publicités personnalisées.

À l’heure actuelle, d’innombrables nouvelles fonctionnalités sont lancées avec une référence explicite à l’IA, dont les générateurs d’images, les chatbots ou les personnages crées par IA, qui peuvent par exemple être utilisées comme influenceurs.

  • TikTok a intégré un générateur d’images sur sa plateforme. En s’appuyant sur l’intelligence artificielle, cet outil génère des images à partir de descriptions textuelles d’images que les utilisateurs peuvent ensuite employer comme arrière-plan. Dall-E ou Midjourney sont d’autres générateurs d’images connus.
  • Snapchat utilise MyAI, un bot similaire à ChatGPT. Cet outil cherche à simuler des communications semblables à celles que l’on peut avoir avec des amis. On peut par exemple lui poser des questions, lui demander de créer un nouveau snap ou de rechercher du contenu dans l’application.
  • Sur Instagram, on trouve des représentations de personnes générées par IA. Les entreprises ont recours à ces représentations. Elles permettent aux grands groupes de paraître plus accessibles et de ne pas « dépendre » d’une personne en chair et en os. De plus, la personne générée par ordinateur peut être créée de toutes pièces selon les souhaits de l’entreprise. Les contenus promus par ces influenceurs générés par IA continuent toutefois à être créés par des êtres humains, par exemple dans des agences de publicité. Seule l’apparence de ces personnes est générée par ordinateur, comme dans un jeu vidéo.

Risques liés à l’utilisation des nouvelles fonctionnalités de l’IA

Ces nouvelles fonctionnalités peuvent s’accompagner de certains risques, dont l’atteinte à la vie privée, la désinformation, les deepfakes ainsi que le cyberharcèlement.

  • La protection de la vie privée constitue un enjeu majeur pour les produits et les services reposant sur l’IA, qui collectent souvent de grands volumes de données personnelles. Il est par conséquent difficile de garder le contrôle sur l’utilisation qui en est faite.
  • Les générateurs d’images reposant sur l’IA , par example, permettent de créer plus facilement des contenus qui ne reflètent pas la vérité. La désinformation et les deepfakes peuvent ainsi être diffusés de manière ciblée.
  • L’une des raisons pour lesquelles le cyberharcèlement est si répandu est le sentiment d’anonymat dont l’auteur jouit sur la toile. Ce sentiment peut être renforcé par l’IA, car on peut par exemple dissimuler son identité derrière des personnes générées par ordinateur. En outre, des « attaques » à grande échelle peuvent être automatisées grâce à l’intelligence artificielle et leur portée renforcée.

Comment pouvez-vous, en tant que parents, gérer les risques liés aux fonctions de l’IA ?

  • Protection des données : expliquez à vos enfants qu’ils doivent se limiter au strict minimum quand ils saisissent des informations sur ChatGPT et les autres outils basés sur l’IA, et qu’ils ne doivent pas transmettre de données confidentielles ou personnelles aux chatbots.
  • Attitude critique : faites comprendre à vos enfants que les chatbots tels que ChatGPT sont des machines et qu’ils ne sont pas en train de communiquer avec de vraies personnes. Les chabots peuvent fournir des informations erronées. Les enfants doivent par conséquent toujours soumettre à un examen critique les informations fournies par les chatbots et les comparer à d’autres sources.
  • Utilisation responsable des images générées par IA: montrez à vos enfants que les images créées par des outils tels que Dall-E ne reflètent pas la réalité et qu’il s’agit de fausses images. Quand les enfants diffusent de telles images, ils doivent donc toujours préciser qu’il s’agit d’images artificielles.
  • Ne pas porter préjudice à d’autres personnes: assurez-vous que vos enfants ne dénigrent personne. Bien que les images générées par IA puissent être amusantes, elles ne doivent pas être diffusées au détriment de tierces personnes. Car, une fois transmises, ces images peuvent porter préjudice à d’autres personnes.

Service de consultation

  • La BEE SECURE Helpline se tient à votre disposition du lundi au vendredi de 9 à 16 h. Les consultations sont anonymes et confidentielles. Si vous préférez écrire plutôt que de téléphoner, vous pouvez le faire à tout moment moyennant le formulaire suivant.

Sources

Ce texte a été adapté à partir d’articles de nos partenaires saferinternet.at et klicksafe.de

klicksafe.de:

saferinternet.at: