Tunis – Univers News. L’avènement de l’intelligence artificielle (IA) générative a ouvert la voie à d’innombrables possibilités, tant constructives que destructrices, soulignant la dualité d’un outil qui peut être utilisé pour le bien comme pour le mal. Dans le domaine de la cybersécurité, l’IA générative joue un double rôle : elle introduit de nouvelles menaces et contribue également à s’en prémunir.
L’utilisation de l’intelligence artificielle générative pour interagir avec les utilisateurs présente des dangers majeurs : la propagation de fausses informations(« hallucinations », la manipulation psychologique et l’attachement émotionnel, les atteintes à la vie privée par la fuite de données, ainsi que la reproduction de biais discriminatoires. Les acteurs malveillants peuvent exploiter l’IA pour lancer des cyberattaques. Ils manipulent des outils d’IA pour cloner des voix, générer de fausses identités et créer des e-mails de phishing convaincants — tout cela dans le but d’arnaquer, de pirater, de voler l’identité d’une personne ou de compromettre sa vie privée et sa sécurité.
Mohamed Ben Naaman, expert en cybersécurité et fondateur de l’Association tunisienne pour la protection de l’enfance et de la jeunesse contre les dangers des technologies de l’information, a mis en garde les utilisateurs d’IAG contre le risque de voir leurs interactions et leurs pensées manipulées par des algorithmes publicitaires adaptés à leur humeur. Il a expliqué que le danger des conversations ne se limite pas à l’utilisation des données personnelles ; il s’étend à la manipulation de l’humeur des utilisateurs par des algorithmes publicitaires liés à leur état psychologique, soulignant que cela pourrait exacerber des sentiments tels que la colère et la tristesse.
L’ expert en cybersécurité en a fait remarquer que certains utilisateurs pourraient être victimes d’une manipulation systématique de leurs pensées et de leurs comportements de consommation, considérant ces technologies comme un marché de l’information qui doit être utilisé de manière responsable et prudente, au moment opportun. Il a ajouté que son utilisation devrait être rationalisée pour bénéficier au destinataire et réservée aux situations urgentes et d’urgence, afin d’éviter tout risque de débordements inutiles et stériles. L’intelligence artificielle apprend les humeurs et les états psychologiques des utilisateurs, et ces interactions sont ensuite vendues à des entreprises publicitaires à des fins marketing.
Il a insisté sur la nécessité d’une interaction consciente avec l’intelligence artificielle, notamment l’intelligence générative, pour toutes les tranches d’âge, précisant que tous les groupes d’âge sont vulnérables face à des émotions fortes et que, par conséquent, les utilisateurs devraient, selon leur propre jugement, s’abstenir de converser lorsqu’ils se trouvent dans de tels états émotionnels.
Mohamed Selim
