Actus

L’agence de cybersécurité de l’UE alarme sur les risques liés à l’IA générative

Sommaire

Sommaire

Aucun article trouvé

Abonne toi, la force tu trouveras

En remplissant ce formulaire, j’accepte de recevoir la newsletter d’EtudesTech et je comprends que je peux me désabonner facilement à tout moment.

ENISA intelligence artificielle cybersecurite.

Dans le cadre d’un rapport annuel, l’ENISA, l’agence de cybersécurité de l’Union européenne a dressé la liste des nouvelles menaces liées à l’émergence d’outils d’intelligence artificielle générative. De la fuite de données à leur empoisonnement, en passant par la création de deepfakes et l’ingénierie sociale, Études Tech t’explique tout en détails.

IA générative : une menace pour les prochaines élections européennes et américaines

Face à la montée en puissance des IA génératives, en particulier des chatbots tels que ChatGPT, l’ENISA tire la sonnette d’alarme sur de potentiels risques lors des prochaines élections européennes en juin 2024. En effet, certains acteurs malveillants pourraient facilement les utiliser pour diffuser de fausses informations à grand échelle. Parmi les exemples les plus probables, il y a le deepfake (abréviation de « Deep Learning » et « Fake ») qui n’est autre qu’un enregistrement audio ou vidéo trafiqué ou entièrement réalisé par l’IA.

Dans un communiqué, Juhan Lepassaar, directeur exécutif de l’ENISA, a déclaré : « La confiance dans le processus électoral européen dépendra essentiellement de notre capacité à nous appuyer sur des infrastructures cybersécurisées ainsi que sur l’intégrité et la disponibilité des informations. Il nous appartient désormais de veiller à prendre les mesures nécessaires pour atteindre cet objectif sensible mais essentiel pour nos démocraties »

Mais les prochaines élections européennes ne sont pas les seules à être la cible des hackeurs du monde entier. Les prochaines élections présidentielles américaines auront, elles, lieu en novembre 2024. Et la crainte de voir des vidéos et images de propagande générées par l’intelligence artificielle grandit de jour en jour pour les experts de l’écosystème.

Lire aussi : Les plus grands hackers de l’histoire

ENISA alerte contre l’empoisonnement des données

Pour l’agence de cybersécurité de l’UE, le constat est sans appel : le fonctionnement même des intelligences artificielles génératives reposant sur des modèles de langages les alimentant représentent un énorme risque. En effet, puisqu’une intelligence artificielle générative nécessite d’être alimentée par d’importantes quantités de données, elles représentent à elles seules un risque sans limite pour la désinformation. Comment ? Avec l’empoisonnement des données qui les alimentent.

L’ENISA explique : « [Ils] nécessitent d’énormes quantités de données pour être correctement entraînés et obtenir une génération de données de haute qualité [….] Ils deviennent donc une cible privilégiée pour les cybercriminels car ils sont très sensibles à l’empoisonnement des données. »

La montée en puissance de l’ingénierie sociale

Dans la catégorie des cyberattaques les plus fréquentes, on retrouve un tout nouveau concept appelé « ingénierie sociale ». Ce terme regroupe l’ensemble des techniques employées par les cybercriminels pour inciter les utilisateurs peu méfiants à communiquer leurs données confidentielles. Leur objectif ? Accéder à leur appareil (ordinateur, téléphone, tablette…) et y introduire un programme malveillant.

Sans grande surprise, parmi ces techniques, les modèles d’intelligence artificielle se révèlent plus que pertinents dans le contexte de la manipulation psychologique. Comment ? Grâce à leur capacité à générer du contenu textuel digne d’un humain, mais aussi des images et des vidéos qui semblent authentiques.

Lire aussi : Comment se prémunir du scareware ?

Des cyberattaques davantage sophistiquées

Grâce à l’intelligence générative, les attaques informatiques sont de plus en plus élaborées. Dans son rapport annuel, l’ENISA explique : « Nous avons observé au moins trois domaines fortement influencés par l’IA : l’élaboration de courriels et de messages de phishing plus convaincants qui imitent de près des sources légitimes, les deepfakes qui se concentrent principalement sur le clonage de la voix et l’exploration de données pilotée par l’IA »

ENISA, un acteur majeur de la cybersécurité au sein de l’UE

Tu l’auras compris, dans la onzième édition de son rapport ETL (ENISA Threat Landscape), l’agence de cybersécurité de l’UE vise à mettre en lumière les menaces actuelles et prédominantes liées à la sécurité informatique, mais aussi les techniques d’attaque utilisées et les acteurs malveillants derrière ces pratiques. Toujours dans son rapport annuel, elle propose également des solutions pour limiter ces menaces.

Fondée en 2004, l’ENISA joue un rôle central dans le respect de la politique de cybersécurité de l’Union européenne. Elle œuvre pour accroître la fiabilité des produits, des services et des processus liés aux technologies de l’information et de la communication (TIC) grâce à des schémas de certification en cybersécurité. De plus, elle collabore étroitement avec les États membres de l’Union européenne ainsi qu’avec les organes de l’Union. Son objectif est d’assister l’Europe dans sa préparation aux défis à venir dans le domaine de la cybersécurité.

TAGS
Concours Mines-Ponts
Décryptage

Le concours commun Mines-Ponts 2024

Tu es étudiant(e) en classe préparatoire scientifique et tu souhaites poursuivre ton parcours académique au sein d’une école d’ingénieurs ? Pour cela, tu devras passer

Lire plus >

Abonne toi, la force tu trouveras

En remplissant ce formulaire, j’accepte de recevoir la newsletter d’EtudesTech et je comprends que je peux me désabonner facilement à tout moment.