Le côté obscur de l’intelligence artificielle

Le futur ne doit plus être un temps d’avance pour les fraudeurs

Elle fait désormais partie intégrante de la vie moderne, stimulant les innovations dans les domaines de la santé, de la finance, des transports et de nombreux autres secteurs. Cependant, comme toute technologie puissante, l'IA peut également être utilisée à des fins néfastes. Nous savons que les escrocs possèdent une capacité à entrevoir, avec une certaine malice, les possibilités offertes par les nouveaux outils, laissant dans la réaction les régulateurs et autres services spécialisés dans la lutte contre la fraude. Cette prédisposition à l’adaptation en divers milieux participe d’ailleurs au succès de leur entreprise criminelle.

Les fraudeurs ont souvent su tirer profit des outils mis à disposition du grand public (du téléphone à internet, aux applications diverses et variées, sans oublier le minitel) pour tromper des milliers de victimes (particuliers, entreprises, état) dans le cadre de fraudes liées aux encarts publicitaires, à la TVA, au Co2, aux virements bancaires, etc.

Dans tous les cas, le recours à une identité fictive ou usurpée correspondait à l’une des manœuvres destinées à influencer des personnes physiques ou morales dans leur prise de décision.
L’une de ces applications illicites est l’utilisation de l'IA pour commettre des fraudes, notamment sous la forme d’escroqueries au « faux président ».

Comprendre l'arnaque du faux président

La fraude au faux président est une forme sophistiquée d’arnaque ciblant les entreprises travaillant principalement avec des fournisseurs étrangers et / ou les entreprises qui effectuent régulièrement des paiements par virement bancaire. Cette escroquerie consiste à usurper l'identité d'un cadre dirigeant, tel que le PDG, et à inciter les employés à transférer d'importantes sommes d'argent sur le compte du fraudeur.

Cela nécessite de recueillir une masse d’informations sur l’entreprise, selon un processus dénommé ingénierie sociale, qui permet à l’escroc de pouvoir répondre facilement à d’éventuelles questions de la part de l’employé contacté.

l'IA et l’arnaque du faux PDG

l'IA a considérablement amélioré l’efficacité de cette arnaque en rendant l’usurpation d’identité plus convaincante. Voici quelques façons dont l'IA est utilisée :

• Deep-fakes : l'IA peut créer de faux enregistrements audio et vidéo réalistes, appelés deep-fakes, du dirigeant ciblé. Ces deep-fakes peuvent être utilisés pour tromper les employés en leur faisant croire qu'ils reçoivent de véritables instructions de leur PDG. Une récente escroquerie basée sur ce mode opératoire a permis à des escrocs de se faire virer environ 25 M€ depuis le compte d’une entreprise implantée à Hong Kong.
• Traitement du langage naturel (Natural Language Processing) : les capacités NLP d'IA permettent aux fraudeurs d'imiter le style d'écriture du PDG en analysant leurs e-mails et messages passés. Cela rend les e-mails frauduleux plus convaincants et plus difficiles à détecter. Récemment, une mère de famille a reçu un bref appel téléphonique de son fils expliquant qu’il avait été placé en rétention lors d’un voyage au Bhoutan. Il demandait à ses parents de transférer, rapidement, la somme de 9 500 € sur un compte dédié d’une administration locale afin de régler ses frais d’avocat. Il raccrochait expéditivement et sa mère n’avait pas le temps d’échanger avec lui. Inquiète, elle finissait par joindre son fils qui voyageait effectivement dans ce pays mais qui n’était pas à l’origine de l’appel frauduleux.
• Apprentissage automatique : les capacités d'apprentissage automatique de l'IA peuvent être utilisées pour étudier le comportement et les modèles de communication du PDG, permettant ainsi au fraudeur de chronométrer et de formuler ses demandes d'une manière qui semble authentique.

Prévenir la fraude basée sur l'IA

Si l'IA a rendu la fraude plus sophistiquée, elle propose également des solutions pour lutter contre ces menaces. Voici quelques façons dont l'IA peut aider à prévenir la fraude :

• Cybersécurité basée sur l'IA : elle peut être utilisée pour surveiller le trafic réseau, détecter les comportements inhabituels et signaler les tentatives de fraude potentielles en temps réel.
• Biométrie vocale : la biométrie vocale basée sur l'IA peut aider à vérifier l'identité des individus en analysant leurs modèles vocaux. Cela peut aider à détecter les enregistrements audio deep-fake.
• Formation des employés : une formation régulière des employés pour reconnaître et réagir aux tentatives de fraude potentielles peut réduire considérablement le risque d'être victime de telles escroqueries.

Conclusion

L’utilisation de l'IA dans la fraude, en particulier dans l’arnaque aux faux PDG, met en évidence la nature à double tranchant de cette technologie puissante. Si l'IA peut être utilisée pour commettre des fraudes sophistiquées, elle offre également des outils puissants pour lutter contre ces menaces. A mesure que l'IA continue d’évoluer, il est crucial pour les entreprises de rester vigilantes et de tirer parti des solutions basées sur cette technologie pour se protéger contre les fraudes potentielles.

Et vous, avez-vous pris toutes les mesures nécessaires pour vous prémunir de potentielles attaques générées avec l’aide de cette technologie ?