[Cyber] Revue de presse (spéciale IA) Semaine 22 2023
Edito :
Bienvenue dans notre nouvelle revue de presse cyber consacrée encore à l’intelligence artificielle. Ces articles mettent en évidence les enjeux juridiques, les préoccupations liées à la sécurité et la nécessité d’une régulation équilibrée dans le domaine de l’intelligence artificielle. Pour les autres articles, nous retiendrons la stratégie cloud du gouvernement et l’anniversaire du RGPD qui fête ses 5 ans. L’occasion de rappeler que les cyberattaques ne diminuent pas, à l’instar de celle perpétuée contre l’agence Voyageurs du monde qui a vu 8000 copies de passeport sous sa responsabilité publiés sur le Darknet. Bonne lecture.
Focus sur l’intelligence artificielle :
Quel cadre juridique européen pour l’IA ? _ publié le 25/05/2023 : Le PDG d’OpenAI, Sam Altman, a déclaré que l’entreprise envisageait de quitter l’Europe si elle ne pouvait pas se conformer aux réglementations à venir sur l’intelligence artificielle (IA) de l’Union européenne. L’UE travaille sur un projet de loi pour régir l’IA, exigeant notamment la divulgation des matériaux protégés par le droit d’auteur utilisés pour développer les systèmes d’IA génératifs. Altman s’est exprimé en faveur d’une réglementation plus stricte de l’IA lors d’une audience devant le Congrès américain, mais il s’oppose au projet de loi européen tel qu’il est formulé. Certaines critiques estiment que ses appels à une réglementation sont une manœuvre pour freiner la concurrence.
ChatGPT, les entreprises doivent prendre le pli _ Publié le 30/05/2023 : L’article met en évidence le débat autour de l’intelligence artificielle générative (IA générative) et les restrictions d’accès à des outils tels que ChatGPT en entreprise. Les organisations doivent évaluer les risques liés à la protection des données et aux conséquences potentielles de l’utilisation de l’IA générative (Shadow AI), et ajuster leur stratégie en conséquence.
https://www.cbnews.fr/tribune/image-faire-pause-avec-chatgpt-non-entreprises-doivent-accelerer-76885
Un code de conduite commun entre UE et USA en matière d’IA ? _ Publié le 31/05/2023 :
Suite à une déclaration de 350 signataires (parmi lesquels figuraient Sam Altman, PDG d’OpenAI, la société derrière le populaire bot de conversation ChatGPT, et Demis Hassabis, PDG de Google DeepMind, la division IA du géant technologique déclaration commune), Jen Easterly, directrice de l’Agence de cybersécurité et de sécurité des infrastructures (CISA), a exhorté les signataires à s’autoréguler et à collaborer avec le gouvernement. Elle a demandé aux personnes concernées de réfléchir à l’autorégulation et aux mesures qu’elles peuvent prendre pour ralentir le développement de l’IA afin d’éviter un événement d’extinction pour l’humanité.
Le machine learning au service de la cybersécurité des organisations _ Publié le 31/05/2023 : L’article revient sur le machine learning, ou apprentissage automatique, est une technique d’intelligence artificielle qui permet à un système d’apprendre à partir de données et de faire des prédictions précises. En matière de cybersécurité, le machine learning trouve de nombreuses applications :
- Surveillance en temps réel des emails pour détecter les tentatives de phishing grâce à des techniques de traitement du langage naturel et de détection d’anomalies.
- Lutte contre les bots qui représentent un quart du trafic web en identifiant les modèles de réponse, la variabilité des messages et les schémas temporels.
- Détection de logiciels malveillants, y compris ceux qui sont polymorphes et peuvent contourner les contre-mesures de sécurité, en utilisant des techniques telles que les machines à vecteurs de support, les réseaux neuronaux convolutifs et les arbres de décision.
- Utilisation de modèles d’évaluation des risques pour renforcer les paramètres de sécurité de l’entreprise, en identifiant les menaces prioritaires et en adaptant rapidement les outils de sécurité, tels que l’authentification multifactorielle, à grande échelle
https://securityintelligence.com/posts/machine-learning-applications-in-the-cybersecurity-space/
Les EDR, des technologie précurseurs en matière d’IA _ Publié le 31/05/2023 : L’article revient sur le rôle crucial de l’intelligence artificielle (IA) dans le domaine de la détection et de la réponse aux incidents sur les endpoints (EDR) en cybersécurité. L’EDR est une technologie qui surveille et protège les appareils physiques tels que les téléphones mobiles, les ordinateurs portables et les terminaux de point de vente. L’IA joue un rôle clé en permettant aux algorithmes de détecter les comportements anormaux et de réagir aux menaces de manière automatisée. Elle améliore la détection des menaces, accélère la réponse aux incidents et permet de prendre des mesures proactives pour renforcer la cybersécurité des endpoints.
Bientôt une IA à la carte pour les organisations _ Publié le 31/05/2023 : L’entreprise de cybersécurité CrowdStrike travaille en collaboration avec Amazon Web Services (AWS) pour développer des applications puissantes d’intelligence artificielle (IA) générative afin d’aider les clients à accélérer leurs parcours dans le cloud, la sécurité et l’IA. Cela comprend à la fois des applications d’IA générative liées à la cybersécurité et des solutions de sécurité cloud-plus-cloud conçues pour aider les clients à construire et sécuriser leurs propres applications d’IA générative.
Le Federated learning, une approche décentralisée de l’IA_ Publié le 02/06/2023 : Le federated learning est une approche dans le domaine de l’intelligence artificielle qui permet un apprentissage collaboratif sur des appareils décentralisés. Il répond au besoin crucial de protéger la confidentialité des données face aux risques de cybermenaces. En évitant le transfert de données sensibles vers des centres de traitement centralisés, cette approche limite les opportunités de compromission de la sécurité. En permettant aux appareils décentralisés de collaborer de manière sécurisée, le federated learning réduit les vulnérabilités potentielles liées à la collecte et au transfert de données, renforçant ainsi la résilience face aux attaques cybernétiques.
https://www.techopedia.com/how-federated-learning-addresses-data-privacy-concerns-in-ai
La restriction des IA générative en organisation en question _ publié le 01/06/2023 :
De nombreuses entreprises restreignent l’utilisation d’outils d’IA générative tels que ChatGPT en raison des préoccupations concernant les fuites de données et des doutes quant à la sécurité et à la fiabilité de ces outils. Les risques potentiels de divulgation de données sensibles et les réponses imprécises générées par ces outils sont les principales raisons derrière ces restrictions. Les entreprises cherchent à préserver leur réputation en développant leurs propres outils d’IA générative internes, afin de garantir la protection des données confidentielles et de minimiser les risques cybernétiques.
https://www.techopedia.com/here-is-why-companies-are-restricting-the-use-of-generative-ai-tools
Les cyberattaques dans la presse :
31/05/2023 : Le site de La Poste a été victime d’une cyberattaque menée par le groupe de hackers « Mysterious Team Bangladesh« . L’attaque a été réalisée sous la forme d’une attaque par déni de service (DDoS), rendant le site temporairement inaccessible. La cyberattaque aurait été motivée par des propos tenus sur Twitter par un spécialiste français de la cybersécurité, selon les revendications du groupe. La Poste a qualifié l’incident de simple « incident technique » et a rétabli le fonctionnement du site dans l’après-midi.
01/06/2023 : Suite à une cyberattaque menée par le groupe de pirates Lockbit contre l’agence de voyages Voyageurs du Monde, environ 8 000 passeports français ont été publiés en ligne sur le darknet. L’agence a refusé de payer la rançon exigée par les pirates.
01/06/2023 : Le CHR Sambre-et-Meuse (Belgique) victime d’une cyberattaque. : Une semaine après une cyberattaque au Centre Hospitalier Régional Sambre et Meuse (CHRSM), l’hôpital fonctionne toujours en mode dégradé, sans connexion internet ni téléphonie fixe. Seuls les extrêmes urgences et les accouchements sont actuellement pris en charge.
Autres articles :
Le RGPD fête ses 5 ans _ Publié le 02/06/2023 : L’article fait le bilan du règlement général sur la protection des données (RGPD) cinq ans après son entrée en vigueur. Le RGPD a réussi à harmoniser les règles de protection des données au sein de l’Union européenne, facilitant ainsi les échanges de données. Malgré ses succès, le RGPD doit encore relever des défis tels que l’adaptation aux évolutions technologiques et la régulation des IA génératives. Les autorités doivent également faire face à la difficulté de faire respecter le RGPD par les grandes entreprises technologiques.
Quelques conseils de bases pour les nouvelles entreprises : L’article pose les piliers fondamentaux de la protection des données par le biais de mesures techniques telles que l’installation de pare feu, la sécurisation des wifi, le VPN, la mise à jour régulière des équipements, la séparation et la surveillance des réseaux. A cela s’ajoutent l’établissement de mesures organisationnelles et la formation du personnel aux bonnes pratiques.
https://www.planetegrandesecoles.com/protection-donnee-data-entreprise-cyber-attaque
Le gouvernement précise sa stratégie cloud_ publié 02/06/2023 : Le gouvernement français a publié une circulaire pour préciser sa stratégie cloud en ce qui concerne les données sensibles. Selon cette circulaire, les données sensibles doivent être hébergées chez un fournisseur labellisé SecNumCloud, sauf dérogation. La circulaire distingue deux cas de figure : les données relevant de secrets protégés par la loi et les données nécessaires à l’accomplissement des missions essentielles de l’État.
