Recherche
Janusch Skubatz, expert en cybersécurité et responsable de la sécurité de l’information du groupe EOS, cheveux bruns et chemise blanche
  • L’IA générative offre de vastes possibilités.
  • Le groupe Otto, la maison mère d’EOS, a développé un outil sûr adapté aux besoins de l’entreprise.
  • Son utilisation présente des avantages pour le secteur de la gestion de créances, dont les normes sont particulièrement strictes.
Une mauvaise surprise pour la direction du groupe Samsung : au printemps 2023, des notes issues de réunions internes et des données sur les performances des installations de production se sont soudainement retrouvées sur Internet. Les coupables n’étaient pas des cyberpirates, mais des employés de l’entreprise qui avaient utilisé une IA générative. Un employé avait notamment utilisé ChatGPT pour convertir ses notes de réunion en un document fini, sans se douter que la version gratuite de l’assistant IA enregistrait toutes les informations provenant des messages de ses utilisateurs et les utilisait pour élargir ses connaissances.

Cet exemple montre que l’intelligence générative présente aussi des risques, liés notamment à une sensibilisation insuffisante des employés aux lacunes de sécurité, à l’absence de directives au sein de l’entreprise ou aux nouvelles possibilités d’attaque pour les cyberpirates. Selon une enquête menée à l’échelle mondiale par le cabinet de conseil McKinsey, 53 % des participants ayant déjà travaillé avec une IA générative considèrent la cybersécurité comme le plus grand risque lié à cette nouvelle technologie.

Part des entreprises qui considèrent la cybersécurité comme le problème le plus important :

zoomzoom
Le pourcentage de 53 % indique le nombre d’entreprises qui considèrent la cybersécurité comme leur plus gros défi.
Source: McKinsey Global Survey on AI, 2023, “The state of AI in 2023: Generative AI’s breakout year”

Une approche sûre pour l’IA générative

Parallèlement, l’IA générative offre aux entreprises un formidable potentiel d’accroissement de leur efficacité et de leur force d’innovation. Le groupe Otto a donc cherché le moyen d’exploiter les possibilités offertes par cette technologie, tout en limitant les risques qui y sont associés. La société mère d’EOS a développé sa propre IA générative, appelée « ogGPT », pour les 26 000 employés du groupe. « Nous souhaitions créer une solution adaptée aux besoins spécifiques de notre groupe en privilégiant la sécurité et la protection des données », explique Anja Körber, responsable de l’intelligence artificielle et de l’automatisation au sein du département informatique du groupe Otto. La version de ChatGPT payante pour les entreprises n’était pas envisageable, même si cet assistant IA ne stocke pas les informations contenues dans les requêtes. « Les serveurs sont situés aux États-Unis », précise Anja Körber. « Cela implique qu’en cas de doute, les employés locaux, par exemple le service d’assistance, ont accès aux données. De plus, les normes européennes telles que le RGPD ne s’appliquent pas aux États-Unis. »

Part des entreprises disposant de directives concernant l’utilisation de l’IA :

zoomzoom
Pourcentage (21) en chiffres de grande taille
Source: McKinsey Global Survey on AI, 2023, “The state of AI in 2023: Generative AI’s breakout year”
L’enquête du cabinet de conseil McKinsey montre aussi clairement qu’il existe des lacunes en ce qui concerne les directives. Le groupe Otto s’est déjà penché sur cet aspect, y compris pour le compte de ses filiales. En deux mois, les employés du groupe Otto ont non seulement développé une directive sur l’IA, mais aussi les différents éléments constitutifs d’ogGPT dans le cadre de divers projets et hackathons. Cette démarche a abouti à un cadre de base permettant une actualisation des connaissances, y compris avec des données provenant d’Internet, tout en assurant la sécurité, comme l’explique Anja Körber : « ogGPT oublie les requêtes. Nous avons la maîtrise totale des données. »

Cependant, la sécurité n’est pas l’unique atout d’ogGPT. « Nous voulions des fonctions qui correspondent à nos besoins », explique Anja Körber. Par exemple, l’assistant IA est capable de résumer le contenu d’un long courriel. ogGPT est également déjà utilisé pour rédiger une lettre d’information : alors que les lecteurs de cette lettre ne recevaient auparavant que des titres renvoyant à d’autres contenus, ils bénéficient désormais de résumés compacts de ces contenus. Cette amélioration significative aurait nécessité beaucoup trop de temps pour être réalisée manuellement.
Portrait de l’experte Anja Koerber, responsable de l’intelligence artificielle et de l’automatisation au sein du groupe Otto, avec une tresse et un blazer.

Nous souhaitions créer une solution adaptée aux besoins spécifiques de notre groupe en privilégiant la sécurité et la protection des données

Anja Körber
Responsable de l’intelligence artificielle et de l’automatisation
De plus, une solution maison réduit l’appréhension chez les employés, étant donné que l’IA générative doit venir s’intégrer dans leur travail quotidien. « Autour de cette solution maison, nous avons constitué une équipe interne d’experts et développé notre propre communauté. Celle-ci rassure de nombreux employés : si je ne trouve pas de solution, je peux demander à mes collègues. »

Selon Janusch Skubatz, directeur de la sécurité de l’information du groupe EOS, une IA générative maison est également utile pour EOS, filiale du groupe Otto. Les premiers projets internes sont déjà en cours. « Je pense que nous allons nous aussi utiliser ogGPT à l’avenir, déclare-t-il, mais les défis liés à la protection des données dans le secteur de la gestion des créances sont particulièrement ardus. Lorsque nous acquérons des prêts non performants, par exemple, nous avons accès à des données qui doivent être particulièrement protégées. » Pour cette raison, EOS est soumise à des règles plus strictes que d’autres entreprises et aussi, souvent, à des exigences contractuelles de la part de ses partenaires. « Nous devons donc examiner soigneusement si cette technologie doit satisfaire d’autres exigences », explique Janusch Skubatz.
Janusch Skubatz, expert en cybersécurité et responsable de la sécurité de l’information du groupe EOS, cheveux bruns et chemise blanche

Les questions posées sur Internet ne doivent pas comporter d’informations commerciales qui ne sont pas destinées au monde extérieur à l'entreprise.

Janusch Skubatz
Directeur de la sécurité de l’information du groupe EOS
Tant que les entreprises ne peuvent pas utiliser une version interne sécurisée de l’IA générative, Janusch Skubatz conseille aux utilisateurs de tous les secteurs de respecter des règles élémentaires. EOS et le groupe Otto dans son ensemble disposent déjà d’une politique en matière d’IA qui s’applique à tous les employés.

Extrait de la directive sur l’IA du groupe EOS

  • Agissez de manière responsable ! Ne saisissez dans des systèmes d’IA publics que des données qui pourraient sans problème être publiées sur le site web de l’entreprise.
  • Soyez vigilants ! Les réponses générées par l’IA peuvent être biaisées, inexactes ou inappropriées. Vérifiez systématiquement les résultats générés par les outils IA.
  • Faites attention ! Ne donnez jamais vos données de connexion (nom d’utilisateur, mot de passe) à des outils IA et méfiez-vous toujours des méthodes d’hameçonnage (phishing).
  • Demandez de l’aide : Si vous ne savez pas si vous êtes autorisé(e) à utiliser certaines données ou quel outil d’IA est sûr, demandez à votre responsable local(e) de la sécurité de l’information.
Janusch Skubatz estime cependant que le facteur le plus décisif est l’interaction régulière avec l’IA générative : « L’expérience est une condition préalable pour se familiariser avec la technologie et obtenir des résultats de qualité. » Il devient ainsi possible d’éviter des situations à risque comme celle rencontrée chez Samsung et d’exploiter cet immense potentiel.

Une discussion sur l’IA générative personnalisée vous intéresserait ? Contactez-nous dès maintenant.

Crédits photos : EOS
Hi