IA générative : les entreprises négligent-elles la sécurité ?

ChatGPT, Bard, MidJourney. À moins que vous n'ayez vécu dans une grotte ces derniers mois, ces noms évoquent très certainement quelque chose pour vous. En effet en 2023, la plupart des secteurs d'activité, fonctions ou poste ont consacré une part significative de leur réflexion à anticiper comment ils allaient pouvoir exploiter ce type d'outils d'intelligence artificielle générative (IA générative).

Mais au-delà de l'effervescence médiatique, quelles sont les réactions concrètes des entreprises face à la montée en popularité de l'IA générative ? Ont-elles réussi à trouver un équilibre entre les risques et les avantages qu'elle offre ?

Intégration de l'IA générative : une adoption rapide

Les investissements des entreprises dans les solutions d'IA générative à travers le monde sont en plein essor. Selon les prévisions d'IDC, ces investissements augmenteront de 127 milliards de dollars entre 2023 et 2027. Le constat est clair : les entreprises du monde entier se tournent de plus en plus vers les outils GenAI.

Nos recherches montrent que la quasi-totalité (95 %) des responsables informatiques utilisent déjà les outils d'IA générative d'une manière ou d'une autre. Près de quatre entreprises sur cinq (78 %) se servent de l'IA générative pour analyser des données (principal cas d'utilisation de ces entreprises).

Près de la moitié d'entre elles font appel à l'IA générative pour développer des services de R&D (55 %) et de marketing (53 %), tandis qu'un peu plus de deux sur cinq ont recours à ces outils pour rationaliser les tâches de l'utilisateur final (44 %) et la logistique (41 %).

Pour rester compétitif dans le monde numérique d'aujourd'hui, il est nécessaire de rester au fait des technologies de pointe, mais il est également essentiel de trouver un équilibre. D'ailleurs, la sécurité est un facteur indispensable à prendre en compte.

Bien que les chiffres soient très élevés, 89 % des responsables informatiques interrogés admettent que leur entreprise considère que les technologies de l'IA générative représentent un risque pour la sécurité. Ils sont presque la moitié (48 %) à estimer qu'à l'heure actuelle, la menace pourrait l'emporter sur les opportunités que ces outils pourraient offrir.

Ce constat souligne un écart entre ce qu'ils pensent et ce qu'ils font réellement, étant donné que seulement 5 % d'entre eux déclarent que leur entreprise limite l'utilisation de ces outils, préférant patienter et observer l'évolution de la technologie, voire la bloquer complètement. Il semble que l'adoption précoce de l'IA générative soit moins réfléchie que nous le souhaiterions en termes de gestion des risques.

Entre crainte et action : le grand écart

Les principales préoccupations des entreprises qui n'ont pas encore adopté l'IA générative concernaient la crainte potentielle de perdre des données sensibles, le manque de ressources pour en surveiller l'utilisation, ainsi que le manque de compréhension des risques et des avantages qui y étaient associés.

Quand une nouvelle technologie fait son apparition, il est crucial de comprendre les problèmes de sécurité spécifiques qu'elle pose, de manière qu'ils n'éclipsent pas son potentiel.

Doucement mais surement

Si l'on regarde de près qui prônait une adoption rapide de l'IA générative, les résultats ont de quoi surprendre. Fait intéressant, 59 % des responsables informatiques ont affirmé être à l'origine de cette adoption, tandis que seulement 21 % ont répondu à des demandes émanant de leurs responsables commerciaux.

L'intérêt suscité par les employés en général a été encore plus limité, ne représentant que 5 %. La situation, semble-t-il, tient moins à la « pression » exercée pour introduire de nouvelles technologies qu'au « désir » des équipes informatiques de suivre le rythme de l'innovation numérique.

En effet, si ce sont des équipes informatiques à l'origine de cette adoption précoce, les responsables informatiques et les dirigeants d'entreprise devraient être rassurés.

En d'autres termes, on peut ralentir de manière stratégique l'adoption de l'IA générative en donnant aux équipes informatiques le temps nécessaire, une vraie fenêtre d'opportunité, pour perfectionner leurs mesures de sécurité avant que les vulnérabilités ne se transforment en crises.
Mais la fenêtre se referme car 51 % des personnes interrogées s'attendent à ce que l'intérêt pour les outils GenAI augmente de manière significative d'ici la fin de l'année.

Bannir totalement son utilisation n'est pas non plus la solution car les entreprises pâtiraient alors d'un handicap concurrentiel substantiel. Il est préférable d'opter pour une mise en oeuvre un peu plus lente, plus stratégique et plus systématique. Un autre vieil adage, « hâtons-nous lentement », prend ici tout son sens.

Inverser la donne : de la menace à l'opportunité

Les règles concernant la gouvernance de l'IA générative sont cruciales, car la manière, le lieu et la raison pour lesquels l'outil est utilisé seront spécifiques à votre entreprise. Si aucune ligne directrice en matière de gouvernance n'est encore établie, ou si elle doit être renforcée, une excellente approche consiste à réunir un groupe d'experts interfonctionnels de l'entreprise (et pas seulement du domaine informatique) pour former une « équipe d'intervention ».

Cette équipe sera en mesure de formuler des règles de sécurité et de confidentialité pour les nouveaux déploiements de l'IA générative. Elle prendra alors des décisions sur la mise en oeuvre des solutions et s'occupera de pallier les lacunes actuelles en matière de compréhension technologique.

En fin de compte, la gouvernance de l'IA générative se résume à protéger les données. La première étape cruciale est donc la classification des données, d'autant plus que, pour l'instant, seulement 46 % des personnes interrogées sont convaincues que toutes leurs données ont été classifiées. Les données correctement classées par catégorie et par niveau de confidentialité sont plus faciles à protéger.

Chaque fois qu'une nouvelle technologie voit le jour, elle s'accompagne de cas d'utilisation variés. Mais avec les bonnes mesures de sécurité en place, les entreprises peuvent se donner les moyens d'exploiter le potentiel de l'IA générative en toute sécurité, de manière responsable et de faire de ce qui semble de prime abord une menace, une opportunité.

Sam Curry, VP et RSSI Groupe - Zscaler.