IA générative et internet ouvert : ce que craint l'Arcep

Dans son rapport sur l’état de l’internet en France, l’Arcep a inclus une section sur l’IA générative. Quelle est sa position sur le sujet ?

Les IA génératives généralistes, nouvelles portes d’accès à l’internet ? En début d’année, Laure de La Raudière avait appelé à s’interroger à ce propos dans le cadre des États généraux de l’information.

Quelques semaines plus tard, l’Arcep – que préside l’intéressée – avait fait part de ses perspectives sur ce même sujet, en réponse à la consultation publique de la Commission européenne sur la GenAI.

Elle en livre une synthèse dans son dernier rapport sur l’état de l’internet en France. Avec toujours, en guise de contexte, les prévisions de Gartner. En février, le cabinet américain avait déclaré anticiper une baisse de 25 % du volume de requêtes sur les moteurs de recherche d’ici à 2026. La raison : le développement des « chatbots IA et autres agents virtuels ».

Adapter la notion de contrôleur d’accès…

L’AI Act établit certes un régime distinct pour les IA génératives généralistes, mais il se concentre sur les risques en termes de données personnelles, souligne l’Arcep. Le DMA n’aborde pas non plus l’impact de ces IA sur l’ouverture d’internet, ajoute-t-elle.

Le DMA établit la notion de contrôleur d’accès (gatekeeper). Elle qualifie des acteurs qui ont « un poids important sur le marché intérieur [de l’UE] » ainsi qu’une « position solide et durable » effective ou probable dans un avenir proche. L’Arcep en propose un équivalent pour l’IA générative : les « générateurs de contenus structurants ».

Ces derniers n’ont plus seulement la possibilité de donner accès à de l’information : ils peuvent générer des contenus ad hoc. Les corpus d’entraînement des modèles sous-jacents, les paramètres et les choix algorithmiques sont autant de sources potentielles de biais, et plus généralement de restriction d’accès à l’information d’origine.

L’Arcep craint une autre forme de restriction d’accès : les générateurs de contenu structurants pourraient faire office de verrou entre les utilisateurs et les fournisseurs de contenus qui n’auraient pas la volonté ou la capacité financière de conclure des accords avec eux. Surtout si une poignée d’acteurs domine le marché : la libre concurrence pourrait ne pas suffire à garantir une normalisation des relations. En toile de fond, les multiples deals qu’OpenAI a noués avec des médias, y compris Le Monde.

L’IA générative risque aussi d’amplifier des phénomènes déjà constatés avec des services numériques « traditionnels ». En particulier celui des bulles algorithmiques. D’autant plus que les systèmes algorithmiques concernés ont encore des difficultés à expliquer ce qui a guidé leurs recommandations, analyse l’Arcep.

… et établir des mesures spécifiques

L’autorité redoute par ailleurs que la capacité à (sur)personnaliser renforce la tendance à l’implémentation de techniques de captage d’attention. Elle pose en outre la question du modèle économique potentiel des outils de recherche assistés par IA. Vu le nombre limité de résultats par requête, il faudra considérer la place du contenu sponsorisé.

Le problème de l’ouverture d’internet fait aussi écho aux inquiétudes sur l’éthique de l’IA (risques d’introduction de biais dans les contenus produits).

Au-delà de la transparence, de l’explicabilité et d’un contrôle accru pour les utilisateur, l’Arcep suggère trois mesures spécifiques aux générateurs de contenu structurants :

– Collecter des données les concernant, pour confirmer ou non leur statut
– Envisager des règles qui rendraient possibles des accords équitables avec les fournisseurs « traditionnels » de contenus
– Favoriser la capacité des utilisateurs à basculer entre générateurs, en suivant l’implémentation des obligations de portabilité et en promouvant l’usage de standards interopérables