Virginie Rozière
Directrice du Numérique - DNUM
du ministère de l'Europe et des Affaires Etrangères

La question de l'accès aux sources, que ce soit dans une logique de transparence, de démocratie

ou d'accès à la création, va se poser de manière encore plus prégnante

avec l'essor des intelligences artificielles.

Aujourd'hui, on voit que pour fonctionner et pour avoir une IA performante,

la matière première sous-jacente, c'est celle des données en nombre et en qualité

qu'on est en mesure de fournir pour alimenter les moteurs d'IA.

La question qui se pose, surtout pour un ministère comme le nôtre,

où, comme je le disais, on manipule de l'information sensible,

c'est bien le maintien de la maîtrise sur cette information.

Et donc, effectivement, le recours à des intelligences artificielles,

on va dire externes, est proscrite pour nous,

puisqu'on ne peut pas envisager de laisser toute une partie de nos informations

sortir vers des systèmes et potentiellement des entités qui pourraient en tirer bénéfice.

Le marketing de l'innovation et le déploiement dans l'espace numérique de nouveaux services

vient souvent bouleverser les chaînes de valeur.

On l'a vu avec l'émergence de ce qu'on a appelé à la fin des années 2000, au début des années 2010,

d'abord l'économie collaborative, pour se rendre compte qu'en fait,

ce n'était pas une économie collaborative, mais une économie des plateformes.

Et donc, on a vu se former un oligopole numérique autour des GAFA

avec une captation des données où nos données personnelles

sont aujourd'hui un enjeu et une valeur qui s'échangent entre les acteurs du numérique

et également une captation de l'économie de la création sur les intermédiaires numériques de bout de chaîne.

Et donc effectivement, l'Union européenne fait aujourd'hui figure un peu de résistance vis-à-vis de l'hégémonie des GAFA,

que ce soit dans la protection des données personnelles avec le RGPD,

le Règlement général de la protection des données,

ou dans la volonté de préserver la rémunération de la création avec la Directive droit d'auteur

dont j'ai eu à m'occuper pour justement maintenir la répartition de la valeur sur l'ensemble de la chaîne.

Aujourd'hui, l'arrivée des IA et notamment de l'IA générative vient poser un nouveau filtre

et une nouvelle distance entre les sources primaires,

qu'elles soient des sources d'information, des sources de données ou des sources de création,

et le consommateur ou l'utilisateur.

Si demain, Google remplace son moteur de recherche et la présentation de résultats du web

par un prompt d'IA qui fournit une information synthétisée,

il désintermédie et efface complètement les sources primaires.

Et donc la question de l'accès aux sources, que ce soit dans une logique de transparence, de démocratie

ou d'accès à la création, va se poser de manière encore plus prégnante avec l'essor des intelligences artificielles.

La matière première qui conditionne à la fois la maîtrise de l'IA et la qualité de sa production,

c'est la donnée sous-jacente.

Et donc on voit bien que c'est autour de cette donnée que se cristallisent à la fois les enjeux d'éthique

et les enjeux de souveraineté et de maîtrise.

Pour nous, au ministère de l'Europe et des Affaires étrangères, la maîtrise de notre information est centrale.

Et donc on voit bien qu'on est quelque part bridé dans une volonté qui pourrait nous amener à utiliser des IA à ce service

en déversant nos données dans un réceptacle inconnu.

Donc la maîtrise de données reste quelque chose d'essentiel.

Mais autour de la question des biais, c'est aussi cette question de maîtrise et de qualité des données qui se posent.

Quelque part, aujourd'hui, les informations qui sont ingérées par les intelligences artificielles accessibles au grand public

sont le reflet de nos sociétés et de leur fonctionnement et de la manière dont elles se conçoivent.

Et donc, quelque part, une IA aujourd'hui qui discrimine, c'est une IA qui a bien appris,

puisque le corpus de données qui lui est mis à disposition n'est évidemment pas exempt des travers qui sont ceux de nos sociétés.

Et donc, la responsabilité éthique que l'on a, elle est vraiment dans ce travail sur les données

et aussi de mettre en transparence et en conscience cette corrélation entre quelles données de base on dispose,

quel travail on fait pour les aligner justement sur des enjeux éthiques

et comment elles sont ou non mises à disposition des intelligences artificielles.