Minutes

VALÉRIE TRIERWEILER   Modératrice
« Nous accueillons Cédric Voisin, vice-président Plateforme & Security chez Doctolib, et Sébastien Crozier, président de la CFE-CGC Orange et président du think tank "Géopolitique du numérique". Isabelle Rauch, retenue à l'Assemblée nationale, nous a demandé de l'excuser. Elle nous a toutefois envoyé une vidéo. »

Les risques liés à l'IA — Intervention vidéo d'Isabelle Rauch

ISABELLE RAUCH   Députée · Assemblée nationale
« Concernant l'IA et ses risques, nous avons différentes dépendances structurelles. Vous l'avez vu cet après-midi, qu'il s'agisse des serveurs, des câbles, mais nous avons aussi d'autres dépendances, celles qui nous lient aux firmes étrangères avec des grands modèles de langage entraînés sur de grandes bases de données, souvent dépendantes d'intérêts commerciaux que nous ne maîtrisons pas.

Mais il y a aussi pour moi des risques beaucoup plus forts : qu'est-ce que nous sommes en capacité de faire ? Qu'est-ce que nous allons confier à ces IA génératives ou à ces IA de façon générale, au point de perdre tout esprit critique ? Le risque souverain le plus grand, c'est la place que nous voulons donner, en complément ou en substitution, à l'activité humaine. Une IA non encadrée et dérégulée peut demain placer nos capacités de décision et d'orientation dans des souverainetés floues ou franchement hostiles.

Les solutions sont de différentes natures. Il faut d'abord conscientiser. Des événements comme aujourd'hui y participent. Il faut réguler davantage et surtout faire appliquer les régulations européennes. Il faut investir dans des solutions souveraines françaises ou européennes, travailler notre capacité à lever des financements privés pour industrialiser davantage nos entreprises, et former les étudiants, les lycéens, les collégiens, mais aussi les salariés aux apports, aux fragilités et aux dépendances acceptables ou inacceptables du numérique.»
Références : Intelligence artificielle générative · Règlement européen sur l'IA (AI Act)

Dépendances critiques des plateformes

VALÉRIE TRIERWEILER   Modératrice
« Une commission d'enquête sur les dépendances structurelles et les vulnérabilités systémiques dans le secteur du numérique est en cours. Selon vous, où se situent les dépendances les plus critiques ? »

SÉBASTIEN CROZIER   Président · CFE-CGC Orange & Think Tank
« Les deux débats précédents nous ont déjà montré la problématique des infrastructures et celle des outils. La troisième table ronde doit sans doute s'intéresser aux plateformes, c'est-à-dire aux deux types de plateformes qui rythment notre vie numérique. D'une part, les plateformes économiques ou d'intermédiation qui mettent des agents sociaux en relation les uns avec les autres — Doctolib en est un bon exemple — et qui sont vitales pour l'économie. On peut penser aussi aux plateformes de paiement : seuls neuf pays sur vingt-sept en Europe disposent d'une autonomie de leur plateforme de paiement. Les autres dépendent de Visa ou Mastercard, ce qui est très interpellant, car si un bouton off était actionné de l'autre côté de l'Atlantique, il n'y aurait plus de paiement électronique dans le pays concerné.

De l'autre côté, il y a ce que l'on peut appeler les plateformes d'opinion : réseaux sociaux, médias sociaux et algorithmes, avec leur capacité à influencer les opinions. On diffuse des messages qui paraissent conformes à ce que chacun pense déjà, mais dans l'algorithme il y a 10 ou 15 % de contenus qui visent à modifier l'opinion sur certains sujets. Cela pose évidemment la question de l'ingérence et de l'influence étrangère, comme on l'a vu dans les débats aux États-Unis sur TikTok. On peut s'interroger sur la manière dont les algorithmes forgent une partie de l'opinion, notamment lors des élections.

Nos deux dépendances majeures, dans cette table ronde, sont donc d'un côté les plateformes qui ont une influence sur notre vie économique, et de l'autre celles qui ont une influence sur notre pensée et notre manière de penser culturellement. Quant à l'IA, elle répond souvent de façon biaisée par la base documentaire sur laquelle elle s'appuie, qui est majoritairement anglo-saxonne, avec une pensée anglo-saxonne. Cela nous place aussi dans une situation de dépendance. »
Références : Visa (entreprise) · Mastercard · CFE-CGC

« Si un bouton off était actionné de l'autre côté de l'Atlantique, il n'y aurait plus de paiement électronique dans dix-huit pays européens sur vingt-sept. »
— Sébastien Crozier 

Le cas Doctolib — Plateforme souveraine à l'épreuve

VALÉRIE TRIERWEILER   Modératrice
« Avec Doctolib, on est dans une plateforme d'utilité sociale et même d'utilité publique. Quelle garantie pouvez-vous donner aujourd'hui aux utilisateurs ? Et garantissez-vous de ne pas influencer le choix des médecins ? »

CÉDRIC VOISIN   VP Platform & Security · Doctolib
Le choix du médecin est parfaitement libre. Nous avons un algorithme qui permet de trouver un praticien proche de la zone géographique dans laquelle on se trouve, mais nous ne conseillons pas un docteur plutôt qu'un autre ou un spécialiste plutôt qu'un autre. Nous sommes là pour faire de la mise en relation entre patient et praticien.Quand Doctolib a été fondé, l'un des objectifs principaux était d'améliorer l'accès aux soins pour les patients et de rendre le travail des praticiens plus facile. Le quotidien d'un praticien, ce sont des journées très longues, des consultations très courtes et une forte charge administrative. Tout ce que l'on peut enlever comme charge administrative, c'est du temps rendu au patient. L'objectif de Doctolib est là.

Sur les garanties, même s'il existe aujourd'hui une dépendance à certaines technologies, l'enjeu est d'en faire une bonne utilisation. Il nous reste en France quelques champions technologiques, notamment Thales, qui permettent de réduire certains risques liés à l'utilisation de technologies qui ne seraient pas considérées comme souveraines. Notre premier devoir, c'est la transparence vis-à-vis des utilisateurs : comment la plateforme est construite, quelles garanties sont apportées sur la sécurité, et quelles garanties sont apportées sur le respect de la vie personnelle.

Les données de santé sont des données sensibles au sens du RGPD. Elles ne doivent donc pas être traitées comme des données ordinaires. Nous avons des obligations réglementaires à respecter et nous avons choisi de renforcer ce message en passant de manière proactive des certifications dans les pays où nous opérons. Doctolib est une société de droit français créée en 2013, basée à Levallois, avec environ 3 000 collaborateurs, présente dans quatre pays — France, Allemagne, Italie, Pays-Bas —, au service de 100 millions de patients et de 520 000 praticiens clients. »

« À propos de la critique d'hégémonie, on ne peut pas reprocher à une plateforme d'avoir eu une idée que les autres n'avaient pas eue, à savoir faciliter l'accès à un service. La prise de rendez-vous n'est qu'une petite partie du marché de la santé. Ce qui génère le plus de revenus aujourd'hui, ce sont les logiciels qui équipent les praticiens, c'est-à-dire la partie que le public ne voit pas. Il existe d'ailleurs des sociétés françaises qui, depuis plus de vingt ans, occupent déjà des parts de marché importantes dans l'équipement des praticiens. Si Doctolib est très visible, c'est parce que les praticiens ont estimé que la solution était meilleure que celle de la concurrence. »
Références : Doctolib · RGPD

Plateformes, monopoles et régulation

VALÉRIE TRIERWEILER   Modératrice
« Une fois identifiées toutes les dépendances, la question est celle de leurs effets : sécurité des données, accès à l'information, guerre cognitive, possibilité pour des acteurs européens d'exister face à des plateformes globales. » 

SÉBASTIEN CROZIER
« Une des raisons du succès de Doctolib, c'est justement qu'il soit seul. Sur certains marchés, quand on organise la concurrence, on détruit l'efficacité collective. Avoir une plateforme offrant une offre globale peut être un vrai bénéfice pour le pays. Imaginez quatre plateformes distinctes pour prendre rendez-vous chez un médecin : ce serait un cauchemar. Donc il faut parfois accepter qu'il existe des plateformes en situation de quasi-monopole, à condition que l'on organise la régulation.

Le débat est là : si une plateforme veut opérer dans notre pays, on peut lui fixer des règles. Par exemple : les données de nos concitoyens doivent être hébergées dans le pays concerné ; les serveurs doivent être là ; les logiciels doivent être hébergés chez nous ; et ainsi de suite. À ce moment-là, on retrouve une forme d'autonomie stratégique. On l'a déjà fait avec Airbnb, qui a dû se plier progressivement à des règles locales pour continuer à opérer.

Il ne faut donc pas avoir peur d'un État stratège et puissant sur ces questions de régulation, sans pour autant entraver l'innovation initiale. Il faut laisser les innovations se développer, puis, si elles prennent une position d'efficacité opérationnelle qui pose des problèmes économiques ou de pouvoir, les interpeller, voire les réguler. Mais il faut aussi se doter des structures adéquates.

Il faut aussi poser des questions de transparence algorithmique. Les problèmes ne sont pas nouveaux. Mais aujourd'hui, certains systèmes, notamment les réseaux neuronaux, produisent des résultats dont on ne sait plus vraiment comment ils émergent. Les États doivent reprendre la main, ce qui suppose non seulement des règles juridiques, mais aussi des instances de contrôle compétentes, avec des personnes elles-mêmes compétentes et correctement rémunérées dans la sphère publique. Sur les plateformes d'influence et les réseaux sociaux, le déficit est particulièrement fort. Il faut davantage de transparence sur les mécanismes qui nous montrent telle ou telle vidéo ou suggèrent tel ou tel contenu. »Règles nationales, règles européennes et harmonisation

VALÉRIE TRIERWEILER   Modératrice
« Quand vous vous implantez dans plusieurs pays, vous heurtez-vous à des règles d'États ? Et quelle est votre conception de la souveraineté ? »

CÉDRIC VOISIN
« Le sujet est très complexe. Le marché de la santé est très différent selon les pays. La manière d'aborder le système de santé en France n'est pas la même qu'en Italie, en Allemagne, aux Pays-Bas ou en Angleterre. Parallèlement, de nombreux projets de législation européenne sont en train de converger, mais avec énormément de dissonances entre les États.

L'exemple le plus flagrant aujourd'hui est la directive NIS 2, qui doit être transposée dans le droit national de tous les États. L'Italie l'a fait très vite, tandis que la France est très en retard. En France, on a une approche portée par l'ANSSI avec SecNumCloud, très franco-française, qui apporte des garanties fortes sur l'hébergement et l'administration des centres de données. Cette approche est en opposition avec la position défendue par l'Allemagne autour d'EUCS. Derrière ces différences, il y a aussi des choix industriels et politiques différents.

Pour des entreprises privées comme la nôtre, plus elles sont petites, plus elles sont soumises à une réglementation contraignante qui limite leur capacité à innover, car le temps et l'argent consacrés à la conformité ne peuvent pas être consacrés à l'innovation. Or les grandes plateformes ont, elles, les moyens de se conformer très vite. À cela s'ajoute le problème des investissements : en 2024, on comptait environ 40 milliards investis dans la technologie en Europe contre 170 milliards aux États-Unis.

Le vrai sujet, c'est donc l'harmonisation. On l'a relativement bien fait avec le RGPD, mais les entreprises restent soumises au règlement européen plus aux spécificités nationales. Pour une entreprise comme la nôtre, cela signifie Europe plus France, Europe plus Allemagne, Europe plus Italie, Europe plus Pays-Bas. C'est une équation très complexe à résoudre.

SÉBASTIEN CROZIER
« Si on prend du recul, on voit que le numérique fait évoluer les règles. Ce n'est pas vrai seulement en Europe. Le numérique pousse les États à harmoniser ce qui, sinon, devient trop complexe. J'ai en tête l'exemple du Brésil, où les logiques fiscales différentes entre États rendaient le commerce en ligne très difficile. Le pays a dû harmoniser son système de TVA parce que le numérique l'y obligeait.En Europe, on est un peu dans la même situation : le numérique doit nous obliger à bouger, parce qu'à un moment cela devient trop inefficace de s'adapter à une multitude de réglementations. Il ne faut pas transformer ces règles en contraintes qui empêcheraient de construire des géants européens capables d'offrir protection, emplois et autonomie stratégique face à des géants déjà unifiés et disposant d'un marché beaucoup plus vaste.Questions de la salle

Question de la salle 
« Ce qui m'inquiète, c'est qu'une entreprise étrangère, américaine par exemple, puisse prendre la main sur Doctolib. Quelle garantie a-t-on que cette entreprise reste bien française ? »

CÉDRIC VOISIN
« Il y a au moins trois réponses. D'abord, notre fondateur Stanislas Niox-Château est très attaché à son entreprise et n'a absolument pas envie de la vendre. Pour lui, c'est une mission citoyenne de continuer à fournir ce service aux Français et, demain, à l'ensemble des Européens. Ensuite, aujourd'hui, le capital est détenu à 51 % par ce qu'on appelle le friends and family, c'est-à-dire une partie des quatre cofondateurs, tous français, une partie des salariés — dont je fais partie — et des proches. Enfin, nous avons récemment fait sortir des investisseurs historiques pour faire entrer des investisseurs européens précisément afin de conserver notre autonomie face à des fonds qui seraient plutôt américains. »

Question de la salle 
« On n'a pas évoqué la dépendance à la biosphère. Le numérique entre pour la première fois dans la stratégie nationale bas carbone. Comment cela est-il pris en compte ? N'aura-t-on pas un frein au développement de l'IA à cause de sa surconsommation en électricité et en eau ? »

SÉBASTIEN CROZIER«
Vous avez parfaitement raison. On n'a pas forcément évoqué la dépendance aux terres rares, à l'énergie ou à l'eau, alors que ce sont de vrais enjeux matériels. La dépendance à l'énergie est évidente : miner des bitcoins n'est pas rentable partout selon le coût de l'énergie. Il y a donc toute une série de sujets de matérialité à prendre en compte : terres rares, énergie, eau, et d'autres facteurs encore. Le numérique, c'est notre évolution naturelle, mais il renvoie aussi à la finitude de la planète. À un moment, il faudra se demander quand le numérique est profitable au collectif et quand il devient destructeur.
Je ne suis pas totalement pessimiste sur l'IA. Chez les opérateurs, par exemple, la première recherche consiste à faire des économies d'énergie, parce que c'est le coût d'exploitation le plus important. Les générations successives de réseaux sont moins gourmandes que les précédentes par volume de données transmis. Mais oui, ce sont de vrais sujets qu'il faut traiter en conscience et en responsabilité. »

Question de la salle 
« Mon espace santé est aussi un grand succès dans la santé. Comment voyez-vous le rapport entre Mon espace santé et Doctolib ? »

CÉDRIC VOISIN
« Ce n'est pas tout à fait la même chose, mais c'est assez complémentaire. Nous sommes en contact très étroit avec le gouvernement sur ces sujets. Lorsque la digitalisation de l'accès aux documents de santé est arrivée, l'objectif a été de construire de l'interopérabilité. Pour Doctolib, le but n'est pas d'être une plateforme fermée, cela n'aurait aucun sens.

L'État propose des services que nous n'avons pas vocation à proposer nous-mêmes. Nous avons donc de l'interopérabilité avec Mon espace santé, comme avec les formalismes d'échange d'informations qui existent depuis longtemps dans les hôpitaux.

L'objectif est de rendre tout l'écosystème interopérable. Le système de santé, d'un point de vue numérique, est vieillissant. Les derniers investissements massifs remontent à plus de vingt ans. Quand on regarde comment sont équipés les praticiens et les hôpitaux, la fracture numérique est frappante. Il y a donc un immense chantier de rénovation numérique de l'accès aux soins, des hôpitaux et des cabinets, auquel nous participons en essayant d'être le plus interopérables possible. »

SÉBASTIEN CROZIER
« La question renvoie à un enjeu très sociétal. Mon espace santé représente une masse d'informations exceptionnelle. La France est, après la Chine, l'un des pays qui possèdent le plus de données de santé structurées. La vraie question, c'est de savoir si l'on organise une réglementation qui protège les individus au point d'empêcher certains travaux de recherche, d'analyse statistique ou de détection de causalités, ou si l'on accepte de traiter ces données dans l'intérêt général.

Aujourd'hui, on sait par exemple qu'une très grande partie des maladies qu'une personne aura dans sa vie est liée à celles qu'ont eues ses parents. Cela renvoie à l'hérédité. Pourtant, on n'a pas encore réellement organisé toute la chaîne de prévention, d'analyse, de traitement et d'exploitation de ces données. La question est donc de savoir si l'on va gérer le bien commun ou surprotéger les individus au point de limiter l'innovation. Certains pays régulent moins et innovent davantage, puis imposent ensuite leurs modèles ou leurs découvertes aux autres. »

CÉDRIC VOISIN
« On a quand même en France des outils intéressants. La CNIL a créé un référentiel d'entrepôt de données de santé qui permet d'avoir des garanties suffisamment solides pour traiter des données et faire de l'analyse statistique. La médecine est une science très ancienne, avec une profondeur de données gigantesque. Nous avons d'ailleurs créé un partenariat avec l'Inria et le CHU de Nantes pour construire une intelligence artificielle qui puisse bénéficier de tout cela pour le bien commun. On n'est donc pas si mal placés en France sur ce point. »
Références : Mon espace santé · CNIL · Inria · Digital Services Act (DSA) · Digital Markets Act (DMA) 

« Il ne faut pas avoir peur d'un État stratège et puissant sur ces questions de régulation. Il faut laisser les innovations se développer, puis les réguler quand elles posent des problèmes de pouvoir. »
— Sébastien Crozier