4.1 – Quel écosystème autour des données industrielles et personnelles ?

 

Sylvain Delaitre, ingénieur chercheur à Thalès, aujourd’hui en charge de la prospective sur les nouveaux services et la maintenance du futur à la direction du marketing de Thalès.

 

Paru dans la Presse le 13 janvier 20 : « À cause de serveurs mal sécurisés, plus d’un milliard d’images médicales sont exposées sur Internet ». Cette brève renvoie directement sur « Quel écosystème on se donne autour des données industrielles et Personnelles ? ».

 

Aujourd’hui, ce système s’articule essentiellement autour  :

• des rapports aux Gafam et autres « opérateurs du Web » (où nos données personnelles sont clairement la richesse exploitée par les opérateurs) ;
• au stockage externe ou « virtualisé » de données comme le « cloud » (complexifiés par le fait qu’il n’y a pas de Cloud souverain en Europe…) ;
• au respect de la vie privée (rien ne s’efface, à moins d’un plantage …).

 

Partons du cas de la société civile, car, s’agissant des données, nous sommes dans le cadre d’un continuum « données personnelles » – « données industrielles » – « données régaliennes ». La récente directive RGPD, opérationnelle sur toute l’Europe, remet la protection des données personnelles au centre du jeu. Il s’agit essentiellement de protéger la vie privée des citoyens et d’éviter des utilisations dissimulées ou abusives de ces données. Le but ultime étant d’empêcher le pillage de nos données personnelles pour des intérêts commerciaux ou liberticides. Mais alors, comment assurer la cohérence d’un écosystème des données, où les données portent en elles-mêmes plus d’information que la somme des données individuelles ? (le tout est plus que la somme des parties : c’est le crédo des Big data, et de l’analyse des données massives). Comme exemple, citons le cas d’épidémiologistes qui voudraient étudier de façon macroscopique des populations, pour en tirer des lois sur la propagation d’une épidémie, ou sur la baisse de protection d’une vaccination. L’enjeu est complexe, il s’agit d’une part de protéger tous les citoyens dans leur intégrité physique et médicale (non divulgation et protection de l’intimité), mais aussi d’autre part de dégager des lois (prédiction, modélisation, tests d’hypothèse) en utilisant les analyses sur les données massives.

 

Pour cela, les scientifiques disposent de techniques d’anonymisation des données – tout en conservant les causalités et les corrélations, et qui garantisse l’impossibilité de remonter à l’individu à partir des résultats macroscopiques. Voilà ce qui reste possible, pour préserver l’intégrité et la liberté des citoyens. Si on aborde maintenant la dimension industrielle de nos Filières (composants électroniques, télécoms, automobile, chaîne de sous-traitants, chimie, pharmacie …) il s’agit de permettre à nos industries de s’affranchir des Gafam d’un côté (préempteurs et prédateurs des données personnelles mais aussi industrielles) et des « backdoors » de l’autre (les officines de la NSA, tels que Palantir… cf. E. Snowden).

 

La situation est encore plus complexe, car nos industries sont interconnectées via des Services de gestion et de management des projets (tels que SAP, ERP, Oracle…) et risquent donc très assujetties aux fournisseurs de ces SCADA (rappelons-nous que l’usine iranienne d’enrichissement d’uranium qui a été piraté par un virus malveillant en 2014, l’avait été via un logiciel de SCADA).

 

Quelques notions sur les SCADA, ERP et ce qu’on appelle l’« usine 4.0 »… Aujourd’hui, dans les processus de fabrication industrielle, le concept d’usine 4.0 est une abstraction qui cherche à décrire une « usine idéale » où tous les procédés (depuis la création/ conception, jusqu’à la gestion des stocks, des fournisseurs, et du Service client) seraient pilotés par les couches logicielles en pyramide. La base de la pyramide étant occupée par le matériel (Hardware), et les couche basse de logiciel (logiciels « machine » et enfouis). Puis le milieu, par le middleware, qui représente les différentes couches d’interfaces logicielles (les Operating Systems) des différents outils de production. Et, vers le haut, les SCADA, qui pilote le cadencement et l’ordonnancement des chaînes de productions, et interconnectent les différents niveaux d’information. Cela reste partiellement une utopie (méfions-nous du buzz…) ; il n’empêche qu’il est indispensable de maîtriser les SCADA et les outils tels que les ERP, surtout s’il s’agit de domaines sensibles (défense, sécurité, aérospatiale, médical…).

 

N’oublions pas que cet écosystème des données doit répondre au besoin social d’une économie des données orientées / enjeux de santé, amélioration des conditions de vie, vraie facilitation des mobilités (différent de la philosophie de Waze), et il doit être au service de l’amélioration du bien être.

 

Exemple de la Détection de panne et de l’optimisation des réseaux = Améliorer la durée de vie des objets du quotidien (vrai Service Client), enjeux énergétique et écologique, amélioration du recyclage… Au-delà des enjeux des données personnelles et médicale, au-delà de besoin d’indépendance de nos filières industrielles, on peut également aborder le cas du militaire et du cyber, où les exigences précédemment décrites sont exacerbées :

• « Cloud » militaire ? (c’est encore un « concept », et l’Europe manque cruellement d’outils « souverains »
• Operating System souverain (OS Souverain) = il s’agit d’être indépendant des Windows et Apple, et de redonner du contenu aux Systèmes d’exploitation et Logiciels Libres
• Processeurs souverains = il s’agit d’être indépendant des puces processeurs fabriquées par Intel (USA) ou Lenovo (Chine)… En Europe, il ne reste plus que ST Micro, et des fabricants comme SOITEC qui seraient à la base de la reconstruction d’une filière électronique indépendantes, en coopération, par exemple, avec les gens compétents du CEA, de Thalès, ATOS… Mais il y a urgence, car ce type d’industrie peut devenir la proie d’un prédateur non indépendant…
• Désensibilisation des données = cette technique rejoint la technique d’anonymisation des données. La généralisation Détection de pannes ou de failles (ou de menaces) notamment à base d’AI et logique d’apprentissage et de détection de signaux fiables, mais sans interférer avec les missions opérationnelles (sensibles) permettront la sécurisation des missions régaliennes.

4.2 – Quels moyens et quelle stratégie pour la recherche ?

 

Sylviane Lejeune, membre du CESE (Conseil économique Social et Environnemental) Rapporteure de la contribution annuelle du CESE sur l’effort national de recherche (RAEF 2015-2020) et de la saisine LPPR de 2020.

 

Pour ne pas perdre son indépendance décisionnelle sur les transformations de la société, la France ne peut se contenter d’être un leader de l’éthique de l’IA, axe privilégié du rapport de Cédric Villani à partir duquel le gouvernement a défini sa stratégie nationale de l’IA « AI for Humanity » en mars 2018. Si nous partageons bien entendu cette dimension sociétale majeure de l’IA qui doit être au service du bien commun et de la société, nous devons -pour la garantir d’ailleurs- maîtriser d’abord certains processus et filières industrielles et pour ce faire, consolider et développer notre recherche.

 

Derrière les technologies du numérique, dans le contexte de la domination des GAFAM, se développe tout d’abord toute une industrie avec ses savoir-faire, ses brevets, ses chercheurs et ses ingénieurs sans laquelle rien ne serait possible. Or notre pays a laissé filer plusieurs batailles critiques, celles des fabricants de PC, des grands fournisseurs de logiciels, des composants électroniques, des moteurs de recherche, du logiciel libre… La France, et plus largement l’Europe, n’investit pas assez dans ses filières industrielles, parmi lesquelles la filière microélectronique et la production des composants revêtent un enjeu d’indépendance pour l’appropriation, la maîtrise et le développement des activités liées à l’IA. La qualité de l’industrie française et européenne ne doit pas être bradée dans des opérations financières plaçant le pays, et l’Europe, en dépendance de puissances étrangères, et obérant ainsi gravement toute possibilité d’un redressement d’une industrie nationale.

 

Réaffirmer le rôle de l’État afin de disposer d’une véritable politique d’indépendance suppose d’instaurer un grand programme volontariste orchestré par la puissance publique.

 

Il faut tirer les enseignements des succès obtenus dans l’aéronautique, le spatial ou le nucléaire, grâce à la mise en œuvre de programmes publics d’ampleur qui ont permis dans la durée, une qualité des efforts de recherche, d’investissement, en intégrant la pluridisciplinarité nécessaire pour développer l’IA.

 

La stratégie nationale IA qui se met progressivement en place n’a pour l’instant ni l’ambition, ni l’envergure d’un grand programme qui serait un tremplin pour dynamiser les secteurs de l’industrie et les domaines scientifiques et techniques. Si c’est à l’Inria (Institut national de recherche en sciences et techniques du numérique), organisme public de recherche, qu’est confié le pilotage de la stratégie de recherche définie par le gouvernement, l’orientation gouvernementale qui lui est imposée s’inscrit clairement dans les clous de celle qui compromet les atouts de la France en matière de recherche. Ainsi les mesures engagées par le PDG de l’Inria , les modalités dérogatoires pour les nouveaux recrutements avec des normes d’emploi et des rémunérations différenciées, le pilotage et la gestion des établissements et des équipes par le financement par appels à projets inquiètent les organisations syndicales, parce que cette politique concrétise dans l’organisme les pires orientations que pourrait prendre la loi à venir sur la recherche dite LPPR, compromettant l’avenir de ses activités et des besoins de la nation sur l’IA.

 

Au lieu de saisir cette opportunité, la stratégie nationale de recherche en IA n’est donc pas à la hauteur et se développe en restant sourde aux interpellations nombreuses de la communauté scientifique sur l’état préoccupant du service public de recherche et d’enseignement supérieur qui décroche clairement, faute des engagements budgétaires non tenus par l’État. Son indépendance et sa stabilité sont ébranlées par des pratiques d’évaluation, de management et de gestion qui favorisent ainsi les contrats courts et précaires au détriment des emplois pérennes, elles promeuvent la compétition contre la coopération et enjoignent de trouver des résultats rentables aux dépens de la liberté de chercher et de la diversité. Ce n’est donc clairement pas un gage de soutien à l’efficacité sociale et économique. Ce sont pourtant les conséquences des découvertes qui sont disruptives et non les projets eux-mêmes et il est plus efficace de diversifier les financements que de les concentrer sur quelques niches.

Comme pour l’ensemble des activités, le risque est donc de soumettre la recherche à une pensée utilitariste, à la performance à court terme en ne considérant le fruit du travail scientifique que par les seuls travaux à haute visibilité et à rentabilité immédiate sur quelques niches. Or la recherche a besoin de moyens, de temps long, de collectifs et d’équipes.

 

Il est urgent d’y remédier et la CGT avance 5 grands axes :

 

Il n’y aura pas de développement de l’IA en France sans un solide secteur de la recherche publique et privée. Or, si la recherche française est consacrée au premier rang mondial pour ses chercheurs en mathématiques et en IA, c’est l’ensemble de notre recherche qui est menacée du fait de la faiblesse des investissements financiers et des moyens humains, de l’opacité, mais aussi du coût des interfaces public-privé et du gaspillage des aides publiques, avec dans le secteur de l’Enseignement supérieur et de la recherche, une explosion de la précarité, une non-reconnaissance des qualifications et des rémunérations indécentes.

 

Concrétiser nos engagements européens en portant l’effort national d’investissement de recherche à 3 % du PIB.

 

Au minimum 1 % dans la recherche publique et 2 % dans le privé.

L’enjeu de l’IA ne peut être relevé sans faire progresser le front des connaissances dans un large champ de disciplines. Cela suppose de rétablir les financements récurrents dans les organismes publics de recherche et d’enseignement supérieur et d’abandonner le pilotage des activités par les appels à projet.

Une réussite industrielle de l’IA ne verra pas le jour sans un investissement bien plus important du secteur privé en R&D, notamment la Recherche et Développement de moyen et long terme.

Or, la politique d’incitation publique exorbitante pour la collectivité, plus de 10 milliards d’euros (0,4% du PIB) est souvent utilisée pour diminuer le prix du travail et accroître la financiarisation plutôt que la recherche. La CGT propose donc une refonte du système d’aides publiques à la recherche privée en fonction des efforts d’investissement réel et en propre dans la recherche de ces entreprises et en emplois, en tenant compte d’un développement harmonieux des territoires.

Investir dans les moyens humains avec des recrutements massifs et pérennes et une reconnaissance et un paiement des qualifications

 

Il faut résorber d’urgence la précarité de l’emploi dans la recherche et rémunérer les qualifications des docteurs, comme de l’ensemble du personnel de recherche. Revaloriser les salaires est une urgence. En France le doctorat n’est toujours pas reconnu : ni dans la Fonction publique, ni dans les conventions collectives à l’exception du secteur de la chimie. La fuite des cerveaux est une réalité qui ne se résoudra pas avec une politique axée sur les « Talents ».

 

Revoir les interfaces recherche publique et privée et créer des pôles de coopération dans les territoires

 

Le rapport Villani avait pointé à juste titre les difficultés de la recherche en amont à transformer ces avancées scientifiques en application industrielle et économique. Ce qui renvoie à l’inefficacité globale des interfaces actuelles entre la recherche publique et le monde économique. La Cour des comptes a épinglé toutes ces sociétés intermédiaires, telles que les SATT, les CVT, les IRT, qui se sont superposées aux dispositifs déjà existants dans l’enseignement supérieur et la recherche, et qui présentent des résultats très décevants au regard des moyens investis.

Ce véritable millefeuille de structures d’interface conduit à une opacité de l’utilisation des fonds publics, avec un foisonnement peu lisible, une faible insertion dans l’écosystème de la recherche et de sa valorisation, misant sur un modèle économique, l’autofinancement, qui de fait est déjà mis en échec.

Pour faciliter les transferts scientifiques et technologiques, notamment vers les PME et les PMI, on pourrait s’appuyer sur des pôles de coopération issus d’une transformation radicale des pôles de compétitivité.

 

Garantir la transparence et l’explicabilité systématique dans le secteur de l’IA

 

Boîte noire des logiciels, accès payant aux résultats de la recherche, secret des affaires, secret industriel, manipulation des données néfastes aux intérêts collectifs, constituent autant d’obstacles auxquels il faut s’attaquer pour disposer d’une IA maîtrisée et profitable à la collectivité.

C’est pourquoi la CGT demande que la recherche, l’information, les logiciels et les bases de données soient en accès ouvert. Si elle adhère au fait que les systèmes de l’IA soient auditables, celle-ci doit couvrir tous les aspects, y compris ceux touchant à l’humain et au social. La création d’un Comité d’audit des technologies numériques et de l’IA doit inclure la participation des représentants des salariés.

 

Maîtriser le secteur de l’IA, c’est assurer aussi la réponse aux besoins énergétiques

 

Le développement de l’IA est très énergivore, avec le déploiement des calculateurs des centres de stockage, de traitement de données, d’objets connectés, il faut pouvoir fournir l’énergie disponible en quantité suffisante. Maîtriser le secteur de l’IA, c’est assurer aussi la réponse aux besoins énergétiques, mais tout en diminuant les gaz à effet de serre, ce qui implique une recherche ambitieuse dans ce secteur.

Ne pas rater le train de l’IA, pour reprendre les termes du président de la République, c’est donc se donner les moyens d’une politique de recherche et une politique industrielle ambitieuses qui doivent nécessairement s’appréhender dans une autre logique que la financiarisation mortifère et destructrice des capacités de notre pays. L’enjeu c’est aussi un enjeu de démocratie sociale. Les salariés et les citoyens doivent être entendus, associés, impliqués dans les territoires, dans les entreprises, les branches et les secteurs dans la définition des stratégies et des choix pour une IA orientée sur les besoins sociaux et les défis sociétaux.

 

4.3 – IA : quels enjeux européens ?

 

Nayla Glaise, membre du présidium d’Eurocadres.

 

Mme Ursula von der Leyen, présidente de la Commission, a annoncé dans ses orientations politiques, une approche européenne coordonnée relative aux implications humaines et éthiques de l’IA, ainsi qu’une réflexion sur une meilleure utilisation des mégadonnées pour promouvoir l’innovation. La Commission adopte donc une approche axée sur la régulation et l’investissement, qui poursuit le double objectif de promouvoir le recours à l’IA et de tenir compte des risques associés à certaines utilisations de cette nouvelle technologie.

 

Au cours des trois dernières années, le financement de l’UE en faveur de la recherche et de l’innovation dans le domaine de l’IA a atteint 1,5 milliard d’euros, soit une augmentation de 70 % par rapport à la période précédente. Toutefois, le montant des investissements consacrés à la recherche et à l’innovation en Europe reste bien inférieur aux investissements publics et privés alloués à ce domaine dans d’autres régions du monde. Quelque 3,2 milliards d’euros ont été investis dans l’IA en Europe en 2016, contre environ 12,1 milliards d’euros en Amérique du Nord et 6,5 milliards d’euros en Asie. L’Europe doit réagir en augmentant considérablement ses niveaux d’investissement.

 

Dans son livre blanc sur l’intelligence artificielle Une approche européenne axée sur l’excellence et la confiance publié le 19 février 2020, la commission européenne pointe un certain nombre de risques potentiels liés à l’IA, tels que l’opacité de la prise de décisions, la discrimination fondée sur le sexe ou sur d’autres motifs, l’intrusion dans nos vies privées ou encore l’utilisation à des fins criminelles. Ce livre vise donc à définir les options stratégiques de la commission concernant la manière d’atteindre ses objectifs. L’introduction de l’IA dans une organisation induit des transformations sociales qui dépassent la technologie elle-même. Cela nécessite de l’accompagner d’une réflexion sur les finalités poursuivies, y compris en matière de management.

 

Eurocadres a établi une feuille de route dans le cadre de la négociation européenne en cours sur le numérique et le travail, dont le mandat a été confié à l’Ugict-CGT. Cette feuille de route prévoit :

 

Le développement de la formation et l’acquisition des compétences nouvelles

 

Pour cela, il s’agit de :

• Développer les politiques de formation et de reconversion afin d’anticiper l’obsolescence des postes de travail et de certains métiers concernés ;
• Adapter et créer des dispositifs de professionnalisation et des passerelles entre les métiers ;
• Intégrer l’objectif de mixité des emplois, notamment dans les métiers émergents ;
• Mettre en place des dispositifs de certification pour valoriser et reconnaître les compétences acquises par les salarié·e·s ;
• Former les managers à l’utilisation des outils numériques et à l’accompagnement de leur équipe dans l’appropriation de ces outils collaboratifs.

Sur cette question, dans son livre blanc, la commission précise qu’elle faciliter la création de centres d’essai et d’excellence faisant appel à des investissements européens, nationaux et privés, y compris éventuellement un nouvel instrument juridique. La Commission a proposé de soutenir les centres d’essai de calibre mondial établis en Europe dans le cadre du programme pour une Europe numérique et de compléter ces mesures, le cas échéant, par des actions de recherche et d’innovation dans le cadre du programme Horizon Europe au titre du cadre financier pluriannuel pour la période 2021-2027.

 

En matière de compétences la commission souhaite mettre en place et soutenir, par l’intermédiaire du pilier «compétences avancées» du programme pour une Europe numérique, des réseaux d’universités et d’établissements d’enseignement supérieur pour proposer des programmes de masters de classe internationale dans le domaine de l’IA. La Commission et le Fonds européen d’investissement lanceront, au premier trimestre 2020, un programme pilote de 100 millions d’euros afin de fournir un financement en fonds propres aux développements innovants dans le domaine de l’IA. Sous réserve de l’accord final sur le CFP, la Commission a l’intention de développer considérablement cet instrument à partir de 2021 par l’intermédiaire d’InvestEU.

 

Dans le contexte d’Horizon Europe, la Commission mettra en place un nouveau partenariat public-privé dans le domaine de l’IA, des données et de la robotique afin de conjuguer les efforts, d’assurer la coordination de la recherche et de l’innovation dans le domaine de l’IA, de coopérer avec d’autres partenariats public-privé dans le cadre du programme Horizon Europe et de collaborer avec les installations d’essai et les pôles d’innovation numérique susmentionnés.

 

La préservation de la santé au travail et de l’équilibre vie professionnelle-vie privée

 

Les nouvelles organisations du travail doivent avoir pour objectif de valoriser l’activité humaine en la concentrant sur les tâches valorisantes qui nécessitent le recours à l’analyse et la créativité. Les moyens technologiques doivent être mobilisés pour constituer une aide à la décision et à l’exercice professionnel, toutes les tâches fastidieuses et répétitives doivent être automatisées.
Il s’agit d’utiliser la transformation numérique des organisations du travail pour :

• concevoir des organisations du travail qui facilitent la coopération et le soutien entre les personnes ;
• réduire la charge de travail, et le temps de travail ;
• libérer les travailleuses et les travailleurs du travail répétitif et fastidieux pour enrichir qualitativement le contenu professionnel et participer à l’évolution du métier ;
• mettre en place des organisations du travail afin qu’elles garantissent un droit à la déconnexion effectif afin de préserver la vie privée et la santé.

 

Agir pour le maintien et le renforcement de la cohésion économique, sociale et environnementale

 

Les technologies numériques permettent un niveau de contrôle et de surveillance des travailleurs toujours plus intrusif, et pose la question de la protection de la vie privée et des conditions d’utilisation des données relatives au personnel. La Commission a mis sur pied un groupe d’experts de haut niveau, qui a publié en avril 2019 des lignes directrices pour une IA digne de confiance. La Commission a publié une communication dans laquelle elle salue les sept exigences essentielles énumérées dans les lignes directrices du groupe d’experts de haut niveau, à savoir :

• facteur humain et contrôle humain,
• robustesse technique et sécurité,
• respect de la vie privée et gouvernance des données,
• transparence,
• diversité, non-discrimination et équité,
• bien-être sociétal et environnemental,
• responsabilisation.

 

Les lignes directrices contiennent également une liste d’évaluation pratique à l’usage des entreprises. Le groupe de haut niveau procède actuellement à une révision de ses lignes directrices en fonction des réactions reçues et devrait terminer ses travaux d’ici à juin 2020. Le principal résultat de ce retour d’information est que les régimes législatifs ou réglementaires existants tiennent déjà compte d’un certain nombre d’exigences, mais que, dans de nombreux secteurs économiques, celles qui concernent la transparence, la traçabilité et le contrôle humain ne sont pas spécifiquement couvertes par la législation en vigueur.