{"id":318,"date":"2020-03-28T18:22:32","date_gmt":"2020-03-28T17:22:32","guid":{"rendered":"https:\/\/syndicoop.fr\/ia\/?page_id=318"},"modified":"2020-04-09T18:11:16","modified_gmt":"2020-04-09T16:11:16","slug":"impact-societe","status":"publish","type":"page","link":"https:\/\/syndicoop.fr\/ia\/guide\/impact-societe\/","title":{"rendered":"3 – Quel impact de l\u2019IA sur la soci\u00e9t\u00e9\u00a0?"},"content":{"rendered":"

Quel impact de l\u2019IA sur la soci\u00e9t\u00e9 ?<\/em><\/span><\/p>\n

 <\/p>\n

\n\t\t\t\t
\n\t\t\t\t\t

\n\t\t\t\t\t\t3.1 - Transition social-\u00e9cologique : ce que permettent les nouvelles technologies.<\/a>\n\t\t\t\t\t<\/h4>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t\t
\n

3.1 – Transition social-\u00e9cologique\u00a0: ce que permettent les nouvelles technologies.<\/h2>\n

 <\/p>\n

Empreinte carbone grandissante, extraction de m\u00e9taux rares, consommation d\u2019\u00e9nergie, absence de r\u00e9elle volont\u00e9 de recyclage des terminaux, d\u00e9veloppement du commerce international, etc. L\u2019exigence de bien-\u00eatre soci\u00e9tal et environnemental questionne sur la finalit\u00e9 du service et ses conditions de r\u00e9alisation. Cette responsabilit\u00e9 renvoi aux implications sociales et environnementales de l\u2019IA.<\/strong> Elle concerne l\u2019organisation de l\u2019auditabilit\u00e9 et de la tra\u00e7abilit\u00e9 du syst\u00e8me sur toute la cha\u00eene allant de la conception \u00e0 l\u2019utilisation d\u2019algorithmes afin de pr\u00e9voir des alternatives et de miniminiser les incidences n\u00e9gatives. L\u2019auditabilit\u00e9 des algorithmes ne doit pas trouver sur sa route \u00ab\u00a0le secret des affaires\u00a0\u00bb qui emp\u00eacherait, au nom de la propri\u00e9t\u00e9 intellectuelle et industrielle, la transmission des informations pertinentes pour expliciter les choix qui pr\u00e9valent dans la restitution des r\u00e9sultats. Cette explicabilit\u00e9 doit conditionner la conformit\u00e9 ou la certification du syst\u00e8me IA aux enjeux socio-environnementaux.<\/p>\n

 <\/p>\n

Afin d\u2019\u00e9tablir un cercle vertueux entre les entreprises soucieuses de conna\u00eetre les conditions sociales et environnementales de fabrication sur l\u2019ensemble du processus de fabrication et de la cha\u00eene de valeur, et les entreprises qui s\u2019approvisionnent dans de longues cha\u00eenes d\u2019approvisionnement complexes et internationales et ne connaissent pas ou ne veulent pas conna\u00eetre les conditions sociales et environnementales chez leurs fournisseurs il est n\u00e9cessaire de g\u00e9n\u00e9rer ces informations de mani\u00e8re fiable, et de les transmettre le long de la cha\u00eene de valeur. Ce cercle vertueux pour les entreprises \u00e9vitera aussi la concurrence d\u00e9loyale. Pour cela les nouvelles technologies, dont l\u2019IA, doivent \u00eatre mobilis\u00e9es pour assurer la tra\u00e7abilit\u00e9 des conditions sociales et environnementale de fabrication des services et des produits manufactur\u00e9s.<\/strong> Le tra\u00e7age et le suivi num\u00e9rique du d\u00e9but du processus de fabrication (mati\u00e8re premi\u00e8re) \u00e0 la livraison au client ou \u00e0 l\u2019usager est possible en utilisant notamment la technologie Block Chain et les \u00e9tiquettes RFID.<\/p>\n

 <\/p>\n

T\u00e9moignages illustratifs<\/h3>\n
\n

\u00ab\u00a0L\u2019\u00e9volution du mod\u00e8le doit aussi \u00eatre pens\u00e9e par rapport \u00e0 l\u2019environnement. Le flux tendu augmente le transport, et la multiplication des serveurs est mauvaise pour l\u2019empreinte \u00e9cologique.<\/em>\u00a0\u00bb
\n<\/span>Antoine, chef projet informatique, secteur \u00e9dition.<\/span><\/p>\n

 <\/p>\n

\u00ab\u00a0La phase d\u2019apprentissage client-e par le salari\u00e9-e pour se servir des automates n\u00e9cessite du temps qui ne doit pas \u00eatre sous-estim\u00e9 et doit aussi tenir compte des \u00e9volutions aussi minimes soient-elles de ces outils.<\/em>\u00a0\u00bb
\n<\/span>Valentin, cadre, secteur service.<\/span><\/span><\/p>\n

 <\/p>\n

\u00ab\u00a0La logique de r\u00e9duction des co\u00fbts conduit \u00e0 ne pas stocker et \u00e0 mettre au pilon et r\u00e9\u00e9diter ensuite.<\/em>\u00a0\u00bb
\n<\/span>Paul, responsable d\u00e9ploiement, secteur \u00e9dition.<\/span><\/span><\/p>\n

 <\/p>\n

\u00ab\u00a0Dans ce nouveau cadre de production, la gestion et le calcul de l\u2019impression et des retirages des livres, pour g\u00e9rer les flux des commandes en limitant au maximum le stockage et les retours est un nouveau m\u00e9tier \u00e0 part enti\u00e8re.<\/em>\u00a0\u00bb
\n<\/span>Paul, responsable d\u00e9ploiement, secteur \u00e9dition.<\/span><\/span><\/p>\n<\/blockquote>\n<\/div>\n\t\t\t\t<\/div>\n\t\t\t<\/div>\n

\n
\n\t\t\t\t
\n\t\t\t\t\t

\n\t\t\t\t\t\t3.2 - L\u2019IA, solution pour davantage de mixit\u00e9 sociale et culturelle ?<\/a>\n\t\t\t\t\t<\/h4>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t\t
\n

3.2 – L\u2019IA, solution pour davantage de mixit\u00e9 sociale et culturelle\u00a0?<\/h2>\n

 <\/p>\n

L\u2019exigence de diversit\u00e9, de non-discrimination et d\u2019\u00e9quit\u00e9 n\u00e9cessite d\u2019avoir un r\u00e9sultat juste depuis la conception d\u2019un service jusqu\u2019\u00e0 sa d\u00e9livrance. Cela exige d\u2019attendre des algorithmes davantage de neutralit\u00e9 et de rationalit\u00e9 par rapport aux humains.<\/strong> Cependant, le processus de cr\u00e9ation d\u2019un algorithme d\u00e9pend de son concepteur et il existe des biais in\u00e9vitables\u00a0: de type cognitif, li\u00e9s au manque de diversit\u00e9 des d\u00e9veloppeurs, aujourd\u2019hui tr\u00e8s majoritairement masculins\u00a0; de type statistique, li\u00e9s aux donn\u00e9es\u00a0; de type \u00e9conomique, li\u00e9s \u00e0 l\u2019objectif m\u00eame du service\u00a0; de type culturel li\u00e9s \u00e0 l\u2019environnement o\u00f9 est d\u00e9velopp\u00e9 l\u2019algorithme. La correction des biais est complexe car elle peut g\u00e9n\u00e9rer d\u2019autres biais, notamment dans le domaine de la reconnaissance faciale. Cette exigence comprend aussi l\u2019accessibilit\u00e9 universelle au service. Au final, elle repose sur des choix de l\u2019\u00e9quipe de conception qui doivent \u00eatre assum\u00e9s et explicit\u00e9s.<\/p>\n

 <\/p>\n

\n

La math\u00e9maticienne am\u00e9ricaine Cathy O\u2019Neill a alert\u00e9 face aux dangers des algorithmes obscurs d\u00e9ploy\u00e9s \u00e0 grande \u00e9chelle qui ont conduit \u00e0 des scandales dans des domaines tr\u00e8s vari\u00e9s tels que\u00a0: le classement des universit\u00e9s dont les crit\u00e8res ont profond\u00e9ment d\u00e9grad\u00e9 la gestion des \u00e9tablissements scolaires, la pr\u00e9diction de la r\u00e9cidive des prisonniers qui s\u2019av\u00e8re discriminatoire \u00e0 l\u2019\u00e9gard de certaines minorit\u00e9s, ou encore les publicit\u00e9s cibl\u00e9es coupl\u00e9es \u00e0 des offres de pr\u00eat bancaires pour les personnes d\u00e9favoris\u00e9es.<\/p>\n<\/blockquote>\n

 <\/p>\n

L\u2019exigence de responsabilit\u00e9 concerne l\u2019organisation, par les acteurs impliqu\u00e9s dans la cha\u00eene allant de la conception \u00e0 l\u2019utilisation d\u2019algorithmes, de l\u2019auditabilit\u00e9 et de la tra\u00e7abilit\u00e9 du syst\u00e8me afin de minimiser les incidences n\u00e9gatives et de pr\u00e9voir des voies de recours.<\/strong> La d\u00e9termination de la charge de la preuve en cas de probl\u00e8me est un point important qui peut orienter la conception d\u2019un service bas\u00e9 sur de l\u2019IA.<\/p>\n

 <\/p>\n

Afin de sortir de l\u2019\u00e9cueil de statistiques orient\u00e9es et des pr\u00e9dictions discriminantes, les outils techniques doivent permettre de\u00a0:<\/strong><\/p>\n