INTERVENTION A L’ANNIVERSAIRE DU CRITEO AI LAB 3 OCTOBRE 2019

Mesdames, Messieurs,

J’ai l’honneur de clôturer cette matinée. Et à cette occasion, les organisateurs
m’ont demandé de faire un rapide bilan de l’impact de l’intelligence
artificielle sur nos sociétés, et des questions qu’elle peut susciter.

La littérature est abondante sur le sujet. J’ai eu la chance, comme Directeur

Général des Echos, co-fondateur de Viva Technology avec le Groupe Publicis et
maintenant Président d’un cabinet de conseil en stratégie, d’assister à son
développement spectaculaire depuis une dizaine d’années dans tous les secteurs
de l’économie.

 Ce développement spectaculaire, il faut bien le comprendre, est lié

à la progression exponentielle de la puissance de l’ordinateur depuis 50
ans ; une progression qui nous a fait entrer, selon les termes de certains
économistes, dans « la seconde partie de l’échiquier », celle de
l’accélération exponentielle des technologies avec son corollaire : une
difficulté de plus en plus grande à les maitriser. C’est vrai pour les
nanotechnologies, pour les biotechnologies, pour les sciences cognitives, et
bien évidemment pour l’intelligence artificielle. C’est ce constat que je fais
dans mon dernier livre : « Le Monde qui vient », paru il y a
quelques jours.

La question se pose donc, de plus en plus obsédante : « où ces progrès technologiques, et notamment ceux
de l’intelligence artificielle, nous mènent-ils ? »

Je me dois tout
d’abord de vous préciser que je ne suis pas un technophobe, ni un déclinologue.
Je ne crois pas à la Singularité technologique, au sens où la machine pourrait
atteindre dans un horizon de temps limité (Ray Kurzweil parle de 2045) une
intelligence globale, supérieure à celle de l’homme. La plupart des experts
travaillant sur le sujet considèrent en effet que les systèmes d’intelligence
artificielle n’ont pas la capacité d’inventer par eux-mêmes des concepts
neufs ; ils sont limités par construction et ne peuvent que respecter la
configuration des algorithmes et des jeux de données qui leur sont fournis.

Alors pourquoi cependant ce mythe de la Singularité Technologique reste-t-il aussi
vivace ? Je vais tenter une double explication. Tout d’abord, les
financiers adorent qu’on les fasse rêver. Ces discours permettent de lever des
fonds considérables : 27 M USD par exemple pour Neuralink en 2017, avec la
promesse d’Elon Musk d’augmenter les capacités humaines en connectant le
cerveau à l’ordinateur muni d’une intelligence artificielle. Une fiction, me
direz-vous ? C’est probable. Mais sur le chemin, Neuralink fera probablement
des progrès sur la connaissance du cerveau. Et c’est là, ma deuxième
explication. La Singularité technologique pourrait bien être un épouvantail, érigé
par la Silicon Valley, pour détourner l’attention des véritables problèmes, eux
bien réels, auxquels nous sommes déjà confrontés.

Ces problèmes quels sont-ils ?

Il y a évidemment des problèmes techniques sur la maîtrise des data, sur la
traçabilité du résultat, sur les possibilités de biais… Je ne doute pas qu’on
puisse progressivement résoudre ces questions qui nuisent à l’efficacité du
système. Il y a également le sujet de la délégation de la décision. Une
intelligence artificielle pourra-t-elle demain décider à la place d’un
médecin ? d’un juge ? d’un recruteur ? Là encore, le bon sens
l’emportera certainement en imposant une validation humaine et une
collaboration entre l’homme et la machine. 

Je voudrais plutôt attirer votre attention sur deux autres dangers, qui me paraissent autrement plus importants.

Celui des données et de leur utilisation tout d’abord.

Pour nourrir l’intelligence artificielle, nous avons au cours des dernières années tout
transformé en données. Les smart cities collectent la data pour fluidifier la
circulation, économiser l’énergie, surveiller la qualité de l’air, collecter et
trier les déchets… Les applications de nos smartphones enregistrent notre
localisation, nos messages, nos contacts, nos achats, notre activité pour nous
aider à communiquer, nous déplacer, faciliter notre consommation, travailler et
nous soigner… Elles nous apportent un confort, une sécurité, une assistance
auxquels nous imaginerions mal renoncer.

Mais, avec les mêmes technologies, la Chine installe sur son sol 172 millions de caméras
de reconnaissance faciale et parvient à arrêter en 6 minutes un fiché pour
crime économique au milieu de 60.000 personnes assistant à un concert. Dans la
plupart des grandes villes du pays, votre visage s’affiche sur un écran géant quand
vous traversez en dehors des clous, et vous recevez automatiquement une amende
sur votre téléphone. A Hangzhou, le système d’information central de la ville,
chargé initialement de fluidifier le trafic, transmet à la police les données
de vidéosurveillance pour l’aider à repérer les contrevenants. Et dans plus
d’une quarantaine de municipalités, ces données publiques comme privées sont rapprochées
pour noter le citoyen et lui offrir, en fonction de cette notation, des
avantages ou au contraire le punir en l’empêchant de voyager, d’emprunter ou de
devenir fonctionnaire. C’est le système du crédit social dont Pékin a annoncé vouloir
se doter en 2021 ou 2022, et qui pourrait être généralisé dans tout le pays à
la même date… avec cette justification de Xi Jinping, « le sentiment de
sécurité est le meilleur cadeau qu’un pays puisse offrir à son peuple » !

Mais il n’y a pas qu’en Chine où l’utilisation des données et de l’intelligence
artificielle pose débat. Selon une étude des universités de Cambridge et de
Stanford en 2015, Facebook connait mieux ses utilisateurs que leurs proches. En
effet, au-delà de 70 likes, son algorithme est capable de mieux répondre à un
questionnaire de 100 questions portant sur un utilisateur du réseau social que
les amis de celui-ci ; et au-delà de 150 likes, il y répond mieux que sa
famille. L’entreprise utilisait cette étude en 2016 et 2017 pour convaincre les
annonceurs de prendre des publicités chez elle. Depuis l’affaire Cambridge
Analytica, c’est surprenant : elle n’en revendique plus les résultats.

L’objectif de toutes ces applications est de nous aider à mieux maitriser notre
environnement, à prendre des décisions avec un maximum de sécurité, jusqu’à
anticiper nos moindres désirs. Mais en voulant écarter toute forme de hasard,
nous nous rapprochons d’une norme souhaitable, définie par le marché dans
certains cas, ou par un état autoritaire dans d’autres ; jusqu’à abdiquer
une large part de nos libertés.

Prenons le cas du projet Baseline Study lancé par Alphabet, la maison-mère de Google. Il
consiste à établir, selon les termes de l’entreprise, une cartographie d’un
corps en pleine santé, « un véritable Google Earth de la santé
humaine ». Pour y parvenir, la société a recruté 10.000 volontaires
majeurs qui partagerons pendant quatre ans leurs données biologiques,
génétiques et leurs mesures quotidiennes d’activité. Amazon, Apple et Facebook
ont également des programmes de ce type. La question devient alors : quel
impact quand vos données s’écartent du standard ? Ne faut-il pas prendre
immédiatement des mesures, y compris médicales, pour revenir dans la
norme ? Quel impact sur la procréation et notamment sur les diagnostics
préimplantatoires autorisés dans de nombreux pays ? Faut-il faire naître
des bébés qui ne présenteraient pas tous les critères d’un bébé sain ? Et à
quel prix pourra-t-on encore assurer des individus porteurs de risques avérés
ou simplement statistiques ?

Le sujet du consentement à l’usage de nos données et à leur traitement est un sujet
essentiel du Monde qui vient. RGPD nous a fait franchir un pas important.
Néanmoins, notre consentement est trop souvent extorqué par lassitude face à
des conditions générales trop compliquées et par crainte de ne plus pouvoir
poursuivre notre parcours. Il est urgent de simplifier et clarifier les étapes
de ce consentement. Il est également nécessaire de s’assurer des conditions de
rapatriement de ces données dans des pays étrangers, aux législations moins
sourcilleuses que les nôtres, et de leur utilisation dans des domaines pour
lesquelles elles n’ont pas été collectées.

Ces garde-fous risquent cependant de ne pas peser lourds face au pouvoir monopolistique
des Gafam. Comment résister à leur capacité de récolter nos données à tout
moment, notamment au travers de leurs assistants personnels qui sont en
train de nous devenir indispensables ? Et comment ensuite les empêcher de les
utiliser dans beaucoup d’autres domaines : de la banque à l’assurance, ou de
la sécurité à la santé ? Facebook pour mieux contrôler nos transactions
crée le libra. Amazon investit dans une pharmacie en ligne et annonce la
création d’une assurance santé pour ses salariés avec Berkshire Hathaway et JP
Morgan. Fait significatif : le même jour, le secteur de la santé aux USA
voit sa capitalisation boursière s’effondrer de plus de 30 MM USD. Le marché a
clairement perçu le danger. A nos dirigeants d’en faire de même et d’y mettre
un frein. Aux consommateurs d’en prendre conscience et de ne plus se laisser
abuser.

Je voudrais en venir à un deuxième danger, redouté par beaucoup, celui que la machine remplace rapidement l’homme
dans son travail.

La littérature est encore abondante sur ce sujet. David Graeber, anthropologue
anarchiste américain, a connu un succès phénoménal l’an dernier en parlant de
« Bullshit jobs », et en considérant que près d’un emploi sur deux ne
sert déjà à rien. Yuval Harari parle dans son livre « Homo Deus »
d’une classe devenue inutile. Je dois vous dire que je ne partage pas leur
analyse.

Dans une étude passionnante sortie en 2018 à l’occasion de Viva Technology, Mc Kinsey a
évalué le nombre d’heures travaillées en 2016 par secteur dans 15 pays
occidentaux et leur évolution d’ici à 2030 en fonction de projections
économiques. Il les a reliées ensuite à 25 compétences rassemblées en 5 grandes
familles.

Qu’en ressort-il ?

La quantité de travail entre 2016 et 2030 ne devrait pas reculer, mais au contraire
progresser de 5%, confirmant les théories de la plupart des économistes sur
l’innovation. En revanche, les compétences attendues sur le marché vont
profondément évoluer, faisant la part belle aux compétences technologiques,
créatives et intellectuelles élevées mais aussi aux compétences sociales et
émotionnelles, et délaissant les compétences physiques et manuelles ou
intellectuelles basiques remplacées par la machine.

Le marché du travail est en train de se polariser avec d’un côté des salariés hautement
qualifiés aux salaires élevés, de l’autre des travailleurs pauvres, essentiellement
présents dans les services à la personne. A titre d’exemple, aux USA, les
salaires des diplômés de l’équivalent du baccalauréat ont été multipliés par 8
depuis 1980, ceux des non diplômés sont restés stables.

La même évolution se voit au niveau mondial. Depuis 25 ans, les 1% les plus riches
captent 27% de la croissance des revenus mondiaux. Les 50% les plus pauvres,
seulement 12%. Des éruptions comme celle des gilets jaunes en France, du
mouvement 5 étoiles en Italie, ou la montée des populismes dans de nombreux
pays sont autant d’avertissements. Il faut corriger la trajectoire.

Comment ?

Une bonne partie de la réponse, même si ce n’est pas toute la réponse, se situe dans
l’éducation et la formation. Le savoir technique sera à l’avenir de plus en
plus rapidement obsolète car il pourra être remplacé par la machine. Il faudra
donc favoriser dans l’éducation la créativité, le raisonnement, le sens
critique, l’adaptabilité, la capacité à communiquer et collaborer avec les
autres… Un rééquilibrage devra être également opéré entre des études
supérieures, aujourd’hui de plus en plus longues, alors qu’il faudrait
consacrer de nouveaux moyens à un droit à la formation continue tout au long de
la vie. Nos enfants pratiqueront certainement au cours de leur carrière quatre
à cinq métiers différents, dont certains parfois en même temps. Aborder ces
changements sans stress particulier, avec un accompagnement régulier de mise à
jour des compétences devient dès lors une nécessité.



En conclusion,

Nous avons vécu depuis trois siècle sur une croyance majoritaire héritée des Lumières. Le
progrès technologique conduit au progrès économique, qui conduit lui-même au
progrès social, culturel et moral. Cela semble d’ailleurs avoir plutôt bien
fonctionné au cours des dernières décennies. L’espérance de vie moyenne dans le
monde est passée de 46 ans en 1950 à 70 ans actuellement. Le taux d’extrême
pauvreté a chuté de 82% à 9% en un siècle. On meurt plus aujourd’hui de
suicides que de conflits armés. La chaine causale semble pourtant, depuis quelques
années, s’être brisée avec la crise environnementale, la montée des inégalités,
la fragilité des démocraties, ou la difficulté à maitriser les enjeux éthiques.
Dépassés par la vitesse de ces révolutions, nos gouvernants n’ont souvent pas
su bâtir un discours à moyen terme sur ces sujets et fixer une perspective. La
logique purement économique a alors prévalu, laissant des entreprises privées,
devenues rapidement monopolistiques, imposer leur vision et leur agenda.

Pourtant, ma conviction profonde est que, dans le Monde qui vient, cette dimension
économique ne pourra plus se décliner sans lui adjoindre une dimension sociale,
écologique et éthique. Beaucoup de faisceaux convergent dans cette direction.
L’émergence en quelques semaines de Greta Thunberg en nouvelle icône mondiale
de la défense de l’environnement capable de mobiliser des millions de jeunes
partout dans le monde et la procédure engagée par 50 procureurs américains
contre Google sont deux exemples parmi d’autres que les choses bougent.

L’Europe a raté la révolution digitale. Elle peut peut-être gagner celle de la défense de
l’environnement, des libertés individuelles et d’un nouveau pacte social. Elle
peut peut-être également sur ce modèle attirer des talents du monde entier qui
fuiront le techno libertarisme de la Silicon Valley ou le techno-dirigisme de
la Chine. Ses entreprises pourront peut-être également en profiter pour
répondre à cette nouvelle attente des consommateurs pour des produits plus socialement,
écologiquement et éthiquement responsables afin de bâtir ainsi une nouvelle
croissance. C’est un pari en tous cas qui mérite d’être tenté. Je vous
remercie.