Quand les entreprises auront intégré l’IA à leurs prises de décision, seule une infime partie des salariés qualifiés auront la marge de manoeuvre de passer outre ces recommandations.
L’autonomie – se fixer à soi-même sa propre loi – deviendra un luxe. Julia de Funès et Nicolas Bouzou se lamentent : « La confiance est quelque chose de très peu pratiqué dans l’univers de l’entreprise. » Et, demain ce sera bien pire !
Que l’on soit pilote d’avion, médecin, ingénieur, juge ou manager, il faudra un permis spécial pour ne pas suivre les décisions des IA. Il sera réservé aux gens capables de prouver qu’ils leur sont complémentaires, notamment en décelant leurs erreurs. Ce sera donc un luxe réservé à une toute petite élite. Par sa capacité à manier des montagnes de données à des vitesses stupéfiantes, l’IA dépassera notre cerveau dans un nombre croissant de domaines. L’explosion de la production de données la rend indispensable : en 2025, chaque être humain produira en moyenne 100 milliards d’informations numériques chaque jour. Qui sera capable d’affirmer en 2040 : « Face au milliard de milliards de données que l’IA vient de traiter, je suis capable de mieux faire avec mon cerveau » ? Quelle part de la population sera capable de contredire – à juste titre – une IA ? Un centième ? Un millième ? Un millionième ?
L’exemple de la médecine est cruel. De semaine en semaine, les territoires où l’IA surpasse les meilleurs médecins se multiplient : Google a publié des résultats spectaculaires en cancérologie, dermatologie, ophtalmologie, biologie moléculaire et cardiologie. L’IA devient peu à peu capable de performances que les meilleurs humains ne peuvent égaler : il sera bientôt interdit aux médecins de soigner un malade et de signer une ordonnance sans son autorisation. La dernière IA médicale de Google dépiste beaucoup mieux les micrométastases d’un cancer du sein que les médecins (99 % versus 62 %). Avec de tels différentiels – qui vont encore augmenter -, s’opposer à l’IA de Google ferait prendre un risque immense au patient.
Dieu médical vs. oracles de l’IA
Cette douloureuse blessure narcissique pour ma profession doit nous conduire à nous réinventer avant que nos patients ne nous abandonnent pour les géants du numérique. Le meilleur économiste de l’IA, Kai-Fu Lee, imagine le médecin de 2030 : un tiers assistante sociale, un tiers infirmière et un tiers technicien. Ainsi, le médecin de demain sera accompagnateur et interprète des oracles de l’IA plus que dieu médical, auxiliaire plus que centre d’un système qui tournera essentiellement autour de l’IA. Le pouvoir et l’éthique médicale seront aux mains des concepteurs des IA médicales et non le fruit du cerveau du médecin. En 2040, 99,99% des radiologues seront incapables de dire : « L’IA se trompe, ce n’est pas un cancer du rein. » Lire un scan deviendra inutile ; il faudra en revanche être capable de repérer les faiblesses possibles de l’IA dans un contexte donné. Par conséquent, l’obsession des facultés de médecine devrait être de révolutionner leur enseignement, ce qui suppose de renouveler les mandarins.
La mauvaise nouvelle est politique : pour obtenir le permis de désobéir à l’IA, il faudra trois choses – un très haut QI, une grande transversalité intellectuelle et une large culture. Quelques centaines de milliers de personnes en France ont ces qualités. Si nous ne réduisons pas les énormes inégalités intellectuelles, les « inutiles » de Harari se révolteront rapidement contre les diktats de la machine. Et, comme d’habitude, les gens seront ambivalents : dans leur travail, ils voudront pouvoir désobéir à la machine, mais pour soigner leur cancer ou la leucémie de leur enfant, ils refuseront que le grand professeur de médecine suive son intuition qui donnera 50 % de chances de guérison quand les IA de Google, Baidu ou Amazon en garantiront 95 % !