Orienter plutôt qu’endiguer
Il est beaucoup question des risques liés à l’IA et des innovation qui pourraient en sortir. De ce fait, le mot d’ordre des sages européens, largement rompus aux totalitarismes de toutes espèces et donc sensibles aux questions de surveillance, est à la prudence et à l’anticipation.
Seulement, plusieurs défis rendent cet excès de prudence dépassé et à priori, contre-productif. Pour commencer, la latence et l’imprévisibilité.
La première raison pour laquelle il est vain, grossièrement parlant, de réguler l’IA comme les européens tentent de le faire, est la latence. Déjà évoquée par Mac Bloch dans l’Etrange défaite, ou par l’auteur dans des écrits sur le Management Quantique (Arreola, Cartau), la distance que constitue la hiérarchie bureaucratique, et donc le temps, est largement supérieure au temps de la progression de l’innovation par I.A. Il faut le rappeler.
Marc Bloch, déjà, racontait comment la hiérarchie militaire de la première guerre mondiale avait eu le temps de s’adapter aux nouveautés technologiques et organisationnelles. Quatre années avaient laissé de la marge à un état-major très éloigné du théâtre d’opération pour s’adapter.
Ce ne fut pas le cas lors de la guerre éclair. Comme son nom l’indique, il n’y pas de temps d’adaptation.
Par ailleurs, comme évoqué dans le Management Quantique, l’observation et l’action se rapprochent au point parfois d’être indissociables. C’est d’autant plus vrai que l’innovation est rapide.
La règlementation européenne s’apparente en ce sens à une ligne Maginot largement dépassée par la mobilité, numérique en l’occurrence.
L’autre argument, pour se défaire de toute pusillanimité, réside dans l’imprévisibilité de l’innovation.
Qwant propose maintenant un outil fort sympathique d’IA permettant de synthétiser les éléments d’une recherche. A mon prompt, « Gérer les risques sociétaux de l’innovation », la recommendation est faite notamment d’ «évaluer ses impacts potentiels sur la société…avant de lancer un projet innovant » car « c’est essentiel » ou, « impliquer des partie prenantes » ou encore, « assurez-vous que vos innovations respectent les lois et régulations » .
Seulement, lorsque l’on innove, même si l’on se donne un objectif et que l’on anticipe les grandes lignes de sa conformité, le résultat fonctionnel et viable sera très souvent différent de ce qui était prévu.
Par exemple, j’ai découvert ce matin que Grok pouvait m’aider à expliquer à mon fils de 12 ans comment fonctionne un ordinateur quantique. Quelle aubaine ! Imaginons tout l’enseignement secondé par une IA ! A mon niveau, je commence à peine à m’adapter aux innovations. Mais avions-nous anticipé ce résultat, ou l’impact que cela aura sur le métier d’enseignant ? Quelle serait la réaction de l’EN si je l’impliquais comme « partie prenante » ?
A une échelle plus large, des innovations plus profondes se trament. Et concrètement, seule une IA sera en mesure de s’adapter à une autre IA et surtout à ce que nous ne pouvons prévoir, ne serait-ce que quelques semaines à l’avance. Il faut jouer à armes égales et seul un niveau de compétence technologique à portée de vue peut celle qui la précède.
Lorsque Gütenberg inventa la presse telle que nous la connaissons, l’église catholique ne put la supprimer ou la réguler. Elle dut s’adapter. Ce ne fut pas nécessairement pour le meilleur, mais cela lui permit de poursuivre sa mission.
Google à ses débuts n’imaginait nullement ce que deviendrait son moteur de recherche. Au point d’avoir comme devise « Don’t be evil», « Ne soyez pas malveillants »…
Les risques de surveillance me direz-vous ? Ils ne sont pas tant techniques qu’institutionnels. Dans un cadre juridique pleinement fonctionnel, la surveillance et l’écoute sont encadrées par des lois qui sont respectées.
C’est de l’hubris, voire de la contrition mal placée pour l’Europe de penser qu’elle va sauver le monde par sa prude vertu.
Il me semble que c’est Dale Carnegie qui racontait comment il décida de garder un manager qui avait perdu 1 million de dollars, ce qui n’était pas peu à l’époque. A la question de savoir pourquoi il n’avait pas viré ce manager, Carnegie rétorqua : « C’est une leçon qui a coûté très cher. Vous ne pensez quand même pas que je vais le virer une fois la leçon terminée ! »
L’Europe a beaucoup appris et l’on ne doit pas jeter le bébé avec l’eau du bain. Sa modération ne sera efficace que dans l’aiguillage, pas l’endiguement. L’innovation ne peut être qu’orientée, elle ne peut pas être arrêtée. L’Europe doit compter sur les entreprises et ses dizaines de millions de volontés éclairées pour orienter le destin, pas quelques grosses piles de paperasse qui sont dépassées avant même que l’impression ne soit terminée.
Sinon l’Europe se condamne à une Étrange Défaite.
Comments