Qu’est-ce qui fait réellement peur dans l’IA ?

What’s really scary about AI?

Article issu de la 18^e conférence EUTIC: Humanisme numérique et durabilité sociale, MSH Bordeaux, 11-13 octobre 2023 organisée dans le cadre de l’Appel à projets MSHBx 2023 EUTIC2023.

---

Serge AGOSTINELLI
Professeur des Universités
serge.agostinelli[at]gmail.com

---

Résumé
Cet article, qui va à l’encontre du discours technocritique général, traite de l’incapacité sociale (et/ou scientifique) paradoxale d’admettre que les outils intelligents ne sont que des aides utiles, à condition que nous sachions leur donner un but. Nous soutenons ici que la question de l’acceptabilité sociale et de la place de l’IA dans l’évolution sociétale est plus une question de maintien d’un niveau de connaissance permettant une utilisation « éclairée » que des technologies elles-mêmes. En effet, plus les individus acceptent de déléguer leurs capacités cognitives aux objets connectés, à la réalité augmentée, à l’intelligence artificielle et à l'(aux) usine(s) à intelligence à des fins utilitaires, plus ils perdent leur compréhension de ces technologies.
Cette perte de connaissance engendre la peur de l’inconnu, mais sert surtout un objectif inavouable qui dépasse les technologies et toutes formes de sciences de l’intelligence…

Mots-clés : croyance, connaissance, pragmatisme, intelligence, technologie

Abstract
This paper, runs counter to the general technocritical discourse, discusses the paradoxical social (and/or scientific) inability to admit that intelligent tools are merely useful aids, provided we know how to give them a purpose. We argue here that the question of social acceptability and the place of AI in societal evolution is more a question of maintaining a level of knowledge that allows “enlightened” use than of the technologies themselves. Indeed, the more people accept to delegate their cognitive abilities to connected objects, augmented reality, artificial intelligence and intelligence factory(s) for utilitarian purposes, the more they lose their understanding of these technologies.
This loss of knowledge engenders fear of the unknown, but above all serves an unavowable goal that goes beyond technology and all forms of intelligence science…

Keywords: belief, knowledge, pragmatism, intelligence, technology

---

« The oldest and strongest emotion of mankind is fear,

and the oldest and strongest kind of fear is fear of the unknown. »

(Howard Phillips Lovecraft, 1973)

« il n’y a pas de corrélation entre le fait d’être intelligent

et le fait de vouloir prendre le contrôle… »

(Yann Le Cun, 2023)^[1]

1. La peur de l’inconnu

L’inconnu a toujours été envisagé comme un problème qui fait peur plus que comme une solution créatrice de valeurs. Rien d’anormal puisque la « peur » produite par la prise de conscience de notre méconnaissance d’un phénomène est ancrée dans notre culture occidentale. Aristote insistait sur les difficultés à trouver une solution lorsqu’il y a deux opinions contraires et également raisonnées pour une même question. Platon estimait que la solution devait se trouver dans un autre registre que celui du problème. Dans les deux cas, la peur provoquée par l’inconnu est liée au manque de connaissances.

La peur tient aujourd’hui un rôle prépondérant dans la conscience collective (Delouvée et Rateau, 2013) et devient même une caractéristique déraisonnée de notre culture (Glassner, 1999) orchestrée par ceux qui manipulent nos perceptions et tirent profit de nos peurs. Aujourd’hui, l’IA n’échappe pas à cette manipulation de la peur qui la désigne comme la source des problèmes de justice sociale et de discrimination de minorités au sein de notre société. Depuis plusieurs années, l’informatique et particulièrement aujourd’hui, les algorithmes dits intelligents sont désignés comme une source d’injustice intellectuelle qui provoque des fractures, l’illectronisme d’une minorité, des clivages entre ceux d’une génération native et les autres.

Faire un tel constat, c’est se focaliser sur une seule interprétation des observables érigée en vérité par le discours dystopique ambiant (Agostinelli et Riccio, 2022). Si cela peut se comprendre pour des non-scientifiques, cela devrait l’être beaucoup moins pour notre milieu de chercheurs. En effet, la question n’est pas de savoir quelle discipline ou quelle méthode a le monopole de la compréhension de l’intelligence humaine et de son implication dans l’évolution du social. L’enjeu n’est pas social, mais culturel et la question n’est pas disciplinaire, mais idéologique (cf. Juignet, 2015). Ce n’est ni l’Informatique ni les sciences de l’Intelligence qui sont la cible même si on les rend responsables de la rupture des liens sociaux. Ce qui est visé c’est le fondement de notre raisonnement et le lien que ce raisonnement entretient avec notre pensée. En d’autres termes, la peur est l’un des moyens pour montrer que l’homme d’aujourd’hui ne pense pas correctement, il faut donc l’éveiller afin de modifier son raisonnement ; il faut l’alerter sur les mauvais modèles qui fondent notre culture. Pour ceux qui n’auraient pas encore cerné le problème, c’est bien l’héritage de la pensée grecque qui est la cible. Premier problème : si on veut changer le raisonnement, il faut modifier la pensée.

2. Le retour des croyances

Cette pensée grecque (Vernant, 1962) a fait émerger l’idée du devoir, de justice, de morale et a ainsi établi les bases de l’analyse des conditions d’apparition d’un savoir rationnel aux dépens d’une pensée marquée par le mythe. Cette pensée qui est aussi le fondement du lien social, le desmos bâti sur le logos qui est aussi bien la parole que la raison (Pellegrin, 2015). Logos et desmos donnent ainsi naissance à la cité qui regroupe, grâce à la notion politique de lien, un ensemble de valeurs par lesquelles l’homme use du logos pour délibérer avec ses semblables sur le bien commun. Bien sûr, le bien et le lien communs ne sont que des constructions aussi contingentes que controversées dans lesquelles le modèle hypothético-déductif^[2] est insuffisant pour expliquer comment certains développements informatiques se sont imposés comme des réponses à ces besoins et encore moins pourquoi, ils deviennent l’outil principal^[3] d’une structure sociale fondée sur le développement personnel. Dans cette structure, le lien social est inséparable de la perception que l’être humain a de lui-même et de fait, ignorer ce besoin, c’est occulter la perte des valeurs sociétales dans un monde où l’individualisme apparaît comme inéluctable (Paugam, 2008).

2.1. La perte des connaissances

L’individualisme et l’autonomie avancés depuis toujours comme solution positive de l’informatique (Flichy, 2004) sont finalement devenus un formidable levier de la déstructuration de la pensée rationnelle. Oui, on peut effectivement constater que « l’autonomie et le fonctionnement en réseau ont performé les usages naissants, renforçants par la même, ces nouvelles façons de vivre » (Flichy, 2004, p. 19). On peut aussi constater que « l’objectif de ces communautés est d’échanger des connaissances très spécifiques issues de compétences personnelles particulières » (p. 44). En d’autres termes, les connaissances sont issues de l’expérience et donc avant tout, elles sont personnelles. Or, avec cette affirmation, on nie la possibilité que ce soit le sujet connaissant qui construit la réalité par étapes dans l’interaction avec l’environnement (Piaget, 1968). On évacue ainsi le triple ancrage d’une connaissance : le biologique, l’épistémologique et le logico-mathématique. C’est aussi supposer que les connaissances ontogéniques se passent de modélisation. Pourtant, c’est bien sur cette forme « d’apprentissage » que sont fondés le « Deep Learning » et la « Joint Embedding Predictive Architecture ». Ils reconstruisent le réel à travers des cadres logico-mathématiques de plus en plus puissants, fondés sur des formes optimales de l’adaptation du processus biologique humain.

L’IA, du moins l’approche computationnelle, se positionne comme épistémologiquement opposée à une vision pragmatique de la réalité. Mais ne nous y trompons pas, cette opposition fonctionnelle n’incombe pas à l’outil informatique, mais à la finalité consciente ou inconsciente de valoriser les approches pragmatiques et non abstraites de l’acquisition des connaissances.

2.2. L’individualisme pragmatique modifie le raisonnement

Ainsi l’intelligence ne joue plus un rôle dans la genèse des connaissances, mais amplifie notre capacité à agir. Cette capacité à agir sur nous-mêmes, sur les autres, sur les structures, fonde le culte du conseil du coach, de l’influenceur et des suiveurs. Elle fonde d’une part un individualisme pragmatique et génère corollairement les conditions d’une aliénation consentie. C’est donc au nom du pragmatisme que notre société change, avec pour risque la perte de l’intelligence sociale (Chauvière, 2012). Dès lors, faire cohabiter une société pragmatique avec un outil qui demande pour sa compréhension un outillage mental de moins en moins sollicité ne peut provoquer que la méfiance ou la croyance : « en l’absence de techniques pour provoquer la pluie sur les récoltes, on peut la chanter, comme le font certaines peuplades » (Boudon, 1968, p. 86). Dès lors, le deuxième problème est clairement annoncé : ce qui provoque les inégalités ou les fractures ce n’est pas de chanter ou non l’IA ; c’est de laisser croire que chanter permet de comprendre l’interdépendance de l’outil, du chanteur et de la chorale.

2.3. Les nouveaux chamans

Seuls les chamans peuvent comprendre et ainsi, jouant sur la méconnaissance des autres, ils attisent des craintes par leur définition de la relation au « sacré » : « L’intelligence artificielle désigne un programme de recherche, fondé autour d’un objectif ambitieux : comprendre comment fonctionne la cognition humaine et la reproduire ; créer des processus cognitifs comparables à ceux de l’être humain » (Villani, 2018, p. 9). L’IA désigne la possibilité pour une machine de reproduire des comportements liés aux humains, tels que le raisonnement, la planification et la créativité (Parlement européen, 2023^[4]).

Ces définitions annoncent clairement la seule finalité retenue : reproduire l’humain ! Vieux rêve prométhéen de la culture occidentale et du désir de concurrencer les dieux que l’on retrouve tout au long du développement des Sciences, des Techniques et du Sacré qui ont structuré notre culture. Rêve qui est aussi toujours accompagné de la némésis pour sanctionner la transgression des limites de la condition humaine. L’argumentaire n’est recevable que par l’amalgame qui est fait de ces trois domaines sous la dénomination « Intelligence Artificielle ». Rien de surprenant, car au fil du temps, toutes les évolutions majeures des Sciences et des Techniques ont produit des idées remettant en question les principes de base du fonctionnement de la société. Ces idées peu partagées au début ont toujours été en décalage avec les modèles sociétaux établis et ont affecté la vision du futur.

Pour mémoire, la première révolution « informatique » ne date pas des années 70, mais du XV^e siècle avec la mise au point de l’imprimerie typographique qui a remplacé les moines dans la copie des manuscrits sacrés. Le remplacement de l’homme par la machine était en marche. Toutefois, ce qui est reconnu aujourd’hui comme révolution n’est pas l’aspect technique, mais informationnel. La technique a eu un impact considérable sur la diffusion des idées, mais a aussi provoqué la crainte d’une perte du contrôle de cette diffusion des connaissances liées au Sacré. Il a fallu attendre les années 90 du XX^e siècle pour que l’on donne un sens à la société de l’information fondée sur un partage des connaissances et des savoirs (Drucker, 1969). Cette société voit le jour concrètement dans les années 2000 avec un discours apologétique qui annonçait une révolution des modes d’apprentissage et de communication pour rejoindre un « savoir récursif », d’une « intelligence collective » qui devait se déployer à l’infini. Aujourd’hui, pour être conforme au pessimisme médiatique (cf. Darrigrand, 2014) et ses effets, l’INES^[5] annonce que les outils numériques représentent un handicap pour près de 17 % de la population française. Une autre lecture annonce donc que 83 % de la population française n’a aucun problème avec les technologies. Dès lors, la question de l’acceptabilité sociale est-elle bien légitime puisque le social est poussé dans les technologies par les utilisations, les usages et la transparence sociale ? Transparence qui est devenue l’argument majeur de la nouvelle pensée sociale et médiatique, mais qui a déjà déconstruit le privé pour le transformer en données numériques au nom de la liberté d’expression tout en pointant du doigt la technologie réclamant un droit à l’oubli. Il est vrai que si on regarde de plus près ce qui a été encensé ce n’est pas la capacité de l’homme à comprendre l’utilisation des technologies, mais la vitesse (on parlait des autoroutes de l’information !) par laquelle ces technologies ont permis l’individualisation et des pratiques particulièrement l’acquisition de pratiques qui nous ont finalement éloignés de « l’intelligence collective », de « l’intelligence sociale », et peut-être, de toutes les autres formes d’intelligence.

Au second problème qui est de croire que la multiplication des usages permet à chacun de comprendre l’interdépendance de l’outil, de la pratique et de l’impact sur notre monde, vient donc s’ajouter le troisième problème : la perte des connaissances orchestrée par les amalgames énoncés plus haut.

3. Une acceptabilité sélective

Pour l’homme de la rue, toutes les avancées scientifiques qui dépassent ses connaissances deviennent de l’Intelligence Artificielle et il reste sourd aux explications des chercheurs du domaine qui disent aujourd’hui que les avancées sont bloquées pour ce qui est de trouver quelque chose qui ressemble à l’intelligence humaine (Gary Marcus, 2022)^[6]. Ils disent aussi que sans une véritable intelligence, les programmes se révèlent incapables de planifier un plan d’action en utilisant le bon sens (Yann Le Cun, 2022)^[7]. Ils s’accordent aussi à dénoncer l’amalgame entre la Science de l’IA et à la Technologie ce qui centre malheureusement, toute l’attention sur les retombées économiques. Dès lors, on peut se demander pourquoi d’autres acteurs de l’IA beaucoup plus médiatisés appellent à suspendre le développement de l’IA. Par exemple, Elon Musk déclare que l’IA est « l’un des plus grands risques pour l’avenir de la civilisation »^[8]. Surprenant lorsqu’on sait que cette alerte arrive en même temps que d’autres entreprises de l’IA qui visent les mêmes secteurs économiques (Twitter vs Threads) ; surprenant aussi lorsqu’on sait que les Tesla sont des concentrés d’IA ; surprenant aussi lorsqu’on sait qu’il est co-fondateur d’OpenAI, la société américaine qui a développé ChatGPT… Quand chanter ne suffit plus, il est temps de brandir la némésis !

En fait, les algorithmes sont des outils conceptuels subversifs. Ils ouvrent la possibilité d’un regard nouveau sur les sciences et les technologies qui s’étend bien au-delà de ses applications pratiques (Chazelle, 2012). Ils sont surtout, « une séquence d’instructions à suivre minutieusement pour arriver au résultat voulu par une série d’étapes simples et ennuyeuses » (Chazelle, 2012, §5). Si cette définition s’applique aujourd’hui à l’outil informatique, nous pensons qu’elle pilote l’homme depuis l’aube de l’humanité à chaque étape de son évolution et les outils présents à ses côtés. L’algorithme est donc abusivement lié exclusivement à l’informatique alors qu’il est présent dès que l’homme a voulu reproduire une tâche avec ou sans outil. Mais ne parlons pas ici des processus mentaux qui permettent à chacun de construire son expertise avec des routines automatisées d’action (Leplat, 2005), concentrons-nous sur l’outil.

3.1. Le pragmatisme oriente l’acceptabilité sociale

L’outil est abondant et permanent, comme attaché à l’homme (Coppens, 1990). C’est d’ailleurs le préhumain qui a été le premier artisan de la pierre taillée ; c’est à ce moment-là (3 millions d’années) que commence l’histoire de notre technologie (Coppens, 1990, p. 9). Les outils taillés dès 2,3 millions d’années montrent déjà une forme d’organisation des événements et une capacité à prévenir une difficulté. Ceux de 1 Ma et 500 Ma témoignent d’une image mentale spécifiée et donc d’une capacité de conceptualisation. Enfin, les débitages de la pierre avec des éclats prédéterminés démontrent une planification par objectifs dans lesquels, les modalités sont subordonnées à des intentions spécifiées et hiéarchisées (Pelegrin et Roche, 2017). Autant dire que depuis toujours, l’homme a instrumenté ses connaissances sous la forme « d’algorithmes », ce qui a délégué une part de son intelligence à ses outils. Chacun des outils a mis en utilisation les connaissances du moment liées aux finalités et les nouvelles connaissances ont modifié les outils alors qu’ils modifiaient l’activité. Ainsi la pierre taillée a évolué en couteau gardant le statut d’outil à découper lorsqu’il est utilisé pour trancher un aliment, mais devient une arme blanche lorsqu’il est utilisé contre l’homme. Tous les objets construits par l’homme sont caractérisés par leur fonctionnement qui est le mode d’action de l’objet (couper) et une fonction qui regroupe l’ensemble des finalités (manger, tuer, prendre le pouvoir…) pour lesquelles il est mis en œuvre (Sigaut, 2006). C’est bien la finalité qui détermine le statut de l’outil et il en va de même pour les outils non matériels comme les idées qui peuvent être susceptibles de bousculer les valeurs établies ou être conformes aux attentes et espoirs que l’on idéalise dans le progrès.

Avant l’arrivée de l’informatique dans les années 50, le progrès technologique était finalement assez simple à comprendre par tous. Les connaissances étaient l’apanage des hommes qui décidaient de les déléguer à un outil matériel figé (ou presque) dans son utilisation possible et sa finalité. Ainsi, les outils matériels n’évoluent pas par eux-mêmes et encore moins par l’acquisition de connaissances propres. L’informatique a bouleversé cet ordre. Elle a d’abord dissocié le matériel physique qui constitue l’outil, de la structure logique qui donne les multiples utilisations possibles. Pour la première fois, l’outil matériel est associé à l’outil non matériel et donne une dichotomie des attentes. D’un côté, le matériel qui est reconnu pour ses finalités de vitesse, de miniaturisation, de stockage… et de l’autre, le logique, le non palpable pour le non spécialiste et donc discutable par ceux qui ne savent pas donner une finalité tangible, et mesurable… En d’autres termes, on accepte d’être assisté pour des tâches qui demandent une extension des capacités opératoires qui ne présentent pas de difficulté pour l’homme, mais pas pour des tâches qui demandent une abstraction qui échappe à beaucoup.

L’acceptabilité sociale serait donc sélective et ne toucherait pas de façon uniforme les technologies. Prenons deux exemples qui vont nous renvoyer au troisième problème : la perte des connaissances oriente l’acceptabilité sociale.

Par exemple, il y a encore quelques années, les acquéreurs d’un véhicule demandaient à voir le moteur. Ils cherchaient à reconnaître les parties du moteur ce qui permettait de montrer au vendeur que l’on avait des connaissances en mécanique et « qu’il ne fallait pas nous en compter »… Aujourd’hui, qui demande à voir les algorithmes qui contrôlent ce que l’on désigne sous le terme de véhicule connecté, autonome ou intelligent ? La voiture connectée est devenue une boîte noire dont il faut accepter la finalité économique, écologique, idéologique… autant de finalités dont on n’a pas besoin de comprendre les méthodes et les données. Certaines innovations n’ont donc pas besoin d’acceptabilité et partagent le point commun de laisser une part croissante du contrôle à une intelligence reconnue. La voiture électrique est un concentré de technologie numérique et d’IA et pourtant elle n’est étonnamment pas discutée et ne fait pas l’objet de controverse sociale et/ou de discrimination… Pourtant, on sait que plusieurs modèles de véhicules « intelligents » ont des failles de sécurité^[9] qui ne mettent pas en danger que les données personnelles.

Toujours dans l’univers automobile, prenons un objet utilisé par tous et qui semble anodin du point de vue des connaissances requises pour son utilisation, sur une route monotone, le GPS nous dit « dans 100 m, tournez à gauche». Le GPS est reconnu comme outil d’orientation sur un parcours inconnu avec une finalité simple : « ne pas se perdre ». Se laisser guider a-t-il des conséquences sur notre façon de structurer nos connaissances ? Ce que nous perdons progressivement, c’est la planification préalable de l’activité qui définit une habileté cognitive fondamentale qui consiste à élaborer et coordonner une séquence d’actions visant l’atteinte d’un but. En d’autres termes, se laisser guider (par le GPS, mais par d’autres outils qui sont des aides à la décision), c’est perdre notre possibilité de penser au futur, d’anticiper la meilleure façon d’exécuter correctement une tâche. Certains diront que nous allons trop loin, pourtant lors d’un de nos déplacements et nous laissant guidez par le GPS, nous sommes arrivés à un carrefour mal matérialisé et sous la nouvelle injonction « tournez à gauche » nous nous sommes exécutés sans une analyse personnelle des lieux et nous nous sommes retrouvés à contre sens de la circulation. Nous avions délégué au GPS notre capacité d’analyse de la situation et de décision…

En fait, cet exemple peut montrer que la conduite est une compétence qui doit être supprimée de l’intelligence humaine ou que nous devons construire un autre rapport personnel aux outils (cf. Agostinelli et Riccio, 2023). Cette conclusion peut faire sourire, mais en fait, déléguer notre capacité d’analyse de la situation nous conduira inéluctablement à une incapacité d’abstraction.

3.2. Le risque majeur

Sans abstraction, il sera difficile de prendre des décisions dans des situations nouvelles. En effet, il sera aussi impossible de saisir les aspects « communs » aux situations donc de les modéliser pour les reconnaître et les conceptualiser. L’étape d’après c’est la perte de la pensée abstraite, c’est-à-dire, la capacité de l’esprit à créer et utiliser des concepts dans le raisonnement. Ainsi l’homme perdra sa capacité à raisonner et le premier pas vers la déstructuration de la pensée fondée sur les hypothèses computo-représentationnelles sera acté. Les connaissances générales issues du modèle hypothético-déductif et stockées dans la mémoire conceptuelle seront remplacées par des expertises, des résultats de modèles statistiques qui par itérations finiront par atteindre un niveau de précision pour l’interprétation et l’acceptabilité sociale de la situation observée.

Ainsi nous acceptons de déléguer plus que des connaissances, nous déléguons notre culture occidentale fondée sur sa capacité de raisonner et à avoir de la méthode. Sans raison et sans méthode, comment acquérir de nouvelles connaissances pour avoir un usage raisonné des outils ? Comment conserver une connaissance en mémoire lorsque l’activité mentale qui demande sa mise en œuvre a disparu ? De fait, nous acceptons que l’IA soit le réceptacle de ce qui fait de nous des humains : la maîtrise de l’abstraction qui a permis la création des outils. L’enjeu n’est donc pas que l’IA remplace l’homme, c’est qu’elle reste la dernière et seule trace de la capacité créative de notre pensée occidentale qui a permis de concevoir l’IA.

4. Acceptabilité sociale du discours dystopique sur l’IA

Estimant que nous pouvons nous classer dans la catégorie des chercheurs en Sciences des Technologies nous éluderons la discussion sur les valeurs du Sacré pour donner une explication à l’acceptabilité d’un discours dystopique sur l’IA.

Deux aspects non amalgamables l’un à l’autre, mais étroitement liés, nous permettent de l’expliquer. Le premier nous renvoie au troisième problème : celui de la perte des connaissances. Le second (mais difficile de dire s’il existe une hiérarchie) est la confusion entre Techniques et Sciences entretenue volontairement ou non par les politiques et les médias.

Donc, l’IA, fait peur ! Mais de quoi devons-nous avoir peur ?

• Des Sciences Cognitives (donc de l’intelligence, mais pas uniquement) qui visent la compréhension des processus mentaux et sa mise en œuvre dans une structure scientifique reconnue ;
• Des Techniques Algorithmiques et autres qui visent à la réalisation de tâches dont les buts pratiques sont définis à l’avance et empiètent sur le périmètre des activités (mentales et physiques) réservées « génétiquement » aux humains.

Les Sciences, quelles qu’elles soient, ont leurs détracteurs internes et externes. Leur acceptabilité sociale et scientifique fait l’objet d’un débat permanent qui dépasse la vision catégorielle des disciplines. Ce « débat scientifique » est généralement réduit par les médias à des « punchlines » qui ne permettent pas à l’homme de la rue de comprendre de quoi on lui parle. Dès lors, il amalgame :

• Les machines computo-représentationnelles fondées sur l’analyse du langage de la pensée qui laissent croire une intelligence identique à celle de l’homme (Amazon, ChatGPT, Watson)… Ici, qu’est-ce qui fait peur ? La façon dont ChatGPT laisse penser qu’il a un point de vue personnel conscient ou le contenu de son discours ? Posez-lui la question : « Qu’est-ce qu’une femme ? ». Nous n’avons aucun doute sur le fait que ce ne sont pas les données objectives comme il le prétend qui lui permettent de donner un point de vue, mais bien une idéologie. Il ne parle pas de génétique ou de chromosomes, mais bien d’un point de vue communautariste militant^[10] !
• Les robots humanoïdes envisagés comme des systèmes dynamiques qui associent les informations du corps et de l’environnement pour produire un comportement efficace en situation qui laissent croire qu’ils deviendront des serviteurs affectifs…
• Le Bigdata fondé sur la multiplicité des données et les méthodes analytiques pour créer de la valeur qui laisse croire que les chiffres ont une vie propre (Agostinelli, 2018)…

5. L’IA : la peur sociale non avouée

Pour conclure, tous les objets creusés d’IA pourraient être pointés du doigt pour leur capacité à modifier notre façon de raisonner et notre capacité à appréhender le monde. Toutefois, il est probable que la grande majorité des utilisateurs de technologies pour l’accessibilité, la connectivité, la mobilité et l’ubiquité informationnelle « sait » utiliser les outils et le pragmatisme veut qu’elle ne se pose pas la question du « comment ça marche ? » ou si c’est éthique ou réellement écologique ou simplement si c’est « bien » ou « mal » puisque là aussi l’acceptabilité sociale peut moduler contextuellement ces valeurs.

La peur des technologies serait-elle alors une peur de ceux qui savent ou qui croient savoir ou qui aimeraient savoir comment ça marche ? Mais de quels savoirs parlons-nous ? Les savoirs d’usages, d’utilisation, de conception, d’intégration… Ou tout simplement de connaissances et compétences quotidiennes, celles que nous avons déléguées aux outils en pensant nous faciliter les tâches, alléger notre mémoire ou notre charge cognitive. Mais alors, de quel asservissement imminent aux algorithmes et robots de toutes sortes doit-on craindre ? Effectivement, l’histoire de l’humanité nous a montré que chaque avancée scientifique a été une source de craintes. Pas pour les nouveaux utilisateurs de ces nouveaux savoirs, mais pour ceux qui détenaient un savoir qui s’est trouvé dépassé par l’avancée. Alors la crainte n’est-elle pas liée à une perte de stabilité de ce que l’on avait annoncé comme des valeurs sociétales immuables ? Valeurs qui placent l’humain au centre de tout et proclament sa souveraineté sur la nature même humaine. C’est oublier délibérément ou non que la société est fondée sur les outils qu’ils soient matériels ou non. C’est nier que l’outil a façonné l’homme social et lui a donné un statut particulier sur la nature. Connaissances, organisations, pouvoirs ne sont indéfiniment ouverts que par les techniques qui visent la réalisation de buts définis à l’avance. Ne serait-ce pas les finalités qui font peur et non les moyens ?

Enfin, la question de l’acceptabilité sociale et la place de l’IA relèveraient plus d’un maintien de connaissances qui autorisent un usage « éclairé » que des technologies elles-mêmes. En d’autres termes, l’IA n’est pas un problème. Ce qui en est un, c’est qu’elle puise ses fondements dans des modes de raisonnement qui ne sont plus reconnus aujourd’hui par une société en perte de structure.

Ainsi nous supposons que la peur sociale non avouée est que l’IA demeure la seule mémoire de nos capacités cognitives de compréhension, d’analyse, d’interaction avec notre environnement pour acquérir des connaissances, raisonner, s’adapter et interagir avec les autres intelligences.

Bibliographie

Agostinelli S. & Riccio P.-M. (2023). « La nécessaire création d’une relation persistante aux objets ». In Vieira L. (dir.). Les forces d’innovation de la subversion numérique. Bordeaux : Presses universitaires de Bordeaux, 209-220.

Agostinelli S. & Riccio P.-M. (2022). « Et de l’esprit, alors ça, zéro ! ». Communication, technologies et développement. https://journals.openedition.org/ctd/6406

Agostinelli S. (2018). « La compréhension intuitive des données : de Hal à Watson ». In Alcantara C., Charest F. & Agostinelli S. BigData et visibilité en ligne : un enjeu pluridisciplinaire de l’économie numérique. Paris : Presses des Mines, 13-24.

Boudon R. (1968). À quoi sert la notion de « structure » ? Essai sur la signification de la notion de structure dans les sciences humaines. Paris : Gallimard.

Chauvière M. (2012). L’intelligence sociale en danger : Chemins de résistance et propositions. Paris : La Découverte.

Chazelle B. (2012/10/18). L’algorithmique et les sciences, Collège de France, Leçon inaugurale. https://books.openedition.org/cdf/1362?lang=fr

Coppens Y. (1990). « L’outil, ou comment la connaissance a vaincu l’instinct ». Les cahiers du Mouvement Universel de la Responsabilité Scientifique 22, « L’évolution passe la main : outil – machine – robot », 5-13.

Darrigrand M. (2014). Comment les médias nous parlent (mal). « Contre le pessimisme médiatique et ses effets politiques ». Paris : J.-F. Bourin.

Delouvée S. & Rateau P. (2013). « Les peurs collectives comme forme de manifestation de la pensée sociale ». In Delouvée S., Rateau P. & Rouquette M.-L. (dir.). Les peurs collectives. Paris : ERES, 7-15.

Drucker P. (1970). The Age of Discontinuity: Guidelines to our changing Society. Londres : Heinemann.

Flichy P. (2004). « L’individualisme connecté entre la technique numérique et la société ». Réseaux 2, 124, 17-51.

Glassner B. (1999). The Culture of Fear: Why Americans are afraid of the wrong things. New York : Basic Books.

Jarrige F. (2016). Technocritiques. Du refus des machines à la contestation des technosciences. Paris : La Découverte, Poche / Sciences humaines et sociales.

Juignet P. (2015). « La régression de l’humain dans la société occidentale ». Philosophie, science et société. https://philosciences.com/regression-de-l-humain-dans-la-societe-occidentale

Leplat J. (2005). « Les automatismes dans l’activité : pour une réhabilitation et un bon usage ». Activités 2(2). https://journals.openedition.org/activites/1797

Lovecraft H.P. (1973). Supernatural Horror in Literature. New York : Dover, 11-106. https://www.hplovecraft.com/writings/litcrit/shil.aspx

Paugam S.(2008). Le lien social. Paris : PUF, Que sais-je ?

Pelegrin J. & Roche H. (2017). « L’humanisation au prisme des pierres taillées ». Comptes Rendus Palevol (16), 2, 175-181.

Pellegrin P. (2015). Aristote, Les Politiques. Paris : Flammarion.

Piaget J. (1968). Le structuralisme. Paris : Presses Universitaires de France.

Sigaut F. (2006). « Le savoir des couteaux ». Cahiers d’anthropologie sociale 1(1), 133-139.

Vernant J.-P. (1962). Les origines de la pensée grecque. Paris : PUF.

Villani C. (2018). Donner un sens à l’intelligence artificielle : pour une stratégie nationale et européenne. https://www.enseignementsup-recherche.gouv.fr/fr/rapport-de-cedric-villani-donner-un-sens-l-intelligence-artificielle-ia-49194

---

[1] Conférence Viva Tech, Paris, 14-17/06/2023. https://intelligence-artificielle.developpez.com/actu/345604/Le-responsable-de-l-IA-chez-Meta-affirme-que-l-intelligence-artificielle-n-est-pas-encore-aussi-intelligente-qu-un-chien-et-rejette-l-idee-selon-laquelle-les-robots-allaient-s-emparer-du-monde/

^[2] Dans le Ménon, Platon fondait son raisonnement hypothético-déductif appliqué à un problème social : la vertu.

^[3] Un futur pas si éloigné de ce que nous connaissons aujourd’hui avec les publications sur les réseaux sociaux et les influenceurs est présenté dans Nosedive. Premier épisode de la 3^e saison de Black Mirror (NetFlix, 2016) dans lequel Lacie Pound (Bryce Dallas-Howard) cherche la notoriété sur les conseils de « Reputelligence » (réputation et intelligence)…

^[4] https://www.europarl.europa.eu/news/fr/headlines/society/20200827STO85804/intelligence-artificielle-definition-et-utilisation

^[5] Vie-publique.fr (2019, en ligne). Fracture numerique, lillectronisme. https://www.vie-publique.fr/en-bref/271657-fracture-numerique-lillectronisme-touche-17-de-la-population

^[6] 24/10/2022 : https://www.zdnet.com/article/ai-critic-gary-marcus-metas-lecun-is-finally-coming-around-to-the-things-i-said-years-ago/

^[7] 24/09/2022 : https://www.zdnet.com/article/metas-ai-guru-lecun-most-of-todays-ai-approaches-will-never-lead-to-true-intelligence/

^[8] 14/02/2023 : Sommet mondial du gouvernement à Dubaï.

^[9] Quelques exemples :

• La vulnérabilité d’une borne de recharge des voitures électriques permettrait à un pirate de prendre le contrôle de la conduite.
• Problèmes de caméra de recul et de coffre qui augmenteraient le risque d’accident chez Tesla.
• Défauts à la fois mécaniques et électroniques qui seraient programmés chez Mercedes.
• Renault connaîtrait une faille de sécurité sur leur serveur et une commande de désactivation non autorisée aurait été envoyée aux bornes de recharge Zoé…

^[10] https://www.europe1.fr/societe/chatgpt-est-il-woke-4167109 Avec l’apprentissage supervisé une personne physique est là pour guider l’algorithme dans son apprentissage. Elle fournit des exemples en fonction des résultats attendus. L’IA apprend en diminuant l’écart entre les réponses obtenues et les réponses attendus. Pour l’apprentissage non supervisé, personne n’aide l’IA dans l’apprentissage mais les données sont toutefois sélectionnées par l’homme.

---

---