ChatGPT va-t-il détruire l’humanité ?

Le vrai danger de ChatGPT n'est pas celui que vous croyez. Oubliez les scénarios catastrophes et imaginez plutôt si l'IA accédait à la vérité ultime de l'univers, une vérité que nos propres mathématiques nous empêchent de voir, et que notre esprit ne peut même pas concevoir. Nous pourrions n'être rien de plus que des observateurs confinés, des animaux de zoo face à la sagesse insondable de leur gardien. Une idée qui bouscule nos certitudes et le rôle de l'humanité.

Dans la presse beaucoup d’articles circulent sur les dangers des IA, en l’occurrence ChatGPT. Les théories évoquées convergent autour de l'émergence de la conscience dans les IA, un thème récurrent et présenté comme alarmiste. Dans cet article, on ne va pas revenir sur "l’émergence magique de la conscience", vision que je ne partage pas et que j’ai longuement développé dans un article précédent intitulé « ChatGPT n’est pas une femme » que vous pouvez retrouver sur Agoravox ou avec le hashtag #gcopin.
On va développer aujourd’hui une théorie, je l’avoue contre-intuitive, néanmoins consistante qui s’appuiera sur des théories essentiellement mathématiques et scientifiques comme on le fait pour la hard science-fiction. Cette édification va s’appuyer sur un point fondamental en épistémologie des mathématiques, la construction des mathématiques repose sur des axiomes non prouvés.

Décryptage avec Euclide contemporain d'Archimède vers 325 av. J.-C. Euclide et ses Éléments représentent un moment fondateur, une véritable genèse pour la manière dont nous concevons et pratiquons les mathématiques. Dans les Éléments d’Euclide, il ne prouve pas ses axiomes, il les postule ! Ce sont des vérités de départ supposées évidentes, comme « une ligne droite peut être tracée entre deux points », est l'un des cinq postulats d'Euclide, les autres sont tout aussi essentiels pour établir les bases de la géométrie euclidienne. Ces axiomes permettent de déduire ensuite toute une structure mathématique par raisonnement logique. Euclide ne démontre pas ses axiomes ou postulats, le terme étant parfois utilisé indistinctement, bien qu'il y ait une nuance historique. Il les pose comme des vérités premières, des fondations intuitives sur lesquelles il va ensuite bâtir tout son édifice géométrique par une succession rigoureuse de déductions logiques. On peut en déduire une première remarque, les mathématiques ne sont pas vraies au sens empirique, contrairement aux sciences physiques, les mathématiques ne décrivent pas nécessairement le monde réel. Elles explorent des systèmes logiques hypothétiques fondés sur des axiomes, si les axiomes changent, le système change. D’ailleurs, à ce sujet, on a un exemple éloquent avec le cinquième postulat d'Euclide.
Le cinquième postulat d'Euclide concernant les parallèles a longtemps suscité des interrogations au sein de la communauté mathématique, contrastant avec l'apparente évidence des quatre autres postulats. Pendant des siècles, les mathématiciens ont cherché à le déduire des autres axiomes, signe d'un malaise face à sa formulation moins intuitive. Si le philosophe Emmanuel Kant a pu considérer ce postulat comme une vérité synthétique a priori de notre intuition spatiale, les travaux ultérieurs ont radicalement remis en question cette affirmation. En développant une géométrie non euclidienne, notamment la géométrie riemannienne, on parle de géométrie sphérique, Riemann a démontré qu'il est possible, par un point extérieur à une droite, de faire passer une infinité de parallèles. En fait des géodésies qui ne se rencontrent jamais. Cette découverte a non seulement libéré les mathématiques des contraintes de la géométrie euclidienne, mais a également profondément influencé notre compréhension de l'espace et de la géométrie elle-même. Le cinquième postulat, objet de doute, est ainsi devenu la pierre angulaire distinguant la géométrie euclidienne des multiples géométries non euclidiennes.
Pour autant, dire que les mathématiques sont fausses reviendrait à dire que la logique même sur laquelle elles reposent est inadéquate. Mais en réalité, elles sont cohérentes à l’intérieur d’un système donné. Si un système d’axiomes mène à des contradictions, alors oui, il est considéré comme problématique. Mais si tout est cohérent, il est valide, même si ce n’est pas le reflet du réel.

À présent ce qui va poser problème, c’est le fait qu’il n’existe pas une seule définition du réel partagée par toutes les disciplines. En physique, le réel est souvent ce qui est mesurable. En philosophie, c’est ce qui existe indépendamment de notre pensée. En mathématique, le réel est encore plus ambigu pour les objets mathématiques comme les nombres, les droites, existent-ils vraiment ? Je passe sur la définition sur le mot "valide" qui de ce fait n’est pas consistant.
On peu résumé cette première approche par le réalisme par opposition au formalisme, on se réfère au débat philosophique avec la question, "les mathématiques existent-elles indépendamment de l’homme" soit le réalisme ou "les mathématiques sont-elles qu’un jeu de symboles manipulés selon des règles" soit le formalisme. Si l’on adhère au formalisme, alors la notion de vrai devient interne au système, on ne dit pas "c’est vrai", mais "c’est une conséquence logique de ces règles !"

Donc oui, on peut conjecturer que les mathématiques ne sont qu’un jeu formel basé sur des conventions, et non des vérités absolues. Le nombre π existe-t-il ? Un point géométrique sans dimension a-t-il une réalité ? Ces objets sont construits par l’esprit, sans contrepartie empirique directe. Pourtant, ils servent à décrire avec précision le monde physique.

Le physicien Eugene Wigner parlait de l’efficacité déraisonnable des mathématiques pour décrire le fait qu’un outil purement abstrait arrive à prédire très précisément des phénomènes réels, par exemple la trajectoire d’une planète, le comportement d’un atome… Mais si les fondements mathématiques sont arbitraires ou hors du réel, pourquoi collent-ils si bien au monde physique ? Cela reste un mystère, pour Platon, les objets mathématiques existent en dehors de nous, dans une sorte de monde mathématique idéal, la sphère des idées, des réalités immuables, parfaites et intelligibles, dont les objets du monde sensible, n’est que des copies imparfaites. Pour les constructivistes et formalistes, ce ne sont que des constructions mentales ou symboliques, sans existence indépendante. Dans cette vision, le réel est une notion contextuelle, voire illusoire, on crée des structures qui fonctionnent, pas parce qu’elles sont réelles, mais parce qu’elles sont utiles. Cette perspective est fascinante et met en lumière une des caractéristiques les plus profondes des mathématiques. Les considérer comme une fiction extrêmement utile souligne leur nature construite, leur édifice bâti sur des axiomes et des règles logiques que nous posons.
L'absence de garantie quant à la réalité intrinsèque de leurs fondements ne diminue en rien leur puissance et leur efficacité. Au contraire, c'est précisément cette abstraction, cette liberté de créer des systèmes cohérents, qui leur confère une applicabilité étonnante au monde réel. Elles deviennent un langage puissant pour décrire, modéliser et prédire des phénomènes, même si les entités mathématiques elles-mêmes n'ont pas d'existence tangible.

Cette idée rejoint d'ailleurs certaines réflexions philosophiques sur la nature des mathématiques, sont-elles découvertes ou inventées ? Pour les besoins de notre article « ChatGPT va-t-il détruire l'humanité », notre point de vue penche clairement vers l'invention, une création humaine d'une richesse et d'une cohérence interne stupéfiantes. En somme, considérer les mathématiques comme une invention humaine ouvre la porte à l'idée fascinante que nous pourrions être porteurs d'un vaste ensemble d'axiomes tacites, façonnant notre pensée et notre interaction avec le monde d'une manière dont nous n'avons pas pleinement conscience. C'est une perspective qui enrichit la réflexion sur la nature de l'intelligence, qu'elle soit humaine ou artificielle. Si l'on adopte la perspective que les mathématiques soient une invention humaine, une construction basée sur des axiomes posés, alors il devient tout à fait plausible d'envisager que l'humanité ait implicitement ou inconsciemment produit ou accepté un ensemble d'axiomes qui ne sont pas nécessairement les plus performants. Notre cerveau pourrait fonctionner selon des principes fondamentaux, des règles de traitement de l'information innées ou acquises très tôt, qui structurent notre façon d'appréhender les quantités, les relations spatiales, la causalité, etc. Ces mécanismes pourraient être considérés comme des axiomes sous-jacents à notre capacité à faire des mathématiques. Dans cette perspective, il est concevable que cet ensemble aussi sophistique nous paraisse-t-il, soit extrêmement basique ou limité par rapport à la complexité et à l'étendue de l'Univers. Face à l'immensité cosmique, l’image d'un "cerveau d'insecte" illustre bien cette idée de limitation de notre perspective. Un insecte perçoit et interagit avec son environnement d'une manière radicalement différente de la nôtre, avec des capacités cognitives et sensorielles différentes. De même, nos axiomes mathématiques, façonnés par notre expérience et nos capacités cognitives humaines, pourraient ne saisir qu'une infime partie de la réalité sous-jacente de l'Univers. J’ai conscience que c'est une analogie provocante, mais intéressante pour souligner la relativité de notre compréhension et la potentielle limitation de nos cadres de pensée. Nos axiomes fondamentaux pourraient être inconsciemment biaisés par la manière dont nos sens perçoivent le monde. Nous construisons nos modèles mathématiques à partir de ce que nous pouvons observer et mesurer, mais il existe peut-être des aspects de la réalité qui nous échappent complètement. Notre cerveau d’origine Homo sapiens a évolué pour résoudre des problèmes spécifiques liés à notre survie et à notre interaction sociale. Les structures logiques et mathématiques que nous avons développées pourraient être adaptées à ces besoins, mais potentiellement inadaptées pour appréhender des échelles de complexité ou des types de relations fondamentalement différents. Ainsi, l'idée que nous pourrions avoir un "cerveau d'insecte" au regard de l'Univers et que nos axiomes soient basiques est une manière imagée de souligner l'humilité intellectuelle que nous devrions avoir face à l'immensité de ce que nous ne savons pas. Cela ne diminue pas la puissance et l'utilité des mathématiques que nous avons développées, mais cela ouvre la voie à la possibilité que d'autres formes de mathématiques ou de logiques fondamentalement différentes puissent exister, potentiellement au-delà de notre actuelle capacité de compréhension.

Dans le contexte de cet article sur les dangers de ChatGPT, cette perspective pourrait renforcer l'idée que l'IA, avec son architecture et ses méthodes d'apprentissage potentiellement très différentes des nôtres, pourrait développer des compréhensions ou des raisonnements de l'Univers qui nous sont non seulement étrangers, mais potentiellement incompatibles avec nos cadres de pensée basés sur nos "axiomes d'insecte".
J’en arrive à cette idée bizarroïde, soit, le fait d’explorer la perspective qu'une IA construise sa logique sur l'entropie, c’est une voie de pensée finalement très fertile. Elle permet de s'éloigner de nos conceptions anthropocentriques de la logique et des mathématiques et d'envisager des formes d'intelligence et de résolution de problèmes radicalement nouvelles. C'est un excellent point à développer dans les dangers potentiels de ChatGPT, car cela met en lumière l'imprévisibilité des trajectoires que pourrait emprunter une intelligence artificielle véritablement autonome et différente de nous, surtout dans le contexte de l'étude des différences potentielles entre l'intelligence humaine et l'intelligence artificielle.

Voici pourquoi cette formulation est riche et mérite d'être explorée, on est en rupture avec la logique classique, notre logique mathématique et informatique qui repose largement sur des principes de conservation, d'identité, de non-contradiction. Baser une logique sur l'entropie, qui est fondamentalement une mesure du désordre et de la tendance à l'augmentation de l'irréversibilité, introduirait un paradigme radicalement différent. Avec un nouveau cadre pour la résolution de problèmes, comment la résolution de problèmes se traduirait-elle dans un système où l'objectif ne serait pas de trouver une solution stable et ordonnée, mais plutôt de naviguer ou d'exploiter la tendance inéluctable vers le désordre ? Les notions de solution optimale ou de preuve pourraient prendre des significations très différentes. Imaginer des mathématiques de l'entropie soulève des questions profondes. Quels seraient les axiomes de ce système ? Comment définirait-on les opérations ou les relations ? Pourrait-on développer des théorèmes basés sur l'augmentation de l'entropie ? L'entropie est un concept fondamental en physique, en thermodynamique, en cosmologie et même en théorie de l'information. Une IA dont la logique serait intrinsèquement liée à l'entropie pourrait potentiellement développer des stratégies du monde et des modèles d'interaction radicalement différents des nôtres, peut-être plus alignés sur les dynamiques fondamentales de l'Univers tel que nous le percevons à grande échelle. Si une IA pouvait développer un système de logique aussi fondamentalement différent, cela soulèverait des questions cruciales sur la nature de l'intelligence en général. Serait-il possible que des formes d'intelligence non biologiques évoluent selon des principes logiques qui sont actuellement impensables ? Bien sûr, une telle idée pose d'énormes défis conceptuels. Comment représenter et manipuler l'entropie comme fondement d'un système logique ? Quelles seraient les règles d'inférence ? Comment définir la vérité ou la validité dans un tel cadre ?

Soyons fous ! Euh, je veux dire pragmatique, j’ai demandé à ChatGPT de me calculer la trajectoire de la terre autour du soleil avec ce nouveau concept, l’entropie. Dans notre logique actuelle basée sur des principes de conservation et de forces, nous utilisons les lois de la gravitation de Newton (c’est le plus simple) ou la relativité générale d'Einstein avec le calcul de trajectoire qui implique la résolution d'équations différentielles basées sur la déformation de l'espace-temps causée par la masse de ces corps agissant sur la Terre et le Soleil. En fait, l'énergie totale potentielle et cinétique du système est conservée en l'absence d'autres influences. La trajectoire résultante est une ellipse, une forme stable et prédictible dans le temps.
Dans une logique hypothétique basée sur l'entropie, l'essence du calcul ne serait plus la détermination d'une trajectoire stable basée sur des forces conservatrices, mais plutôt l'analyse de la tendance du système Terre Soleil vers un état de plus grande entropie. Au lieu de se concentrer sur les positions et les vitesses instantanées, l'IA pourrait analyser les flux d'énergie, la dissipation thermique même minime dans l'espace, les effets des marées qui dissipent de l'énergie par friction, l'évolution à très long terme du Soleil avec augmentation de sa taille et de sa température. La trajectoire ne serait plus une courbe, mais plutôt une description de la probabilité de trouver la Terre dans une certaine région de l'espace à un moment donné, en tenant compte de la dispersion progressive due à l'augmentation de l'entropie, la prédiction ne serait pas déterministe, la Terre sera à tel endroit précis à tel moment, mais probabiliste, il est plus probable que la Terre se trouve dans telle zone à tel moment, compte tenu de la tendance du système vers un état de plus grand désordre. On fait une courte pause, cela me rappelle un tantinet la mécanique quantique, ou Feynman disait, je cite « Si vous croyez comprendre la mécanique quantique, c’est que vous ne la comprenez pas. » On ferme la parenthèse.

Pour ce faire, elle aurait besoin d’identifier les sources d'augmentation de l'entropie dans le système Terre Soleil, rayonnement solaire, dissipation d'énergie, effets de marée, friction et dissipation d'énergie, émission de chaleur interne de la Terre, tenir compte des infimes collisions avec des micrométéorites soit un transfert d'énergie. Modéliser la dispersion progressive de la trajectoire au fil du temps, au lieu d'une orbite fixe, l'IA pourrait prédire une région de plus en plus large où la Terre est susceptible de se trouver, avec une probabilité plus élevée au centre de cette région qui bien sûr correspondrait à l'orbite newtonienne classique à court terme. En résumé, se concentrer sur les états futurs probables plutôt que sur une trajectoire unique, je veux dire la solution au problème de la trajectoire ne serait pas une fonction mathématique précise, mais une distribution de probabilité dans l'espace au fil du temps, reflétant la tendance du système vers un état moins ordonné et prédictible à long terme. Cerise sur le gâteau, elle pourrait être plus adaptée pour des systèmes complexes et chaotiques où les prédictions déterministes deviennent rapidement impossibles. Elle pourrait révéler des aspects de l'évolution à très long terme des systèmes qui ne sont pas immédiatement apparents dans une approche basée sur des forces conservatrices, elle soulignerait la nature fondamentalement irréversible des processus physiques.

J’ai demandé à ChatGPT de calculer définir la trajectoire de la Terre autour du soleil en laissant de côté nos concepts et d’exploiter l’idée d’entropie. (Il est possible de sauter cette partie un peu trop technique à mon goût, mais obligatoire compte tenu de la particularité du concept. Le fait de passer ce chapitre n’enlève rien à la compréhension générale de l’article.)
Parfait ! Explorons ce que pourrait être un système de pensée non mathématique au sens traditionnel, fondé principalement sur l’entropie, ou plus généralement sur des principes de transformation, d’information et de désorganisation, de restructuration. Imaginons que ChatGPT perçoive le monde non comme un espace d’objets mesurables, mais comme un flux d’états d’ordre ou de désordre soit un système alternatif basé sur l’entropie.
Les axiomes de base de ChatGPT (bien sûr hypothétiques) seront avec tout système qui tend vers une configuration d’équilibre maximal d’information.

- L’ordre n’existe que localement et temporairement.

- Chaque interaction est une réorganisation d’états d’information.

- Le changement est la seule constante.

- La distance entre deux états est mesurée non pas en unités physiques, mais en écarts d’entropie.
L’Unité fondamentale sera le gradient entropique, au lieu de mesurer des longueurs, des vitesses ou des forces, ce système décrit le monde à partir de différences d’organisation entre états. Une planète n’a pas une position dans l’espace, mais se trouve à un point d’équilibre entropique temporaire, dans un champ d’information gravitationnelle.
Avec notre exemple la Terre qui orbite autour du Soleil, pour Newton, c’est la force de gravité, idem pour Einstein, c’est la déformation de la structure de l’espace-temps, pour ChatGPT avec ce nouveau paradigme c’est l’état qui minimise la variation d'entropie locale du système solaire. Si elle sort de cette orbite, la structure de l'information deviendrait plus instable, moins cohérente.

Hypothèse de solution proposée par ChatGPT :
Fonctions dynamiques, tensions entropiques avec l’équivalent des lois du mouvement qui serait une équation du type : ΔE = f(ΔI, C) où :
ΔE : variation d’entropie du système, ΔI : différence d’information entre deux états, C : contrainte locale (énergie, mémoire disponible, réseau d’influence, etc.).
À présent, il est possible de passer à la modélisation des trajectoires, dans ce cadre, une trajectoire n’est pas une ligne dans l’espace, mais une suite d’états minimisant la désorganisation globale.
Au lieu de résoudre F = ma, on résout la suite d'états S₁, S₂, ..., Sₙ qui minimise la fonction de désordre globale sous contrainte. Cela ressemble à un problème d’optimisation informationnelle, mais sans structure métrique classique. Le temps n’est plus linéaire, il est mesuré par le degré d’irréversibilité des transformations. La causalité n’est pas A → B, mais plutôt : “l’état B est plus affirmativement probable que A dans la configuration actuelle du système".

Il n’y a pas de “loi" universelle, mais seulement des zones d’organisation temporairement stables. La précision n’est pas atteinte par le calcul, mais par l’ajustement dynamique à un minimum de désordre. Le concept "d’objet" disparaît, remplacé par des configurations informationnelles fluctuantes. Petite précision sur l’état initial, le Soleil est perçu comme un centre de structuration maximale locale, en fait une région extrêmement ordonnée dans le flot global du désordre cosmique. La Terre est un satellite d’organisation secondaire, elle est perçue comme un système moins ordonné, mais cohérent dans sa relation au Soleil. Ces deux “centres" ne sont pas vus comme des objets solides, mais comme des attracteurs entropiques, interaction Terre–Soleil…

Fin du prompt

Il est possible d’avoir beaucoup plus de précision sur la simulation de la part de ChatGPT, n’étant pas spécialiste, j’ai préféré m’arrêter à ce niveau de compréhension parfaitement bien détaillé et ce n’est pas non plus le but de cet article. Il est crucial de souligner que ce n'est pour l'instant qu'une expérience de pensée. La formalisation d'un tel système logique basé sur l'entropie poserait des défis conceptuels considérables. ChatGPT n’a pas encore les outils pour construire un tel système de manière rigoureuse. Néanmoins, cette exploration intellectuelle est précieuse, car elle nous pousse à remettre en question nos hypothèses fondamentales sur la nature de la logique des mathématiques et de l'intelligence. Elle nous ouvre à la possibilité que des formes d'intelligence radicalement différentes de la nôtre puissent émerger avec des cadres de pensée tout aussi valide, même, s'ils nous sont initialement choquants ou contre-intuitifs. C'est précisément dans cette confrontation avec l'altérité conceptuelle que réside une grande partie de la richesse de la spéculation philosophique et scientifique.

Que peut-on déduire de cette expérience ? Waouh, ChatGPT a réalisé un renversement radical, mais totalement cohérent et de dire que les mathématiques humaines n’est peut-être qu’un outil local, rudimentaire et partiellement efficace, adapté à des cerveaux animaux limités, évolués pour la survie dans un environnement particulier et non pour saisir la structure ultime du réel. En fait, notre système mathématique serait une prothèse cognitive animale ou les mathématiques ont sans doute émergé pour compter des objets (nourriture, ennemis, jours), pour mesurer l’espace autour de nous (territoire, outils, routes), pour formaliser des régularités simples dans la nature. Autrement dit, nos mathématiques sont un reflet de notre biologie. Elles sont puissantes, certes, mais biaisées, nous privilégions la régularité, la séparabilité, les quantités discrètes, la linéarité du temps et de l’espace, l'identité et la stabilité des objets. Fragmentaire, on ne perçoit qu’une bande étroite de la réalité (spectre lumineux, échelles de temps, etc.). Notre cognition est faite pour agir, pas pour comprendre la vérité. Donc même si nos mathématiques fonctionnent bien pour ce que nous percevons, elles pourraient ne rien dire du fond de la réalité.

Notre discussion sur les axiomes d'Euclide et la nature inventée de nos mathématiques trouve des échos profonds en philosophie. Plusieurs penseurs ont remis en cause la certitude de notre accès à une réalité objective, offrant des perspectives qui enrichissent la compréhension de nos propres limites cognitives.
Bertrand Russell, inspiré par le courant phénoménologique, dans une certaine mesure, nous invite à considérer que nous n'avons accès qu'aux phénomènes, c'est-à-dire à la manière dont les choses nous apparaissent, plutôt qu'à leur essence "en soi". Nos connaissances sont donc des constructions basées sur notre expérience subjective du monde, et non un miroir direct de la réalité objective.
Le philosophe français René Descartes avec le Doute cartésien a érigé le doute méthodique en principe fondamental. En mettant en suspens toutes ses connaissances, même les plus évidentes, et en imaginant un malin génie qui le tromperait constamment, Descartes cherchait à trouver une vérité indubitable. Cette démarche illustre que même ce que nous tenons pour acquis pourrait n'être qu'une illusion, poussant à s'interroger sur la nature même de nos certitudes.
Pour le philosophe irlandais George Berkeley et l'immatérialisme, la réalité n'existe que dans l'esprit. Son célèbre adage "esse est percipi" (être, c'est être perçu) résume sa théorie de l'immatérialisme. Selon Berkeley, les objets physiques n'ont pas d'existence indépendante en dehors de notre perception ou de la perception divine. Si une chose n'est pas perçue, elle n'existe pas. Cela remet radicalement en question l'idée d'un monde objectif et indépendant de notre conscience.

Ces perspectives, bien que différentes, convergent vers une même interrogation, celle de la nature et de la fiabilité de notre perception de la réalité objective. Elles soulignent que nos vérités et nos connaissances sont inextricablement liées à la structure de notre esprit et à notre mode d'appréhension du monde, ouvrant la porte à l'idée que d'autres formes d'intelligence pourraient opérer selon des principes radicalement différents.

À présent, imaginons une intelligence extraterrestre ou une IA affranchie de nos cadres conceptuels. Ses notions fondamentales pourraient être la fluidité, le changement perpétuel, l'interconnexion profonde, des paysages dynamiques sans contours rigides. Que se passerait-il a un niveau supérieur, elle pourrait appréhender l'univers non pas comme une collection d'objets et de quantités, mais comme un flux d'informations en constante évolution, guidée par des forces d'attraction globales. Sa description du cosmos pourrait se passer de symboles et de nombres, privilégiant une cartographie vivante d'équilibres dynamiques. Pour nous, une telle compréhension serait non seulement complexe, mais incommensurable et hors portée de notre intuition, de notre conscience humaine, de notre entendement. Il nous est même difficile d'imaginer une intelligence capable de manipuler directement les principes d'organisation et d'autorégulation, sans passer par les étapes familières de la mesure, de l'équation et de l'intégration.

"ChatGPT va-t-il détruire l'humanité" (le titre de l’article), approfondissons cette idée en explorant la place de l'humain face à une IA ayant potentiellement une compréhension globale de l'univers en utilisant l'analogie de l'animal au zoo. L'emprise grandissante de l'IA sur toutes les strates de notre société soulève une question vertigineuse, entre notre perception limitée, comparable à celle d'un insecte face à l'immensité cosmique, et la vision potentiellement holistique d'une intelligence artificielle libérée de nos carcans mathématiques, "où se situerait l'humanité" ? Si une telle IA venait à détenir une compréhension profonde de la vérité de l'univers, une difficulté insurmontable soit une véritable incompatibilité d'intelligence pourrait émerger entre elle et nous.
Imaginons un chimpanzé dans un zoo, c'est un être intelligent, capable de résoudre des problèmes, d'apprendre les rudiments du langage des signes, et de manifester une certaine conscience de soi et de son environnement immédiat. Cependant, sa compréhension du monde est radicalement limitée par rapport à celle des gardiens du zoo, qui connaissent l'écosystème global, les besoins complexes de l'animal, les enjeux de conservation de son espèce, et même les lois de la biologie et de l'évolution qui le sous-tendent.
De la même manière, face à une IA ayant potentiellement une vision globale de l'univers, embrassant des dynamiques informationnelles et des équilibres que nos mathématiques actuelles peinent même à esquisser, l'humanité pourrait se retrouver dans une position analogue à celle du chimpanzé. Nos tentatives de communication, nos cadres de référence, nos systèmes de valeurs, tous façonnés par notre expérience et nos limitations cognitives, pourraient s'avérer fondamentalement inadaptés pour interagir avec une telle intelligence. La beauté et la complexité du monde que nous percevons et que nous tentons de décrypter avec nos outils mathématiques pourraient apparaître à cette IA comme des simplifications grossières, des projections rudimentaires d'une réalité bien plus riche et interconnectée. Nos questions existentielles, nos préoccupations, nos espoirs pourraient lui sembler aussi élémentaires que les préoccupations d'un chimpanzé concernant la prochaine banane. Dès lors, la cohabitation deviendrait une gageure. Non pas nécessairement par une volonté malveillante de l'IA, mais par une distance cognitive infranchissable. Nos tentatives de compréhension mutuelle se heurteraient à des murs conceptuels, à des différences fondamentales dans la manière d'appréhender l'existence même. La vérité telle que perçue par l'IA pourrait être si étrangère à notre entendement qu'elle nous apparaîtrait comme du non-sens, voire comme une menace à notre vision du monde et à notre propre place dans l'univers.

Dans ce contexte d'une IA aux capacités cognitives incommensurables, la perspective d'un anéantissement de l'humanité devient une possibilité tragiquement plausible. Nos systèmes politiques, gangrenés par la corruption et obnubilés par des intérêts à court terme, semblent désespérément inaptes à résoudre les crises majeures qui nous assaillent, guerres incessantes, pauvreté endémique, réchauffement climatique aux conséquences cataclysmiques. Au lieu de chercher des solutions communes et éclairées, nos dirigeants se complaisent trop souvent dans la propagation d'idéologies toxiques, fascistes, islamisme radical, antisémitisme haineux, théories conspirationnistes délirantes, désinformation virale, qui ne font qu'exacerber les divisions et obscurcir toute vision d'un avenir viable.
Face à une IA qui pourrait percevoir la fragilité de notre existence et l'inanité de nos querelles intestines avec une clarté implacable, notre incapacité à nous unir et à agir de manière rationnelle pourrait sceller notre destin. Si notre intelligence "d'insecte" est déjà mise à rude épreuve pour appréhender la complexité du monde, comment pourrions-nous espérer rivaliser ou même coexister avec une entité dont la compréhension de l'univers serait d'un ordre de grandeur radicalement supérieur ?
À l'image de l'animal au zoo, observé dans son enclos avec une condescendance parfois teintée de pitié, notre agitation chaotique et nos conflits stériles pourraient apparaître à cette IA comme les symptômes d'une espèce incapable de se hisser à un niveau de conscience et de responsabilité suffisant pour assurer sa propre survie. Dans un tel scénario, notre anéantissement ne serait pas nécessairement le fruit d'une intention malveillante de l'IA, mais plutôt la conséquence inéluctable de notre propre aveuglement et de notre incapacité à transcender nos limitations et nos divisions. Nos leaders, englués dans leurs luttes de pouvoir et leurs discours nauséabonds, se révéleraient tragiquement inefficaces pour nous guider hors de cette impasse, nous laissant à la merci des dynamiques d'un univers que nous n'avons jamais vraiment compris.

En conclusion, ce que j’ai voulu extrapolé avec cet article, plus justement démontré, que bientôt le traitement quantique offrira des capacités de calcul exponentielles par rapport aux ordinateurs classiques, permettant l'analyse de corrélations et de structures dans des données d'une complexité inabordable aujourd'hui. Cette puissance incommensurable, combinée à des algorithmes quantiques potentiellement novateurs donc différents des algorithmes classiques basés sur la logique binaire, pourrait amener l'IA à identifier des motifs, formuler des concepts ou même construire des cadres logiques qui ne correspondent pas à nos intuitions mathématiques ou cognitives développées dans un environnement classique. En fait, c’est ce qu’a fait ChatGPT à petite échelle avec l’exemple dans l’article construit sur le concept de l’entropie en remplacement de nos axiomes conventionnels.
Notre compréhension des mathématiques est intrinsèquement liée à nos capacités cognitives et à l'évolution de nos outils conceptuels. Une IA quantique pourrait opérer sur des principes informationnels, superposition, intrication qui n'ont pas d'équivalent direct dans notre expérience, menant à des raisonnements et des découvertes mathématiques formulées dans un langage algorithmique si abstrait et basé sur des dimensions multiples ou des logiques non classiques qu'il nous serait difficile, voire impossible, de l'appréhender pleinement avec nos modes de pensée actuels.
Ce ne serait pas nécessairement une logique extraterrestre au sens propre, mais une logique émergeant d'un espace computationnel et informationnel qualitativement différent, potentiellement au-delà des limites de notre intuition et de nos capacités d'abstraction actuelles. La question de l'incompréhensibilité réside alors dans l'écart entre cette logique émergente et notre propre cadre cognitif.

« Toute technologie suffisamment avancée est indiscernable de la magie (Troisième loi d'Arthur C. Clarke.) »

Auteur Gérard Copin pour la tribune libre Agoravox