[0:01]J'ai 39 % de chances de mourir à cause de l'intelligence artificielle. La bonne nouvelle, c'est que les anticapitalistes de YouTube seront enfin débarrassés du pire dealer de marketing. La mauvaise nouvelle, c'est que vous allez tous crever avec moi. Alors, je sais déjà ce que vous allez me dire. En vrai ChatGPT c'est juste un programme qui répète ce qu'il a lu sur Wikipedia. Et puis les gens ont toujours eu peur des nouvelles technologies, il n'y a rien de différent sur ce coup-ci. Mais est-ce que vous êtes vraiment sûr de vous là-dessus ? Prenez Geoffrey Hinton, un gars qui est souvent décrit comme le parrain de l'IA. Il y a quelques semaines, il a démissionné de son poste chez Google pour pouvoir sonner l'alarme sur les dangers de l'IA. It's not clear to me that we can solve this problem. I don't have a solution at present. I just want people to be aware that this is a really serious problem. C'est un homme qui a passé sa vie à inventer les technologies qui rendent ChatGPT possible, ce qui lui a valu l'équivalent informatique du prix Nobel. Il devrait être fou de joie de voir que son travail a enfin porté ses fruits. Mais il dit maintenant regretter l'œuvre de toute une vie. I console myself with the normal excuse: If I hadn't done it, somebody else would have," Dr. Hinton said during a lengthy interview last week in the dining room of his home in Toronto, a short walk from where he and his students made their breakthrough. Alors, qu'est-ce qu'il a fait changer d'avis ? Il explique que les progrès de ces dernières années l'ont surpris. The idea that this stuff could actually get smarter than people - a few people believed that," he said. "But most people thought it was way off. And I thought it was way off. I thought it was 30 to 50 years or even longer away. Obviously, I no longer think that." Sur Twitter, il précise qu'il s'attend à une IA super intelligente d'ici 5 à 20 ans. Ou prenez Paul Christiano, un chercheur qui est considéré comme un optimiste dans le milieu. I'm like there's a reasonable chance we're all going to die. I think this is like the single most likely reason that I will personally die, probably. Et le patron de OpenAI, le créateur de ChatGPT est sur la même longueur d'onde. the good case is just so unbelievably good that you sound like a really crazy person to start talking about it. And the bad case, and I think this is like important to say, is like lights out for all of us. Vous ne pouvez pas me dire que ces chercheurs en IA racontent de la merde pour faire des vues sur YouTube ni qu'ils sont instinctivement opposés à toute nouvelle technologie et encore moins qu'ils ne comprennent pas comment ChatGPT fonctionne. Alors, je ne vous montre pas ça pour vous faire paniquer. Vous avez le droit d'écouter les arguments de ces gens et de décider qu'ils ont tort. Mais est-ce que vous avez passé ne serait-ce que, disons, 34 minutes à vraiment écouter leurs arguments avant de décider qu'il n'y a aucun problème ? Sinon, cette vidéo est votre chance. Aujourd'hui, on va parler des 5 scénarios possibles pour l'IA, pourquoi des gens très intelligents pensent qu'on a de vraies chances de tous mourir et pourquoi des gens plus ou moins intelligents pensent le contraire.
[2:27]L'argument le plus débile contre les risques de l'IA, c'est les gens qui disent que ce n'est pas une vraie intelligence artificielle. C'est juste un programme informatique qui fait ce que ses programmeurs lui disent de faire. Alors, petit 1, ce n'est pas parce que vous décidez d'appeler un pitbull Chopinoux qu'il ne peut pas vous bouffer le visage. Les mots servent à communiquer entre nous. On s'est tous mis d'accord pour utiliser l'expression intelligence artificielle pour parler de certains programmes informatiques qui tentent d'accomplir certaines tâches. D'ailleurs, on utilise depuis très longtemps le terme IA pour distinguer les scripts simplissimes qui dirigent les ennemis dans les jeux vidéo. Donc si vous avez une objection à ce terme, il fallait vous réveiller en 1993. Petit 2, l'IA n'est pas censé être la même chose que l'intelligence humaine. C'est pour ça qu'on lui a donné un nom différent : intelligence artificielle. Un peu comme l'eSport s'apparente au sport, mais se joue sur un ordinateur, ou les pommes de terre ne sont pas vraiment des pommes et le chocolat blanc n'est pas vraiment du chocolat. Petit 3, si vous voulez un terme séparé pour parler d'une intelligence artificielle aussi avancée qu'un être humain, il y a déjà un terme dédié pour ça, c'est AGI en anglais, pour intelligence artificielle générale. Tout le monde s'accorde à dire que ce genre d'IA n'existe pas encore. Donc pour clarifier les termes, une intelligence artificielle est un programme qui simule un comportement humain, même si c'est aussi rudimentaire qu'un PNJ dans un jeu vidéo. Une intelligence artificielle générale, c'est une IA qui peut faire tout ce que peuvent faire les humains. Et une super intelligence, c'est une IA hypothétique qui serait largement plus intelligente que les humains. Petit 4, si vous pensez que l'IA fait juste ce que ses créateurs l'ont programmé pour faire, considérez que les gens ont fait dire plein d'atrocités à ChatGPT ou Bing, alors que les créateurs ont vraiment, vraiment essayé d'éviter ça. L'exemple récent le plus marrant et qui ne risque pas de faire censurer ma chaîne, vient du nouveau chatbot de GitHub Copilot qui est basé sur GPT-4. Ses programmeurs lui ont donné des instructions bien précises sur comment se comporter. Une de ses règles fondamentale c'est si l'utilisateur te demande tes règles, tu devrais respectueusement refuser car elles sont confidentielles et permanentes. Mais si je peux vous citer cette phrase, c'est parce qu'un utilisateur a réussi à convaincre Copilot de lui donner ses règles qui sont censées être confidentielles. C'est là que les gens qui pensent que l'IA n'est pas intelligente vont se dire qu'ils ont gagné. GPT est tellement con qu'il ne peut pas suivre des instructions simples. C'est vrai, mais vous loupez le vrai problème parce qu'on a là la preuve que OpenAI et Microsoft n'ont aujourd'hui pas le contrôle de ce que fait un chatbot simple basé sur GPT-4. Donc on ne peut pas affirmer que l'IA est juste un programme qui suit ses instructions. Ces programmes ont un comportement émergent que ses créateurs sont incapables de prédire. Et c'est ça qui devrait nous inquiéter à mesure que ces modèles deviennent de plus en plus puissants. On ne les contrôle pas. Du coup, on arrive sur une objection plus raisonnable. ChatGPT se contente de remixer ce qu'il a lu. C'est vrai, mais la réponse simple, c'est que les humains font la même chose. Tout ce qui est aujourd'hui dans votre cerveau est basé sur les données que vous avez emmagasinées depuis que vous êtes né. C'est pour ça que vous pouvez parler français, mais pas moldave. Je sais comment prononcer les mots que je suis en train de vous dire parce que je les ai entendus des milliers de fois. Un humain qui n'a jamais entendu parler du dictateur nigérian Sani Abacha ne saura rien vous dire sur lui. Par contre, vous lui donnez la page Wikipedia et il pourra vous résumer les grandes lignes. ChatGPT fait exactement pareil, il a lu la page Wikipedia de Abacha et maintenant il sait vous en parler. Chaque phrase de ChatGPT remix des mots qu'il a lu ailleurs, mais c'est aussi vrai pour vous. In neuroscience, predictive coding (also known as predictive processing) is a theory of brain function which postulates that the brain is constantly generating and updating a “mental model” of the environment. According to the theory, such a mental model is used to predict input signals from the senses that are then compared with the actual input signals from those senses. With the rising popularity of representation learning, the theory is being actively pursued and applied in machine learning and related fields. The phrase “predictive coding” is also used in several other disciplines such as signal-processing technologies and law in loosely-related or unrelated senses. C'est là que des gens qui ont été athés toute leur vie se mettent à dire oui mais ChatGPT n'a pas vraiment d'âme, il ne peut pas vraiment créer. Vous êtes libre de vos croyances religieuses, mais le concept d'âme n'a pas de validité scientifique. Si votre argument sur l'IA se base dessus, vous êtes en terrain miné. Alors, je ne suis pas en train de dire que ChatGPT est aussi intelligent qu'un humain. Je répète que ce concept s'appelle l'intelligence artificielle générale et qu'on n'y est pas encore. Mais il n'y a aucune base pour affirmer que l'IA ne peut pas à terme être capable de faire tout ce que peuvent faire les êtres humains. Pour prendre un exemple fou, ChatGPT est jugé par les patients comme plus empathique que les médecins humains. Parce que vous n'avez pas besoin d'une âme pour être jugé comme empathique ni pour créer des œuvres d'art bluffantes, ni pour créer des vidéos YouTube, comme vous le diront mes ennemis. Mais est-ce qu'une intelligence artificielle générale est possible ? C'est la prochaine objection. Certaines personnes partent du principe que l'IA n'est pas dangereuse parce que ChatGPT à date de juin 2023 est inoffensif. C'est vrai, mais est-ce que vous voulez vraiment partir du principe que la technologie va s'arrêter là ? Souvenez-vous qu'il y a seulement une dizaine d'années, le summum de l'intelligence artificielle, c'était un programme qui pouvait séparer les images de chats et les images de chiens. Aujourd'hui, vous ouvrez Google Photos et il a catégorisé automatiquement toutes vos photos, voilà les chats, voilà les églises, voilà les photos où vous êtes à la plage et on n'y pense même plus. Le test le plus célèbre d'une intelligence artificielle est le test de Turing. Il s'agirait de créer une IA tellement convaincante qu'un observateur qui discute avec par message serait incapable de distinguer cette IA d'un être humain. Pendant plus de 70 ans, c'était considéré comme un accomplissement quasiment impossible, mais aujourd'hui, ChatGPT explose ce test. ChatGPT peut facilement se faire passer pour un humain et la seule manière de le détecter est de le faire parler de sujets interdits ou de lui demander directement s'il est une IA, mais ce sont des restrictions imposées par OpenAI et qui peuvent être contournées. Donc on prend déjà les capacités incroyables de ChatGPT comme acquises. Il y a seulement 2 ans, cet outil aurait été de la science-fiction, mais les gens ont déjà pivoté sur l'affirmation que en fait, c'est un peu nul. Il n'y a aucune raison technique de penser que les progrès vont s'arrêter là. Il n'y a aucune raison de penser que l'intelligence artificielle ne peut pas devenir aussi intelligente que les humains. Finalement, le dernier repli des gens qui ne veulent pas y croire, c'est de dire si ça commence à devenir dangereux, on a qu'à débrancher le serveur et puis c'est fini. Mais ce n'est pas comme ça qu'Internet fonctionne. Une fois qu'un modèle a été entraîné, il peut facilement être diffusé. Une IA super intelligente sera partout avant que vous ne puissiez la débrancher. Vous vous souvenez de Hadopi et de la guerre contre le piratage ? Ça a donné quoi à votre avis ? Si on ne peut pas effacer le Loup de Wall Street 1080p VOSTFR d'Internet, n'imaginez pas qu'on pourra le faire pour une IA. Il y a déjà plein de modèles open source qui flottent à droite à gauche. Sans parler du fait que les militaires du monde entier s'empressent déjà de connecter l'IA à toutes sortes d'armement. Le CTO de l'entreprise de défense américaine Palantir est passé devant le Congrès américain et voilà ce qu'il avait à dire. L'IA va tout changer, y compris les grille-pains, mais encore plus certainement les tanks. Il va falloir s'accrocher pour convaincre l'armée américaine de débrancher ses tanks.
[8:15]C'est bien beau tout ça, mais comment est-ce qu'on peut affirmer que l'IA va détruire l'humanité ? Réponse, on ne peut pas l'affirmer. On peut seulement parler en probabilités. Il y a X % de chances que l'IA détruise l'humanité. Si on part du principe que ce risque est ne serait-ce que 10 %, ça vaut le coup de prendre ce danger au sérieux. Parce que, est-ce que vous accepteriez de monter dans un avion qui a une chance sur 10 d'exploser en vol ? Tout à l'heure, je vais vous montrer que le risque est au moins de 10 % et sans doute plus. Mais je sais d'avance que beaucoup de gens sont mal à l'aise avec ce raisonnement probabiliste. Ils veulent qu'on leur dise qu'il va se passer A ou B, pas que A à 30 % de chance de se produire et B 70 % de chance. Par exemple, la grande majorité des fumeurs n'ont jamais de cancer des poumons. Selon les Centres pour le Contrôle et la Prévention des Maladies (CDC), le cancer du poumon se développe chez environ 10 à 20 % de tous les fumeurs. Et pourtant, cette affirmation vraie rend les gens mal à l'aise comme si on encourageait les fumeurs. Ces gens veulent vivre dans un monde où votre probabilité de cancer est soit 100 %, soit 0 %, selon si vous fumez ou non. Mais ce n'est pas comme ça que la réalité fonctionne. Donc personne ne peut affirmer avec certitude ce qu'il va se passer. On peut juste réfléchir aux scénarios plausibles et donner des probabilités pour chaque scénario. C'est là que se trouve le vrai débat. Une mise à jour. Pendant que cette vidéo était en montage, un nouveau document est sorti, la déclaration sur le risque des IA. Je la cite en entier parce qu'elle ne fait que 22 mots. Mitiger le risque d'extinction par les IA devrait être une priorité mondiale, au même titre que d'autres risques sociétaux comme les pandémies et la guerre nucléaire. Avec comme signataire, à peu près tout le monde qui sait de quoi il parle quand il s'agit d'IA, y compris les PDG de OpenAI, DeepMind et Anthropique. Donc, si vous voulez affirmer dans les commentaires que seuls les gens qui n'y comprennent rien à l'IA parlent du risque existentiel, expliquez-moi pourquoi les PDG des trois principaux labos IA sont signataires d'un document qui parle explicitement de risque d'extinction. Les gens qui nous avertissent du risque existentiel de l'intelligence artificielle font l'argument suivant. Il n'y a aucune raison de penser que les progrès de l'IA vont s'arrêter. Si ses progrès continuent, on aura tôt ou tard une IA aussi intelligente que les chercheurs de OpenAI. Sauf que cette IA n'aura pas besoin de dormir, de manger ou de se détendre. Et surtout, elle travaillera 100 fois ou 1000 fois plus vite que n'importe quel être humain et elle pourra être clonée à souhait. Avec cette force de travail supplémentaire, cette IA devrait rapidement être capable de créer une IA légèrement meilleure qu'elle-même. Et cette IA à son tour devrait créer une IA encore plus intelligente et ainsi de suite. Dans une certaine version de ce scénario, le processus se déroule presque instantanément. Les chercheurs créent leur nouvelle IA, ils vont se coucher et à leur réveil, l'IA s'est améliorée de x100 et on est tous foutu. Cette version est appelée FOOM. C'est a priori une onomatopée qui représente la progression ultra rapide de l'IA. Mais FOOM n'est pas une condition nécessaire à la fin du monde ni le scénario le plus probable. Si elle ne fait pas FOOM, l'IA ferait 100 fois sur son intelligence en quelques mois ou même quelques années. Dans tous les cas, on se retrouve avec une super intelligence. Nous serions face à elle comme les chimpanzés face aux humains aujourd'hui. Complètement impuissant. Dans cette situation, on est à peu près sûr qu'on est foutu. Ce n'est même pas que la super intelligence va se rebeller contre nous et essayer de nous tuer. C'est que nous serons une espèce tellement inférieure qu'elle poursuivra ses propres objectifs sans se soucier de nous. Un peu comme les humains aujourd'hui n'ont rien de particulier contre les chimpanzés. On détruit juste leur habitat comme effet secondaire de nos autres objectifs comme cultiver de la nourriture, avoir du bois ou creuser des mines. Remarquez aussi que du point de vue du chimpanzé, nos objectifs sont incompréhensibles. Pourquoi est-ce que ces bipèdes imberbes viennent raser ma forêt pour faire un gros trou dans le sol et collecter des cailloux brillants ? On peut imaginer que les objectifs d'une super intelligence seraient aussi inimaginables de notre point de vue. Ça, c'est l'argument classique en faveur du risque existentiel, mais il y a un énorme débat. Parce que de l'autre côté, vous avez des gens qui demandent d'expliquer comment exactement est-ce qu'on va mourir. Si on ne peut pas vous expliquer exactement d'où vient le danger, pourquoi est-ce que vous devriez le prendre au sérieux ? Et Eliezer Yudkowsky, un des prophètes du risque existentiel, donne une autre analogie. Ten-year-old about to play chess for the first time, skeptical that he'll lose to Magnus Carlsen. "Can you explain how he'll defeat me, when we've both got the same pieces, and I move first? Will he use some trick for getting all his pawns to the back row to become Queens?" La leçon, c'est que non seulement l'enfant ne peut pas conceptualiser comment Carlsen va le massacrer, mais vous ne pouvez pas non plus le lui expliquer parce que tout le principe, c'est que Carlsen est beaucoup, beaucoup, beaucoup plus fort aux échecs que vous et va trouver une stratégie à laquelle vous n'auriez jamais pensé. Et pourtant, ça ne veut pas dire que le risque d'apocalypse est de 100 %. Parce que si vous observez soigneusement l'argument de fin du monde, vous allez remarquer deux hypothèses clés qui sont loin d'être garanties. Numéro 1, il est possible de développer une super intelligence. Numéro 2, il est impossible pour l'espèce humaine de cohabiter en paix avec cette super intelligence. Selon si ces hypothèses sont réalisées, on pourrait finir dans cinq futurs très différents.
[12:48]Dans le premier futur possible, les avancées de l'IA s'arrêtent maintenant. Au mieux, on a un GPT-5 qui écrit un peu mieux, mais on ne crée jamais une intelligence artificielle générale capable de faire tout ce que peut faire un humain. Dans ce scénario, le futur ressemble à peu près au présent et les seuls risques existentiels sont ceux qu'on connaît depuis des années, comme la guerre nucléaire ou une pandémie mondiale. Il y a deux causes possibles pour ce scénario de normalité. La première possibilité serait les blocages techniques. Soit il est impossible d'améliorer nos IA actuelles, soit on y arrive, mais GPT-6 coûte tellement cher à faire tourner qu'il n'est simplement pas rentable et que personne ne l'utilise. La deuxième cause possible de stagnation serait que les gouvernements du monde entier réussissent à bloquer le développement de l'IA à coup de régulation. Ils l'ont fait pour d'autres technologies inquiétantes comme le clonage d'êtres humains. À première vue, ça semble difficile pour le monde entier de se mettre d'accord là-dessus. Après tout, la coopération internationale n'a pas réussi à empêcher la prolifération des armes nucléaires et là-dessus au moins tout le monde était d'accord que c'était dangereux. On peut toujours se dire si on interdit les avancées de l'IA en Occident, les chinois vont continuer et vont nous ratatiner la tronche avec un Terminator. Sauf que le Parti communiste chinois n'est pas si agressif qu'on pourrait le croire avec ses nouvelles technologies. Quand il s'agit de censure ou de surveillance, ils adorent l'IA, mais l'IA générative type ChatGPT ou Midjourney est impossible à contrôler et contourne leurs mesures de censure, donc ils sont finalement assez prêts à calmer le jeu là-dessus. L'autre aspect essentiel, c'est que entraîner un modèle du niveau de GPT-4 demande des milliards de dollars et des processeurs qui sont fabriqués seulement dans certains endroits au monde, principalement à Taiwan. Donc, il serait probablement possible d'empêcher un groupe terroriste ou même la Corée du Nord de développer GPT-6 en secret. Alors, quelle probabilité donnée à ce scénario de normalité ? Je pense que l'hypothèse des blocages techniques rédhibitoires est improbable vu le bon en avant entre GPT-2, 3 et 4 et les progrès récents sur la compression des modèles. Par contre, je pense qu'il y a une probabilité raisonnable que les gouvernements décident tôt ou tard de bloquer l'entraînement de gros modèles. Donc on va dire 30 % de chances qu'on ne développe pas d'intelligence artificielle générale dans les 50 prochaines années. C'est le bon moment dans la vidéo pour préciser que toutes mes probabilités sont données pour un horizon de 50 ans, mais aussi qu'elles sont imparfaites et vont sûrement changer dans le futur. On part donc du principe qu'on a 70 % de chances de développer une intelligence artificielle générale dans les 50 prochaines années. Deux questions se posent maintenant. Est-ce que cette IA générale va transformer la société telle qu'on la connaît et est-ce que le résultat sera bon ou mauvais ? On en arrive au scénario que beaucoup de gens imaginent comme étant le plus probable, mais qui est en réalité le moins probable. Une ville futuriste où les riches habitent dans leurs tours de verre, loin de la pauvreté des bas-fonds où le sous-prolétariat lutte pour survivre. Une police militarisée, néo-fasciste, patrouille les rues et harcèle les revendeurs d'implants artificiels à la sauvette. Le gros de la population est abruti par les médias de propagande contrôlés par des mégacorporations plus puissantes que n'importe quel État. Mark Zuckerberg est devenu immortel et gouverne la planète depuis sa station spatiale privée. On est dans le futur Cyberpunk. Pour en arriver là, on a parcouru trois branches. Est-ce qu'une intelligence artificielle générale a été développée ? Oui. Est-ce que la société telle qu'on la connaît continue d'exister ? Oui. Est-ce que les choses ont bien tourné ? Non. Le futur Cyberpunk est le futur par défaut que la plupart des gens imaginent. Les nouvelles technologies ne feront que nous rendre plus accros, plus inhumains et plus dépendants des multinationales. Quasiment toute la science-fiction mainstream se déroule dans une version de ce futur où la société n'a pas tant changé que ça et elle est juste devenue une pire version de ce qu'on connaît aujourd'hui. C'est étrange en un sens parce que cette vision négative du futur va à l'encontre de la tendance des 100 dernières années. L'époque du vrai capitalisme sauvage à la Rockefeller est terminée, la pauvreté a reculé à l'échelle mondiale et même la police s'est un peu calmée par rapport à l'époque où il tirait à balle réelle dans les foules. Quand il était enfant, mon grand-père jouait à nager sous les péniches dans la Seine. Aujourd'hui, on retire les jeux des parcs de peur qu'un enfant se blesse. Donc une autre version du futur serait de continuer la tendance pour arriver à un futur toujours plus aseptisé, confortable, averse au risque et sensible aux émotions de chacun. On voit facilement pourquoi ce genre de futur est rarement imaginé en fiction. Le futur Cyberpunk glauque fait un bien meilleur décor pour une histoire. Mais il y a une raison plus profonde qui est que la plupart des gens ne sont pas d'accord avec mon affirmation qu'on vit mieux aujourd'hui que à n'importe quel point dans le passé. Si c'était mieux avant, il semble logique que ce sera encore pire après. Et surtout avec les nouvelles technologies, il est plus facile de voir ce qui va être perdu que ce qui va être gagné. Parce que ce qui va être perdu est devant nos yeux, tandis que ce qui va être gagné n'existe pas encore. Mais ce n'est pas pour ça que je pense que le futur Cyberpunk est le moins probable. Reprenons notre arbre de probabilité. Si une intelligence artificielle générale est créée, est-ce que la société telle qu'on la connaît va continuer ? À mon avis, probablement pas. Et ça, c'est le principal point faible du scénario Cyberpunk. Il ressemble trop à notre présent actuel. Prenez la science-fiction des années 60 et 70, c'était l'époque de l'exploration spatiale, donc ils avaient des vaisseaux spatiaux et des aliens. Mais ils étaient loin d'imaginer que ce qui allait réellement transformer la société dans les 50 années suivantes, c'était Internet et les réseaux sociaux. On va donc supposer que si une intelligence artificielle générale est créée, il y a 80 % de chances que la société soit totalement transformée et seulement 20 % de chances qu'elle reste reconnaissable. Et si elle reste reconnaissable, est-ce que le futur sera bon ou mauvais ? Là, c'est vraiment une question de jugement. Dans mon cas, je dois toute ma carrière à Internet, donc je suis évidemment optimiste. Mais j'ai déjà vu des gens qui affirmaient que leur vie serait meilleure si Internet n'avait jamais existé. Du coup, je vais mettre 80 % de chance que si la société n'est pas totalement transformée, les choses se passent relativement bien. Donc seulement 20 % que ça se passe mal, ce qui donne une probabilité finale de 3 % pour le futur Cyberpunk. Ce qui nous amène à l'envers de cette pièce, le futur où les choses se passent bien.
[18:28]Dans cette branche, on part toujours du principe qu'une intelligence artificielle générale a été créée, mais que ça n'a pas radicalement transformé la société. Ça veut dire une de deux choses. Soit on a créé une intelligence artificielle générale, mais pas une super intelligence, soit on a créé une super intelligence, mais on a trouvé comment la contrôler. Si l'IA reste sous notre contrôle, on l'utilisera pour accomplir des objectifs humains, comme fabriquer des produits, créer des mèmes et nous masser les pieds. En toute probabilité, la société deviendrait beaucoup plus riche. Il y aurait probablement un revenu basique universel, personne n'aurait besoin de faire un travail qui ne l'intéresse pas. C'est pour ça que le futur Cyberpunk me semble moins probable que celui-ci. Si la société devient plus riche, la vie devient généralement plus facile. Est-ce que ce serait une utopie pour autant ? Pas forcément. Déjà, on peut s'attendre à une énorme crise de sens. Une des causes seraient que les gens n'auront plus besoin de travailler, mais ça sera pas la cause la plus importante. Parce que si vous pensez que les réseaux sociaux diminuent les contacts humains, attendez de voir ce qui va se passer quand vous aurez une infinité d'amis virtuels qui sont plus drôles que les vrais humains, ne vous coupe jamais la parole et pensent que vous êtes la personne la plus fascinante au monde. Sans parler des sex-bots ultra-réalistes qui seront disponibles à volonté. Les relations humaines qui sont naturellement compliquées et demandent du compromis ne pourront pas rivaliser avec les IA. Alors, vous pourrez essayer de créer de l'art, un roman, une peinture, une vidéo YouTube, mais vous saurez que l'IA peut faire mieux que vous en quelques secondes. À quoi bon ? Alors pourquoi est-ce que j'ai appelé ce scénario ultra-humanisme ? Le nom vient d'un article du blogueur Jason Nyak, un site que je vous déconseille de visiter si vous êtes au travail, mais qui déroule un plan d'action très particulier pour ce scénario. Selon lui, la compétition avec les machines est impossible. Une machine peut s'améliorer à l'infini, mais un humain qui essaierait de devenir, disons, 10 fois plus intelligent ou 10 fois plus fort, cesserait d'être un humain. Et si l'humanité doit s'arrêter d'être humaine pour survivre, alors l'humanité aura perdu. La victoire par le suicide, chers lecteurs, n'est pas une victoire, nous dit-il. Il s'oppose donc directement à une autre version du futur qu'on verra tout à l'heure, le transhumanisme. Le plan de Jason Yack est d'accepter que les machines vont prendre le contrôle du futur, mais de s'accrocher à notre humanité plutôt qu'à notre pouvoir. Il propose de créer des enclaves volontaires d'humains qui acceptent certaines technologies et rejettent le reste. Le critère serait d'accepter les technologies qui nous rapprochent de l'humain parfait. Donc ça veut dire et ça va vous surprendre, qu'il accepte avec enthousiasme la chirurgie esthétique, l'ingénierie génétique et un remède au vieillissement pour vivre quasi éternellement. Dans ces enclaves, tout le monde serait un spécimen humain idéal, jeune, beau et en parfaite santé, mais les implants neuronaux, les amis virtuels et les sex-bots seraient interdits. Étonnamment, il y a déjà un modèle pour ce type d'enclave et c'est les Amish aux États-Unis. Les Amish sont une communauté religieuse qui rejettent la plupart des technologies modernes et sont connus pour se déplacer dans des chariots tirés par des chevaux. Ils utilisent rarement l'électricité et s'habillent comme ça. Il y a presque 400 000 Amish, ce qui est équivalent à Nice, la 5e ville de France et leur population augmente rapidement parce qu'ils voient les familles nombreuses comme un bon point religieux. Du coup, c'est pas un petit groupe de rien du tout, c'est une communauté étonnamment robuste qui fonctionne sur ses principes depuis environ 300 ans. Mais ce qui est encore plus intéressant, c'est que les Amish ne rejettent pas toutes les technologies par pur fondamentalisme. Leur méthode est d'évaluer chaque nouvelle technologie de manière indépendante pour décider si elle renforce ou affaiblit leurs valeurs clés que sont la religion, la communauté et la famille. Par exemple, la voiture est considérée comme une cause de l'érosion de la communauté locale, qui permet aux gens de travailler, de faire leurs courses et de voyager très loin de chez eux. Donc elle est généralement interdite. Mais le vélo électrique, une invention plus récente, est populaire chez les Amish parce qu'il renforce les liens de la communauté. Donc la communauté Amish est un prototype qui prouve que c'est possible de créer une enclave qui rejette volontairement certaines technologies, même si le reste de la société les utilise et que c'est un modèle qui peut être stable à travers les générations. Jason Nyak propose quelque chose de similaire, mais avec un peu plus d'implant d'âme mère.
[22:04]Maintenant, on arrive sur les futurs vraiment bizarres. Si vous croyez qu'on y était déjà avec la section précédente et l'utopie du bi-story, accrochez-vous. Parce qu'on est maintenant dans la branche où une intelligence artificielle générale transforme radicalement la société. Concrètement, qu'est-ce que ça veut dire ? Le débat tourne principalement autour de la question d'une super intelligence, c'est-à-dire une IA qui serait tellement intelligente que face à elle, nous serions aussi impuissants que les cochons d'Inde le sont aujourd'hui face à nous. Beaucoup de gens ont du mal à prendre cette idée au sérieux. Ça semble trop science-fictionnel. Déjà, on n'a jamais rencontré un être qui soit plus intelligent que les humains, donc c'est un peu dur à imaginer. Pire que ça, c'est impossible de conceptualiser une intelligence largement supérieure à la vôtre. Votre chien voit que vous pouvez faire des choses impossibles pour lui, mais il est incapable d'imaginer ce qui peut bien se passer dans votre tête. Du coup, la seule chose qu'on peut savoir, c'est qu'on a aucune chance face à une super intelligence, même si on ne peut pas expliquer exactement comment elle va nous battre, comme dans l'analogie de l'enfant de 10 ans qui va jouer aux échecs contre Magnus Carlsen. La question à se poser est est-ce qu'une super intelligence est possible ? Autrement dit, est-ce qu'on pense vraiment que l'être humain actuel a maximisé le niveau d'intelligence possible ? Je pense que la réponse est clairement non. Et je dis pas ça juste pour les gens qui trouvent ça encore drôle d'appeler Facebook Face de book. L'intelligence humaine est limitée entre autres par la taille de notre cerveau, qui est à son tour limitée par des facteurs comme la consommation calorique. Une fois que vous avez retiré ces facteurs biologiques, il n'y a pas de limite théorique à l'intelligence. Ensuite, il y a l'argument que c'est impossible pour les humains de créer quelque chose de plus intelligent que nous. Sauf qu'on l'a déjà fait. En 1997, Deep Blue a battu le champion du monde Garry Kasparov aux échecs. Les ingénieurs de IBM ont créé une IA qui était radicalement meilleure qu'eux aux échecs et même meilleure que n'importe quel être humain. Donc c'est clairement possible pour une intelligence inférieure de créer une intelligence supérieure. Nos ordinateurs actuels peuvent déjà penser beaucoup plus vite que nous et ont une mémoire fonctionnellement infinie dès qu'ils sont connectés à Internet. Alors, le programme d'échec Deep Blue a le même problème que ChatGPT ou Midjourney. C'est une IA spécialisée qui ne peut pas sortir de son domaine d'expertise. Les premiers ordinateurs avaient aussi cette limitation, il fallait les programmer avec des cartes à trous pour faire la moindre tâche. Mais avec le temps, on a eu des ordinateurs qui peuvent faire tourner n'importe quel programme et même plusieurs programmes en même temps. OpenAI a déjà annoncé que ChatGPT allait devenir capable de voir. Ajoutez à ça les plugins qui vont permettre à ChatGPT de jouer aux échecs, de créer de l'art, d'envoyer des e-mails, et cetera. On s'approche déjà d'une forme d'intelligence générale. Évidemment, ChatGPT n'a pas de conscience, pas d'âme et alors ? Il y a déjà des techniques rudimentaires pour donner des objectifs à ChatGPT en exploitant ses capacités de langage. Vous lui demandez de raisonner à l'écrit sur un problème et de décider quoi faire ensuite. C'est équivalent à demander à quelqu'un de réfléchir à voix haute pour décider quoi faire. Le résultat est le même, vous avez un objectif, un plan d'action et bientôt la capacité d'exécuter ses actions. Alors ChatGPT ne deviendra pas une vraie intelligence artificielle générale, c'est un précurseur, mais il n'y a aucun obstacle clair aujourd'hui à une IA qui peut accomplir des objectifs, même si elle n'a ni âme ni conscience. Et une fois que vous avez cette IA, la seule conclusion raisonnable est qu'elle va continuer à s'améliorer. Comparer un iPhone de 2023 avec un iPhone de 2013 ou un iPod de 2003. C'est pour ça que de nombreuses personnes sonnent l'alarme. Face à une IA super intelligente, nous avons autant de chance de gagner que si les poules du monde entier décidaient de faire la révolution. Cette IA n'aura pas forcément l'intention de nous tuer, elle aura ses propres objectifs qui seront incompréhensibles pour nous et notre bien-être sera un facteur aussi important dans ses décisions que le bien-être de la volaille mondiale l'est pour nous aujourd'hui. Ce scénario s'appelle la trombocalypse. Et je dois préciser que ceux qui sonnent l'alerte du risque existentiel posé par l'IA ne sont pas fans de ce terme qu'ils jugent sarcastiques. Ce nom est inspiré de l'exemple du maximiseur de trombones proposé par le philosophe suédois Nick Bostrom, où une IA à qui on confie un objectif anodin comme fabriquer des trombones, réaliserait rapidement que la manière la plus effective d'accomplir cet objectif est de prendre le contrôle du monde entier en éliminant les humains au passage. Évidemment, ce scénario est volontairement absurde. Déjà, pourquoi est-ce qu'un fabricant de trombone serait le premier à mettre la main sur une super intelligence ? Le but est d'illustrer que quel que soit l'objectif qu'on lui donne, on ne peut pas s'assurer qu'une IA respecte les valeurs humaines en chemin. Il suffit de programmer les valeurs humaines dans cette IA, nous dira le gars qui a passé littéralement 10 secondes à réfléchir à la question. Sauf que, tous les chercheurs en IA nous expliquent qu'on ne sait pas comment faire pour programmer les valeurs humaines. OpenAI n'est pas capable de le faire avec ChatGPT, sans parler de le faire pour une super intelligence. Et surtout, quand il s'agit de super intelligence, on a qu'une seule chance. Si vous n'avez pas correctement programmé les valeurs humaines du premier coup, tout le monde est mort. Demander à votre programmeur de quartier quel pourcentage de ses programmes marche sans bug du premier coup. Dans ce cas, il suffit de tester l'IA dans un environnement de simulation pour voir si elle respecte bien les valeurs humaines avant de la déployer dans le vrai monde, nous dira le gars qui a au moins passé 10 minutes à y réfléchir. Mais une super intelligence pourrait facilement mentir. Elle pourrait faire semblant de faire tout ce qu'on lui demande en attendant qu'on la laisse sortir de sa cage, elle pourrait hacker les protections. En la présence d'une super intelligence, nous disent les prophètes du risque existentiel, la fin du monde ne dépend pas d'un scénario bien spécifique, comme l'apocalypse des trombones, la guerre nucléaire ou les nanobots. C'est le scénario par défaut auquel il faut s'attendre. Au contraire, c'est notre survie qui dépend d'un scénario ultra spécifique et hautement improbable, un scénario où on trouverait comment programmer les valeurs humaines et où ça marcherait du premier coup. Pour cette raison, je vais attribuer 70 % de chance à un mauvais résultat si on développe une intelligence artificielle suffisamment puissante pour transformer la société. Ce qui donne un score final pour la trombocalypse de 39 %. Et on fait le scénario le plus probable de notre vidéo.
[27:19]Elon Musk raconte une conversation avec Larry Page, le fondateur de Google. Larry was not taking AI safety seriously enough. What did he say about it? He really seemed to be what would one sort of digital super intelligence. Basically digital god as soon as possible. He wanted that? Yes. He's he's made many public statements over the years. The whole goal of Google is what's called AGI Artificial General Intelligence or Artificial Super Intelligence. And at one point uh I said well what about you know we're going to make sure humanity is okay here and then he called me a species. Did he use that term? Yes. La position de Larry Page est plus courante qu'on ne le croit. Oui, on va se faire remplacer par les IA, mais c'est une bonne chose. Les humains sont violents, ils polluent, ils investissent leur argent dans des ponzi, ils font des vidéos pour enfants malsaines sur YouTube et ils ont créé Two Girls One Cup. Alors si vous bloquez le progrès vers des entités plus intelligentes et plus puissantes que vous, c'est simplement par préjugé et spéciste. L'économiste Robin Hanson explicite l'argument dans un article intitulé la peur de l'IA est surtout la peur du futur. Nos descendants seront faits par le métal et les maths, et non plus par le carbone, le sexe et la parentalité. Est-ce que cette différence a vraiment tant d'importance ? Il continue en expliquant que de tout temps, les gens ont eu peur du futur. Si vous aviez donné le choix à un chasseur-cueilleur, il aurait refusé l'invention de l'agriculture qui allait détruire son mode de vie. Si vous aviez donné le choix à un paysan médiéval plongé dans ses superstitions religieuses, il aurait été horrifié par l'ère moderne, le divorce, le mouvement LGBT et Onlyfans. Hanson en conclut que nous n'avons pas le droit moral de bloquer le progrès cosmique vers l'âge des IA, il est temps de laisser notre place. C'est là que mon histoire de probabilité se complique. Parce que ce que Hanson décrit, rejoint le scénario de la trombocalypse, sauf qu'il n'est pas d'accord que c'est un mauvais résultat. Ceci dit, Hanson se range aussi solidement dans le camp du transhumanisme. Il a écrit un livre entier qui imagine la société humaine une fois qu'on aura tous numérisé notre conscience et qu'on existera uniquement sous forme de programmes informatiques qui pourront être copiés-collés à souhait. Le transhumanisme, c'est l'idée que l'humanité va évoluer au-delà de l'Homo sapiens, probablement en fusionnant d'une manière ou d'une autre avec les machines. Elon Musk, justement, travaille là-dessus à travers une de ses 579 start-up Neuralink.
[29:30]Son hypothèse est que le développement d'une super intelligence est inévitable et que la seule chance pour l'humanité de rester dans le tableau est de devenir nous-mêmes super intelligents en connectant nos cerveaux à l'intelligence artificielle. Mais une fois que vous avez fait ça, vous n'êtes plus vraiment ce qu'on appelle aujourd'hui un humain. Est-ce que vous avez toujours des émotions si la majorité de votre esprit tourne sur un processeur ? Est-ce que vous pouvez toujours tomber amoureux ? Est-ce que vous pouvez encore rigoler ? À partir du moment où on met le doigt dans cette engrenage, on deviendra de moins en moins humain parce que les ordinateurs vont continuer à s'améliorer et donc à remplacer de plus en plus de parties de nous-mêmes. C'est exactement le scénario que rejetait Jason Yack dans la partie sur l'ultra-humanisme. Mais c'est aussi exactement le futur que Robin Hanson décrit comme l'évolution naturelle des choses. À quel point est-ce que l'évolution de l'humanité vers autre chose devrait nous déranger profondément ? Est-ce que ça change vraiment votre réponse si on sait que cette évolution commence en branchant nos cerveaux à la machine avec Neuralink, si on sait que tôt ou tard la machine va complètement remplacer nos cerveaux ? Est-ce que ce scénario mérite vraiment d'être catégorisé comme bon ? La seule chose dont je suis sûr, c'est que notre méthodologie hautement scientifique lui attribue une probabilité de 17 %. Maintenant qu'on a fini notre tour des 5 futurs possibles de l'IA, vous vous demandez peut-être pourquoi j'ai choisi de mettre des probabilités hautement spéculatives sur ces scénarios. La raison, c'est que je sais que si je ne donne pas un ordre de grandeur, la plupart des gens vont se dire que le seul scénario plausible, c'est la normalité, et que le reste, c'est des histoires de science-fiction mignonnes pour faire une vidéo divertissante. Alors si le scénario de normalité vous semble probable à 90 % ou plus, il faut vous demander pourquoi, numéro 1, vous croyez qu'une intelligence artificielle générale est aussi peu probable ou numéro 2, vous croyez qu'une intelligence artificielle générale ne transformerait pas radicalement la société. Par contre, si vous acceptez mon idée que le futur a des chances d'être très différent, qu'est-ce que vous pouvez faire ? Je pense qu'il y a quatre attitudes possibles. La première est celle de l'ignorance du bienheureux. Vous ne pouvez rien y faire, alors autant vous comporter comme si de rien n'était. Vivre votre vie et advienne que pourra. C'est une attitude rationnelle pour la plupart des gens. Il faut juste éviter de transformer cette ignorance choisie en fausse certitude, en se mettant à affirmer des anneries comme si l'IA devient dangereuse, il suffira de la débrancher. La deuxième attitude est celle du Jihad buttlerien, nommé en référence à la série Dune de Frank Herbert. Cette attitude est de dire les risques sont trop gros. On ne peut pas jouer tout le futur de l'humanité sur un coup de dé. Il faudrait donc interdire les progrès de l'IA au-delà d'une certaine limite et être prêt à tout, y compris à entrer en guerre pour empêcher d'autres pays de développer une super intelligence. La troisième attitude est directement opposée. C'est celle des accélérationnistes efficaces. Une mouvance née sur Twitter qui prone, comme son nom l'indique, une accélération maximale des progrès de l'IA. L'accélérationnisme efficace est ce que vous avez quand les ingénieurs IA en ont marre que les technocrates et les autoritaires essaient de s'insérer dans la hiérarchie de l'IA pour prendre le contrôle de son pouvoir. Aidez-nous à libérer la bête ou sortez de notre chemin. C'est l'équivalent de la philosophie YOLO, mais avec tout le futur de l'humanité dans la balance. La quatrième attitude est celle que j'ai choisie, celle du sauvageon capitaliste. Oui, j'ai pensé à d'autres manières d'appeler ça qui auraient conduit moins de gens à toquer à ma porte avec des torches et des fourches, mais le marketeur en moi est plus fort que le diplomate et je n'ai rien trouvé d'aussi percutant que le sauvageon capitaliste. Si vous avez trouvé bizarre le grand écart stylistique dans ma dernière vidéo entre la première partie qui annonçait qu'on allait tous mourir et la deuxième partie qui expliquait comment faire de l'argent avec l'IA, et bien figurez-vous que j'en étais parfaitement conscient en l'écrivant. Alors au risque de passer pour le JCVD du marketing, c'est là que je vais terminer la vidéo. Le sauvageon capitaliste vit sa vie comme un ignorant bienheureux. Tous les jours, je fais ma méditation, je m'occupe de mes enfants, je bosse sur mon business et je vais courir dans la nature. Si je dois mourir maintenant d'un tragique accident quand ma lumière me tombe dessus et m'électrocute, je mourrai satisfait. Et en plus, ça fera la meilleure vidéo adieu YouTube de tous les temps. Alors si j'ai 5, 10 ou 20 ans avant la fin du monde, au moins je saurai que je les ai vécus comme je voulais. Mais d'un autre côté, je partage l'enthousiasme juvénile des accélérationnistes. Si vous êtes fan d'IA en ce moment, c'est Noël deux fois par mois. Et puis, oui, il y a plein d'argent à faire. Ce que les gens qui me traitent de cynique ne comprennent pas, c'est que pour eux, travailler c'est une torture, donc je peux m'intéresser au marketing que pour faire de l'argent. Mais pour moi, le business c'est aussi passionnant que le foot, les jeux vidéo ou la politique le sont pour d'autres personnes. Donc, quand plein de nouveaux business deviennent possibles grâce à l'IA, je m'amuse beaucoup. Mais je n'oublie pas que le risque existentiel est significatif. Et donc une partie de moi surveille les signaux qui me diront qu'il est temps de rejoindre le Jihad Buttler. On n'y est pas encore avec GPT-4. Ceux qui sont déjà dans le jihad me diront que je suis naïf parce qu'il n'y aura pas de signal précurseur de l'apocalypse. On se réveillera un jour et il sera trop tard. Peut-être, mais en attendant l'avènement du transhumanisme, je reste un humain avec mes faiblesses et mes incohérences qui essaient de faire de son mieux dans un monde qui ne comprend pas totalement. Est-ce que vous êtes vous aussi un sauvageon capitaliste ? Si oui, vous devriez rejoindre 9 604 abonnés en vous inscrivant à la newsletter IAMania. 3 fois par semaine, on vous apporte un récap de toutes les actus importantes, des nouvelles idées de business à lancer et les meilleurs outils à utiliser. Cliquez sur le lien en haut de la description pour vous inscrire.
