Découvrez dans cet article comment fonctionne ChatGPT, le chatbot d’OpenAI qui a révolutionné notre monde en enregistrant plus de 180 millions de visites.

Vous souvenez-vous des débuts d’Internet dans les années 90 ? Depuis lors, Google est devenu l’outil indispensable pour trouver tout et n’importe quoi en ligne. Imagine, par exemple, que vous souhaitiez savoir quelle est la capitale du Brésil. Vous tapez la question dans Google, et hop, il vous propose une série de liens qui vous mènent à la réponse : Brasilia. Vous pourriez voir Google comme une gigantesque bibliothèque remplie de millions de livres. Chaque fois que vous faites une recherche, Google fouille dans ces livres – ou plutôt dans des pages web – et vous présente une liste de résultats basés sur des mots-clés et leur pertinence.

Mais voilà, la technologie évolue à une vitesse folle. Aujourd’hui, une nouvelle révolution est en marche : celle de l’intelligence artificielle, ou IA pour les intimes. Parmi ces nouvelles technologies, un outil comme ChatGPT change littéralement notre façon de chercher des informations en ligne.

Alors, comment fonctionne ChatGPT ? Comment parvient-il à donner des réponses aussi complètes ? On va explorer tout ça, étape par étape. On va d’abord comparer son fonctionnement avec celui de Google, puis plonger un peu plus dans les rouages internes de ce modèle fascinant.

Quand vous posez une question à Google, il ne parcourt pas Internet en temps réel. À la place, il consulte sa base de données, sa grande “bibliothèque” remplie de pages web qu’il a déjà indexées. Google suit deux étapes simples :

1. Collecte de données : Google explore des tonnes de pages web pour en rassembler le plus possible.

2. Réponse à l’utilisateur : Ensuite, quand vous posez une question, il sélectionne les pages qui ont le plus de chances de répondre à vos besoins.

Du coup comment fonctionne ChatGPT ? Il fonctionne presque de la même manière. Il a deux phases principales :

1. Le pré-entraînement : Imaginez que ChatGPT ait lu des milliards de livres et d’articles pour comprendre comment les phrases sont construites. Il apprend le langage, un peu comme un enfant qui découvre le monde.

2. L’inférence : Ensuite, quand vous lui posez une question, il utilise ce qu’il a appris pour générer une réponse. C’est un peu comme si, après avoir lu toute cette information, il répondait en piochant dans ses connaissances.

Là où ça devient intéressant, c’est que ChatGPT n’a aucune limite d’apprentissage. Contrairement à nous, il ne se fatigue pas et n’oublie rien. Plus il apprend, plus il devient performant, le tout grâce à des technologies de pointe comme le Cloud Computing. Ça permet de traiter des quantités massives d’informations à la vitesse de l’éclair, sans effort.

ChatGPT, lui, a été formé de manière non supervisée. Ça veut dire qu’il n’a pas eu besoin d’un prof pour lui dire : « Voici la bonne réponse. » Il a appris à partir de données brutes, sans qu’on lui dise ce qui était bon ou mauvais. Il a dû “découvrir” par lui-même le langage humain, un peu comme un autodidacte. C’est ce qui lui permet de répondre à des questions aussi complexes que “les secrets de l’univers” ou “comment coder un site web”. Et il peut même répondre à notre question “comment fonctionne ChatGPT ?”

Si on devait expliquer la technologie derrière ChatGPT, on pourrait dire qu’il utilise ce qu’on appelle des Transformers. C’est un peu comme l’entraîneur d’une équipe de football qui regarde tous les joueurs et choisit lesquels sont les plus importants pour marquer le prochain but. Dans le cas de ChatGPT, l’entraîneur, c’est le décodeur.

Lorsque vous lui donnez une phrase, ChatGPT la découpe en morceaux appelés tokens. Ces tokens sont ensuite transformés en vecteurs numériques. Vous pouvez imaginer ces vecteurs comme une sorte de code secret qui permet à ChatGPT de comprendre ce que vous dites. Ensuite, grâce à un mécanisme d’attention, il détermine quels mots sont les plus importants dans le contexte.

Ce qui est fascinant, c’est que ChatGPT prédit chaque mot, un à un, pour construire une réponse cohérente. Il peut même se souvenir de ce que vous avez dit auparavant dans la conversation, ce qui lui permet de rester pertinent, même lors d’échanges longs.

Pour ceux qui veulent savoir plus sur les transformers, cet article du Financial Times est une excellente ressource.

La base de données de ChatGPT est massive. Il a été formé sur un corpus géant comprenant des millions de sites web, des livres, des articles scientifiques, et même des forums en ligne. OpenAI, l’entreprise derrière ce modèle, a pris soin de filtrer les contenus inappropriés comme les insultes ou les propos racistes.

Pour vous donner une idée de l’échelle, GPT-4, la version la plus avancée de ChatGPT, possède entre 100 et 1000 milliards de paramètres. Pour entraîner un modèle de cette taille, il a fallu des milliers de cartes graphiques, fonctionnant pendant des semaines.

En plus des textes classiques, ChatGPT a été entraîné avec des bases de données spécifiques, comme le Cornell Movie Dialogs Corpus (des dialogues de films) et le Persona-Chat (qui imite des conversations humaines). Cela lui permet de mieux comprendre et d’imiter les échanges humains.

Tout ça est hébergé dans le cloud, plus précisément sur les serveurs de Microsoft Azure. C’est cette infrastructure qui permet à ChatGPT de traiter autant de données et de répondre aussi rapidement. Et c’est là aussi que réside l’un des plus gros avantages de l’IA : elle est accessible partout, tout le temps, et peut s’adapter en temps réel.

Alors, qu’est-ce que tout cela signifie pour nous ? Eh bien, avec des outils comme ChatGPT, on entre dans une nouvelle ère où la recherche d’informations devient plus fluide et plus directe. Plus besoin de parcourir des dizaines de sites pour trouver une réponse : ChatGPT synthétise l’information pour nous. Et le plus fou dans tout ça ? Il ne fait que commencer. On peut s’attendre à des IA encore plus puissantes, capables de répondre à des questions qu’on ne se pose même pas encore.

Pour ceux qui se demandent encore comment fonctionne ChatGPT, nous espérons que notre article vous a apporté les bonnes réponses.