Sélectionner une page
Publié par Olivier Andrieu | 16 Jan 2023 | | Temps de lecture : 5 minutes
Cela fait maintenant plus de 20 ans que je travaille dans le domaine des algorithmes. Mon sujet de toujours est celui de la prise de décision en présence d’incertitudes, et dans un contexte de grande masse de données. Une partie des algos sur lesquels j’ai travaillé sont maintenant dans ce que l’on appelle couramment l’intelligence artificielle.
Pourtant, je n’aurais jamais pu envisager ce que les dernières années ont permis de voir en matière de machine learning, de traitement du langage naturel, d’analyse des images et autres. On vit une période où des résultats exceptionnels sont présentés de manière quasi hebdomadaire. Pour être honnête, j’ai un peu l’impression de revivre les premières belles années du Web…
Le sujet du moment est bien entendu le fameux chatGPT. Le dernier né de chez openAI fait beaucoup parler de lui et rencontre un succès populaire grâce à sa capacité à dialoguer avec les humains. Personne ne peut nier que l’outil est vraiment bluffant, même si bien entendu, on voit aussi ses limites dès les premières utilisations.
Pour les professionnels du SEO, la révolution de l’intelligence artificielle est à la fois une opportunité et un risque. C’est un risque pour les rédacteurs web, mais c’est une opportunité pour ceux qui faisaient appel à eux et qui voient peut-être un moyen d’obtenir pour moins cher ce qu’il payait par ailleurs. Pour un moteur de recherche comme Google, c’est visiblement un risque puisque Sundar Pichai, patron de Google, a même mis en place une nouvelle organisation interne pour essayer de ne pas se faire doubler sur le terrain de l’IA par openAI.
Dans cet article, je vais vous parler de chatGPT. Qu’est-ce que c’est vraiment ? Quelles sont ses limites techniques ? Combien ça coûte ? Je vais également tenter de donner quelques éléments de réponse à la question qui nous taraude tous : est-ce que chatGPT est un danger potentiel pour Google ?
ChatGPT (référence [1]) est un modèle de la langue qui a été conçu – comme son nom l’indique – pour être conversationnel. Cela signifie qu’il est capable de suivre des instructions qui sont données par un être humain via un prompt (une question). Pour suivre ces instructions, le modèle possède la capacité à dialoguer et à utiliser une forme de bon sens qu’un être humain peut avoir et qu’on ne trouve pas dans d’autres modèles (comme GPT3 par exemple).
Un autre point fort du modèle, pour mimer le comportement humain, est sa capacité de continuité mémorielle : chatGPT est capable de se souvenir de ce que vous lui avez dit dans les précédentes questions, et d’élaborer des réponses basées sur cette historique de discussion. Cet aspect est celui qui est le plus anthropomorphique : on a parfois l’illusion de discuter avec une personne réelle, qui va d’ailleurs se tromper de temps en temps dans ses réponses.
ChatGPT, c’est le dernier modèle d’une longue lignée de modèle de la langue. Tout a débuté avec word2vec de Tomas Mikolov (alors chez Google), puisd fastText du même chercheur (alors chez Facebook) et bien d’autres encore comme Ernie en 2019 (chez Baidu), BERT en 2018 (Google), Grover et Elmo en 2018 et 2019 (Allen institute). Il existe également des modèles en France (chez Lighton).
Au fur et à mesure du temps, ces modèles sont devenus de plus en plus gros et expressifs. Mais la vraie rupture a été l’émergence des modèles à base de transformers chez openAI. C’est maintenant l’opérateur leader sur le sujet, qui est devant tous les autres, que ce soit pour les applications sur l’image ou sur le texte. Leur premier modèle date de 2018, il s’agit de GPT. Mais le grand public a commencé à s’intéresser à eux avec GPT2, premier très gros modèle alors qu’il n’avait « que » 1,5 milliards de paramètres et un dataset d’entraînement de 8 millions de pages web. On se rend compte maintenant que GPT2 n’était finalement qu’une preuve de concept, et la vraie rupture est GPT3 (voir la référence [3]), modèle à 175 milliards de paramètres, entraîné sur un dataset de plusieurs milliards de pages de contenu.
Partager :
Note :
Laisser un commentaire (*** Cliquez ici pour lire la charte de saisie de commentaire ***)
Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *
La charte Abondance.com pour la soumission de commentaires est la suivante :
– Champ Nom : obligatoire. Seuls les noms de famille et/ou prénoms sont acceptés. Un commentaire n’est pas écrit par une entreprise, mais par une personne physique. Les textes d’ancre (sur)optimisés et les noms d’entreprises indiqués dans ce champ verront automatiquement l’URL associée supprimée et la mention [Anonyme] indiquée à cet endroit.
– Champ E-mail : obligatoire. L’adresse mail n’est pas affichée si le commentaire est validé.
– Champ Site web : facultatif. Uniquement affiché si le champ “Nom” contient le patronyme d’une personne (voir ci-dessus). Le mieux est certainement d’y indiquer l’URL de votre compte Facebook, Twitter ou Google+. Mais vous pouvez également y indiquer l’URL de votre site web (page d’accueil uniquement).
Merci !!!
Consultez le site Livre Référencement !
© Abondance | Toute l'actualité sur le SEO et les moteurs de recherche