Ce 22

Par

Greg Rosalski

,

Emma Peaslee

Alors que de nombreux Américains souffraient de la gueule de bois le jour du Nouvel An, Edward Tian, ​​22 ans, travaillait fébrilement sur une nouvelle application pour lutter contre l'utilisation abusive d'un nouvel outil d'intelligence artificielle puissant appelé ChatGPT.

Compte tenu du buzz qu'il a créé, il y a de fortes chances que vous ayez entendu parler de ChatGPT. C'est un chatbot interactif propulsé par l'apprentissage automatique. La technologie a fondamentalement dévoré tout Internet, lisant les œuvres collectives de l'humanité et apprenant des modèles de langage qu'elle peut recréer. Tout ce que vous avez à faire est de lui donner une invite, et ChatGPT peut faire une infinité de choses : écrire une histoire dans un style particulier, répondre à une question, expliquer un concept, composer un e-mail - écrire un essai universitaire - et il crachera un texte cohérent, apparemment écrit par un humain en quelques secondes.

La technologie est à la fois géniale et terrifiante.

"Je pense que nous sommes absolument à un point d'inflexion", déclare Tian. "Cette technologie est incroyable. Je crois que c'est l'avenir. Mais, en même temps, c'est comme si nous ouvrions la boîte de Pandore. Et nous avons besoin de garanties pour l'adopter de manière responsable."

Tian est un senior à l'Université de Princeton, où il se spécialise en informatique et des mineurs en journalisme. Avant sa récente incursion sous les projecteurs, les plus grands projets de Tian étaient d'obtenir son diplôme universitaire et de se faire arracher les dents de sagesse. Il répond maintenant aux appels de sociétés de capital-risque, de responsables de l'éducation et de médias mondiaux.

Au cours des deux dernières années, Tian a étudié un système d'IA appelé GPT-3, un prédécesseur de ChatGPT qui était moins convivial et largement inaccessible au grand public car il était derrière un mur payant. Dans le cadre de ses études ce semestre d'automne, Tian a recherché comment détecter le texte écrit par le système d'IA tout en travaillant au laboratoire de traitement du langage naturel de Princeton.

Puis, alors que le semestre touchait à sa fin, OpenAI, la société à l'origine de GPT-3 et d'autres outils d'IA, a rendu public ChatGPT gratuitement. Pour les millions de personnes dans le monde qui l'ont utilisé depuis, interagir avec la technologie a été comme avoir un aperçu du futur ; un avenir qui, il n'y a pas si longtemps, aurait ressemblé à de la science-fiction.

Bien qu'il ait étudié l'IA, Tian, ​​comme nous tous, a été stupéfait par la puissance de ChatGPT. Lui et ses amis l'ont utilisé pour écrire des poèmes et des raps les uns sur les autres. "Et c'était comme:" Wow, ces résultats sont plutôt bons "", a déclaré Tian. Il semblait que tout le monde sur le campus parlait de la remarquable qualité de cette nouvelle technologie. Bien sûr, le texte qu'il génère est assez stéréotypé et pas toujours précis. Mais cela ressemble aussi au début d'une révolution.

Pour de nombreux utilisateurs de la nouvelle technologie, l'émerveillement s'est rapidement transformé en alarme. Combien d'emplois cela va-t-il tuer ? Cela renforcera-t-il les acteurs néfastes et corrompra-t-il davantage notre discours public ? Comment cela va-t-il bouleverser notre système éducatif ? Quel est l'intérêt d'apprendre à rédiger des dissertations à l'école alors que l'IA - qui devrait s'améliorer de manière exponentielle dans un avenir proche - peut le faire pour nous ?

Stephen Marche, écrivant dans The Atlantic le mois dernier, a déclaré "The College Essay Is Dead". Il peint ChatGPT et la révolution de l'IA dans le cadre d'une crise existentielle pour les sciences humaines. "L'essai, en particulier l'essai de premier cycle, est au centre de la pédagogie humaniste depuis des générations", écrit Marche. "C'est la façon dont nous enseignons aux enfants comment rechercher, penser et écrire. Toute cette tradition est sur le point d'être bouleversée de fond en comble."

Après la fin du semestre d'automne, Tian est rentré chez lui à Toronto pour les vacances. Il a traîné avec sa famille. Il a regardé Netflix. Mais il ne pouvait pas s'empêcher de penser aux défis monumentaux auxquels l'humanité était confrontée en raison de l'avancée rapide de l'IA.

Et puis il a eu une idée. Et s'il appliquait ce qu'il avait appris à l'école au cours des deux dernières années pour aider le public à identifier si quelque chose a été écrit par une machine ?

Tian avait déjà le savoir-faire et même le logiciel sur son ordinateur portable pour créer un tel programme. Ironiquement, ce logiciel, appelé GitHub Co-Pilot, est alimenté par GPT-3. Avec son aide, Tian a pu créer une nouvelle application en trois jours. C'est un témoignage de la puissance de cette technologie pour nous rendre plus productifs.

Le 2 janvier, Tian a publié son application. Il l'a nommé GPTZero. Il utilise essentiellement ChatGPT contre lui-même, vérifiant s'il n'y a "aucune implication ou beaucoup d'implication" du système d'IA dans la création d'un texte donné.

Lorsque Tian est allé se coucher ce soir-là, il n'attendait pas grand-chose pour son application. "Quand j'ai mis ça là-bas, j'ai juste pensé que peut-être quelques dizaines de personnes au mieux pourraient l'essayer", dit Tian. "Je ne m'attendais pas à ce qui s'est passé."

Lorsque Tian s'est réveillé, son téléphone avait explosé. Il a vu d'innombrables textes et DM de journalistes, de directeurs, d'enseignants, etc., d'endroits aussi éloignés que la France et la Suisse. Son application, qui est hébergée sur une plateforme gratuite, est devenue si populaire qu'elle a planté. Enthousiasmé par la popularité et le but de son application, la plate-forme d'hébergement a depuis accordé à Tian les ressources nécessaires pour adapter les services de l'application à un public de masse.

Tian dit qu'il a quelques motivations principales pour créer GPTZero. Le premier est la transparence. "Les humains méritent de savoir quand quelque chose est écrit par un humain ou écrit par une machine", dit-il.

Dans ce sens, une application évidente de GPTZero est d'aider les enseignants à déterminer si leurs élèves plagient leurs essais à partir de ChatGPT. « Les enseignants du monde entier s'en inquiètent », dit Tian.

Certains dans le monde de la technologie, cependant, ne sont pas tout à fait convaincus que copier et coller ce que ChatGPT crache est même un problème. "Le "plagiat ChatGPT" n'est absolument pas un problème", a tweeté Marc Andreessen, un capital-risqueur et pionnier d'Internet, plus tôt ce mois-ci. "Si vous ne pouvez pas écrire plus qu'une machine, qu'est-ce que vous faites pour écrire?"

Elon Musk, l'un des co-fondateurs originaux d'OpenAI, a récemment tweeté : "C'est un nouveau monde. Adieu les devoirs !" en réponse aux informations selon lesquelles les écoles imposaient de nouvelles mesures strictes contre le plagiat ChatGPT.

Bien sûr, ce ne sont que des tweets désinvoltes. Mais on a vraiment l'impression que nous sommes entrés dans un nouveau monde où nous sommes obligés de réévaluer notre système éducatif et même la valeur - ou du moins la méthode - d'apprendre aux enfants à écrire.

Beaucoup d'entre nous ont perdu notre volonté - même notre capacité - à nous souvenir des numéros de téléphone lorsque les téléphones portables sont arrivés. En sous-traitant la mémorisation à une machine, nous en sommes devenus dépendants pour appeler nos amis et notre famille. Vous pourriez dire que c'était pour le mieux, et cela a libéré nos esprits pour nous concentrer sur d'autres sujets. Ou vous pourriez considérer cela comme une sorte de dé-évolution, un abrutissement de nos capacités mentales. Ne perdez pas votre téléphone portable !

Aujourd'hui, l'humanité est confrontée à la perspective d'une dépendance encore plus grande vis-à-vis des machines. Il est possible que nous nous dirigions vers un monde où une partie encore plus large de la population perd sa capacité à bien écrire. C'est un monde dans lequel toute notre communication écrite pourrait devenir comme une carte Hallmark, écrite sans notre propre créativité, personnalité, idées, émotions ou idiosyncrasies. Appelez cela la Hallmarkisation de tout.

Mais au moins, lorsque nous donnons aux gens des cartes Hallmark, les gens savent que nous leur donnons des cartes Hallmark. Si vous utilisez ChatGPT pour écrire à votre ami des félicitations ou des excuses, il se peut qu'il ne sache même pas que cela a été écrit par une machine.

Ce qui nous amène à l'autre objectif que Tian envisage pour son application : identifier et encourager l'originalité dans l'écriture humaine. "Nous perdons cette individualité si nous arrêtons d'enseigner l'écriture dans les écoles", dit Tian. "L'écriture humaine peut être si belle, et il y a des aspects de celle-ci que les ordinateurs ne devraient jamais coopter. Et il semble que cela pourrait être en danger si tout le monde utilise ChatGPT pour écrire."

Tian n'est pas Luddite. Il n'essaie pas d'arrêter l'IA dans son élan. Il pense que c'est impossible et, dit-il, il s'oppose aux interdictions générales d'utilisation de ChatGPT, comme celle récemment annoncée par les écoles publiques de New York. Les étudiants, croit-il, utiliseront la technologie de toute façon. Et, dit-il, il est important qu'ils soient capables d'apprendre à l'utiliser. Ils doivent être conscients des changements technologiques qui balayent notre monde. "Cela n'a pas de sens que nous entrions aveuglément dans cet avenir", dit-il. "Au lieu de cela, vous devez mettre en place les garanties pour entrer dans cet avenir."

En ce qui concerne ses projets après l'université, dit Tian, ​​l'enthousiasme - et la demande claire - pour sa nouvelle application l'ont convaincu qu'il devrait se concentrer sur la fabrication d'un produit meilleur et plus précis. "Si vous êtes un enseignant ou un éducateur, notre équipe - qui n'est composée que de moi et de mon meilleur ami de l'université, qui vient de rejoindre hier - nous serions ravis de vous parler", a déclaré Tian.

Donc, si vous rencontrez un texte que vous soupçonnez d'avoir été écrit par une machine, exécutez-le peut-être via la nouvelle application de Tian ? Vous pouvez le trouver sur GPTZero.me.

Nous avons mis à jour cet article pour être plus conforme à nos normes de dénomination.