L’entreprise américaine de recherche en intelligence artificielle OpenAI tente de rassurer. Elle proposera un programme permettant aux organisations de distinguer un texte écrit par ChatGPT, un chatbot dont le lancement public – fin novembre – a été fortement médiatisé.
L’annonce intervient après que le département de l’éducation de la ville de New York (NYCDOE) a décidé début janvier de bloquer l’accès de ChatGPT.
Les nombreux retours de jeunes ayant utilisé l’IA pour produire du contenu à leur place, hors du contrôle des autorités concernées, ont inquiété.
« Les impacts négatifs sur l’apprentissage des élèves et les préoccupations relatives à l’exactitude et à la sécurité du contenu » ont motivé cette interdiction, a expliqué l’administration américaine à l’attention des médias locaux.
Les élèves et les enseignants d’écoles publiques new-yorkaises ne peuvent donc plus accéder à ChatGPT, agent interactif et conversationnel utilisant le modèle de langage pré-entraîné GPT (generative pre-training transformer), sur les terminaux et les réseaux du NYCDOE.
Les capacités de production en quelques secondes de textes sur des sujets variés, et ce à partir de requêtes simples ou plus complexes d’internautes, ont troublé.
Le programme va-t-il encourager la tricherie, la fraude et le plagiat ? Entraver le développement de la pensée critique ou limiter la capacité humaine à résoudre un problème ?
Pour tenter d’apaiser les débats, OpenAI a rappelé travailler au développement d’un moyen d’identifier du texte généré par son modèle.
« Nous avons rendu ChatGPT disponible en avant-première à des fins de recherche pour apprendre de l’utilisation dans le monde réel. Ce qui, selon nous, est un élément essentiel du développement et du déploiement de systèmes d’IA performants et sûrs. [De plus] nous intégrons constamment les commentaires et les leçons apprises », a déclaré un porte-parole d’OpenAI dans les colonnes de TechCrunch.
Il reste à savoir si la solution proposée par l’entreprise sera considérée suffisamment efficace et sûre par le milieu éducatif. En attendant, ChatGPT peut toujours faire l’objet de travaux dans le cadre de cours sur l’intelligence artificielle dans les écoles publiques du NYCDOE.
OpenAI, entreprise qui pourrait être valorisée 30 milliards $ avec l’arrivée de nouveaux investisseurs, se dit prête « à travailler avec les écoles sur des solutions utiles et sur des moyens d’aider les enseignants et les étudiants à bénéficier du modèle de langage ».
(crédit photo © Adobe Stock)
Dans un avis consultatif, l'Autorité de la concurrence a identifié les risques concurrentiels liés à…
OpenAI signe un « partenariat de contenu stratégique » avec Time pour accéder au contenu…
Au lendemain du rejet de sa proposition de restructuration, David Layani annonce sa démission du…
Après un an, Hugging Face a revu les fondements de son leaderboard LLM. Quels en…
Mozilla commence à expérimenter divers LLM dans Firefox, en parallèle d'autres initiatives axées sur l'intégration…
VMware met VCF à jour pour y favoriser la migration des déploiements qui, sur le…