Le PDG d’OpenAI, Sam Altman, vient d’annoncer un changement important pour la populaire plateforme ChatGPT basée sur l’IA : le chatbot sera bientôt capable de générer du contenu, y compris érotique, pour les utilisateurs adultes vérifiés. Cette décision, qui s’inscrit dans une stratégie plus large, signale un assouplissement notable des garde-fous classiques en matière de contenu du service.
Altman a révélé le plan sur les réseaux sociaux. Il a déclaré que, dans le cadre du principe « traiter les utilisateurs adultes comme des adultes », OpenAI mettra en place une limitation de l’âge plus complète d’ici décembre. Une fois la vérification de l’âge pleinement mise en œuvre, la société prévoit « d’autoriser encore plus, comme l’érotisme pour les adultes vérifiés ».
ChatGPT autorisant « l’érotisme » : la justification du changement de politique
Cette décision contredit directement les politiques de contenu très restrictives actuelles de ChatGPT. Le chatbot interdit spécifiquement le matériel Not Safe for Work (NSFW) dans la plupart des contextes. Altman a expliqué la prudence initiale : les premières versions de ChatGPT étaient « assez restrictives pour garantir que nous étions prudents avec les problèmes de santé mentale », en particulier concernant les jeunes utilisateurs.
L’approche stricte initiale a réussi à protéger les utilisateurs vulnérables. Cependant, Altman a admis que cela rendait le chatbot « moins utile/agréable pour de nombreux utilisateurs qui n’avaient aucun problème de santé mentale ». Désormais, l’entreprise affirme que de nouvelles fonctionnalités de sécurité et des outils mis à jour leur permettent « d’assouplir les restrictions en toute sécurité dans la plupart des cas ». Cela a effectivement ouvert la porte à des interactions adultes plus personnelles et plus complexes.
Être compétitif sur le marché des compagnons
Le changement de politique intervient à un moment sensible pour le géant de l’IA. OpenAI est confronté à une pression croissante de la part de concurrents comme xAI d’Elon Musk, qui propose déjà des compagnons chatbot avec « support NSFW » via Grok AI. Pour OpenAI, dont la croissance des revenus est cruciale même si elle n’a jamais été rentable. Ainsi, assouplir ces règles pourrait aider à attirer davantage d’abonnés payants qui recherchent davantage de types d’interactions.
Cela dit, la poursuite de la croissance se heurte déjà aux appels à la réglementation. OpenAI a récemment fait l’objet d’une surveillance accrue à la suite d’un procès intenté par un couple californien alléguant que ChatGPT avait contribué au suicide de leur fils de 16 ans. En outre, la Federal Trade Commission (FTC) mène actuellement une enquête sur plusieurs entreprises technologiques, dont OpenAI, sur les risques potentiels pour la santé mentale des enfants. En réponse à ces préoccupations, l’entreprise a annoncé simultanément la création d’un conseil d’experts sur le bien-être et l’IA pour guider sa future approche en matière de sécurité.
Au-delà des changements de contenu, Altman a également confirmé qu’une prochaine version du chatbot permettra aux utilisateurs de mieux dicter sa personnalité et son ton. Les utilisateurs pourront demander à ChatGPT de répondre de manière « humaine », d’utiliser un ton spécifique ou « d’agir comme un ami », renforçant ainsi le rôle de la plateforme en tant que compagnon polyvalent.
