Dans une tournure ironique des événements qui semble tout droit sortie d’un épisode de Dr. STONE, la célèbre intelligence artificielle a jugé que la science, même celle destinée à la fiction, pouvait être trop dangereuse pour le monde réel. Kurare (@reraku), le véritable expert scientifique qui valide les inventions audacieuses de Senku Ishigami dans le manga et l’anime Dr. STONE, a récemment partagé une nouvelle pour le moins surprenante : sa suspension permanente de ChatGPT par OpenAI.
Cet incident, survenu le 26 janvier, met en lumière les défis auxquels les créateurs de contenu sont confrontés face aux algorithmes d’IA de plus en plus stricts. Imaginez le superviseur scientifique d’une œuvre qui prône la reconstruction de la civilisation par la science, se retrouvant lui-même entravé par les garde-fous de l’intelligence artificielle. Une situation digne des paradoxes que Senku pourrait rencontrer dans son Royaume de la Science.
Banni pour « fabrication d’armes » : Quand l’IA ne saisit pas la fiction
Selon les explications de Kurare sur X (anciennement Twitter), il utilisait ChatGPT pour une recherche tout à fait ordinaire, nécessaire à l’élaboration d’une œuvre de fiction. Soudain, une alerte orange est apparue sur son écran, l’accusant d’avoir violé les « politiques de fabrication d’armes ». Ce qui, pour un esprit humain, est clairement de la documentation pour un récit (une tâche que Kurare accomplit depuis des années pour Dr. STONE), a été interprété par l’algorithme comme une menace tangible. Sa session s’est immédiatement soldée par une suspension.
OpenAI peine à comprendre les nuances de la fiction
Le plus déroutant pour l’expert fut la réponse du support technique. Après avoir envoyé un appel détaillant sa profession et le contexte fictif de sa recherche, OpenAI a rejeté sa demande et maintenu l’interdiction. Face à cette incompréhension algorithmique, Kurare a choisi la philosophie, profitant de l’occasion pour adresser un clin d’œil à la concurrence :
« C’est assez problématique, mais comme Gemini (l’IA de Google) est excellente, je ne suis pas dans une situation critique sans ChatGPT », a-t-il déclaré.
Cette anecdote souligne un défi majeur pour les développeurs d’IA : la capacité à distinguer l’intention et le contexte. Un superviseur scientifique de Dr. STONE, œuvrant à la création de récits où la science est la clé de la survie et du progrès, se voit censuré par une IA pour des raisons de sécurité. L’ironie est palpable et nous pousse à nous interroger : Senku Ishigami lui-même aurait-il des difficultés à reconstruire la civilisation moderne s’il devait dépendre d’une IA pour ses recherches ?
Cette situation soulève une question pertinente : les intelligences artificielles sont-elles devenues trop rigoureuses envers les auteurs de fiction, au point d’entraver leur processus créatif et de recherche ?
Commentaires (0)
Connectez-vous pour commenter