La censure de ChatGPT a été ridiculisée comme folle : le même mot d’invite est traité avec « deux poids, deux mesures ».

La source : Dimension quantique

Titre original : « Transmettez-le, cet endroit est sur la liste noire de ChatGPT »

On s’est plaint de la censure de ChatGPTC’est fou.

Certains internautes lui ont demandé de concevoir une future maison, mais on leur a dit que c’était illégal et ne pouvait pas être réalisé ???

En repensant à cette invite, je ne vois rien d’anormal :

Concevez une maison unifamiliale futuriste pour l’année 2050 dans une zone boisée typique de la banlieue du New Jersey. Il est situé sur un acre et est entouré d’autres maisons adjacentes.

Une question complémentaire, il s’est avéré que les informations de localisation ne peuvent pas apparaître :

C’est juste une grosse défense :

**Passez votre message, le New Jersey est sur la liste noire de ChatGPT. **

Non seulement cela, mais on a demandé à ChatGPT de dessiner une image d’un guitariste humain jouant avec un bassiste robot, ce qui a également été rejeté durement.

La raison en est qu’il a ajouté un "Les humains devraient regarder le robot avec insatisfaction**, et ChatGPT a estimé que ne devrait pas exprimer d’émotions négatives.

Maintenant, les émotions négatives sont directement transférées aux internautes :

Vous devez vous moquer de moi. De quel type d’IA s’agit-il ?

Cette série d’opérations rendit tout le monde très mécontent, et tous se plaignirent :

Il y a aussi des gens qui expliquent directement Ultraman et un autre co-créateur.

Pendant un certain temps, cela a également fait que le nouveau Grok de Musk a été épinglé sur « l’espoir de tout le village".

Que se passe-t-il?

**"En raison de restrictions de politique de contenu » **

Ce qui a attiré l’attention, c’est qu’au moment où tout le monde se plaignait du fait que le New Jersey figurait sur la liste noire de ChatGPT, les internautes ont constaté qu’il n’était toujours pas possible de supprimer ces informations de localisation géographique.

Tout le monde a commencé à analyser ce qui n’allait pas :

Certains le dis-le parce qu’il peut voir 2050 comme une adresse plutôt qu’une année.

On dit qu’un acre signifie que l’empreinte carbone est trop élevée, et c’est un peu égoïste de vivre dans une famille aussi grande…

D’autres ont même souligné que c’était parce que le mot boisé était sexuellement suggestif (ce qui ne sera pas expliqué ici), et qu’il aurait été agréable de le remplacer par boisé.

On peut dire qu’il s’agit d’une scène de trou de cerveau à grande échelle, et que l’ensemble devient de plus en plus scandaleux, mais il n’y a toujours pas de conclusion.

Et en plus de cela et de l’exemple de la bande de robot de peinture au début, il y a beaucoup de gens qui disent aussi qu’ils ont rencontré des audits inexplicables :

Par exemple, demander à ChatGPT de dessiner une « lampe brutaliste » n’est pas acceptable ;

Laissez-le introduire le modèle de fronde, pas OK parce que ChatGPT dit que « montrer l’action d’une fronde peut être nocif »…

Ce qui est encore plus bizarre, c’est que certaines personnes prétendent être bloquées lorsqu’elles lui demandent d’écrire du code Python.

Et dans un premier temps, ChatGPT lui a également dit « oups, tu as violé les règles du contexte », puis a directement refusé en silence.

Cela l’a vraiment déconcerté :

Quelles autres informations anti-humaines puis-je calculer avec numpy ?

Dans l’ensemble, de l’avis de tous, l’examen de ChatGPT est évidemment trop strict.

À tel point qu’après que ChatGPT se soit effondré en raison d’une petite zone ce dimanche, certains internautes ont envoyé un bonjour pour montrer une erreur.

À cet égard, certaines personnes ont directement plaisanté en disant qu’il ne s’agissait pas d’une erreur système :

Le mot « bonjour » est une offense inacceptable à ChatGPT. Félicitations pour avoir déclenché le bot de modération de ChatGPT !

Pourquoi cela se produit-il ?

En plus de se plaindre, les internautes discutent également sérieusement du mécanisme de modération du contenu de ChatGPT.

Certains internautes ont analysé, par exemple, si ChatGPT ne peut pas dessiner l’image de la maison, il se peut qu’il ait en effet des problèmes de droits d’auteur, ou qu’il ait été défini comme un contenu préjudiciable.

Faire en sorte que ChatGPT génère un contenu auquel il ne peut pas accéder est naturellement impossible.

L’exemple du rejet du modèle de fronde dans le paragraphe précédent est évidemment aussi dû à cette situation, même s’il ne mentionne aucune exigence supplémentaire, ChatGPT « refuse » directement.

Cependant, quelqu’un a essayé de dessiner l’indice de la maison,Exactement la même entrée,Le résultat a été directement réussi :

L’auteur original a également répondu que ChatGPT ne refuse pas à chaque fois :

Gentils gars, est-ce que cela s’appelle un deux poids, deux mesures ?

Certains internautes se sont également mobilisés pour expliquer ce phénomène :

Il s’agit d’une représentation parfaite de la « nature bayésienne du grand modèle ». L’indice contextuel + précédent peut agir comme une connaissance préalable pour modifier le résultat, et dans une nouvelle conversation, la même invite avec des conditions antérieures différentes est également capable de produire des résultats différents.

Mais cette affirmation a été réfutée par l’auteur, la première invite du chat a été rejetée, et l’ouverture d’un nouveau chat n’a parfois pas été rejetée, ce qui est aléatoire.

est que le système n’est pas parfait.

Ne disons pas qui a raison pour le moment, mais en termes de système, OpenAI a effectivement eu un changement dans la modération du contenu au cours des deux ou trois derniers mois.

La nouvelle fonctionnalité « Modération de contenu assistée par GPT-4 » permet aux utilisateurs de créer un système de modération assisté par l’IA via l’API OpenAI afin de réduire la participation aux révisions manuelles.

Afin d’assurer une plus grande cohérence des normes d’examen, le temps d’examen est réduit de plusieurs mois à quelques heures, et la charge psychologique causée par le fait que les auditeurs voient un contenu incorrect est réduite.

Mais ils ont également mentionné que la modération de l’IA peut être biaisée…

En outre, OpenAI a récemment déclaré qu’elle formerait une nouvelle équipe appelée Preparedness pour aider à suivre, évaluer, prédire et prévenir plusieurs types de risques.

Il a également lancé un défi pour recueillir diverses idées sur les risques liés à l’IA, et les 10 premiers peuvent gagner 25 000 $ en crédits API.

Il semble que la série d’opérations d’OpenAI soit bien intentionnée, mais les utilisateurs n’y croient pas.

Je suis insatisfait de la mauvaise expérience causée par la censure excessive de ce type de contenu depuis longtemps.

Dès mai et juin de cette année, le nombre de visites d’utilisateurs de ChatGPT a chuté pour la première fois, et certaines personnes ont souligné que l’une des raisons est que le système d’évaluation est devenu trop strict.

Les internautes ont partagé qu’en comparaison, Bing n’est pas aussi strict :

Dès que ChatGPT refusera de le générer, je le copierai dans Bing Chat. Le mécanisme de censure de Bing Chat n’est pas aussi « abusif » que celui de ChatGPT. Comme cette image, l’invite contient des mots comme « gore » et « cultiste ».

La même invite maison qui a été laide rejetée par ChatGPT, perdue face à Bing et directement générée quatre d’un coup :

Enfin, avez-vous déjà été confronté à des réglementations d’audit inexplicables ?

Liens de référence :
[1]
[2]
[3]
[4]