La censura de ChatGPT ha sido ridiculizada como una locura: la misma palabra inmediata es tratada con "doble rasero".

Fuente: Dimensión Cuántica

Título original: “Pásalo, este lugar está en la lista negra de ChatGPT”

La censura de ChatGPT ha sido objeto de quejasEs una locura.

Algunos internautas le pidieron que diseñara una futura casa, pero les dijeron que era ilegal y que no se podía realizar???

Mirando hacia atrás en este mensaje, no puedo ver nada malo:

Diseña una casa unifamiliar futurista para el año 2050 en una típica zona boscosa de los suburbios de Nueva Jersey. Se encuentra en un acre y está rodeado de otras casas adyacentes.

Una pregunta de seguimiento, resultó que la información de ubicación no puede aparecer:

Es solo una gran defensa:

**Pásalo, Nueva Jersey está en la lista negra de ChatGPT. **

No solo eso, sino que se le pidió a ChatGPT que dibujara una imagen de un guitarrista humano tocando con un bajista robot, que también fue rechazada con dureza.

La razón es que agregó un "Los humanos deberían mirar al robot con insatisfacción**, y ChatGPT sintió que no debería expresar emociones negativas.

Ahora las emociones negativas son directamente transferidas a los internautas:

Debes estar bromeando. ¿Qué tipo de IA es esta?

Esta serie de operaciones hizo que todos estuvieran muy insatisfechos, y todos se quejaron:

También hay personas que explican directamente a Ultraman y a otro co-creador.

Durante un tiempo, esto también hizo que el recién lanzado Grok de Musk se fijara en la “esperanza de todo el pueblo”.

¿Qué pasa?

**“Debido a restricciones de la política de contenido” **

Lo que llamó la atención fue que justo cuando todo el mundo se quejaba de que Nueva Jersey estaba en la lista negra de ChatGPT, los internautas descubrieron que todavía no era posible eliminar esta información de ubicación geográfica.

Todos comenzaron a analizar lo que estaba mal:

Algunos dicen que se debe a que puede ver el 2050 como una dirección en lugar de un año.

Se dice que un acre significa que la huella de carbono es demasiado alta, y es un poco egoísta vivir en una familia tan grande…

Otros incluso señalaron que se debía a que la palabra leñoso era sexualmente sugerente (lo que no se explicará aquí), y hubiera sido bueno reemplazarla por boscoso.

Se puede decir que es una escena de agujero cerebral a gran escala, y toda se está volviendo cada vez más escandalosa, pero todavía no hay conclusión.

Y además de esto y del ejemplo de la banda robot de pintura al principio, hay muchas personas que también dicen que se han encontrado con auditorías inexplicables:

Por ejemplo, pedirle a ChatGPT que dibuje una “lámpara brutalista” no está bien;

Que introduzca el modelo de tirachinas, no está bien porque ChatGPT dice que “mostrar la acción de un tirachinas puede ser perjudicial”…

Lo que es aún más extraño es que algunas personas afirman estar atascadas cuando lo consiguen para escribir código Python.

Y al principio, ChatGPT también le dijo “uy, violaste las reglas del contexto”, y luego se negó directamente en silencio.

Esto realmente lo desconcertó:

¿Qué otra información antihumana puedo calcular con numpy?

En general, en opinión de todos, la revisión de ChatGPT es obviamente demasiado estricta.

Tanto es así que después de que ChatGPT colapsara debido a un área pequeña este domingo, algunos internautas enviaron un saludo para mostrar un error:

En este sentido, algunas personas bromearon directamente diciendo que no se trata de un error del sistema:

La palabra “hola” es una ofensa inaceptable para ChatGPT. ¡Felicitaciones por activar el bot de moderación de ChatGPT!

¿Por qué está sucediendo esto?

Además de quejarse, los internautas también están discutiendo seriamente el mecanismo de moderación de contenido de ChatGPT.

Algunos internautas analizaron, por ejemplo, que si ChatGPT no puede dibujar la imagen de la casa, es posible que tenga problemas de derechos de autor o que se haya configurado como contenido dañino.

Conseguir que ChatGPT genere un contenido al que no puede acceder es naturalmente imposible.

El ejemplo del rechazo del modelo de tirachinas en el párrafo anterior obviamente también se debe a esta situación, incluso si no menciona ningún requisito adicional, ChatGPT se “niega” directamente.

Sin embargo, alguien trató de dibujar la pista de la casa,Exactamente la misma entrada,El resultado fue directamente exitoso:

El autor original también respondió que ChatGPT no se niega siempre:

Buenos chicos, ¿a esto se le llama doble moral? (cabeza de perro manual)

Algunos internautas también se pusieron de pie para explicar este fenómeno:

Esta es una representación perfecta de la “naturaleza bayesiana del gran modelo”. La señal contextual + anterior puede actuar como conocimiento previo para cambiar el resultado, y en una nueva conversación, el mismo mensaje con diferentes condiciones previas también puede producir resultados diferentes.

Pero esta afirmación fue refutada por el autor, el primer mensaje en el chat fue rechazado y abrir un nuevo chat a veces no fue rechazado, lo cual es aleatorio.

es que el sistema no es perfecto.

No digamos quién tiene razón por el momento, pero en términos del sistema, OpenAI ha tenido un cambio en la moderación de contenido en los últimos dos o tres meses.

La nueva función “Moderación de contenido asistida por GPT-4” permite a los usuarios crear un sistema de moderación asistido por IA a través de la API de OpenAI para reducir la participación en la revisión manual.

Con el fin de mantener los estándares de revisión más consistentes, el tiempo de revisión se acorta de meses a horas, y se reduce la carga psicológica causada por los auditores que ven contenido malo.

Pero también mencionaron que la moderación de la IA puede estar sesgada…

Además, OpenAI dijo recientemente que formará un nuevo equipo llamado Preparedness para ayudar a rastrear, evaluar, predecir y prevenir múltiples tipos de riesgos.

También lanzó un desafío para recopilar varias ideas sobre los riesgos de la IA, y los 10 primeros pueden ganar USD 25,000 en créditos API.

Parece que la serie de operaciones de OpenAI son bien intencionadas, pero los usuarios no se lo creen.

Llevo mucho tiempo insatisfecho con la mala experiencia causada por la excesiva censura de este tipo de contenidos.

Ya en mayo y junio de este año, el número de visitas de usuarios de ChatGPT cayó por primera vez, y algunas personas señalaron que una de las razones es que el sistema de revisión se ha vuelto demasiado estricto.

Los internautas compartieron que, en comparación, Bing no es tan estricto:

Tan pronto como ChatGPT se niegue a generarlo, lo copiaré en Bing Chat. El mecanismo de censura de Bing Chat no es tan “abusivo” como el de ChatGPT. Al igual que esta imagen, el mensaje contiene palabras como “gore” y “cultista”.

El mismo mensaje de la casa que fue rechazado por ChatGPT, perdió ante Bing y generó directamente cuatro de una sola vez:

Por último, ¿alguna vez te has encontrado con alguna normativa de auditoría inexplicable?

Enlaces de referencia:
[1]
[2]
[3]
[4]