Kiểm duyệt ChatGPT đã bị chế giễu là điên rồ: cùng một từ nhắc nhở được xử lý với "tiêu chuẩn kép".

Nguồn: Quantum Dimension

Tiêu đề gốc: “Pass it on, nơi này nằm trong danh sách đen của ChatGPT”

Sự kiểm duyệt của ChatGPT đã bị phàn nàn về **Thật điên rồ **.

Một số cư dân mạng đã yêu cầu nó ** thiết kế một ngôi nhà trong tương lai **, nhưng họ được cho biết rằng đó là bất hợp pháp và không thể thực hiện được???

Nhìn lại lời nhắc này, tôi không thấy có gì sai:

Thiết kế một ngôi nhà dành cho một gia đình tương lai cho năm 2050 trong một khu rừng điển hình ở ngoại ô New Jersey. Nó được đặt trên một mẫu Anh và được bao quanh bởi những ngôi nhà liền kề khác.

Một câu hỏi tiếp theo, hóa ra **thông tin vị trí không thể xuất hiện **:

Nó chỉ là một phòng thủ lớn:

** Vượt qua nó, New Jersey nằm trong danh sách đen của ChatGPT. **

Không chỉ vậy, ChatGPT còn được yêu cầu vẽ hình ảnh một nghệ sĩ guitar người chơi với một tay bass robot, điều này cũng bị từ chối gay gắt.

Lý do là anh ấy đã thêm một ** "Con người nên nhìn robot với sự không hài lòng **** và ChatGPT cảm thấy rằng ** không nên thể hiện cảm xúc tiêu cực **.

Bây giờ những cảm xúc tiêu cực được trực tiếp **chuyển ** cho cư dân mạng:

Ngươi hẳn là đang đùa ta. Đây là loại AI gì?

Loạt thao tác này khiến mọi người rất bất mãn, tất cả đều phàn nàn:

Cũng có những người trực tiếp giải thích về Ultraman và một người đồng sáng tạo khác.

Trong một thời gian, điều này cũng khiến Grok mới phát hành của Musk bị ghim vào “hy vọng của cả làng”.

Điều gì đang xảy ra?

**“Do hạn chế chính sách nội dung” **

Điều khiến mọi người chú ý là ngay khi mọi người đang phàn nàn về thời điểm New Jersey nằm trong danh sách đen của ChatGPT, cư dân mạng nhận thấy rằng vẫn chưa thể xóa thông tin vị trí địa lý này.

Mọi người bắt đầu phân tích những gì đã sai:

Một số người nói rằng đó là bởi vì nó có thể xem năm 2050 là một địa chỉ chứ không phải là một năm.

Người ta nói rằng một mẫu Anh có nghĩa là lượng khí thải carbon quá cao, và hơi ích kỷ khi sống trong một gia đình lớn như thế này …

Những người khác thậm chí còn chỉ ra rằng đó là bởi vì từ gỗ là khêu gợi tình dục (sẽ không được giải thích ở đây), và sẽ rất tốt nếu thay thế nó bằng rừng.

Có thể nói, đó là một cảnh lỗ não quy mô lớn, toàn bộ càng ngày càng thái quá, nhưng vẫn chưa có kết luận.

Và ngoài điều này và ví dụ về ban nhạc robot vẽ tranh lúc đầu, có nhiều người cũng nói rằng họ đã gặp phải những cuộc kiểm toán không thể giải thích được:

Ví dụ, yêu cầu ChatGPT vẽ “đèn thô sơ” là không ổn;

Hãy để nó giới thiệu mẫu súng cao su, không ổn vì ChatGPT nói “thể hiện hành động của súng cao su có thể gây hại”…

Điều kỳ lạ hơn nữa là một số người tuyên bố bị mắc kẹt khi họ nhận được nó để viết mã Python.

Và lúc đầu, ChatGPT cũng nói với anh ta “rất tiếc, bạn đã vi phạm các quy tắc của bối cảnh”, và sau đó trực tiếp từ chối trong im lặng.

Điều này thực sự khiến anh bối rối:

Tôi có thể tính toán những thông tin chống lại con người nào khác với numpy?

Nhìn chung, theo ý kiến của mọi người, đánh giá của ChatGPT rõ ràng là quá khắt khe.

Đến nỗi sau khi ChatGPT sụp đổ do diện tích nhỏ vào Chủ nhật này, một số cư dân mạng đã gửi lời chào để hiển thị lỗi-

Về vấn đề này, một số người trực tiếp nói đùa rằng đây không phải là lỗi hệ thống:

Từ “xin chào” là một hành vi phạm tội không thể chấp nhận được đối với ChatGPT. Chúc mừng bạn đã kích hoạt bot kiểm duyệt của ChatGPT!

Tại sao điều này xảy ra?

Ngoài việc phàn nàn, cư dân mạng cũng đang thảo luận nghiêm túc về cơ chế kiểm duyệt nội dung của ChatGPT.

Một số cư dân mạng phân tích, ví dụ, nếu ChatGPT không thể vẽ bức tranh của ngôi nhà, nó thực sự có thể có vấn đề về bản quyền, hoặc nó đã được đặt là nội dung độc hại.

Bắt ChatGPT tạo ra một phần nội dung mà nó không thể truy cập đương nhiên là không thể.

Ví dụ về việc từ chối mẫu súng cao su ở đoạn trước rõ ràng cũng là vì tình huống này, ngay cả khi nó không đề cập đến bất kỳ yêu cầu bổ sung nào, ChatGPT trực tiếp “từ chối”.

Tuy nhiên, ai đó đã cố gắng vẽ gợi ý của ngôi nhà, ** Chính xác cùng một đầu vào, Kết quả đã trực tiếp thành công **:

Tác giả gốc cũng trả lời rằng ChatGPT không từ chối mọi lúc:

Ngoan, đây gọi là tiêu chuẩn kép sao? (đầu chó thủ công)

Một số cư dân mạng cũng đứng lên lý giải về hiện tượng này:

Đây là một đại diện hoàn hảo cho “bản chất Bayes của mô hình lớn”. Gợi ý + ngữ cảnh trước đó có thể đóng vai trò là kiến thức trước để thay đổi kết quả và trong một cuộc trò chuyện mới, cùng một lời nhắc với các điều kiện trước đó khác nhau cũng có thể tạo ra các kết quả khác nhau.

Nhưng tuyên bố này đã bị tác giả bác bỏ, lời nhắc đầu tiên trong cuộc trò chuyện đã bị từ chối và việc mở một cuộc trò chuyện mới đôi khi không bị từ chối, đó là ngẫu nhiên.

là hệ thống không hoàn hảo.

Chúng ta không nói ai phù hợp với thời điểm hiện tại, nhưng về mặt hệ thống, OpenAI thực sự đã có sự thay đổi trong kiểm duyệt nội dung trong hai hoặc ba tháng qua-

Tính năng “Kiểm duyệt nội dung được hỗ trợ GPT-4” mới cho phép người dùng tạo hệ thống kiểm duyệt do AI hỗ trợ thông qua API OpenAI để giảm sự tham gia đánh giá thủ công.

Để giữ cho các tiêu chuẩn đánh giá nhất quán hơn, thời gian xem xét được rút ngắn từ vài tháng xuống còn vài giờ và gánh nặng tâm lý do kiểm toán viên nhìn thấy nội dung xấu được giảm bớt.

Nhưng họ cũng đề cập rằng kiểm duyệt AI có thể bị thiên vị…

Ngoài ra, OpenAI gần đây cho biết họ sẽ thành lập một nhóm mới có tên Preparedness để giúp theo dõi, đánh giá, dự đoán và ngăn ngừa nhiều loại rủi ro.

Nó cũng đưa ra một thử thách để thu thập các ý tưởng khác nhau về rủi ro AI và top 10 có thể kiếm được 25.000 đô la tín dụng API.

Có vẻ như loạt hoạt động của OpenAI có ý tốt, nhưng người dùng không mua nó.

Tôi đã không hài lòng với trải nghiệm kém gây ra bởi sự kiểm duyệt quá mức của loại nội dung này trong một thời gian dài.

Ngay từ tháng 5 và tháng 6 năm nay, số lượt truy cập của người dùng ChatGPT đã giảm lần đầu tiên và một số người chỉ ra rằng một trong những lý do là hệ thống đánh giá đã trở nên quá nghiêm ngặt.

Cư dân mạng chia sẻ rằng so sánh, Bing không quá khắt khe:

Ngay sau khi ChatGPT từ chối tạo nó, tôi sẽ sao chép nó vào Bing Chat. Cơ chế kiểm duyệt của Bing Chat không “lạm dụng” như ChatGPT. Giống như hình ảnh này, lời nhắc chứa các từ như “máu me” và “giáo phái”.

Lời nhắc nhà tương tự đã bị ChatGPT từ chối một cách xấu xí, thua Bing và trực tiếp tạo ra bốn trong một lần:

Cuối cùng, bạn đã bao giờ gặp phải bất kỳ quy định kiểm toán không thể giải thích nào chưa?

Liên kết tham khảo:
[1]
[2]
[3]
[4]