Bài kiểm tra có liên kết hướng dẫn · Trung bình Cấp độ
Sự thiên vị và khuôn mẫu trong bài kiểm tra về công cụ tạo hình ảnh AI
Kiểm tra xem sai lệch của trình tạo hình ảnh xuất phát từ đâu, cách các nhà nghiên cứu đo lường nó bằng các lời nhắc trung tính và lý do các cách khắc phục như viết lại lời nhắc có thể sửa quá mức.
Câu hỏi 1 của 8
Tại sao lời nhắc không đề cập đến giới tính, sắc tộc vẫn tạo ra hình ảnh thiên vị?
Xem trước mọi câu hỏi8 câu hỏi
Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.
- Tại sao lời nhắc không đề cập đến giới tính, sắc tộc vẫn tạo ra hình ảnh thiên vị?
- The model randomly assigns attributes with equal probability
- The model falls back on the most typical picture it learned for the word, which reflects skewed data
- Users secretly add hidden terms
- Image generators cannot draw people accurately
- Các mô hình như Stable Diffusion học hỏi từ loại dữ liệu nào?
- Hand-drawn images commissioned for training
- Government census photographs
- Large collections of image-caption pairs scraped from the web
- Only stock photos with verified demographics
- Phương pháp phổ biến mà các nhà nghiên cứu sử dụng để đo độ lệch trong trình tạo hình ảnh là gì?
- Asking the model to rate its own fairness
- Counting how many words are in each prompt
- Checking image file sizes
- Generating many images for neutral prompts and comparing who appears
- Tại sao dự án Stable Bias lại sử dụng phương pháp phân cụm thay vì dán nhãn trực tiếp cho chủng tộc?
- Labeling someone's race from an image is itself unreliable and fraught
- Clustering is required by law
- Race labels made the images too large
- The images contained no people
- Phân tích của Bloomberg năm 2023 về hình ảnh Stable Diffusion đã tìm thấy điều gì?
- Outputs were perfectly balanced across all jobs
- Only landscapes showed bias
- High-paying jobs skewed toward lighter-skinned men
- The model refused to draw people at work
- What happened with Google's Gemini image generation in February 2024?
- It was paused after producing historically inaccurate diverse depictions
- It was praised for perfect historical accuracy
- It was banned in all countries
- It stopped generating landscapes
- What is the main weakness of simple behind-the-scenes prompt rewriting as a fix?
- It is too expensive to run
- It can be context-blind and alter prompts that specify a period or identity
- It makes images black and white
- It deletes the training data
- Which statement about the source of bias is accurate according to the guide?
- Bias comes only from training data
- Bias comes only from users' prompts
- Bias is fully solved by larger models
- Data, filtering, captioning, model design and post-training choices all shape bias