Викторина, связанная с руководством · Средний Уровень
Викторина о предвзятости и стереотипах в генераторах изображений с использованием искусственного интеллекта
Тесты, откуда возникает предвзятость генератора изображений, как исследователи измеряют ее с помощью нейтральных подсказок и почему исправления, такие как переписывание подсказок, могут привести к чрезмерной корректировке.
Вопрос 1 из 8
Почему запрос, не упоминающий пол или этническую принадлежность, все равно дает предвзятое изображение?
Предварительный просмотр каждого вопроса8 вопросы
Ответы и пояснения появляются по мере прохождения теста.
- Почему запрос, не упоминающий пол или этническую принадлежность, все равно дает предвзятое изображение?
- The model randomly assigns attributes with equal probability
- The model falls back on the most typical picture it learned for the word, which reflects skewed data
- Users secretly add hidden terms
- Image generators cannot draw people accurately
- С какими данными обучаются модели, такие как Stable Diffusion?
- Hand-drawn images commissioned for training
- Government census photographs
- Large collections of image-caption pairs scraped from the web
- Only stock photos with verified demographics
- Какой метод исследователи часто используют для измерения предвзятости в генераторах изображений?
- Asking the model to rate its own fairness
- Counting how many words are in each prompt
- Checking image file sizes
- Generating many images for neutral prompts and comparing who appears
- Почему в проекте Stable Bias использовалась кластеризация вместо прямой маркировки расы?
- Labeling someone's race from an image is itself unreliable and fraught
- Clustering is required by law
- Race labels made the images too large
- The images contained no people
- Что показал анализ изображений Stable Diffusion, проведенный Bloomberg в 2023 году?
- Outputs were perfectly balanced across all jobs
- Only landscapes showed bias
- High-paying jobs skewed toward lighter-skinned men
- The model refused to draw people at work
- What happened with Google's Gemini image generation in February 2024?
- It was paused after producing historically inaccurate diverse depictions
- It was praised for perfect historical accuracy
- It was banned in all countries
- It stopped generating landscapes
- What is the main weakness of simple behind-the-scenes prompt rewriting as a fix?
- It is too expensive to run
- It can be context-blind and alter prompts that specify a period or identity
- It makes images black and white
- It deletes the training data
- Which statement about the source of bias is accurate according to the guide?
- Bias comes only from training data
- Bias comes only from users' prompts
- Bias is fully solved by larger models
- Data, filtering, captioning, model design and post-training choices all shape bias