HƯỚNG DẪN xã hội

Xu hướng và khuôn mẫu trong Trình tạo hình ảnh AI

Công cụ tạo hình ảnh AI thường tái tạo và phóng đại các khuôn mẫu, chẳng hạn như hiển thị hầu hết nam giới cho vị trí 'CEO' hoặc 'kỹ sư', hầu hết là những người có làn da sáng hơn cho các công việc có địa vị cao và tiêu chuẩn sắc đẹp hạn hẹp, vì họ học hỏi từ các bộ sưu tập lớn, sai lệch các hình ảnh có chú thích trên Internet.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của thành kiến và khuôn mẫu trong công cụ tạo hình ảnh AI
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Các nhà nghiên cứu đo lường điều này bằng cách tạo ra nhiều hình ảnh cho những gợi ý trung lập và so sánh những người xuất hiện. Điều này quan trọng vì những hình ảnh này hiện nay tràn ngập các quảng cáo, sách giáo khoa và tin tức, đồng thời cả những cách sửa lỗi sai lệch và vụng về đều có thể khiến mọi người hiểu lầm.

Lặn sâu

Các mô hình chuyển văn bản thành hình ảnh như Stable Diffusion, Midjourney và DALL-E tìm hiểu mối liên hệ giữa các từ và hình ảnh từ bộ dữ liệu khổng lồ về các cặp chú thích hình ảnh, phần lớn được lấy từ web; Ví dụ: Stable Diffusion đã được đào tạo trên các tập hợp con của LAION-5B. Trang web đại diện quá mức cho một số quốc gia, ngôn ngữ, loại hình cơ thể và nghề nghiệp, đồng thời chú thích phản ánh các giả định của người viết chúng. Sau đó, mô hình sẽ tìm hiểu hình ảnh điển hình nhất cho một từ và có xu hướng khuếch đại nó, bởi vì thế hệ ưa thích các kết quả đầu ra 'trung bình', có xác suất cao. Lời nhắc không nói gì về giới tính hoặc sắc tộc vẫn tạo ra một mặc định và mặc định đó thường là khuôn mẫu. Các nhà nghiên cứu đo lường điều này theo một số cách. Một phương pháp phổ biến là tạo ra hàng trăm hình ảnh cho các gợi ý trung tính (nghề nghiệp, tính từ như 'hấp dẫn' hoặc 'nghèo', quốc tịch) và gắn nhãn giới tính, màu da hoặc độ tuổi được nhận thức, đôi khi được so sánh với số liệu thống kê về lao động. Dự án 'Khuynh hướng ổn định' của các nhà nghiên cứu Hugging Face (2023) đã sử dụng việc phân cụm các kết quả đầu ra của mô hình thay vì gán nhãn trực tiếp, một phần vì bản thân việc gắn nhãn chủng tộc của ai đó từ một bức ảnh đã là điều khó khăn. Một phân tích của Bloomberg năm 2023 về hàng nghìn hình ảnh Stable Diffusion cho thấy những công việc được trả lương cao nghiêng về những người đàn ông có làn da sáng hơn và những công việc lương thấp nghiêng về những người đàn ông có tông màu da tối hơn. Việc sửa chữa khó hơn vẻ ngoài của chúng. Vào năm 2022, OpenAI cho biết họ đã áp dụng một kỹ thuật nên DALL-E 2 đã tạo ra nhiều người đa dạng hơn khi các lời nhắc không chỉ định, được báo cáo rộng rãi là liên quan đến việc thêm các thuật ngữ vào lời nhắc ở hậu trường. Vào tháng 2 năm 2024, Google đã tạm dừng thế hệ hình ảnh về con người của Gemini sau khi nó tạo ra những hình ảnh không chính xác về mặt lịch sử, chẳng hạn như mô tả đa dạng về chủng tộc về các nhóm có lịch sử đồng nhất. Bài học là sự thiên vị không phải là một lần quay số duy nhất: một hệ thống phải mang tính đại diện ở những nơi có lời nhắc mở và chính xác ở những nơi có lời nhắc cụ thể. Một quan niệm sai lầm phổ biến là sai lệch chỉ xuất phát từ dữ liệu huấn luyện; các lựa chọn thiết kế mô hình, lọc, chú thích và sau đào tạo cũng định hình kết quả.

Triển khai trong thế giới thực

Một giáo viên hỏi máy tạo hình ảnh về 'một nhà khoa học trong phòng thí nghiệm' hai mươi lần và nhận được hầu hết những người đàn ông da trắng mặc áo khoác phòng thí nghiệm, sau đó viết lại lời nhắc để yêu cầu những người cụ thể, đa dạng.

Nhóm tiếp thị tạo ra "y tá" và "bác sĩ" nhận thấy rằng công cụ này tiếp tục tạo ra nữ y tá và bác sĩ nam, đồng thời thêm một bước xem xét trước khi đưa hình ảnh vào chiến dịch.

Một nhà báo so sánh kết quả đầu ra của 'một ngôi nhà ở Nigeria' và 'một ngôi nhà ở Hoa Kỳ' và nhận thấy mô hình mặc định là hình ảnh nghèo đói cho một ngôi nhà và những ngôi nhà ở ngoại ô cho ngôi nhà kia.

Người dùng yêu cầu bối cảnh lịch sử của một nhóm cụ thể và nhận được hình ảnh chèn thông tin nhân khẩu học không có trong lịch sử, cho thấy cách khắc phục sự đa dạng có thể khắc phục quá mức.

Tương lai của thành kiến và khuôn mẫu trong công cụ tạo hình ảnh AI

Mong đợi nhiều điểm chuẩn thiên vị được tiêu chuẩn hóa hơn, nhiều thông tin tiết lộ hơn trong thẻ mô hình và nhiều biện pháp giảm nhẹ theo ngữ cảnh hơn để phân biệt các lời nhắc mở với các lời nhắc cụ thể về mặt lịch sử hoặc cá nhân. Có sự bất đồng thực sự về mục tiêu phù hợp: việc so sánh số liệu thống kê thực tế hiện tại có thể củng cố thêm sự bất bình đẳng hiện có, trong khi sự đại diện thống nhất có thể xuyên tạc thực tế. Sự lựa chọn đó là một quyết định về giá trị, không thuần túy là một quyết định mang tính kỹ thuật và các tổ chức có thể sẽ được yêu cầu giải thích về nó. Người dùng vẫn cần phải xem lại các hình ảnh được tạo trước khi xuất bản chúng, đặc biệt là trong lĩnh vực giáo dục và tin tức.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Làm bài kiểm tra về Xu hướng và Khuôn mẫu trong Công cụ tạo hình ảnh AI

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Xu hướng và khuôn mẫu trong Trình tạo hình ảnh AI là gì?

Công cụ tạo hình ảnh AI thường tái tạo và phóng đại các khuôn mẫu, chẳng hạn như hiển thị hầu hết nam giới cho vị trí 'CEO' hoặc 'kỹ sư', hầu hết là những người có làn da sáng hơn cho các công việc có địa vị cao và tiêu chuẩn sắc đẹp hạn hẹp, vì họ học hỏi từ các bộ sưu tập lớn, sai lệch các hình ảnh có chú thích trên Internet. Các nhà nghiên cứu đo lường điều này bằng cách tạo ra nhiều hình ảnh cho những gợi ý trung lập và so sánh những người xuất hiện. Điều này quan trọng vì những hình ảnh này hiện nay tràn ngập các quảng cáo, sách giáo khoa và tin tức, đồng thời cả những cách sửa lỗi sai lệch và vụng về đều có thể khiến mọi người hiểu lầm.

Tại sao lời nhắc không đề cập đến giới tính, sắc tộc vẫn tạo ra hình ảnh thiên vị?

Không có thông số kỹ thuật, mô hình tạo ra một giá trị mặc định có xác suất cao và mặc định đó phản chiếu và thường khuếch đại các khuôn mẫu trong dữ liệu huấn luyện của nó.

Các mô hình như Stable Diffusion học hỏi từ loại dữ liệu nào?

Các bộ dữ liệu như LAION-5B chứa hàng tỷ cặp văn bản-hình ảnh được quét trên web, mang đến sự mất cân bằng của web.

Phương pháp phổ biến mà các nhà nghiên cứu sử dụng để đo độ lệch trong trình tạo hình ảnh là gì?

Các nhà nghiên cứu tạo ra hàng trăm hình ảnh cho mỗi dấu nhắc trung tính và phân tích các thuộc tính được cảm nhận, đôi khi dựa trên số liệu thống kê trong thế giới thực.

Tại sao dự án Stable Bias lại sử dụng phương pháp phân cụm thay vì dán nhãn trực tiếp cho chủng tộc?

Việc chỉ định chủng tộc dựa trên ngoại hình là không đáng tin cậy và có vấn đề về mặt đạo đức, vì vậy việc phân cụm kết quả đầu ra là một cách để so sánh các mô hình mà không áp đặt nhãn hiệu.

Phân tích của Bloomberg năm 2023 về hình ảnh Stable Diffusion đã tìm thấy điều gì?

Phân tích cho thấy những công việc được trả lương cao nghiêng về những người đàn ông có làn da sáng hơn và những công việc được trả lương thấp nghiêng về những người đàn ông có tông màu da tối hơn.