Tiếp theoHướng dẫn tiếp theo
Trình tạo hình ảnh AI trong lớp nghệ thuật
AI trực quan
HƯỚNG DẪN xã hội
Công cụ tạo hình ảnh AI thường tái tạo và phóng đại các khuôn mẫu, chẳng hạn như hiển thị hầu hết nam giới cho vị trí 'CEO' hoặc 'kỹ sư', hầu hết là những người có làn da sáng hơn cho các công việc có địa vị cao và tiêu chuẩn sắc đẹp hạn hẹp, vì họ học hỏi từ các bộ sưu tập lớn, sai lệch các hình ảnh có chú thích trên Internet.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Các nhà nghiên cứu đo lường điều này bằng cách tạo ra nhiều hình ảnh cho những gợi ý trung lập và so sánh những người xuất hiện. Điều này quan trọng vì những hình ảnh này hiện nay tràn ngập các quảng cáo, sách giáo khoa và tin tức, đồng thời cả những cách sửa lỗi sai lệch và vụng về đều có thể khiến mọi người hiểu lầm.
Các mô hình chuyển văn bản thành hình ảnh như Stable Diffusion, Midjourney và DALL-E tìm hiểu mối liên hệ giữa các từ và hình ảnh từ bộ dữ liệu khổng lồ về các cặp chú thích hình ảnh, phần lớn được lấy từ web; Ví dụ: Stable Diffusion đã được đào tạo trên các tập hợp con của LAION-5B. Trang web đại diện quá mức cho một số quốc gia, ngôn ngữ, loại hình cơ thể và nghề nghiệp, đồng thời chú thích phản ánh các giả định của người viết chúng. Sau đó, mô hình sẽ tìm hiểu hình ảnh điển hình nhất cho một từ và có xu hướng khuếch đại nó, bởi vì thế hệ ưa thích các kết quả đầu ra 'trung bình', có xác suất cao. Lời nhắc không nói gì về giới tính hoặc sắc tộc vẫn tạo ra một mặc định và mặc định đó thường là khuôn mẫu. Các nhà nghiên cứu đo lường điều này theo một số cách. Một phương pháp phổ biến là tạo ra hàng trăm hình ảnh cho các gợi ý trung tính (nghề nghiệp, tính từ như 'hấp dẫn' hoặc 'nghèo', quốc tịch) và gắn nhãn giới tính, màu da hoặc độ tuổi được nhận thức, đôi khi được so sánh với số liệu thống kê về lao động. Dự án 'Khuynh hướng ổn định' của các nhà nghiên cứu Hugging Face (2023) đã sử dụng việc phân cụm các kết quả đầu ra của mô hình thay vì gán nhãn trực tiếp, một phần vì bản thân việc gắn nhãn chủng tộc của ai đó từ một bức ảnh đã là điều khó khăn. Một phân tích của Bloomberg năm 2023 về hàng nghìn hình ảnh Stable Diffusion cho thấy những công việc được trả lương cao nghiêng về những người đàn ông có làn da sáng hơn và những công việc lương thấp nghiêng về những người đàn ông có tông màu da tối hơn. Việc sửa chữa khó hơn vẻ ngoài của chúng. Vào năm 2022, OpenAI cho biết họ đã áp dụng một kỹ thuật nên DALL-E 2 đã tạo ra nhiều người đa dạng hơn khi các lời nhắc không chỉ định, được báo cáo rộng rãi là liên quan đến việc thêm các thuật ngữ vào lời nhắc ở hậu trường. Vào tháng 2 năm 2024, Google đã tạm dừng thế hệ hình ảnh về con người của Gemini sau khi nó tạo ra những hình ảnh không chính xác về mặt lịch sử, chẳng hạn như mô tả đa dạng về chủng tộc về các nhóm có lịch sử đồng nhất. Bài học là sự thiên vị không phải là một lần quay số duy nhất: một hệ thống phải mang tính đại diện ở những nơi có lời nhắc mở và chính xác ở những nơi có lời nhắc cụ thể. Một quan niệm sai lầm phổ biến là sai lệch chỉ xuất phát từ dữ liệu huấn luyện; các lựa chọn thiết kế mô hình, lọc, chú thích và sau đào tạo cũng định hình kết quả.
Một giáo viên hỏi máy tạo hình ảnh về 'một nhà khoa học trong phòng thí nghiệm' hai mươi lần và nhận được hầu hết những người đàn ông da trắng mặc áo khoác phòng thí nghiệm, sau đó viết lại lời nhắc để yêu cầu những người cụ thể, đa dạng.
Nhóm tiếp thị tạo ra "y tá" và "bác sĩ" nhận thấy rằng công cụ này tiếp tục tạo ra nữ y tá và bác sĩ nam, đồng thời thêm một bước xem xét trước khi đưa hình ảnh vào chiến dịch.
Một nhà báo so sánh kết quả đầu ra của 'một ngôi nhà ở Nigeria' và 'một ngôi nhà ở Hoa Kỳ' và nhận thấy mô hình mặc định là hình ảnh nghèo đói cho một ngôi nhà và những ngôi nhà ở ngoại ô cho ngôi nhà kia.
Người dùng yêu cầu bối cảnh lịch sử của một nhóm cụ thể và nhận được hình ảnh chèn thông tin nhân khẩu học không có trong lịch sử, cho thấy cách khắc phục sự đa dạng có thể khắc phục quá mức.
Mong đợi nhiều điểm chuẩn thiên vị được tiêu chuẩn hóa hơn, nhiều thông tin tiết lộ hơn trong thẻ mô hình và nhiều biện pháp giảm nhẹ theo ngữ cảnh hơn để phân biệt các lời nhắc mở với các lời nhắc cụ thể về mặt lịch sử hoặc cá nhân. Có sự bất đồng thực sự về mục tiêu phù hợp: việc so sánh số liệu thống kê thực tế hiện tại có thể củng cố thêm sự bất bình đẳng hiện có, trong khi sự đại diện thống nhất có thể xuyên tạc thực tế. Sự lựa chọn đó là một quyết định về giá trị, không thuần túy là một quyết định mang tính kỹ thuật và các tổ chức có thể sẽ được yêu cầu giải thích về nó. Người dùng vẫn cần phải xem lại các hình ảnh được tạo trước khi xuất bản chúng, đặc biệt là trong lĩnh vực giáo dục và tin tức.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Công cụ tạo hình ảnh AI thường tái tạo và phóng đại các khuôn mẫu, chẳng hạn như hiển thị hầu hết nam giới cho vị trí 'CEO' hoặc 'kỹ sư', hầu hết là những người có làn da sáng hơn cho các công việc có địa vị cao và tiêu chuẩn sắc đẹp hạn hẹp, vì họ học hỏi từ các bộ sưu tập lớn, sai lệch các hình ảnh có chú thích trên Internet. Các nhà nghiên cứu đo lường điều này bằng cách tạo ra nhiều hình ảnh cho những gợi ý trung lập và so sánh những người xuất hiện. Điều này quan trọng vì những hình ảnh này hiện nay tràn ngập các quảng cáo, sách giáo khoa và tin tức, đồng thời cả những cách sửa lỗi sai lệch và vụng về đều có thể khiến mọi người hiểu lầm.
Không có thông số kỹ thuật, mô hình tạo ra một giá trị mặc định có xác suất cao và mặc định đó phản chiếu và thường khuếch đại các khuôn mẫu trong dữ liệu huấn luyện của nó.
Các bộ dữ liệu như LAION-5B chứa hàng tỷ cặp văn bản-hình ảnh được quét trên web, mang đến sự mất cân bằng của web.
Các nhà nghiên cứu tạo ra hàng trăm hình ảnh cho mỗi dấu nhắc trung tính và phân tích các thuộc tính được cảm nhận, đôi khi dựa trên số liệu thống kê trong thế giới thực.
Việc chỉ định chủng tộc dựa trên ngoại hình là không đáng tin cậy và có vấn đề về mặt đạo đức, vì vậy việc phân cụm kết quả đầu ra là một cách để so sánh các mô hình mà không áp đặt nhãn hiệu.
Phân tích cho thấy những công việc được trả lương cao nghiêng về những người đàn ông có làn da sáng hơn và những công việc được trả lương thấp nghiêng về những người đàn ông có tông màu da tối hơn.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Trình tạo hình ảnh AI trong lớp nghệ thuật
AI trực quan