Gắn thẻ âm nhạc với Transformers
Gắn thẻ âm nhạc sử dụng mô hình biến áp để nghe bài hát và dự đoán các nhãn mô tả như thể loại, tâm trạng, nhạc cụ và nhịp độ.
Tổng quan
It powers search, recommendation, and auto-organization across huge music catalogs.
Lặn sâu
Tự động gắn thẻ âm nhạc là một vấn đề phân loại nhiều nhãn: một bản nhạc có thể là 'rock', 'mạnh mẽ', 'guitar' và 'nhạc cụ' cùng một lúc. Transformers giải quyết vấn đề này bằng cách biến âm thanh thành một quang phổ (hình ảnh tần số thời gian) và cung cấp các bản vá của nó thông qua các lớp tự chú ý, giống như Vision Transformer xử lý các bản vá hình ảnh. Các mô hình như Bộ biến đổi quang phổ âm thanh (AST) và MERT tìm hiểu các mẫu tầm xa trên toàn bộ bản nhạc, ghi lại mối liên hệ giữa một đoạn điệp khúc với một câu thơ cách nhau vài phút. Nhiều người được đào tạo trước để tự giám sát trên hàng triệu clip chưa được gắn nhãn, sau đó tinh chỉnh trên các tập dữ liệu được gắn thẻ như MagnaTagATune hoặc Million Song Dataset. Vì các thẻ không loại trừ lẫn nhau nên lớp cuối cùng sử dụng kết quả đầu ra sigmoid được tính điểm dựa trên các điểm chuẩn như độ chính xác trung bình trung bình và ROC-AUC.
Hiểu biết kỹ thuật
Âm thanh thô được chuyển đổi thành biểu đồ phổ log-Mel, được chia thành các phần chồng chéo và được nhúng tuyến tính với mã hóa vị trí. Sự chú ý đến bản thân khiến miếng vá này đè nặng lên miếng vá khác, vì vậy những sự kiện âm nhạc xa xôi sẽ ảnh hưởng đến từng miếng vá. Không giống như các bộ phân loại hình ảnh một nhãn, việc gắn thẻ âm nhạc áp dụng một sigmoid cho mỗi thẻ thay vì một softmax vì các nhãn cùng xuất hiện. Quá trình đào tạo trước tự giám sát (dự đoán mã thông báo âm thanh bị che) mang lại sự thể hiện mạnh mẽ trước khi tinh chỉnh trên các tập hợp được gắn nhãn nhỏ hơn.
Tác động chiến lược
Truy cập và tiếp cận
Nó cải thiện khả năng tiếp cận thông qua phiên âm, tường thuật và giao diện giọng nói.
Chi phí và ngân sách
Các nhóm truyền thông có thể gửi âm thanh tinh tế nhanh hơn với ngân sách nhỏ hơn.
Tốc độ và tỷ lệ
Các hệ thống hướng tới khách hàng có thể xử lý các tương tác bằng giọng nói ở quy mô lớn hơn.
Tương lai của việc gắn thẻ âm nhạc với Transformers
Tính năng gắn thẻ được hợp nhất với khả năng hiểu ngôn ngữ tự nhiên để bạn có thể tìm kiếm 'lo-fi mơ mộng với tiếng nổ vinyl để học tập' thay vì các nút thể loại cố định. Các mô hình văn bản-âm thanh tương phản như CLAP sắp xếp âm nhạc và mô tả trong một không gian, cho phép gắn thẻ zero-shot chưa từng thấy trong quá trình đào tạo. Mong đợi các nhãn phong phú hơn, chi tiết hơn, xử lý tốt hơn các thể loại kết hợp và gắn thẻ trên thiết bị để đảm bảo quyền riêng tư. Các cuộc tranh luận về quyền và ghi công xung quanh việc đào tạo về các danh mục có bản quyền sẽ định hình dữ liệu mà các mô hình này có thể sử dụng.
Triển khai trong thế giới thực
Tự động tạo thẻ thể loại và tâm trạng để các dịch vụ phát trực tuyến có thể tạo danh sách phát 'tập trung' hoặc 'tập luyện'
Cho phép thư viện âm nhạc hiển thị các bản nhạc 'guitar acoustic lạc quan' cho người chỉnh sửa video đang tìm kiếm giấy phép đồng bộ hóa
Hỗ trợ các công cụ đề xuất giúp tìm các bài hát có âm thanh tương tự ngoài những gì người dùng đánh giá rõ ràng
Tự động tổ chức bộ sưu tập mẫu của nhà sản xuất theo nhạc cụ, phím và nhịp độ được phát hiện
Rủi ro & lan can
Rủi ro lạm dụng giọng nói và mạo danh sẽ tăng lên khi thiếu sự đồng ý.
Độ chính xác có thể giảm đối với các giọng, phương ngữ hoặc môi trường ồn ào.
Âm thanh tổng hợp có thể bị nhầm lẫn với lời nói đích thực nếu không có nhãn rõ ràng.
Lộ trình thực hiện
Nhận được sự đồng ý rõ ràng để thu âm, sao chép và tái sử dụng giọng nói.
Kiểm tra chất lượng trên nhiều loa và điều kiện nền khác nhau.
Xác định khi nào con người phải xem xét hoặc phê duyệt kết quả đầu ra.
Dán nhãn âm thanh tổng hợp và lưu giữ hồ sơ xuất xứ để đảm bảo trách nhiệm giải trình.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Music Tagging with Transformers quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Tự động gắn thẻ âm nhạc
Câu hỏi thường gặp
What is Music Tagging with Transformers?
Gắn thẻ âm nhạc sử dụng mô hình biến áp để nghe bài hát và dự đoán các nhãn mô tả như thể loại, tâm trạng, nhạc cụ và nhịp độ. Nó hỗ trợ tìm kiếm, đề xuất và tự động sắp xếp trên các danh mục âm nhạc khổng lồ.
Tại sao việc gắn thẻ âm nhạc được coi là vấn đề đa nhãn?
Một bài hát có thể đồng thời mang hơi hướng rock, tràn đầy năng lượng và được điều khiển bằng guitar, vì vậy nhiều thẻ áp dụng cho một bản nhạc.
Trình gắn thẻ biến áp thường sử dụng biểu diễn đầu vào nào?
Âm thanh được chuyển đổi thành biểu đồ phổ tần số thời gian, sau đó được vá và cung cấp thông qua khả năng tự chú ý giống như các bản vá hình ảnh.
Tại sao các mô hình gắn thẻ nhạc sử dụng đầu ra sigmoid cho mỗi thẻ thay vì một softmax?
Softmax buộc các xác suất phải tổng thành một (lựa chọn duy nhất); sigmoid cho phép mỗi thẻ có giá trị đúng độc lập.
Vai trò của việc đào tạo trước tự giám sát đối với các mô hình như MERT là gì?
Việc đào tạo trước về dự đoán âm thanh bị che trên tập văn bản lớn không được gắn nhãn sẽ xây dựng các biểu diễn được tinh chỉnh sau đó trên dữ liệu được gắn thẻ.
Tập dữ liệu nào thường được sử dụng để tinh chỉnh và đánh giá trình gắn thẻ âm nhạc?
MagnaTagATune và Bộ dữ liệu triệu bài hát là các tiêu chuẩn âm nhạc được gắn thẻ tiêu chuẩn; MNIST và ImageNet là các bộ ảnh.