HƯỚNG DẪN AI âm thanh

Phân loại thể loại âm nhạc

Music genre classification is the task of automatically labeling a recording as rock, jazz, hip-hop or another genre from its audio.

Nghe hướng dẫn nàyAI thuật lại · ~8 min

Trên trang nàyđọc 9 phút
  1. Tổng quan
  2. Những điểm chính rút ra
  3. Lặn sâu
  4. Building a small genre classifier with an artist-aware split
  5. Triển khai trong thế giới thực
  6. Tương lai của phân loại thể loại âm nhạc
  7. Đưa nó vào thực tế
  8. Nguồn tham khảo và đọc thêm
  9. Tiếp tục khám phá
  10. Câu hỏi thường gặp

Tổng quan

It began with hand-designed features and simple classifiers in 2002, moved to convolutional networks on spectrograms, and now relies on large pretrained audio models. It underpins music search and organization, but genre labels are fuzzy and popular benchmarks have known flaws.

Những điểm chính rút ra

  1. Music genre classification labels audio recordings by genre, usually by converting sound to a mel-spectrogram and feeding it to a trained classifier.
  2. Tzanetakis and Cook's 2002 system used hand-crafted timbre, rhythm and pitch features and reached 61% accuracy on ten genres.
  3. The GTZAN benchmark of 1,000 thirty-second clips contains exact repetitions, mislabelings and heavy artist repetition, which can inflate reported accuracy.
  4. Fine-tuning PANNs, pretrained on about 1.9 million AudioSet clips, raised GTZAN accuracy to 91.5% from 75.8% when training from scratch.
  5. Genre labels are subjective and culture-specific, so multi-label tags, hierarchies and artist-filtered evaluation give more trustworthy results than single labels.

Lặn sâu

Music genre classification takes an audio file and assigns it one or more genre labels such as classical, country, disco, hip-hop, jazz, metal, pop, reggae, rock or blues. It is one of the oldest tasks in music information retrieval (MIR), the research field that builds software to search, organize and analyze music. The task sounds simple but has a philosophical problem at its core: genres are, as Tzanetakis and Cook wrote in 2002, labels created by humans with no strict definitions or boundaries, shaped by marketing, history and culture. A classifier can only learn whatever regularities its training labels happen to encode.

Every system follows the same basic pipeline. First, audio is converted to a standard format, often mono at 22,050 or 16,000 samples per second, and cut into excerpts, commonly 30 seconds. Second, the audio is turned into a representation that exposes musical structure. The most common is a mel-spectrogram, an image-like grid showing how much energy falls in each frequency band over time, with bands spaced to match human pitch perception. Third, a model maps that representation to scores for each genre. Fourth, predictions from many short windows are averaged to label the whole track. Systems differ mainly in step three: whether the features are designed by hand or learned.

The classic hand-crafted approach was set out by George Tzanetakis and Perry Cook in IEEE Transactions on Speech and Audio Processing in July 2002. They computed three families of features. Timbral texture features describe the sound's color: the spectral centroid (where the center of mass of the spectrum lies, which correlates with brightness), spectral rolloff, spectral flux (how quickly the spectrum changes), zero-crossing rate (a rough measure of noisiness) and the first five mel-frequency cepstral coefficients (MFCCs, a compact summary of the spectral envelope borrowed from speech recognition). Rhythmic features came from a beat histogram covering 40 to 200 beats per minute. Pitch features came from a histogram of detected pitches. Simple statistical classifiers, including Gaussian mixture models and k-nearest neighbors, then labeled the clips, reaching 61% accuracy on ten genres.

Their dataset of 1,000 thirty-second clips, 100 for each of ten genres, recorded at 22,050 Hz from radio, CDs and MP3 files, became known as GTZAN and the standard benchmark. In 2013, Bob Sturm counted at least 100 published works that used it and documented serious faults: 50 exact repeated excerpts, 21 further repetitions of the same recording, mislabeled clips and distorted audio. Artist repetition is heavy; the 100 blues excerpts come from only nine artists, and more than a third of the reggae excerpts are by Bob Marley. When the same artist appears in both training and test sets, a model can score well by recognizing the artist or recording rather than the genre, which inflates reported accuracy.

Deep learning shifted the field around 2016. Keunwoo Choi, George Fazekas and Mark Sandler showed at ISMIR 2016 that fully convolutional networks reading mel-spectrograms reached state-of-the-art music tagging on the MagnaTagATune dataset, and that deeper networks did better on the larger Million Song Dataset, concluding that mel-spectrograms are an effective input. Convolutional networks learn their own filters for patterns such as drum hits, harmonic textures and vocal styles, removing the need to design features by hand. Larger datasets followed, notably FMA in 2017 with 106,574 tracks and 161 genres arranged in a hierarchy, with Creative Commons audio that researchers can share.

The current approach is transfer learning from large pretrained models. PANNs (Kong and colleagues, 2020) trained convolutional networks on AudioSet, a collection of about 1.9 million YouTube clips labeled with 527 sound classes, then fine-tuned them on smaller tasks. On GTZAN, the fine-tuned network scored 91.5% accuracy against 75.8% when trained from scratch, while a specialized prior system had reported 93.9%. MERT (ICLR 2024) went further with self-supervised pretraining on music audio, learning to predict hidden targets from an acoustic codec and a constant-Q transform, a pitch-aligned spectrogram, and was evaluated across 14 tasks including genre classification.

Compared with the alternatives, audio-based classification has distinct strengths and weaknesses. Metadata-based approaches use artist, label or user tags; they are cheap and often accurate for well-known music but fail for new uploads with no history. Collaborative filtering infers similarity from listening behavior rather than sound, which captures cultural context that audio cannot. Lyrics-based models help for genres defined by content or language. Audio classifiers work on any recording, including brand-new or unreleased tracks, which is why they are useful for cold-start tagging, but they see only the sound and miss context.

The limitations are significant. Genre boundaries are subjective, overlapping and culture-specific, so a single label per track is often wrong by design; FMA's hierarchy and multi-label tagging are partial answers. Benchmark numbers can mislead: Sturm showed that GTZAN's repetitions and mislabelings affect different systems differently, so accuracy rankings on it are not reliable without artist-filtered splits. GTZAN's ten categories are all Western popular and classical styles, so models trained on it say nothing about most of the world's music. Models can latch onto production artifacts, such as recording era or audio compression, instead of musical traits. In practice, fine-tuning a pretrained model on a dataset the size of GTZAN is a small job, while pretraining models such as PANNs on about 1.9 million clips, or MERT at up to 330 million parameters, requires far larger compute.

04Ví dụ hoạt động

Building a small genre classifier with an artist-aware split

  1. Download the FMA small subset, which comes with genre labels and a predefined train, validation and test split.

  2. Resample each 30-second clip to 22,050 Hz mono and compute a 128-band log-mel spectrogram with librosa.

  3. As a baseline, compute means and variances of spectral centroid, rolloff, zero-crossing rate and the first 13 MFCCs, then train a logistic regression classifier.

  4. Train a small convolutional network on the mel-spectrograms, or fine-tune a pretrained audio model such as a PANNs checkpoint with a new genre output layer.

  5. Evaluate both on the test split and print a confusion matrix showing which genres are confused with which.

  6. Check that no artist appears in both training and test sets, and compare results to a random split to see how much artist overlap inflates accuracy.

Những gì nó cho thấy

Two models with test accuracies and confusion matrices. Expect the learned or pretrained model to beat the hand-crafted baseline, and expect confusions between musically adjacent genres such as rock and pop; a large gap between random-split and artist-filtered accuracy signals the model is recognizing artists, not genres.

Triển khai trong thế giới thực

Tzanetakis and Cook's 2002 system combined timbre, rhythm and pitch features with Gaussian mixture classifiers and reached 61% accuracy across ten genres, which the authors called comparable to reported human results.

The Free Music Archive (FMA) dataset, published at ISMIR 2017, offers 106,574 Creative Commons tracks from 16,341 artists labeled with a hierarchy of 161 genres for training and benchmarking.

PANNs, audio networks pretrained on about 1.9 million AudioSet clips, reached 91.5% accuracy on the ten-genre GTZAN benchmark after fine-tuning, against 75.8% for the same network trained from scratch.

MERT (ICLR 2024), a self-supervised music model with 95 million to 330 million parameters, was evaluated on 14 music understanding tasks including GTZAN genre classification, tagging, key detection and beat tracking.

Music libraries and streaming catalogs can use genre classifiers to suggest tags for untagged uploads, organize archives and seed recommendations, a use Tzanetakis and Cook anticipated for large online music collections.

Tương lai của phân loại thể loại âm nhạc

Research is moving from single-task genre classifiers toward general music foundation models evaluated on many tasks at once, as with MERT (ICLR 2024), which reports results across 14 music understanding tasks. Models that embed audio and text in a shared space allow free-text queries such as describing a mood or style rather than picking from a fixed genre list, which sidesteps some of the rigidity of fixed taxonomies. The evaluation problems identified by Sturm in 2013 remain relevant: GTZAN is still widely reported, and its repetitions and mislabelings mean small accuracy differences are hard to interpret. Larger and better-documented datasets such as FMA (2017) help, but labeling remains culturally specific. Open questions include how to represent hierarchical and overlapping genres, how to evaluate models fairly across cultures, how to avoid shortcut learning from production artifacts, and how to classify music that was itself generated by AI, whose audio statistics may differ from the recordings models were trained on. None of these has a settled answer.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Truy cập và tiếp cận. Nó cải thiện khả năng tiếp cận thông qua phiên âm, tường thuật và giao diện giọng nói.
  • Chi phí và ngân sách. Các nhóm truyền thông có thể gửi âm thanh tinh tế nhanh hơn với ngân sách nhỏ hơn.
  • Tốc độ và tỷ lệ. Các hệ thống hướng tới khách hàng có thể xử lý các tương tác bằng giọng nói ở quy mô lớn hơn.

coi chừng

  • Rủi ro lạm dụng giọng nói và mạo danh sẽ tăng lên khi thiếu sự đồng ý.
  • Độ chính xác có thể giảm đối với các giọng, phương ngữ hoặc môi trường ồn ào.
  • Âm thanh tổng hợp có thể bị nhầm lẫn với lời nói đích thực nếu không có nhãn rõ ràng.

Các bước tiếp theo

  1. Nhận được sự đồng ý rõ ràng để thu âm, sao chép và tái sử dụng giọng nói.
  2. Kiểm tra chất lượng trên nhiều loa và điều kiện nền khác nhau.
  3. Xác định khi nào con người phải xem xét hoặc phê duyệt kết quả đầu ra.
  4. Dán nhãn âm thanh tổng hợp và lưu giữ hồ sơ xuất xứ để đảm bảo trách nhiệm giải trình.

Nguồn tham khảo và đọc thêm

  1. IEEE Transactions on Speech and Audio Processing (2002)Musical Genre Classification of Audio Signals
  2. arXivThe GTZAN dataset: Its contents, its faults, their effects on evaluation, and its future use
  3. arXiv (ISMIR 2017)FMA: A Dataset For Music Analysis
  4. arXiv (ISMIR 2016)Automatic tagging using deep convolutional neural networks
  5. arXivPANNs: Large-Scale Pretrained Audio Neural Networks for Audio Pattern Recognition
  6. arXiv (ICLR 2024)MERT: Acoustic Music Understanding Model with Large-Scale Self-supervised Training

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the Music Genre Classification quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Phân loại thể loại âm nhạc là gì?

Music genre classification is the task of automatically labeling a recording as rock, jazz, hip-hop or another genre from its audio. It began with hand-designed features and simple classifiers in 2002, moved to convolutional networks on spectrograms, and now relies on large pretrained audio models. It underpins music search and organization, but genre labels are fuzzy and popular benchmarks have known flaws.

Mel-Spectrogram thường được sử dụng làm đầu vào cho mạng lưới thần kinh phân loại thể loại là gì?

Biểu đồ mel thể hiện cách năng lượng ở các tần số khác nhau thay đổi theo thời gian, với trục tần số bị biến dạng theo thang mel phù hợp với nhận thức cao độ của con người.

Tập dữ liệu điểm chuẩn cổ điển nào chứa 1.000 clip dài 30 giây thuộc 10 thể loại?

GTZAN, do George Tzanetakis tập hợp, từ lâu đã trở thành chuẩn mực phân loại thể loại tiêu chuẩn, mặc dù hiện tại nó bị chỉ trích vì gắn nhãn sai và lặp lại nghệ sĩ.

Tại sao việc đạt được độ chính xác phân loại thể loại hoàn hảo về cơ bản lại khó khăn?

Thể loại là một khái niệm mờ nhạt, mang tính văn hóa; các bài hát hòa trộn các phong cách và bản thân con người cũng không đồng ý về nhãn hiệu, vì vậy thường không tồn tại một câu trả lời đúng duy nhất.

Đặc điểm thủ công nào được sử dụng rộng rãi trong hệ thống phân loại thể loại ban đầu?

MFCC ghi lại hình dạng quang phổ, âm sắc của âm thanh và là tính năng chính cho các bộ phân loại như SVM trước khi học sâu.

Lớp softmax ở cuối bộ phân loại thể loại tạo ra cái gì?

Softmax chuyển đổi điểm thô của mạng thành xác suất có tổng bằng một trên tất cả các loại thể loại và điểm cao nhất được chọn làm dự đoán.