概要
その有用性は、関連性、測定品質、権限、および目的のタスクの範囲によって異なります。レコードを増やしても、系統的エラーや母集団の欠落は自動的には修正されません。
主なポイント
- 例の単位を定義します。
- 予測時に入手可能な情報のみを使用します。
- データの出所、欠落、およびサブグループの範囲を追跡します。
ディープダイブ
まず、1 つの例が何を表すかを定義します。行は、顧客、取引、写真、または時系列のある瞬間を表す場合があります。これらの単位は、重複、ラベル、評価分割がどのように機能するかを決定します。 1 つのデバイスからの 10 個の測定値が、必ずしも 10 個の独立したデバイスであるとは限りません。特徴量はモデルで使用できる入力です。ラベルは、教師あり学習で使用されるターゲット結果です。各機能がいつ利用可能になるかを確認してください。顧客が退席した後に記録されたキャンセル理由では、その退席を事前に正確に予測することはできません。これは、フィールドの予測性が高いように見える場合でも、漏洩の一形態です。欠損値、注釈の不一致、異常な範囲、収集方法の変更を検査します。欠落した情報には意味がある可能性があります。すべての欠損値をゼロに置き換えると、未知の量と実際のゼロが混同される可能性があります。治療法を文書化し、代表的な例でテストします。データセットと一緒に出所とアクセス ルールを記録します。パブリック URL だけでは、あらゆる目的であらゆるアイテムを再利用する許可が確立されるわけではありません。タスクに必要な情報のみを収集し、保存および削除手順を定義します。全体の平均内で誤差が消えるグループまたは条件を個別に評価します。
04作業例
キャンセル データセット内の漏れを見つける
サインアップ日、月々の使用量、キャンセル日、キャンセル理由を含む記録を想像してください。
6 月初旬のキャンセルを予測するには、その日付のすべての入力を凍結します。予測時間以降に記録された理由と日付を削除します。
初期の期間でトレーニングし、その後のまだ手付かずの期間でテストします。リークしたフィールドがある場合とない場合の結果を比較します。
それが示すもの
この仮説的な設計演習では、お世辞のスコアが導入の決定となる前に、無効なショートカットを特定します。
現実世界の実装
認識データセットを分割する前に、同じオブジェクトの複数の写真を分離します。
センサーの読み取り値が物理的に妥当な範囲を超えている場合は、レビューのためにフラグを立てます。
実践する
なぜそれが重要なのか
- より明確な判決. これは、明確な技術的主張とマーケティング言語を区別するのに役立ちます。
- 費用と予算. お金や時間を費やす前に、実装に関するより良い質問をすることができます。
- チームとワークフロー. 共通の理解を持ったチームは、製品、ポリシー、学習に関する意思決定をより適切に行うことができます。
気をつけてください
- チームが異なれば、同じ用語の使用方法も異なる可能性があるため、範囲を早めに定義してください。
- ベンチマークは好調に見えても、実際のパフォーマンスにはばらつきがある場合があります。
- データの品質と評価計画を無視すると、多くの場合、脆弱な結果が生じます。
次のステップ
- 必要な結果を平易な言葉で定義することから始めます。
- テストする前に、成功指標と失敗条件を 1 つ選択します。
- 洗練されたデモセットではなく、代表的なデータを使用して小規模なパイロットを実行します。
- AI とデータが役立つ部分と、よりシンプルな方法が優れている部分を文書化します。
出典とさらなる参考文献
- Googleデータセットの特性
探検を続けましょう
よくある質問
大規模なデータセットでも依然として不十分な可能性はありますか?
はい。レコードが重複していたり、ラベルが間違っていたり、無関係であったり、体系的に不完全であったりすると、大規模なデータセットが意図したタスクに適さなくなる可能性があります。