無料オンラインツール
重複行削除:順序を保って同じ行を整理
一覧を貼り付けると、最初に現れた行を残して2回目以降の同一行を削除します。
ツール
一覧データ向けの関連ツール
重複削除の前後に正規表現で表記を統一し、文字数・行数で件数を確認できます。
重複した行を削除する方法
URL、メールアドレス、商品ID、キーワードなど、1行に1件の一覧を入力欄へ貼り付けて実行します。同じ行が複数ある場合は最初の1行を残し、2回目以降を削除します。並び替えは行わないため、元の順序や優先順位を保ったまま整理できます。処理後には削除した行数が表示され、結果欄の行数と合わせて確認できます。
初期設定では行全体が完全に同じ場合だけ重複と判定します。「前後空白を無視」を選ぶと、行頭・行末の空白が違っても同一として比較します。「大小文字を無視」は Example と example を同一扱いにします。「空行も重複削除」を選ぶと複数の空行を最初の1行だけ残します。比較のために空白や大文字小文字を無視しても、残る行は最初に入力された元の表記です。
- 1行1件の一覧を貼り付ける削除前の行数を上部のカウンターで確認します。
- 同一判定の条件を選ぶ前後空白、大小文字、空行を重複判定へ含めるか決めます。
- 削除数と残った順序を確認する結果の行数と先頭・末尾を確認してからコピーします。
完全一致と表記を無視した一致の違い
URLやIDでは、見た目が似ていても別データの場合があります。URLの大文字小文字はドメイン部分では区別されませんが、パス部分はサーバーによって区別されることがあります。商品コードやパスワード候補のように大小文字が意味を持つ一覧では「大小文字を無視」を使わないでください。空白もCSVの値や固定長データでは意味を持つ場合があります。どの違いを無視してよいかをデータ仕様に合わせて決めます。
| 入力例 | 初期設定 | 条件を有効にした場合 |
|---|---|---|
| ABC / abc | 別の行 | 大小文字を無視すると重複 |
| 東京 / 東京+末尾空白 | 別の行 | 前後空白を無視すると重複 |
| 空行が3行 | 3行とも保持 | 空行も削除で1行だけ保持 |
| 同じURLが離れて存在 | 2回目を削除 | 位置に関係なく2回目を削除 |
サクラエディタで重複行を整理するときの考え方
サクラエディタ本体では、行のソートや連続した重複行の削除を組み合わせて一覧を整える方法があります。ソート後に重複を削除すると同じ値を隣接させられますが、元の並び順は失われます。このオンラインツールはSetを使って先に現れた値を記録し、離れた位置にある重複も検出しながら順序を維持します。優先順を残したいリストに適しています。
一方、重複件数を値ごとに集計する機能や、列単位で重複判定するCSV処理は行いません。「IDは同じだが名称が違う行をまとめる」といった処理には列構造を理解するCSVツールや表計算ソフトが必要です。本ページでは1行全体を1つの値として扱います。複数列を含む行は、区切り記号や空白も含めて比較されます。
重複を正確に見つける前処理
全角・半角、Unicodeの表現、URL末尾のスラッシュ、電話番号のハイフンなどは、意味が同じでも別文字列として扱われます。必要なら正規表現置換で表記を統一してから重複を削除します。たとえば行末空白は ^ ではなく [ \t]+$ のようなパターンで除去でき、連続空白は [ \t]+ を半角空白1個へ置換できます。
ただし正規化を強くしすぎると、本来別の値まで同一になります。まず完全一致で削除数を確認し、次に前後空白だけを無視するなど、条件を1つずつ追加するのが安全です。処理後は文字数カウントの行数を確認し、想定した件数と一致するか検証してください。末尾改行の有無で空行が1件増えて見える場合もあります。
重複行削除の結果を検証する方法
重複行削除を実行したら、入力行数から削除件数を引いた値と結果行数を比べます。空行を残す設定では、空行が複数あっても削除対象にならないため、単純な計算と一致しない場合があります。先頭に残った行が正しい表記かも確認してください。大小文字や前後空白を無視した比較では、後から現れた表記ではなく最初の表記が採用されます。正式名称を残したい一覧は、優先する行を上へ移してから処理します。
URL一覧ではプロトコル、wwwの有無、末尾スラッシュ、クエリ文字列が違うと別の行です。メールアドレス、商品ID、ファイルパスも、業務ルールによって大小文字や記号の意味が異なります。重複行削除の前にどこまで同一視するかを決め、正規化前の一覧も保存してください。処理後は数件を元データへ照合し、削除された行が本当に同じ対象を示していたか確認すると、似ているだけの値を消す事故を防げます。
よくある質問
よくある質問
重複行を削除しても元の順番は残りますか?
はい。並び替えず、最初に現れた行を残すため、元の順序を維持します。
離れた場所にある同じ行も削除できますか?
できます。連続していなくても、2回目以降に現れた同じ行を削除します。
行頭や行末の空白が違う行を同一にできますか?
「前後空白を無視」を有効にすると比較時だけ前後空白を除外します。結果には最初に現れた元の表記を残します。
CSVの特定列だけで重複を削除できますか?
このツールは行全体を比較するため、特定列だけの判定には対応しません。CSV対応ツールや表計算ソフトを使用してください。
空行を全部削除できますか?
「空行も重複削除」は複数の空行を1行にまとめる設定です。すべての空行を消す場合は正規表現置換で空行を対象にしてください。