データ重複排除|ストレージ効率を高める重複データの削除
公開日:2025.09.05 更新日:2025.09.05 閲覧数 143 (月間143)

こんにちは、テックウインド株式会社メディアチームです。

ビジネスでパソコンやNASを使用していると、日々重要なデータを保存するでしょう。

現代の企業にとっては、データ(情報)はまさに資源であり、日々生み出されるデータは迂闊に削除できないものとなりつつあります。

しかし、毎日データを蓄積していく過程で、データの重複が発生してしまうことがあります。

この記事では、ストレージ効率を高める「データ重複排除(De-duplication:デデュープリケーション)」という機能について解説します。

データ重複排除とその重要性

「データ重複」というと、もっともイメージしやすいのは全く同じデータが複数存在するという状況です。

同じデータがなぜ同じ環境内に複数存在するのか?と、疑問に思う方も多いでしょう。

しかし、データ重複は非常に起こりやすい事象です。

たとえば、ある企業の部署宛に、業務資料をメールに添付して送信したとします。

そうすると、その部署では各担当者が自分のパソコンに保存するでしょう。

このように、簡単に重複ファイルは生じてしまうのです。

元となるデータは重要ですが、重複データが多くなると、本来利用できたはずのストレージ領域が無駄に消費されてしまいます。

そのため、データ重複が簡単に生じるという認識と、重複したデータを排除することは非常に重要なのです。

データ重複排除の方法

データ重複排除には、主に以下の方法が用いられます。

  • インライン重複排除
  • ポストプロセス重複排除
  • バックアップクライアントでの重複排除

それぞれ具体的に見ていきましょう。

インライン重複排除

インライン重複排除では、データが保存されるタイミングで重複排除処理が同時に実行されます。

インライン重複排除の機能は、ストレージ上のハードウェアで実行される処理と、メディアサーバーなどのソフトウェアで実行される処理の2つのパターンがあります。

いずれのパターンでも、書き込みの際にリアルタイムに重複排除処理が行われる点が特徴的です。

ハードウェア上で実行される場合、重複ファイルを保存することがなく排除されるため、容量が最小限で済みます。

反面、ストレージへの書き込みに時間を要するという特徴があります。

メディアサーバー上で実行する場合には、メディアサーバーのソフトウェアで実行されるため、他のサーバーに負荷をかけにくいという特徴があります。

ポストプロセス重複排除

ポストプロセス重複排除は、バックアップデータが一度ストレージに格納された際に、重複排除処理が実行されます。

この方式は、インライン重複排除と比べてストレージへの書き込み速度低下を防ぐ効果があります。

反面、重複ファイルにおいても一度ストレージへ書き込みを行ってから重複排除を行うという特性上、余分なストレージ消費を見込んで大容量のストレージ領域を確保しておく必要がある点に注意が必要です。

バックアップクライアントでの重複排除

バックアップクライアント(バックアップソフトウェア)による重複排除は、重複排除を実行してからバックアップデータを書き込みます。

バックアップソフトウェアでデータ重複排除を実行できると、ストレージへの書き込みが最小限にできるほか、別のサーバーへの送信も最小限で済みます。

ストレージの余分な領域や書き込み時間を必要としない点が大きなメリットです。

反面、バックアップクライアントを実行しているサーバーのCPUやメモリーなどのリソースを消費するため、重複排除を実行するサーバーの構成に注意が必要です。

データ重複排除を行う際の注意点

ユーザーの認識では、データ重複排除というと、どうしても「ファイル単位」でのデータ重複をイメージするかもしれません。

たとえば同じ写真や同じ音声ファイルなどが良い例です。

もちろん、ファイル単位でのデータ重複排除も含みます。

しかし、ファイル単位ではなく、ファイルの構成要素であるブロック単位に分割して重複を判定する方法もあります。

この「重複の判定」は、データ重複排除を行う際の非常に重要な注意点です。

ファイルの重複判定はイメージしやすいですが、ブロックのデータ重複判定は、固定長ブロック単位・可変長ブロック単位などの方式で判定されます。

ファイルの途中にデータが追加された場合が理解しやすい差異で、固定長ブロック単位の場合はデータが追加されると、追加された部分以降は元データとズレが生じるため、別データとして扱われてしまいます。

この方式は、ファイルシステムなどで採用されます。

一方、可変長ブロック単位の方式では、途中でデータが追加されたとしても、元データの該当部分と照らし合わせて調整し、以降のデータの切り分け範囲を合わせます。

そうすることで、元データと適切に比較でき、追加部分以降を重複と判定できるのです。

バックアップではこの可変長ブロック単位のデータ重複判定が主に用いられます。

QNAP NASのデータ重複排除のソリューション

QNAP NASでは、これまで主にQTSと呼ばれるOSが採用されてきました。

QTSそのものにはデータ重複排除の機能はありませんが、QTS上で動作するバックアップソフトウェア「HBS3」には、重複排除バックアップの機能があります。

これはQNAP独自の機能である「QuDedup」によるもので、バックアップ時に重複ファイルを排除することにより、バックアップの効率化とバックアップによるストレージの占有を最小化します。

また、OSレベルでデータ重複排除ができる場合もあります。

2020年にリリースされた「QuTS hero」は、データ重複排除を取り入れた新たなOSです。

QuTS heroでは、インライン重複排除、インライン圧縮などによって、NASのストレージを効率的に活用できます。

データ重複排除機能を備えたNASの導入を検討している企業の方は、QuTS hero 搭載のQNAP NASモデルを検討してみてはいかがでしょうか。

QuTS hero搭載NASモデルは、以下のページからご確認ください。
QuTS hero NAS – 高い信頼性を誇る ZFS ストレージソリューションのための優れた選択

まとめ

この記事では、NASなどのデータ管理における重要ポイント、データ重複排除について解説しました。

データ重複は、日々のデータ保存の中で容易に生じます。

そして、データ重複排除を行わなければ、ストレージを大量に消費してしまいます。

重要なデータを保存する領域を効率的に運用するためにも、データ重複排除は真剣に検討するべきポイントでしょう。

データ重複排除の方策や概要の把握を行う際に、この記事を参考にしてみてください。

QNAPは台湾のネットワーク機器専業メーカーで、世界28カ国で展開するグローバル企業です。IT機器の専門商社で、QNAPの正規代理店でもあるテックウインドは、豊富なノウハウを基に的確なモデル・構成のご提案をいたします。

NAS導入をお考えの法人様のお見積り・ご相談を承っております。ぜひお気軽にお問い合わせください。

QNAP製品や特長のご紹介ページはこちら

お客様に合った
最適な製品を紹介します!

製品の問い合わせ

関連製品

エンタープライズNAS

TS-h3087XU-RP-E2378-64G ― 4U30ベイラックマウント型NAS

TS-h3087XU-RP-E2378-64G ― 4U30ベイラックマウント型NAS

4U 30ベイ(3.5インチSATA×24個+2.5インチSATA×6個)ラックマウントタイプNAS 冗長電源付

TS-h2287XU-RP-E2336-32G ― 3U 22ベイ ラックマウント型 冗長電源付NAS

TS-h2287XU-RP-E2336-32G ― 3U 22ベイ ラックマウント型 冗長電源付NAS

3U 22ベイ ラックマウントタイプ 冗長電源付 NAS

TS-h1887XU-RP-E2334-16G ― 2U 18ベイラックマウント型 冗長電源付 NAS

TS-h1887XU-RP-E2334-16G ― 2U 18ベイラックマウント型 冗長電源付 NAS

2U 18ベイ(3.5インチSATA×12個+2.5インチSATA×6個)ラックマウントタイプ冗長電源付NAS

TS-h987XU-RP ― 1U 4ベイ ラックマウント型NAS

TS-h987XU-RP ― 1U 4ベイ ラックマウント型NAS

1U 4ベイ ラックマウントタイプ NAS 冗長電源 USB 3.2 Gen 2 PCIe Gen 4対応

TS-h1886XU-RP R2 ― 2Uラックマウント 18ベイ NAS

TS-h1886XU-RP R2 ― 2Uラックマウント 18ベイ NAS

仮想化および大量のデータを処理するエンタープライズアプリケーション向けの費用対効果の良い10GbE対応ZFSストレージ

TVS-h1288X ― デスクトップ/タワー型 12ベイ NAS

TVS-h1288X ― デスクトップ/タワー型 12ベイ NAS

インテル® Xeon® W プロセッサー搭載デスクトップQuTS hero NASは、Thunderbolt™ 3および10GbEの仮想化マシンアプリケーション間の高速メディア共同作業に理想的なNASです。

TS-h886 ― デスクトップ/タワー型 8ベイ NAS

TS-h886 ― デスクトップ/タワー型 8ベイ NAS

4 x 2.5GbE ポートを装備した インテル® Xeon® D-1602 プロセッサー搭載 desktop QuTS hero NAS

TS-h686-D1602-8G ― デスクトップ型 6ベイ NAS

TS-h686-D1602-8G ― デスクトップ型 6ベイ NAS

リアルタイム SnapSync データバックアップと仮想マシンアプリケーション用に設計され、4 x 2.5GbE ポートを装備した Intel® Xeon® D desktop QuTS hero NAS

JBODストレージ
Thunderbolt NAS
中小企業向けNAS

TS-464-8G ― 4ベイタワー型 2.5GbE NAS

TS-464-8G ― 4ベイタワー型 2.5GbE NAS

性能とコストのバランスが良いベストセラーモデル。 4コアCPU搭載で2.5GbEデュアルポート採用のタワー型4ベイNAS。

AXELBOX(第二世代)

AXELBOX(第二世代)

エンタープライズクラスで利用されるオールSSD搭載を SMB(中小企業)向けに手の届きやすい価格で実現したNAS

TS-464U-8G ― 4ベイラックマウント型NAS

TS-464U-8G ― 4ベイラックマウント型NAS

高速転送および仮想化アプリケーション向けにデュアルポート2.5GbEおよびPCIe拡張性を備えたIntel® CPU(4コア)搭載ラックマウントNAS

TS-1673AU-RP-16G ―  3U 16ベイ ラックマウント型 NAS

TS-1673AU-RP-16G ― 3U 16ベイ ラックマウント型 NAS

3U 16ベイ ラックマウント型 NAS

TS-855eU-RP ― 2UラックマウントNAS

TS-855eU-RP ― 2UラックマウントNAS

SMB向け2Uショートデプスラックマウント型NAS TS-855eUシリーズ

TS-873AeU-RP-4G ー 2UラックマウントNAS

TS-873AeU-RP-4G ー 2UラックマウントNAS

ショートデプスラックマウント・デュアル2.5GbE NASクアッドコアAMD Ryzen™プロセッサーを搭載しており、仮想アプリケーション向けの10/25GbEやM.2 SSDキャッシュPCIe拡張に対応 (QTSまたはQuTS heroオペレーティングシステムに対応)

TS-1232PXU-RP ― 3Uラックマウント 12ベイ NAS

TS-1232PXU-RP ― 3Uラックマウント 12ベイ NAS

中小企業のIT環境向けの10GbE SFP+と2.5GbEポート、および冗長性電源を備えたクアッドコア1.7GHzラックマウントNAS

TS-1273AU-RP-8G ― 2U 12ベイ ラックマウント型 NAS

TS-1273AU-RP-8G ― 2U 12ベイ ラックマウント型 NAS

2U 12ベイ ラックマウント NAS

TS-832PXU-RP ― 2Uラックマウント 8ベイ NAS

TS-832PXU-RP ― 2Uラックマウント 8ベイ NAS

中小企業のIT環境向けの10GbE SFP+と2.5GbEポート、および冗長性電源を備えたクアッドコア1.7GHzラックマウントNAS

TS-1264U-RP-8G ― 2U 12ベイ ラックマウント型 冗長電源付きNAS

TS-1264U-RP-8G ― 2U 12ベイ ラックマウント型 冗長電源付きNAS

インテル® Celeron® N5095プロセッサー搭載 2U ラックマウント型NAS

TS-432PXU ― 1Uラックマウント 4ベイ NAS

TS-432PXU ― 1Uラックマウント 4ベイ NAS

中小企業のIT環境向けのデュアル10GbE SFP+とデュアル2.5GbEポートを備えたクアッドコア1.7GHzラックマウントNAS

TS-864eU ― 2U 8ベイ省スペースラックマウント型NAS

TS-864eU ― 2U 8ベイ省スペースラックマウント型NAS

2U PCIe拡張性、HDMI出力搭載 省スペースラックマウント型ラックマウント型NAS

TS-464eU-8G ― 1U4ベイラックマウント型NAS

TS-464eU-8G ― 1U4ベイラックマウント型NAS

インテル® Celeron® N5095 プロセッサー搭載 1Uラックマウント型NAS

TVS-h874T ― デスクトップ/タワー型 8ベイ NAS

TVS-h874T ― デスクトップ/タワー型 8ベイ NAS

QNAP TVS-h874T Intel® Core™ i9 16コア / i7 12コアプロセッサ搭載 8ベイ タワー型NAS

TVS-h874 ― タワー型 8ベイ NAS

TVS-h874 ― タワー型 8ベイ NAS

タワー型 8ベイ USB 3.2 Gen 2 ZFSベースのQuTS hero OS採用 NAS

TS-453E-8G ― 4ベイタワー型NAS

TS-453E-8G ― 4ベイタワー型NAS

4基の3.5インチ/2.5インチストレージ対応SMB向けNAS

TS-h973AX-32G ― デスクトップ/タワー型 9ベイ NAS

TS-h973AX-32G ― デスクトップ/タワー型 9ベイ NAS

U.2 NVMe SSDおよび10GbE/2.5GbE接続対応のクアッドコア 9ベイ QuTS hero NASを使って、ビジネスの生産性を向上させます

TS-253E-8G ― 2ベイタワー型NAS

TS-253E-8G ― 2ベイタワー型NAS

2ベイタワー型NAS

TVS-h674-i3-16G ― 6ベイタワー型 NAS

TVS-h674-i3-16G ― 6ベイタワー型 NAS

タワー型 6ベイ インテル® Core™ i3-12100 プロセッサー搭載NAS

TS-873A-8G ― デスクトップ/タワー型 8ベイ NAS

TS-873A-8G ― デスクトップ/タワー型 8ベイ NAS

AMD Ryzen™クアッドコア2.2 GHz 2.5GbE NASは、10GbE高速接続とM.2 SSDを追加するためのM.2 NVMe SSDおよびPCIe拡張をサポートしています。QTS と QuTS ヒーロー デュアル オペレーティング システムにより柔軟性が向上

TVS-h674T-i5-32G ― デスクトップ/タワー型 6ベイ NAS

TVS-h674T-i5-32G ― デスクトップ/タワー型 6ベイ NAS

QNAP Thunderbolt 4 タワー型NAS

TS-932PX-4G ― 9ベイ タワー型 NAS

TS-932PX-4G ― 9ベイ タワー型 NAS

9ベイ(5×3.5"+4×2.5") タワー型 NAS

TVS-h474-PT-8G ― 4ベイタワー型NAS

TVS-h474-PT-8G ― 4ベイタワー型NAS

インテル® Pentium® Goldプロセッサー搭載 USB 3.2 Gen 2 ZFSベースのQuTS hero OS採用 タワー型 4ベイ NAS

TS-673A-8G

TS-673A-8G

AMD Ryzen™クアッドコア2.2 GHz 2.5GbE NASは、10GbE高速接続とM.2 SSDを追加するためのM.2 NVMe SSDおよびPCIe拡張をサポートしています。QTS と QuTS ヒーロー デュアル オペレーティング システムにより柔軟性が向上

TVS-675-8G ― 6ベイタワー型NAS

TVS-675-8G ― 6ベイタワー型NAS

6ベイタワー型NAS

TS-473A-8G ― 4ベイタワー型中小企業向けNAS

TS-473A-8G ― 4ベイタワー型中小企業向けNAS

AMD Ryzen™搭載高性能NAS。2.5GbE・M.2 SSD・PCIe拡張対応で高速データ処理と柔軟なストレージ運用が可能。

TS-832PX ― デスクトップ/タワー型 8ベイ NAS

TS-832PX ― デスクトップ/タワー型 8ベイ NAS

10GbE SFP+と2.5GbEを備えた大容量NAS、アプリケーションを高速化するM.2 SSD向けPCIe拡張に対応

TS-855X-8G ― 8ベイタワー型NAS

TS-855X-8G ― 8ベイタワー型NAS

Intel Atom® プロセッサー C5125 (9M キャッシュ、2.8GHz)搭載タワー型NAS

TS-664-8G ― 6ベイタワー型NAS

TS-664-8G ― 6ベイタワー型NAS

インテル® Celeron® N5095 プロセッサー(4M キャッシュ、最大 2.90GHz、4コア、4スレッド)搭載 6ベイ タワー型 NAS

TS-264-8G ― 2ベイタワー型NAS

TS-264-8G ― 2ベイタワー型NAS

M.2 SSDキャッシングとPCIeスケーラビリティーを備え、高速転送と仮想化アプリケーションに対応したインテル® Celeron® プロセッサー N5095搭載 デュアルポート2.5GbE NAS

TBS-464-8G ― 薄型軽量静音のB5サイズ4ベイNAS

TBS-464-8G ― 薄型軽量静音のB5サイズ4ベイNAS

コンパクトで、ポータブルで、多用途なM.2 NVMe SSD対応の4ベイ小型NAS

TS-653D-8G ― デスクトップ/タワー型 6ベイ NAS

TS-653D-8G ― デスクトップ/タワー型 6ベイ NAS

プロフェッショナル向けのクアッドコア2.5GbE NAS。PCIe拡張で10GbpsやM.2 SSDを実現、アプリケーションを加速

AXELBOX ラックマウントタイプ ― 高速データ転送が可能なSSD搭載済みモデル

AXELBOX ラックマウントタイプ ― 高速データ転送が可能なSSD搭載済みモデル

データ消失に強く高速な中小企業向けネットワークストレージAXELBOXの 大容量通信対応ラックマウントタイプ

AXELBOX Thin ― SSD搭載済みB5サイズ薄型モデルNAS

AXELBOX Thin ― SSD搭載済みB5サイズ薄型モデルNAS

データ消失に強く高速な中小企業向けネットワークストレージAXELBOXに 音の静かなB5サイズ薄型モデルが登場

TS-h1277AFX-R7-32G ― タワー型12 ベイ SATA オールフラッシュ NAS

TS-h1277AFX-R7-32G ― タワー型12 ベイ SATA オールフラッシュ NAS

AMD Ryzen™ 7、DDR5 ECC 192GB対応、2.5/10GbE標準、QuTS hero搭載のオールフラッシュNAS。

TDS-h2489FU-R2-4309Y-64G ― 24ベイラックマウント型オールフラッシュNAS

TDS-h2489FU-R2-4309Y-64G ― 24ベイラックマウント型オールフラッシュNAS

デュアルXeon® Silver、最大1TB ECCメモリ、U.2 NVMe Gen4×4対応の高速オールフラッシュNAS。

TS-h2490FU-7232P-64G ― 24ベイラックマウント型NAS

TS-h2490FU-7232P-64G ― 24ベイラックマウント型NAS

ZFSベースOS搭載、U.2 NVMe対応で高速IOPSを実現。25GbE対応で仮想化や大容量処理に最適。

TS-h3077AFU-R5-32G ― 2U ラックマウント30ベイSATA SSDオールフラッシュNAS

TS-h3077AFU-R5-32G ― 2U ラックマウント30ベイSATA SSDオールフラッシュNAS

AMD Ryzen 7000+DDR5 ECC、ZFS QuTS hero採用30ベイSSD NAS。 高IOPS・低遅延、10GbE×2/2.5GbE×2でバックアップ・仮想化に最適。

TS-433eU ― ラックマウント型ショートデプス1U4ベイNAS

TS-433eU ― ラックマウント型ショートデプス1U4ベイNAS

2.5GbE×2搭載の1Uショート4ベイNAS。 クアッドコアARM+NPUでAI顔認識高速化、Edgeストレージとして共有・スナップショットバックアップ・VPNを安全高速に実現。

TS-432X-4G ― 4ベイタワー型 NAS

TS-432X-4G ― 4ベイタワー型 NAS

コストパフォーマンスに優れた4ベイ10GbE NAS、ワークロードを高速化するために設計されています

TS-632X ― 6ベイ10GbE NAS

TS-632X ― 6ベイ10GbE NAS

コストパフォーマンスに優れた6ベイ10GbE NAS、ワークロードを高速化するために設計されています

TS-410E-8G ― 4ベイ スリム型NAS

TS-410E-8G ― 4ベイ スリム型NAS

パワフルなハードウェアとファンレス冷却の2.5GbEプロフェッショナルNAS

TVS-672XT ― デスクトップ/タワー型 6ベイ

TVS-672XT ― デスクトップ/タワー型 6ベイ

10GbE、Thunderbolt 3、M.2 PCIe NVMe SSDスロットによる優れたパフォーマンスと抜群の接続性 TVS-672XT

ホーム/SOHO向け NAS

TS-364-8G ― 3ベイ タワー型 NAS

TS-364-8G ― 3ベイ タワー型 NAS

3ベイ タワー型 NAS

HS-264-8G - デスクトップ/タワー型 2ベイ

HS-264-8G - デスクトップ/タワー型 2ベイ

静音で軽量のホームNAS、デュアルHDMI 2.0 4K出力装備でマルチメディア再生およびストリーミングに対応

TS-462-4G ― 4ベイタワー型NAS

TS-462-4G ― 4ベイタワー型NAS

インテル® Celeron® N4505 プロセッサー搭載 2.5GbE マルチメディア タワー型 4ベイ NAS

TS-262-4G ― 2ベイ タワー型 NAS

TS-262-4G ― 2ベイ タワー型 NAS

2.5GbEポート&HDMI 2.0ポート対応、M.2 PCIe スロット、インテル® Celeron® Nシリーズ、PCIe 拡張性搭載 マルチメディア タワー型NAS

HS-453DX-8G

HS-453DX-8G

静かでもパワフル:ハイブリッドストレージ構造、10GbE接続、HDMI2.0 4K出力を採用した、ファンレスマルチメディアNAS

TBS-453DX-8G

TBS-453DX-8G

コンパクトかつ万能:クラウドストレージへの素早く、簡単なアクセスを提供するクアッドコア4ベイM.2 SATA SSD NASbook。

TS-216G ― 2ベイタワー型NAS

TS-216G ― 2ベイタワー型NAS

ARM クアッドコアプロセッサー搭載 2ベイタワー型NAS

TS-433-4G ― NPUプロセッサー内蔵4ベイタワー型NAS

TS-433-4G ― NPUプロセッサー内蔵4ベイタワー型NAS

NPUプロセッサー内蔵クアッドコア52.0GHz CPU 4GBメモリ 4ベイ NAS

TS-233 - デスクトップ/タワー型 2ベイ NAS

TS-233 - デスクトップ/タワー型 2ベイ NAS

内蔵NPUがAI顔認識機能を強化。 自宅でプライベートクラウド&ホームマルチメディアセンターを構築しよう

TS-133

TS-133

簡単なファイルストレージと共有およびエンターテインメントのためのパーソナルプライベートクラウドを構築する初心者およびホーム向けの1ベイ NAS。

TS-451D2 ― デスクトップ/タワー型4ベイNAS

TS-451D2 ― デスクトップ/タワー型4ベイNAS

高効率なファイル管理、データ保護、HDMI 出力を備えたデュアルコアNAS

拡張ユニット
オプション