f2a0603370ec94f68a2386e051f1d2052c879351
[wimlib] / src / xpress-decompress.c
1 /*
2  * xpress-decompress.c
3  *
4  * XPRESS decompression routines.
5  */
6
7 /*
8  *
9  * Copyright (C) 2012 Eric Biggers
10  *
11  * This file is part of wimlib, a library for working with WIM files.
12  *
13  * wimlib is free software; you can redistribute it and/or modify it under the
14  * terms of the GNU General Public License as published by the Free
15  * Software Foundation; either version 3 of the License, or (at your option)
16  * any later version.
17  *
18  * wimlib is distributed in the hope that it will be useful, but WITHOUT ANY
19  * WARRANTY; without even the implied warranty of MERCHANTABILITY or FITNESS FOR
20  * A PARTICULAR PURPOSE. See the GNU General Public License for more
21  * details.
22  *
23  * You should have received a copy of the GNU General Public License
24  * along with wimlib; if not, see http://www.gnu.org/licenses/.
25  */
26
27
28
29 /*
30  * The XPRESS compression format is a LZ77 and Huffman-code based algorithm.
31  * That means it is quite similar to LZX compression, but XPRESS is slightly
32  * simpler, so it is a little faster to compress and decompress.
33  *
34  * The XPRESS compression format is mostly documented in a file called "[MS-XCA]
35  * Xpress Compression Algorithm".  In the MSDN library, it can currently be
36  * found under Open Specifications => Protocols => Windows Protocols => Windows
37  * Server Protocols => [MS-XCA] Xpress Compression Algorithm".  The format in
38  * WIMs is specifically the algorithm labeled as the "LZ77+Huffman Algorithm"
39  * (there apparently are some other versions of XPRESS as well).
40  *
41  * If you are already familiar with the LZ77 algorithm and Huffman coding, the
42  * XPRESS format is fairly simple.  The compressed data begins with 256 bytes
43  * that contain 512 4-bit integers that are the lengths of the symbols in the
44  * Huffman tree used for decoding compressed literals.  This is the only Huffman
45  * tree that is used for the entirety of the compressed data, and the codeword
46  * lengths are not encoded with a pretree.
47  *
48  * The rest of the compressed data is Huffman-encoded symbols.  Values 0 through
49  * 255 are literal bytes.  Values 256 through 511 are matches and may require
50  * extra bits or bytes to be read to get the match offset and match length.
51  *
52  * There is no notion of a "compressed block" in the XPRESS format, so in the
53  * XPRESS format, each WIM chunk (32768 bytes) will always use only one Huffman
54  * tree.
55  *
56  * The trickiest part is probably the fact that literal bytes for match lengths
57  * are encoded "separately" from the bitstream.
58  *
59  * Also, a caveat--- according to Microsoft's documentation for XPRESS,
60  *
61  *      "Some implementation of the decompression algorithm expect an extra
62  *      symbol to mark the end of the data.  Specifically, some implementations
63  *      fail during decompression if the Huffman symbol 256 is not found after
64  *      the actual data."
65  *
66  * This is the case for WIM files--- in we must write this extra symbol "256" at
67  * the end.  Otherwise Microsoft's software will fail to decompress the
68  * XPRESS-compressed data.
69  *
70  * However, wimlib's decompressor in this file currently does not care if this
71  * extra symbol is there or not.
72  */
73
74 #include "util.h"
75 #include "xpress.h"
76 #include "wimlib.h"
77
78 #define XPRESS_DECOMP
79 #include "decompress.h"
80
81 /*
82  * Decodes a symbol @huffsym that begins an XPRESS match.
83  *
84  * The low 8 bits of the symbol are divided into:
85  *
86  * bits 0-3:  length header
87  * bits 4-7:  index of high-order bit of match offset
88  *
89  * Note: taking the low 8 bits of the symbol is the same as subtracting 256, the
90  * number of symbols reserved for literals.
91  *
92  * Returns the match length, or -1 on error.
93  */
94 static int xpress_decode_match(unsigned huffsym, unsigned window_pos,
95                                unsigned window_len, u8 window[],
96                                struct input_bitstream *istream)
97 {
98         unsigned match_len;
99         unsigned match_offset;
100         u8 match_sym = (u8)huffsym;
101         u8 len_hdr = match_sym & 0xf;
102         u8 offset_bsr = match_sym >> 4;
103         int ret;
104         u8 *match_dest;
105         u8 *match_src;
106         unsigned i;
107
108         ret = bitstream_read_bits(istream, offset_bsr, &match_offset);
109         if (ret != 0)
110                 return ret;
111         match_offset |= (1 << offset_bsr);
112
113         if (len_hdr == 0xf) {
114                 ret = bitstream_read_byte(istream);
115                 if (ret < 0)
116                         return ret;
117                 match_len = ret;
118                 if (match_len == 0xff) {
119                         ret = bitstream_read_byte(istream);
120                         if (ret < 0)
121                                 return ret;
122                         match_len = ret;
123
124                         ret = bitstream_read_byte(istream);
125                         if (ret < 0)
126                                 return ret;
127
128                         match_len |= (ret << 8);
129                         if (match_len < 0xf)
130                                 return -1;
131                 } else {
132                         match_len += 0xf;
133                 }
134         } else {
135                 match_len = len_hdr;
136         }
137         match_len += XPRESS_MIN_MATCH;
138
139         /* Verify that the match is in the bounds of the part of the window
140          * currently in use, then copy the source of the match to the current
141          * position. */
142
143         match_dest = window + window_pos;
144         match_src = match_dest - match_offset;
145
146         if (window_pos + match_len > window_len) {
147                 ERROR("XPRESS decompression error: match of length %d "
148                       "bytes overflows window", match_len);
149                 return -1;
150         }
151
152         if (match_src < window) {
153                 ERROR("XPRESS decompression error: match of length %d bytes "
154                       "references data before window (match_offset = %d, "
155                       "window_pos = %d)", match_len, match_offset, window_pos);
156                 return -1;
157         }
158
159         for (i = 0; i < match_len; i++)
160                 match_dest[i] = match_src[i];
161
162         return match_len;
163 }
164
165 /* Decodes the Huffman-encoded matches and literal bytes in a block of
166  * XPRESS-encoded data. */
167 static int xpress_decompress_block(struct input_bitstream *istream,
168                                    u8 uncompressed_data[],
169                                    unsigned uncompressed_len,
170                                    const u8 lens[],
171                                    const u16 decode_table[])
172 {
173         unsigned curpos;
174         unsigned huffsym;
175         int ret;
176         int match_len;
177
178         curpos = 0;
179         while (curpos < uncompressed_len) {
180                 ret = read_huffsym(istream, decode_table, lens,
181                                    XPRESS_NUM_SYMBOLS, XPRESS_TABLEBITS,
182                                    &huffsym, XPRESS_MAX_CODEWORD_LEN);
183                 if (ret != 0)
184                         return ret;
185
186                 if (huffsym < XPRESS_NUM_CHARS) {
187                         uncompressed_data[curpos++] = huffsym;
188                 } else {
189                         match_len = xpress_decode_match(huffsym,
190                                                         curpos,
191                                                         uncompressed_len,
192                                                         uncompressed_data,
193                                                         istream);
194                         if (match_len < 0)
195                                 return match_len;
196                         curpos += match_len;
197                 }
198         }
199         return 0;
200 }
201
202
203 int xpress_decompress(const void *__compressed_data, unsigned compressed_len,
204                       void *uncompressed_data, unsigned uncompressed_len)
205 {
206         u8 lens[XPRESS_NUM_SYMBOLS];
207         u16 decode_table[(1 << XPRESS_TABLEBITS) + 2 * XPRESS_NUM_SYMBOLS];
208         struct input_bitstream istream;
209         u8 *lens_p;
210         const u8 *compressed_data;
211         unsigned i;
212         int ret;
213
214         compressed_data = __compressed_data;
215         lens_p = lens;
216
217         DEBUG2("compressed_len = %d, uncompressed_len = %d",
218                compressed_len, uncompressed_len);
219
220         /* XPRESS uses only one Huffman tree.  It contains 512 symbols, and the
221          * code lengths of these symbols are given literally as 4-bit integers
222          * in the first 256 bytes of the compressed data.
223          */
224         if (compressed_len < XPRESS_NUM_SYMBOLS / 2)
225                 return -1;
226
227         for (i = 0; i < XPRESS_NUM_SYMBOLS / 2; i++) {
228                 *lens_p++ = compressed_data[i] & 0xf;
229                 *lens_p++ = compressed_data[i] >> 4;
230         }
231
232         ret = make_huffman_decode_table(decode_table, XPRESS_NUM_SYMBOLS,
233                                         XPRESS_TABLEBITS, lens,
234                                         XPRESS_MAX_CODEWORD_LEN);
235         if (ret != 0)
236                 return ret;
237
238         init_input_bitstream(&istream, compressed_data + XPRESS_NUM_SYMBOLS / 2,
239                              compressed_len - XPRESS_NUM_SYMBOLS / 2);
240
241         return xpress_decompress_block(&istream, uncompressed_data,
242                                        uncompressed_len, lens,
243                                        decode_table);
244 }