wimlib.net Git - wimlib/blob - src/xpress-decomp.c

   1 /*
   2  * xpress-decomp.c
   3  *
   4  * XPRESS decompression routines.
   5  *
   6  * Copyright (C) 2012 Eric Biggers
   7  *
   8  * wimlib - Library for working with WIM files
   9  *
  10  * This library is free software; you can redistribute it and/or modify it under
  11  * the terms of the GNU Lesser General Public License as published by the Free
  12  * Software Foundation; either version 2.1 of the License, or (at your option) any
  13  * later version.
  14  *
  15  * This library is distributed in the hope that it will be useful, but WITHOUT ANY
  16  * WARRANTY; without even the implied warranty of MERCHANTABILITY or FITNESS FOR A
  17  * PARTICULAR PURPOSE. See the GNU Lesser General Public License for more details.
  18  *
  19  * You should have received a copy of the GNU Lesser General Public License along
  20  * with this library; if not, write to the Free Software Foundation, Inc., 59
  21  * Temple Place, Suite 330, Boston, MA 02111-1307 USA
  22  */
  23
  24
  25
  26 /*
  27  * The XPRESS compression format is a LZ77-based algorithm.  That means it is
  28  * quite similar to LZX compression, but XPRESS is slightly simpler, so it is a
  29  * little faster to compress and decompress.
  30  *
  31  * The XPRESS compression format is mostly documented in a file called "[MS-XCA]
  32  * Xpress Compression Algorithm".  In the MSDN library, it can currently be
  33  * found under Open Specifications => Protocols => Windows Protocols => Windows
  34  * Server Protocols => [MS-XCA] Xpress Compression Algorithm".  Note that
  35  * Microsoft apparently also has either a slightly different format or an
  36  * entirely different format that is also called XPRESS.  The other one is
  37  * supposedly used in Windows' hibernation file or something, but the one used
  38  * in WIM files is the one described in the above document.
  39  *
  40  * If you are already familiar with the LZ77 algorithm and Huffman coding, the
  41  * XPRESS format is pretty simple.  The compressed data begins with 256 bytes
  42  * that contain 512 4-bit integers that are the lengths of the symbols in the
  43  * Huffman tree used for decoding compressed literals.  This is the only Huffman
  44  * tree that is used for the entirety of the compressed data, and the codeword
  45  * lengths are not encoded with a pretree.
  46  *
  47  * The rest of the compressed data is Huffman-encoded symbols.  Values 0 through
  48  * 255 are literal bytes.  Values 256 through 511 are matches and may require
  49  * extra bits or bytes to be read to get the match offset and match length.
  50  *
  51  * There is no notion of a "compressed block" in the XPRESS format, so in the
  52  * XPRESS format, each WIM chunk (32768 bytes) will always use only one Huffman
  53  * tree.
  54  *
  55  * The trickiest part is probably the fact that literal bytes for match lengths
  56  * are encoded "separately" from the bitstream.
  57  *
  58  * Also, a caveat--- according to M$'s documentation for XPRESS,
  59  *
  60  *      "Some implementation of the decompression algorithm expect an extra
  61  *      symbol to mark the end of the data.  Specifically, some implementations
  62  *      fail during decompression if the Huffman symbol 256 is not found after
  63  *      the actual data."
  64  *
  65  * This is the case for WIM files--- in we must write this extra symbol "256" at
  66  * the end.  Otherwise Microsoft's software will fail to decompress the
  67  * XPRESS-compressed data.
  68  *
  69  * Howeve, WIMLIB's decompressor in xpress-decomp.c currently does not care if
  70  * this extra symbol is there or not.
  71  */
  72
  73 #include "util.h"
  74 #include "xpress.h"
  75 #include "wimlib.h"
  76
  77 #define XPRESS_DECOMP
  78 #include "decomp.h"
  79
  80
  81
  82
  83 /* Decodes @huffsym, a value >= XPRESS_NUM_CHARS, that is the header of a match.
  84  * */
  85 static int xpress_decode_match(int huffsym, uint window_pos, uint window_len,
  86                                 u8 window[], struct input_bitstream *istream)
  87 {
  88         uint match_len;
  89         uint match_offset;
  90         u8 match_sym = (u8)huffsym;
  91         u8 len_hdr = match_sym & 0xf;
  92         u8 offset_bsr = match_sym >> 4;
  93         int ret;
  94         u8 *match_dest;
  95         u8 *match_src;
  96         uint i;
  97
  98         ret = bitstream_read_bits(istream, offset_bsr, &match_offset);
  99         if (ret != 0)
 100                 return -1;
 101         match_offset |= (1 << offset_bsr);
 102
 103         if (len_hdr == 0xf) {
 104                 ret = bitstream_read_byte(istream);
 105                 if (ret == -1)
 106                         return -1;
 107                 match_len = ret;
 108                 if (match_len == 0xff) {
 109
 110                         ret = bitstream_read_byte(istream);
 111                         if (ret == -1)
 112                                 return -1;
 113                         match_len = ret;
 114
 115                         ret = bitstream_read_byte(istream);
 116                         if (ret == -1)
 117                                 return -1;
 118
 119                         match_len |= (ret << 8);
 120                         if (match_len < 0xf)
 121                                 return -1;
 122                 } else {
 123                         match_len += 0xf;
 124                 }
 125         } else {
 126                 match_len = len_hdr;
 127         }
 128         match_len += XPRESS_MIN_MATCH;
 129
 130
 131         /* Verify that the match is in the bounds of the part of the window
 132          * currently in use, then copy the source of the match to the current
 133          * position. */
 134
 135         match_dest = window + window_pos;
 136         match_src = match_dest - match_offset;
 137
 138         if (window_pos + match_len > window_len) {
 139                 ERROR("XPRESS dedecompression error: match of length %d "
 140                                 "bytes overflows window\n", match_len);
 141                 return -1;
 142         }
 143
 144         if (match_src < window) {
 145                 ERROR("XPRESS decompression error: match of length %d bytes "
 146                                 "references data before window (match_offset = "
 147                                 "%d, window_pos = %d)\n", match_len,
 148                                 match_offset, window_pos);
 149                 return -1;
 150         }
 151
 152         for (i = 0; i < match_len; i++)
 153                 match_dest[i] = match_src[i];
 154
 155         return match_len;
 156 }
 157
 158 /* Decodes the Huffman-encoded matches and literal bytes in a block of
 159  * XPRESS-encoded data. */
 160 static int xpress_decompress_literals(struct input_bitstream *istream,
 161                                       u8 uncompressed_data[],
 162                                       uint uncompressed_len,
 163                                       const u8 lens[],
 164                                       const u16 decode_table[])
 165 {
 166         uint curpos = 0;
 167         uint huffsym;
 168         int match_len;
 169         int ret;
 170
 171         while (curpos < uncompressed_len) {
 172                 ret = read_huffsym(istream, decode_table, lens,
 173                                 XPRESS_NUM_SYMBOLS, XPRESS_TABLEBITS, &huffsym,
 174                                 XPRESS_MAX_CODEWORD_LEN);
 175                 if (ret != 0)
 176                         return ret;
 177
 178                 if (huffsym < XPRESS_NUM_CHARS) {
 179                         uncompressed_data[curpos++] = huffsym;
 180                 } else {
 181                         match_len = xpress_decode_match(huffsym, curpos,
 182                                                 uncompressed_len,
 183                                                 uncompressed_data, istream);
 184                         if (match_len == -1)
 185                                 return 1;
 186                         curpos += match_len;
 187                 }
 188         }
 189         return 0;
 190 }
 191
 192
 193 int xpress_decompress(const void *__compressed_data, uint compressed_len,
 194                         void *uncompressed_data, uint uncompressed_len)
 195 {
 196         u8 lens[XPRESS_NUM_SYMBOLS];
 197         u16 decode_table[(1 << XPRESS_TABLEBITS) + 2 * XPRESS_NUM_SYMBOLS];
 198         struct input_bitstream istream;
 199         u8 *lens_p;
 200         const u8 *compressed_data;
 201         uint i;
 202         int ret;
 203
 204         compressed_data = __compressed_data;
 205         lens_p = lens;
 206
 207         DEBUG2("compressed_len = %d, uncompressed_len = %d\n",
 208                         compressed_len, uncompressed_len);
 209
 210         /* XPRESS uses only one Huffman tree.  It contains 512 symbols, and the
 211          * code lengths of these symbols are given literally as 4-bit integers
 212          * in the first 256 bytes of the compressed data.
 213          */
 214         if (compressed_len < XPRESS_NUM_SYMBOLS / 2)
 215                 return WIMLIB_ERR_DECOMPRESSION;
 216
 217         for (i = 0; i < XPRESS_NUM_SYMBOLS / 2; i++) {
 218                 *lens_p++ = compressed_data[i] & 0xf;
 219                 *lens_p++ = compressed_data[i] >> 4;
 220         }
 221
 222         ret = make_huffman_decode_table(decode_table, XPRESS_NUM_SYMBOLS,
 223                                         XPRESS_TABLEBITS, lens,
 224                                         XPRESS_MAX_CODEWORD_LEN);
 225         if (ret != 0)
 226                 return ret;
 227
 228         init_input_bitstream(&istream, compressed_data + XPRESS_NUM_SYMBOLS / 2,
 229                                         compressed_len - XPRESS_NUM_SYMBOLS / 2);
 230
 231         return xpress_decompress_literals(&istream, uncompressed_data,
 232                                         uncompressed_len, lens, decode_table);
 233 }