native fds fixes/cleanups
[wimlib] / src / resource.c
1 /*
2  * resource.c
3  *
4  * Read uncompressed and compressed metadata and file resources from a WIM file.
5  */
6
7 /*
8  * Copyright (C) 2012, 2013 Eric Biggers
9  *
10  * This file is part of wimlib, a library for working with WIM files.
11  *
12  * wimlib is free software; you can redistribute it and/or modify it under the
13  * terms of the GNU General Public License as published by the Free Software
14  * Foundation; either version 3 of the License, or (at your option) any later
15  * version.
16  *
17  * wimlib is distributed in the hope that it will be useful, but WITHOUT ANY
18  * WARRANTY; without even the implied warranty of MERCHANTABILITY or FITNESS FOR
19  * A PARTICULAR PURPOSE. See the GNU General Public License for more details.
20  *
21  * You should have received a copy of the GNU General Public License along with
22  * wimlib; if not, see http://www.gnu.org/licenses/.
23  */
24
25 #include "wimlib_internal.h"
26 #include "dentry.h"
27 #include "lookup_table.h"
28 #include "buffer_io.h"
29 #include "sha1.h"
30
31 #ifdef __WIN32__
32 #  include "win32.h"
33 #endif
34
35 #include <errno.h>
36 #include <stdarg.h>
37 #include <stdlib.h>
38 #include <unistd.h>
39 #include <fcntl.h>
40
41 #ifdef HAVE_ALLOCA_H
42 #  include <alloca.h>
43 #endif
44
45 /*
46  * Reads all or part of a compressed WIM resource.
47  *
48  * Returns zero on success, nonzero on failure.
49  */
50 static int
51 read_compressed_resource(filedes_t in_fd,
52                          u64 resource_compressed_size,
53                          u64 resource_uncompressed_size,
54                          u64 resource_offset,
55                          int resource_ctype,
56                          u64 len,
57                          u64 offset,
58                          consume_data_callback_t cb,
59                          void *ctx_or_buf)
60 {
61         int ret;
62
63         /* Trivial case */
64         if (len == 0)
65                 return 0;
66
67         int (*decompress)(const void *, unsigned, void *, unsigned);
68         /* Set the appropriate decompress function. */
69         if (resource_ctype == WIMLIB_COMPRESSION_TYPE_LZX)
70                 decompress = wimlib_lzx_decompress;
71         else
72                 decompress = wimlib_xpress_decompress;
73
74         /* The structure of a compressed resource consists of a table of chunk
75          * offsets followed by the chunks themselves.  Each chunk consists of
76          * compressed data, and there is one chunk for each WIM_CHUNK_SIZE =
77          * 32768 bytes of the uncompressed file, with the last chunk having any
78          * remaining bytes.
79          *
80          * The chunk offsets are measured relative to the end of the chunk
81          * table.  The first chunk is omitted from the table in the WIM file
82          * because its offset is implicitly given by the fact that it directly
83          * follows the chunk table and therefore must have an offset of 0.
84          */
85
86         /* Calculate how many chunks the resource consists of in its entirety.
87          * */
88         u64 num_chunks = (resource_uncompressed_size + WIM_CHUNK_SIZE - 1) /
89                                                                 WIM_CHUNK_SIZE;
90         /* As mentioned, the first chunk has no entry in the chunk table. */
91         u64 num_chunk_entries = num_chunks - 1;
92
93
94         /* The index of the chunk that the read starts at. */
95         u64 start_chunk = offset / WIM_CHUNK_SIZE;
96         /* The byte offset at which the read starts, within the start chunk. */
97         u64 start_chunk_offset = offset % WIM_CHUNK_SIZE;
98
99         /* The index of the chunk that contains the last byte of the read. */
100         u64 end_chunk   = (offset + len - 1) / WIM_CHUNK_SIZE;
101         /* The byte offset of the last byte of the read, within the end chunk */
102         u64 end_chunk_offset = (offset + len - 1) % WIM_CHUNK_SIZE;
103
104         /* Number of chunks that are actually needed to read the requested part
105          * of the file. */
106         u64 num_needed_chunks = end_chunk - start_chunk + 1;
107
108         /* If the end chunk is not the last chunk, an extra chunk entry is
109          * needed because we need to know the offset of the chunk after the last
110          * chunk read to figure out the size of the last read chunk. */
111         if (end_chunk != num_chunks - 1)
112                 num_needed_chunks++;
113
114         /* Allocate the chunk table.  It will only contain offsets for the
115          * chunks that are actually needed for this read. */
116         u64 *chunk_offsets;
117         bool chunk_offsets_malloced;
118         if (num_needed_chunks < 1000) {
119                 chunk_offsets = alloca(num_needed_chunks * sizeof(u64));
120                 chunk_offsets_malloced = false;
121         } else {
122                 chunk_offsets = malloc(num_needed_chunks * sizeof(u64));
123                 if (!chunk_offsets) {
124                         ERROR("Failed to allocate chunk table "
125                               "with %"PRIu64" entries", num_needed_chunks);
126                         return WIMLIB_ERR_NOMEM;
127                 }
128                 chunk_offsets_malloced = true;
129         }
130
131         /* Set the implicit offset of the first chunk if it is included in the
132          * needed chunks.
133          *
134          * Note: M$'s documentation includes a picture that shows the first
135          * chunk starting right after the chunk entry table, labeled as offset
136          * 0x10.  However, in the actual file format, the offset is measured
137          * from the end of the chunk entry table, so the first chunk has an
138          * offset of 0. */
139         if (start_chunk == 0)
140                 chunk_offsets[0] = 0;
141
142         /* According to M$'s documentation, if the uncompressed size of
143          * the file is greater than 4 GB, the chunk entries are 8-byte
144          * integers.  Otherwise, they are 4-byte integers. */
145         u64 chunk_entry_size = (resource_uncompressed_size >= (u64)1 << 32) ?
146                                                                         8 : 4;
147
148         /* Size of the full chunk table in the WIM file. */
149         u64 chunk_table_size = chunk_entry_size * num_chunk_entries;
150
151         /* Read the needed chunk offsets from the table in the WIM file. */
152
153         /* Index, in the WIM file, of the first needed entry in the
154          * chunk table. */
155         u64 start_table_idx = (start_chunk == 0) ? 0 : start_chunk - 1;
156
157         /* Number of entries we need to actually read from the chunk
158          * table (excludes the implicit first chunk). */
159         u64 num_needed_chunk_entries = (start_chunk == 0) ?
160                                 num_needed_chunks - 1 : num_needed_chunks;
161
162         /* Skip over unneeded chunk table entries. */
163         u64 file_offset_of_needed_chunk_entries = resource_offset +
164                                 start_table_idx * chunk_entry_size;
165
166         /* Number of bytes we need to read from the chunk table. */
167         size_t size = num_needed_chunk_entries * chunk_entry_size;
168
169         /* Read the raw data into the end of the chunk_offsets array to
170          * avoid allocating another array. */
171         void *chunk_tab_buf = (void*)&chunk_offsets[num_needed_chunks] - size;
172
173         if (full_pread(in_fd, chunk_tab_buf, size,
174                        file_offset_of_needed_chunk_entries) != size)
175                 goto read_error;
176
177         /* Now fill in chunk_offsets from the entries we have read in
178          * chunk_tab_buf. */
179
180         u64 *chunk_tab_p = chunk_offsets;
181         if (start_chunk == 0)
182                 chunk_tab_p++;
183
184         if (chunk_entry_size == 4) {
185                 u32 *entries = (u32*)chunk_tab_buf;
186                 while (num_needed_chunk_entries--)
187                         *chunk_tab_p++ = le32_to_cpu(*entries++);
188         } else {
189                 u64 *entries = (u64*)chunk_tab_buf;
190                 while (num_needed_chunk_entries--)
191                         *chunk_tab_p++ = le64_to_cpu(*entries++);
192         }
193
194         /* Done with the chunk table now.  We must now seek to the first chunk
195          * that is needed for the read. */
196
197         u64 cur_read_offset = resource_offset + chunk_table_size + chunk_offsets[0];
198
199         /* Pointer to current position in the output buffer for uncompressed
200          * data.  Alternatively, if using a callback function, we repeatedly
201          * fill a temporary buffer to feed data into the callback function.  */
202         u8 *out_p;
203         if (cb)
204                 out_p = alloca(WIM_CHUNK_SIZE);
205         else
206                 out_p = ctx_or_buf;
207
208         /* Buffer for compressed data.  While most compressed chunks will have a
209          * size much less than WIM_CHUNK_SIZE, WIM_CHUNK_SIZE - 1 is the maximum
210          * size in the worst-case.  This assumption is valid only if chunks that
211          * happen to compress to more than the uncompressed size (i.e. a
212          * sequence of random bytes) are always stored uncompressed. But this seems
213          * to be the case in M$'s WIM files, even though it is undocumented. */
214         void *compressed_buf = alloca(WIM_CHUNK_SIZE - 1);
215
216         /* Decompress all the chunks. */
217         for (u64 i = start_chunk; i <= end_chunk; i++) {
218
219                 /* Calculate the sizes of the compressed chunk and of the
220                  * uncompressed chunk. */
221                 unsigned compressed_chunk_size;
222                 unsigned uncompressed_chunk_size;
223                 if (i != num_chunks - 1) {
224                         /* All the chunks except the last one in the resource
225                          * expand to WIM_CHUNK_SIZE uncompressed, and the amount
226                          * of compressed data for the chunk is given by the
227                          * difference of offsets in the chunk offset table. */
228                         compressed_chunk_size = chunk_offsets[i + 1 - start_chunk] -
229                                                 chunk_offsets[i - start_chunk];
230                         uncompressed_chunk_size = WIM_CHUNK_SIZE;
231                 } else {
232                         /* The last compressed chunk consists of the remaining
233                          * bytes in the file resource, and the last uncompressed
234                          * chunk has size equal to however many bytes are left-
235                          * that is, the remainder of the uncompressed size when
236                          * divided by WIM_CHUNK_SIZE.
237                          *
238                          * Note that the resource_compressed_size includes the
239                          * chunk table, so the size of it must be subtracted. */
240                         compressed_chunk_size = resource_compressed_size -
241                                                 chunk_table_size -
242                                                 chunk_offsets[i - start_chunk];
243
244                         uncompressed_chunk_size = resource_uncompressed_size %
245                                                                 WIM_CHUNK_SIZE;
246
247                         /* If the remainder is 0, the last chunk actually
248                          * uncompresses to a full WIM_CHUNK_SIZE bytes. */
249                         if (uncompressed_chunk_size == 0)
250                                 uncompressed_chunk_size = WIM_CHUNK_SIZE;
251                 }
252
253                 /* Figure out how much of this chunk we actually need to read */
254                 u64 start_offset;
255                 if (i == start_chunk)
256                         start_offset = start_chunk_offset;
257                 else
258                         start_offset = 0;
259                 u64 end_offset;
260                 if (i == end_chunk)
261                         end_offset = end_chunk_offset;
262                 else
263                         end_offset = WIM_CHUNK_SIZE - 1;
264
265                 unsigned partial_chunk_size = end_offset + 1 - start_offset;
266                 bool is_partial_chunk = (partial_chunk_size != uncompressed_chunk_size);
267
268                 /* This is undocumented, but chunks can be uncompressed.  This
269                  * appears to always be the case when the compressed chunk size
270                  * is equal to the uncompressed chunk size. */
271                 if (compressed_chunk_size == uncompressed_chunk_size) {
272                         /* Uncompressed chunk */
273                         if (full_pread(in_fd,
274                                        cb ? out_p + start_offset : out_p,
275                                        partial_chunk_size,
276                                        cur_read_offset + start_offset) != partial_chunk_size)
277                         {
278                                 goto read_error;
279                         }
280                 } else {
281                         /* Compressed chunk */
282
283                         /* Read the compressed data into compressed_buf. */
284                         if (full_pread(in_fd,
285                                        compressed_buf,
286                                        compressed_chunk_size,
287                                        cur_read_offset) != compressed_chunk_size)
288                         {
289                                 goto read_error;
290                         }
291
292                         /* For partial chunks and when writing directly to a
293                          * buffer, we must buffer the uncompressed data because
294                          * we don't need all of it. */
295                         if (is_partial_chunk && !cb) {
296                                 u8 uncompressed_buf[uncompressed_chunk_size];
297
298                                 ret = decompress(compressed_buf,
299                                                  compressed_chunk_size,
300                                                  uncompressed_buf,
301                                                  uncompressed_chunk_size);
302                                 if (ret) {
303                                         ret = WIMLIB_ERR_DECOMPRESSION;
304                                         goto out;
305                                 }
306                                 memcpy(out_p, uncompressed_buf + start_offset,
307                                        partial_chunk_size);
308                         } else {
309                                 ret = decompress(compressed_buf,
310                                                  compressed_chunk_size,
311                                                  out_p,
312                                                  uncompressed_chunk_size);
313                                 if (ret) {
314                                         ret = WIMLIB_ERR_DECOMPRESSION;
315                                         goto out;
316                                 }
317                         }
318                 }
319                 if (cb) {
320                         /* Feed the data to the callback function */
321                         ret = cb(out_p + start_offset,
322                                  partial_chunk_size, ctx_or_buf);
323                         if (ret)
324                                 goto out;
325                 } else {
326                         /* No callback function provided; we are writing
327                          * directly to a buffer.  Advance the pointer into this
328                          * buffer by the number of uncompressed bytes that were
329                          * written.  */
330                         out_p += partial_chunk_size;
331                 }
332                 cur_read_offset += compressed_chunk_size;
333         }
334
335         ret = 0;
336 out:
337         if (chunk_offsets_malloced)
338                 FREE(chunk_offsets);
339         return ret;
340
341 read_error:
342         ERROR_WITH_ERRNO("Error reading compressed file resource");
343         ret = WIMLIB_ERR_READ;
344         goto out;
345 }
346
347 /* Reads the contents of a struct resource_entry, as represented in the on-disk
348  * format, from the memory pointed to by @p, and fills in the fields of @entry.
349  * A pointer to the byte after the memory read at @p is returned. */
350 const void *
351 get_resource_entry(const void *p, struct resource_entry *entry)
352 {
353         u64 size;
354         u8 flags;
355
356         p = get_u56(p, &size);
357         p = get_u8(p, &flags);
358         entry->size = size;
359         entry->flags = flags;
360
361         /* offset and original_size are truncated to 62 bits to avoid possible
362          * overflows, when converting to a signed 64-bit integer (off_t) or when
363          * adding size or original_size.  This is okay since no one would ever
364          * actually have a WIM bigger than 4611686018427387903 bytes... */
365         p = get_u64(p, &entry->offset);
366         if (entry->offset & 0xc000000000000000ULL) {
367                 WARNING("Truncating offset in resource entry");
368                 entry->offset &= 0x3fffffffffffffffULL;
369         }
370         p = get_u64(p, &entry->original_size);
371         if (entry->original_size & 0xc000000000000000ULL) {
372                 WARNING("Truncating original_size in resource entry");
373                 entry->original_size &= 0x3fffffffffffffffULL;
374         }
375         return p;
376 }
377
378 /* Copies the struct resource_entry @entry to the memory pointed to by @p in the
379  * on-disk format.  A pointer to the byte after the memory written at @p is
380  * returned. */
381 void *
382 put_resource_entry(void *p, const struct resource_entry *entry)
383 {
384         p = put_u56(p, entry->size);
385         p = put_u8(p, entry->flags);
386         p = put_u64(p, entry->offset);
387         p = put_u64(p, entry->original_size);
388         return p;
389 }
390
391 static int
392 read_partial_wim_resource(const struct wim_lookup_table_entry *lte,
393                           u64 size,
394                           consume_data_callback_t cb,
395                           void *ctx_or_buf,
396                           int flags,
397                           u64 offset)
398 {
399         WIMStruct *wim;
400         filedes_t in_fd;
401         int ret;
402
403         wimlib_assert(lte->resource_location == RESOURCE_IN_WIM);
404
405         wim = lte->wim;
406         in_fd = wim->in_fd;
407
408         if (lte->resource_entry.flags & WIM_RESHDR_FLAG_COMPRESSED &&
409             !(flags & WIMLIB_RESOURCE_FLAG_RAW))
410         {
411                 ret = read_compressed_resource(in_fd,
412                                                lte->resource_entry.size,
413                                                lte->resource_entry.original_size,
414                                                lte->resource_entry.offset,
415                                                wimlib_get_compression_type(wim),
416                                                size,
417                                                offset,
418                                                cb,
419                                                ctx_or_buf);
420         } else {
421                 offset += lte->resource_entry.offset;
422                 if (cb) {
423                         /* Send data to callback function */
424                         u8 buf[min(WIM_CHUNK_SIZE, size)];
425                         while (size) {
426                                 size_t bytes_to_read = min(WIM_CHUNK_SIZE, size);
427                                 size_t bytes_read = full_pread(in_fd, buf,
428                                                                bytes_to_read, offset);
429                                 if (bytes_read != bytes_to_read)
430                                         goto read_error;
431                                 ret = cb(buf, bytes_read, ctx_or_buf);
432                                 if (ret)
433                                         goto out;
434                                 size -= bytes_read;
435                                 offset += bytes_read;
436                         }
437                 } else {
438                         /* Send data directly to a buffer */
439                         if (full_pread(in_fd, ctx_or_buf, size, offset) != size)
440                                 goto read_error;
441                 }
442                 ret = 0;
443         }
444         goto out;
445 read_error:
446         ERROR_WITH_ERRNO("Error reading data from WIM");
447         ret = WIMLIB_ERR_READ;
448 out:
449         if (ret) {
450                 if (errno == 0)
451                         errno = EIO;
452         }
453         return ret;
454 }
455
456
457 int
458 read_partial_wim_resource_into_buf(const struct wim_lookup_table_entry *lte,
459                                    size_t size, u64 offset, void *buf)
460 {
461         return read_partial_wim_resource(lte, size, NULL, buf, 0, offset);
462 }
463
464 static int
465 read_wim_resource_prefix(const struct wim_lookup_table_entry *lte,
466                          u64 size,
467                          consume_data_callback_t cb,
468                          void *ctx_or_buf,
469                          int flags)
470 {
471         return read_partial_wim_resource(lte, size, cb, ctx_or_buf, flags, 0);
472 }
473
474
475 #ifndef __WIN32__
476 static int
477 read_file_on_disk_prefix(const struct wim_lookup_table_entry *lte,
478                          u64 size,
479                          consume_data_callback_t cb,
480                          void *ctx_or_buf,
481                          int _ignored_flags)
482 {
483         const tchar *filename = lte->file_on_disk;
484         int ret;
485         int fd;
486         size_t bytes_read;
487
488         fd = open(filename, O_RDONLY);
489         if (fd < 0) {
490                 ERROR_WITH_ERRNO("Can't open \"%"TS"\"", filename);
491                 return WIMLIB_ERR_OPEN;
492         }
493         if (cb) {
494                 /* Send data to callback function */
495                 u8 buf[min(WIM_CHUNK_SIZE, size)];
496                 size_t bytes_to_read;
497                 while (size) {
498                         bytes_to_read = min(WIM_CHUNK_SIZE, size);
499                         bytes_read = full_read(fd, buf, bytes_to_read);
500                         if (bytes_read != bytes_to_read)
501                                 goto read_error;
502                         ret = cb(buf, bytes_read, ctx_or_buf);
503                         if (ret)
504                                 goto out_close;
505                         size -= bytes_read;
506                 }
507         } else {
508                 /* Send data directly to a buffer */
509                 bytes_read = full_read(fd, ctx_or_buf, size);
510                 if (bytes_read != size)
511                         goto read_error;
512         }
513         ret = 0;
514         goto out_close;
515 read_error:
516         ERROR_WITH_ERRNO("Error reading \"%"TS"\"", filename);
517         ret = WIMLIB_ERR_READ;
518 out_close:
519         close(fd);
520         return ret;
521 }
522 #endif /* !__WIN32__ */
523
524 static int
525 read_buffer_prefix(const struct wim_lookup_table_entry *lte,
526                    u64 size, consume_data_callback_t cb,
527                    void *ctx_or_buf, int _ignored_flags)
528 {
529         const void *inbuf = lte->attached_buffer;
530         int ret;
531
532         if (cb) {
533                 while (size) {
534                         size_t chunk_size = min(WIM_CHUNK_SIZE, size);
535                         ret = cb(inbuf, chunk_size, ctx_or_buf);
536                         if (ret)
537                                 return ret;
538                         size -= chunk_size;
539                         inbuf += chunk_size;
540                 }
541         } else {
542                 memcpy(ctx_or_buf, inbuf, size);
543         }
544         return 0;
545 }
546
547 typedef int (*read_resource_prefix_handler_t)(const struct wim_lookup_table_entry *lte,
548                                               u64 size,
549                                               consume_data_callback_t cb,
550                                               void *ctx_or_buf,
551                                               int flags);
552
553 /*
554  * Read the first @size bytes from a generic "resource", which may be located in
555  * the WIM (compressed or uncompressed), in an external file, or directly in an
556  * in-memory buffer.
557  *
558  * Feed the data either to a callback function (cb != NULL, passing it
559  * ctx_or_buf), or write it directly into a buffer (cb == NULL, ctx_or_buf
560  * specifies the buffer, which must have room for @size bytes).
561  *
562  * When using a callback function, it is called with chunks up to 32768 bytes in
563  * size until the resource is exhausted.
564  *
565  * If the resource is located in a WIM file, @flags can be:
566  *   * WIMLIB_RESOURCE_FLAG_THREADSAFE_READ if it must be safe to access the resource
567  *     concurrently by multiple threads.
568  *   * WIMLIB_RESOURCE_FLAG_RAW if the raw compressed data is to be supplied
569  *     instead of the uncompressed data.
570  * Otherwise, the @flags are ignored.
571  */
572 int
573 read_resource_prefix(const struct wim_lookup_table_entry *lte,
574                      u64 size, consume_data_callback_t cb, void *ctx_or_buf,
575                      int flags)
576 {
577         static const read_resource_prefix_handler_t handlers[] = {
578                 [RESOURCE_IN_WIM]             = read_wim_resource_prefix,
579         #ifndef __WIN32__
580                 [RESOURCE_IN_FILE_ON_DISK]    = read_file_on_disk_prefix,
581         #endif
582                 [RESOURCE_IN_ATTACHED_BUFFER] = read_buffer_prefix,
583         #ifdef WITH_FUSE
584                 [RESOURCE_IN_STAGING_FILE]    = read_file_on_disk_prefix,
585         #endif
586         #ifdef WITH_NTFS_3G
587                 [RESOURCE_IN_NTFS_VOLUME]     = read_ntfs_file_prefix,
588         #endif
589         #ifdef __WIN32__
590                 [RESOURCE_WIN32]              = read_win32_file_prefix,
591                 [RESOURCE_WIN32_ENCRYPTED]    = read_win32_encrypted_file_prefix,
592         #endif
593         };
594         wimlib_assert(lte->resource_location < ARRAY_LEN(handlers)
595                       && handlers[lte->resource_location] != NULL);
596         return handlers[lte->resource_location](lte, size, cb, ctx_or_buf, flags);
597 }
598
599 int
600 read_full_resource_into_buf(const struct wim_lookup_table_entry *lte,
601                             void *buf)
602 {
603         return read_resource_prefix(lte, wim_resource_size(lte), NULL, buf, 0);
604 }
605
606 struct extract_ctx {
607         SHA_CTX sha_ctx;
608         consume_data_callback_t extract_chunk;
609         void *extract_chunk_arg;
610 };
611
612 static int
613 extract_chunk_sha1_wrapper(const void *chunk, size_t chunk_size,
614                            void *_ctx)
615 {
616         struct extract_ctx *ctx = _ctx;
617
618         sha1_update(&ctx->sha_ctx, chunk, chunk_size);
619         return ctx->extract_chunk(chunk, chunk_size, ctx->extract_chunk_arg);
620 }
621
622 /* Extracts the first @size bytes of a WIM resource to somewhere.  In the
623  * process, the SHA1 message digest of the resource is checked if the full
624  * resource is being extracted.
625  *
626  * @extract_chunk is a function that is called to extract each chunk of the
627  * resource. */
628 int
629 extract_wim_resource(const struct wim_lookup_table_entry *lte,
630                      u64 size,
631                      consume_data_callback_t extract_chunk,
632                      void *extract_chunk_arg)
633 {
634         int ret;
635         if (size == wim_resource_size(lte)) {
636                 /* Do SHA1 */
637                 struct extract_ctx ctx;
638                 ctx.extract_chunk = extract_chunk;
639                 ctx.extract_chunk_arg = extract_chunk_arg;
640                 sha1_init(&ctx.sha_ctx);
641                 ret = read_resource_prefix(lte, size,
642                                            extract_chunk_sha1_wrapper,
643                                            &ctx, 0);
644                 if (ret == 0) {
645                         u8 hash[SHA1_HASH_SIZE];
646                         sha1_final(hash, &ctx.sha_ctx);
647                         if (!hashes_equal(hash, lte->hash)) {
648                         #ifdef ENABLE_ERROR_MESSAGES
649                                 ERROR("Invalid SHA1 message digest "
650                                       "on the following WIM resource:");
651                                 print_lookup_table_entry(lte, stderr);
652                                 if (lte->resource_location == RESOURCE_IN_WIM)
653                                         ERROR("The WIM file appears to be corrupt!");
654                         #endif
655                                 ret = WIMLIB_ERR_INVALID_RESOURCE_HASH;
656                         }
657                 }
658         } else {
659                 /* Don't do SHA1 */
660                 ret = read_resource_prefix(lte, size, extract_chunk,
661                                            extract_chunk_arg, 0);
662         }
663         return ret;
664 }
665
666 static int
667 extract_wim_chunk_to_fd(const void *buf, size_t len, void *_fd_p)
668 {
669         int fd = *(int*)_fd_p;
670         ssize_t ret = full_write(fd, buf, len);
671         if (ret < len) {
672                 ERROR_WITH_ERRNO("Error writing to file descriptor");
673                 return WIMLIB_ERR_WRITE;
674         } else {
675                 return 0;
676         }
677 }
678
679 int
680 extract_wim_resource_to_fd(const struct wim_lookup_table_entry *lte,
681                            int fd, u64 size)
682 {
683         return extract_wim_resource(lte, size, extract_wim_chunk_to_fd, &fd);
684 }
685
686
687 static int
688 sha1_chunk(const void *buf, size_t len, void *ctx)
689 {
690         sha1_update(ctx, buf, len);
691         return 0;
692 }
693
694 /* Calculate the SHA1 message digest of a stream. */
695 int
696 sha1_resource(struct wim_lookup_table_entry *lte)
697 {
698         int ret;
699         SHA_CTX sha_ctx;
700
701         sha1_init(&sha_ctx);
702         ret = read_resource_prefix(lte, wim_resource_size(lte),
703                                    sha1_chunk, &sha_ctx, 0);
704         if (ret == 0)
705                 sha1_final(lte->hash, &sha_ctx);
706         return ret;
707 }
708
709 /*
710  * Copies the file resource specified by the lookup table entry @lte from the
711  * input WIM to the output WIM that has its FILE * given by
712  * ((WIMStruct*)wim)->out_fp.
713  *
714  * The output_resource_entry, out_refcnt, and part_number fields of @lte are
715  * updated.
716  *
717  * (This function is confusing and should be refactored somehow.)
718  */
719 int
720 copy_resource(struct wim_lookup_table_entry *lte, void *wim)
721 {
722         WIMStruct *w = wim;
723         int ret;
724
725         ret = write_wim_resource(lte, w->out_fd,
726                                  wim_resource_compression_type(lte),
727                                  &lte->output_resource_entry, 0);
728         if (ret == 0) {
729                 lte->out_refcnt = lte->refcnt;
730                 lte->part_number = w->hdr.part_number;
731         }
732         return ret;
733 }