dump blobs

v1.11.0

examples/compressfile.c: add back colon that got deleted

tagged_items.c: statically verify size of tagged item header

xattr.h: statically verify size of xattr header

lzx_compress: optimize storing information in lzx_sequence

Pack the literal run length and match length ourselves instead of using
bitfields, and store the actual match length instead of the adjusted
match length.  Also make matchlen=0 represent end-of-block, and store
the full main symbol, not just the match header.

Don't generate GUID in wimlib_create_new_wim()

It's not necessary to generate a GUID in wimlib_create_new_wim() because
one is generated later by wimlib_write(), and nothing seems to assume
that a WIMStruct not yet backed by a file has a valid GUID.  This saves
a call to get_random_bytes().  Also remove some unnecessary
initializations to 0.

lzx_compress: fix corruption with long literal run

The last round of updates to the LZX compressor made it start being able
to use larger blocks, up to ~100KB.  Unfortunately it was overlooked
that this allows literal runs > 65535 bytes while in one place the
length of a literal run was still being stored in a u16.  Therefore, on
incompressible input data this could be wrapped around, causing
incorrect compression.  Fix this by enlarging the variable.

wimappend: support --delta-from option

--delta-from was previously only supported by wimcapture.  But it is
trivial to make wimappend support it too, and it could be useful.

hc_matchfinder: use well-defined initialization of best_matchptr

The initial value of best_matchptr is not truly used, but since we do
always compute 'in_next - best_matchptr', assign an initial value which
avoids undefined behavior.

unix_apply.c: use #ifdef HAVE_XATTR_SUPPORT, not #if HAVE_XATTR_SUPPORT

extract.c: recommend --unix-data mode when appropriate

tagged_items: rename inode_set_tagged_data() to inode_set_tagged_item()

(for consistency with inode_get_tagged_item())

wimdir: make documention correctly reflect that IMAGE is optional

wimmount.1: mention long forms

wimlib-imagex: fix recommendation to read PDF documentation

Recommend wimFOO.pdf instead of wimlib-imagex-FOO.pdf.  (Also `man
wimFOO` instead of `man wimlib-imagex-FOO'.)

v1.11.0-BETA5

wlfuzz: sometimes generate security.capability xattrs

unix_apply.c: fix applying security xattrs

Documentation updates, mainly to the man pages

- Use short command names like wimFOO instead of wimlib-imagex FOO
- Lots of other small improvements

v1.11.0-BETA4

wlfuzz: generate and compare extended attributes

wlfuzz: generate and compare standard UNIX file permissions and special files

wlfuzz: generate and compare symlinks

wlfuzz: generate and compare object IDs

wlfuzz: don't generate hard linked reparse points

wlfuzz: don't generate . and .. filenames

wlfuzz: compare generated image after just writing it out

Document xattr support

unix_apply.c: support applying extended attributes

unix_capture.c: support capturing extended attributes

Add new error codes for xattr extraction errors

Add basic infrastructure for storing xattr items

Define a new tagged metadata item to hold a list of names and values of
Linux-style extended attributes, and prepare for supporting
capture/apply of extended attributes.

I considered making the xattrs a stream instead, referenced from the
tagged item which would just hold a hash.  This would have allowed
xattrs to be deduplicated between files.  However, I ultimately decided
against this because WIMGAPI and older versions of wimlib would discard
the streams on optimize/export, and extraction would be much more
complicated because xattr streams could come up for extraction before
other streams --- which would be especially problematic for symlinks.

tagged_items updates

- Expose tagged_item functions in new header tagged_items.h
- Make object_id functions inline functions in object_id.h
- Make inode_get_tagged_item() return stored length, not aligned length
- Add a new function inode_set_tagged_data() which removes existing
  items before setting the new one, and use it for inode_set_object_id()
- Make inode_add_tagged_item() append item rather than prepend
- Keep items 8-byte aligned in memory

.gitignore: ignore files generated by running tests

Improve random number generation

wimlib used rand() to generate random numbers, e.g. for GUIDs.  This was
neither cryptographically secure nor thread-safe.  Use getrandom(),
/dev/urandom, or RtlGenRandom() instead.

Constify some data

join.c: clean up verify_swm_set()

UBSAN complained when the parts_to_swms array had 0 length.  Clean this
up by sorting the parts first, making the verification simpler.  Also
don't bother checking compression_type and chunk_size anymore; checking
guid should be sufficient, and it doesn't really matter if the
compression formats are different since now everything will be written
out correctly anyway.

util.c: check for calloc multiplication overflow

lcpit_matchfinder.c: update link to libdivsufsort

wlfuzz: don't generate reserved short names with extension

wlfuzz: updates for sparse files

win32-test-imagex-capture_and_apply: sparse file tests

Extract sparse files as sparse

When extracting a stream belonging to an inode with
FILE_ATTRIBUTE_SPARSE_FILE set, before writing any data, mark the
extracted stream as sparse if needed and skip preallocating space.
Then, skip writing zero regions.  This makes it so that sparse files are
still sparse after extraction.

unix_apply.c: preallocate space for regular files

unix_capture.c: mark regular files as sparse when appropriate

resource: pass blob and offset to consume_chunk

This makes it so that users don't need to keep track of the current blob
and offset themselves.

Improved handling of Data Deduplication reparse points

v1.11.0-BETA1

examples: C++ and Windows compatibility

Include import library and header in Windows releases

wimlib.h: define bool for old MSVC versions

It's also unnecessary to define bool in C++ mode.

wimlib.h: include <stdint.h> instead of <inttypes.h>

We only need stdint.h, and old (VS pre-2013) MSVC versions don't have
inttypes.h.

wimlib.h: test _WIN32 instead of __WIN32__

MSVC defines _WIN32 but not __WIN32__.  MinGW defines both.

wimlib.h: define timespec for MSVC compatibility

wlfuzz: note Windows restrictions on short names

wlfuzz: allow short name associated with long name ending with dot or space

ntfs-3g_apply.c: add message about another known libntfs-3g bug

README.WINDOWS: document building with release script

integrity.c: add casts when converting endianness in-place

This fixes some 'sparse' warnings.  No change in behavior.

registry.c: be explicit with le16 => bool conversion

This fixes some 'sparse' warnings.  No change in behavior.

compiler.h: define STATIC_ASSERT() to no-op when checking with sparse

The expression used in STATIC_ASSERT() was not compatible with 'sparse'.

extract.c: don't use ifdef within macro argument

This was nonstandard and 'sparse' complained about it.

Add script to run 'sparse' static analyzer

Makefile.am: include nasm_lt.sh in release tarball

Configuring with --enable-ssse3-sha1 did not work from a release tarball
because build-aux/nasm_lt.sh was missing.  Add it.

mkwinpeimg: use case insensitive mode when updating boot.wim

It was reported that some Windows PE images have a system directory
called "windows" rather than "Windows".  Use case insensitive mode to
ensure added files go to the right place.

util.c: for aligned_malloc, store original pointer directly

wim.c: langinfo.h no longer needs to be included

v1.10.0

registry: avoid negating INT32_MIN

wimexport: allow exporting to archive directly on block device

wimapply.1: fix documentation for valid Windows filenames

* "must end with space or period" is not a restriction for NT APIs
* control characters are forbidden

win32_apply.c: detect case-sensitive filename support

ntfs-3g_apply.c: open $Secure

ntfs-3g_capture.c: update $Secure handling

libattr is no longer needed

wimlib only uses the extended attributes interface on Linux, where it
appears it is now safe to assume the functions are present in libc (see:
http://lists.nongnu.org/archive/html/acl-devel/2012-04/msg00001.html).

Note: the setfattr program from the "attr" package is still required to
run the NTFS-3G test script.

Sync AVL tree code from project

avl_tree: remove now-unused support for "unlinked" marker

Unify case-sensitive and case-insensitive filename indices

avl_tree: add avl_tree_prev_in_order()

Add program to report NTFS volume fragmentation

ntfs-3g_apply.c: note version in which ntfs_attr_pwrite() was fixed

lzx_compress: make lzx_cost_for_probability() more robust

lzms_common.c: support x32 ABI in find_next_opcode_sse4_2()

avl_tree: replace 'AVL_INLINE' with 'forceinline'

README.WINDOWS: describe 64-bit build by default

README.WINDOWS: update build instructions for v1.10.0

configure.ac: Do not check for <sys/param.h>

This header is conditionally included by <ntfs-3g/endians.h>.  It defines
too much stuff on certain platforms, e.g. an ALIGN() macro on FreeBSD,
and it appears redundant with other methods of determining the
endianness.

ntfs-3g_capture.c: include <ntfs-3g/compat.h> to get ENODATA definition

Some platforms, e.g. FreeBSD, do not define ENODATA.  On such platforms,
libntfs-3g uses ENOENT instead, and <ntfs-3g/compat.h> defines ENODATA as
ENOENT.

Update NEWS

Stop force-inlining everything marked 'inline'

Instead, replace 'inline' with 'forceinline' in selected places.

bitops: rename bit scan functions

Our bit scan functions use 0-based indices and do not allow zero inputs.
Rename them to 'bsr' and 'bsf' to match the x86 instructions and avoid
confusion with another common convention for 'fls' and 'ffs'.

xpress_decompress: tweak comment about end-of-block symbol

decompress_common: move temp space for building decode table to heap

xpress_decompress: allocate decode table on heap instead of stack

decompress_common: introduce fast path for lz_copy()

decompress_common: switch to subtables for Huffman decoding

lzx_common: add constant for maximum number of extra offset bits

lzx_common: add constants for minimum aligned offset slot

lzx_decompress: optimize use of extra offset bits array