v1.13.0

Update libxml to 2.9.8 for Windows binaries

wlfuzz: compare xattrs on Windows

imagex: warn that --update-of is unreliable on Windows

wimappend: with --create, ignore --update-of nonexistent target file

Remove Arch Linux PKGBUILD

There's now an official Arch Linux package for wimlib.
So the PKGBUILD file in-tree is redundant.

wimappend: add --create option to create WIM file if needed

wimextract: allow specifying listfile on stdin

Make absolute ExclusionException patterns include ancestor directories

imagex: make sure we still use wgetopt_long_only() on Windows

Fix building on NetBSD

split.c: fix finding extension of first split WIM part

Silly old bug: wimlib_split() considered the first dot in the SWM path
to begin the filename extension.  But of course, there can be other dots
in the path; we need to look for the last dot in the last component.

Update NEWS

win32_capture: recognize STATUS_NOT_SUPPORTED (fixes for WinXP)

Update winpthreads to 5.0.3 for Windows binaries

Update libxml to 2.9.7 for Windows binaries

wimlib-imagex: add --include-integrity option

The --check option currently does two things: verify the integrity table
of the input WIM(s), and include an integrity table in the output
WIM(s).  Some users would like to do the latter only, especially if
there are large input WIM(s).

Add an option --include-integrity which does this.

wimlib-imagex: try harder to optimize out opening template WIM

As an optimization, 'wimcapture' and 'wimappend' don't separately open
the template WIM for --update-of if no filename is specified in that
option, which makes it default to either the single base WIM
(--delta-from), or the WIM being appended to.

Extend that optimization to cases where the filename is specified in
--update-of and it exactly matches the filename of the WIM being
appended to or any of the base WIMs.

Improve explanation for pipable WIM pre-write checksumming

Make stream_hash() return NULL for unhashed streams

Otherwise it will return a bogus value from the union with ->back_inode
and ->back_stream_id.  Most callers ensured this cannot happen, but a
couple did not.  It should be explicitly prevented or handled.

Capture and apply extended attributes on Windows

DISM recently started supporting capturing and applying xattrs on
Windows (though, it is broken when applying multiple xattrs per file).
Make wimlib support the same, using the same on-disk format.  Unlike
DISM it is on by default, not controlled by an option, since there
doesn't seem to be a good reason to make it an option.

Also deprecate the tagged item wimlib was using to store xattrs on Linux
and switch over to the format used by WIMGAPI to store xattrs on
Windows, so that new WIM images use the same xattr format on both
platforms.  One caveat is that on Linux XATTR_SIZE_MAX is 65536 whereas
in the new WIM tagged item format we can only store up to 65535 bytes.
That is unlikely to matter though.

As future work, the NTFS-3G capture and apply backends should be updated
to support xattrs too.

Allow retrieving PACKAGE_VERSION from the library

Otherwise the output of 'wimlib-imagex --version' for beta versions
would be confusing.

wimlib-imagex: print version of library being used

v1.12.0

win32_apply: bail if paths are too long for a UNICODE_STRING

win32_common: fix windows_msg() with long messages

1.12.0-BETA2

wimlib-imagex: add --quiet option

lzx_decompress: redeclare input_bitstream above main loop

unaligned: use may_alias attribute

gcc7 miscompiles the "undo" mode of translate_if_needed() in
lzms_common.c because the get_unaligned_le16() was incorrectly being
moved before the put_unaligned_le32().  Fix it by marking the special
"unaligned" structs with the may_alias attribute.

Use dynamically-sized path buffer when scanning files

This is needed to guarantee that no buffer overflow can occur when
scanning a deep directory structure.  The new way also avoids using
PATH_MAX, which fixes a build error on systems that don't define it.

mkwinpeimg: syslinux modules may be in /usr/lib/syslinux/modules/bios

update_image.c: Ignore Windows 10 Recycle Bin directories.

On Windows 10 (possibly earlier versions?), the \$RECYCLE.BIN or
\$Recycle.Bin directories are created in the root of a volume.
Both case variants here so capture of an NTFS volume from Linux
should work, but wouldn't make a difference when capturing on
Windows.

1.12.0-BETA1

tests: test capturing+applying file with negative UNIX timestamp

... and start comparing mtime in tree-cmp, and fix cases where return
codes in scripts were being ignored by use of '&&'.

wlfuzz: compare timestamps

Improved year 2038 safety

Make wimlib on 32-bit Windows year 2038 safe by doing the following:

- Build both the library and program with 64-bit time_t, being careful
  to avoid changing the timespec struct exposed in the API.
- Update wimlib's API to include an extended seconds field in
  wimlib_dir_entry for each timestamp, and set it when tv_sec is 32-bit.
- When needing the current time, call GetSystemTimeAsFileTime() instead
  of MinGW's gettimeofday().

This also has the advantage that due to switching to the 64-bit time_t
functions, 32-bit wimlib-imagex.exe now prints timestamps prior to year
1970 correctly.

Unfortunately, despite the API improvement, we cannot at this time make
wimlib fully Y2038-safe on 32-bit UNIX, due to lack of OS support.

timestamp.c: correctly convert negative UNIX timestamps

ntfs-3g_apply.c: note bugs fixed in NTFS-3G version 2017.3.23

avl_tree.h: avoid bad function pointer cast

Casting the type of the 'cmp' function, while under normal circumstances
compiled correctly, was not technically correct and was not compatible
with some control flow integrity (CFI) implementations.

Add tools/clang-build-with-cfi

v1.11.0

examples/compressfile.c: add back colon that got deleted

tagged_items.c: statically verify size of tagged item header

xattr.h: statically verify size of xattr header

lzx_compress: optimize storing information in lzx_sequence

Pack the literal run length and match length ourselves instead of using
bitfields, and store the actual match length instead of the adjusted
match length.  Also make matchlen=0 represent end-of-block, and store
the full main symbol, not just the match header.

Don't generate GUID in wimlib_create_new_wim()

It's not necessary to generate a GUID in wimlib_create_new_wim() because
one is generated later by wimlib_write(), and nothing seems to assume
that a WIMStruct not yet backed by a file has a valid GUID.  This saves
a call to get_random_bytes().  Also remove some unnecessary
initializations to 0.

lzx_compress: fix corruption with long literal run

The last round of updates to the LZX compressor made it start being able
to use larger blocks, up to ~100KB.  Unfortunately it was overlooked
that this allows literal runs > 65535 bytes while in one place the
length of a literal run was still being stored in a u16.  Therefore, on
incompressible input data this could be wrapped around, causing
incorrect compression.  Fix this by enlarging the variable.

wimappend: support --delta-from option

--delta-from was previously only supported by wimcapture.  But it is
trivial to make wimappend support it too, and it could be useful.

hc_matchfinder: use well-defined initialization of best_matchptr

The initial value of best_matchptr is not truly used, but since we do
always compute 'in_next - best_matchptr', assign an initial value which
avoids undefined behavior.

unix_apply.c: use #ifdef HAVE_XATTR_SUPPORT, not #if HAVE_XATTR_SUPPORT

extract.c: recommend --unix-data mode when appropriate

tagged_items: rename inode_set_tagged_data() to inode_set_tagged_item()

(for consistency with inode_get_tagged_item())

wimdir: make documention correctly reflect that IMAGE is optional

wimmount.1: mention long forms

wimlib-imagex: fix recommendation to read PDF documentation

Recommend wimFOO.pdf instead of wimlib-imagex-FOO.pdf.  (Also `man
wimFOO` instead of `man wimlib-imagex-FOO'.)

v1.11.0-BETA5

wlfuzz: sometimes generate security.capability xattrs

unix_apply.c: fix applying security xattrs

Documentation updates, mainly to the man pages

- Use short command names like wimFOO instead of wimlib-imagex FOO
- Lots of other small improvements

v1.11.0-BETA4

wlfuzz: generate and compare extended attributes

wlfuzz: generate and compare standard UNIX file permissions and special files

wlfuzz: generate and compare symlinks

wlfuzz: generate and compare object IDs

wlfuzz: don't generate hard linked reparse points

wlfuzz: don't generate . and .. filenames

wlfuzz: compare generated image after just writing it out

Document xattr support

unix_apply.c: support applying extended attributes

unix_capture.c: support capturing extended attributes

Add new error codes for xattr extraction errors

Add basic infrastructure for storing xattr items

Define a new tagged metadata item to hold a list of names and values of
Linux-style extended attributes, and prepare for supporting
capture/apply of extended attributes.

I considered making the xattrs a stream instead, referenced from the
tagged item which would just hold a hash.  This would have allowed
xattrs to be deduplicated between files.  However, I ultimately decided
against this because WIMGAPI and older versions of wimlib would discard
the streams on optimize/export, and extraction would be much more
complicated because xattr streams could come up for extraction before
other streams --- which would be especially problematic for symlinks.

tagged_items updates

- Expose tagged_item functions in new header tagged_items.h
- Make object_id functions inline functions in object_id.h
- Make inode_get_tagged_item() return stored length, not aligned length
- Add a new function inode_set_tagged_data() which removes existing
  items before setting the new one, and use it for inode_set_object_id()
- Make inode_add_tagged_item() append item rather than prepend
- Keep items 8-byte aligned in memory

.gitignore: ignore files generated by running tests

Improve random number generation

wimlib used rand() to generate random numbers, e.g. for GUIDs.  This was
neither cryptographically secure nor thread-safe.  Use getrandom(),
/dev/urandom, or RtlGenRandom() instead.

Constify some data

join.c: clean up verify_swm_set()

UBSAN complained when the parts_to_swms array had 0 length.  Clean this
up by sorting the parts first, making the verification simpler.  Also
don't bother checking compression_type and chunk_size anymore; checking
guid should be sufficient, and it doesn't really matter if the
compression formats are different since now everything will be written
out correctly anyway.

util.c: check for calloc multiplication overflow

lcpit_matchfinder.c: update link to libdivsufsort

wlfuzz: don't generate reserved short names with extension

wlfuzz: updates for sparse files

win32-test-imagex-capture_and_apply: sparse file tests

Extract sparse files as sparse

When extracting a stream belonging to an inode with
FILE_ATTRIBUTE_SPARSE_FILE set, before writing any data, mark the
extracted stream as sparse if needed and skip preallocating space.
Then, skip writing zero regions.  This makes it so that sparse files are
still sparse after extraction.

unix_apply.c: preallocate space for regular files

unix_capture.c: mark regular files as sparse when appropriate

resource: pass blob and offset to consume_chunk

This makes it so that users don't need to keep track of the current blob
and offset themselves.

Improved handling of Data Deduplication reparse points

v1.11.0-BETA1

examples: C++ and Windows compatibility

Include import library and header in Windows releases

wimlib.h: define bool for old MSVC versions

It's also unnecessary to define bool in C++ mode.

wimlib.h: include <stdint.h> instead of <inttypes.h>

We only need stdint.h, and old (VS pre-2013) MSVC versions don't have
inttypes.h.

wimlib.h: test _WIN32 instead of __WIN32__

MSVC defines _WIN32 but not __WIN32__.  MinGW defines both.

wimlib.h: define timespec for MSVC compatibility

wlfuzz: note Windows restrictions on short names

wlfuzz: allow short name associated with long name ending with dot or space

ntfs-3g_apply.c: add message about another known libntfs-3g bug

README.WINDOWS: document building with release script

integrity.c: add casts when converting endianness in-place

This fixes some 'sparse' warnings.  No change in behavior.