]> wimlib.net Git - wimlib/blob - src/hardlink.c
87f75a872a5a6d56d87835b51111b946bd231a81
[wimlib] / src / hardlink.c
1 /*
2  * hardlink.c
3  *
4  * Code to deal with hard links in WIMs.  Essentially, the WIM dentries are put
5  * into a hash table indexed by the inode ID field, then for each hard
6  * inode, a linked list is made to connect the dentries.
7  */
8
9 /*
10  * Copyright (C) 2012 Eric Biggers
11  *
12  * This file is part of wimlib, a library for working with WIM files.
13  *
14  * wimlib is free software; you can redistribute it and/or modify it under the
15  * terms of the GNU General Public License as published by the Free
16  * Software Foundation; either version 3 of the License, or (at your option)
17  * any later version.
18  *
19  * wimlib is distributed in the hope that it will be useful, but WITHOUT ANY
20  * WARRANTY; without even the implied warranty of MERCHANTABILITY or FITNESS FOR
21  * A PARTICULAR PURPOSE. See the GNU General Public License for more
22  * details.
23  *
24  * You should have received a copy of the GNU General Public License
25  * along with wimlib; if not, see http://www.gnu.org/licenses/.
26  */
27
28 #include "wimlib_internal.h"
29 #include "dentry.h"
30 #include "list.h"
31 #include "lookup_table.h"
32
33 /*                             NULL        NULL
34  *                              ^           ^
35  *         dentry               |           |                
36  *        /     \          -----------  -----------           
37  *        |      dentry<---|  struct  | |  struct  |---> dentry
38  *        \     /          |inode| |inode|       
39  *         dentry          ------------ ------------
40  *                              ^           ^
41  *                              |           |
42  *                              |           |                   dentry
43  *                         -----------  -----------            /      \
44  *               dentry<---|  struct  | |  struct  |---> dentry        dentry
45  *              /          |inode| |inode|           \      /
46  *         dentry          ------------ ------------            dentry
47  *                              ^           ^
48  *                              |           |
49  *                            -----------------
50  *    inode_table->array | idx 0 | idx 1 | 
51  *                            -----------------
52  */
53
54
55 int init_inode_table(struct inode_table *table, size_t capacity)
56 {
57         table->array = CALLOC(capacity, sizeof(table->array[0]));
58         if (!table->array) {
59                 ERROR("Cannot initalize inode table: out of memory");
60                 return WIMLIB_ERR_NOMEM;
61         }
62         table->num_entries  = 0;
63         table->capacity     = capacity;
64         INIT_HLIST_HEAD(&table->extra_inodes);
65         return 0;
66 }
67
68
69 static size_t inode_link_count(const struct inode *inode)
70 {
71         const struct list_head *cur;
72         size_t size = 0;
73         list_for_each(cur, &inode->dentry_list)
74                 size++;
75         return size;
76 }
77
78 static struct dentry *inode_first_dentry(struct inode *inode)
79 {
80         return container_of(inode->dentry_list.next, struct dentry,
81                             inode_dentry_list);
82 }
83
84 /* 
85  * Insert a dentry into the inode table based on its inode
86  * ID.
87  *
88  * If there is already a dentry in the table having the same inode ID,
89  * and the inode ID is not 0, the dentry is added to the circular
90  * linked list for that inode.
91  *
92  * If the inode ID is 0, this indicates a dentry that's in a hard link
93  * inode by itself (has a link count of 1).  We can't insert it into the hash
94  * table itself because we don't know what inode numbers are available to
95  * give it (this could be kept track of but would be more difficult).  Instead
96  * we keep a linked list of the single dentries, and assign them inode
97  * numbers later.
98  */
99 int inode_table_insert(struct dentry *dentry, void *__table)
100 {
101         struct inode_table *table = __table;
102         struct inode *d_inode = dentry->inode;
103
104         if (d_inode->ino == 0) {
105                 /* Single inode--- Add to the list of extra inodes (we can't put
106                  * it in the table itself because all the singles have a link
107                  * inode ID of 0) */
108                 hlist_add_head(&d_inode->hlist, &table->extra_inodes);
109
110                 wimlib_assert(d_inode->dentry_list.next == &dentry->inode_dentry_list);
111                 wimlib_assert(d_inode->dentry_list.prev == &dentry->inode_dentry_list);
112                 wimlib_assert(d_inode->link_count == 1);
113         } else {
114                 /* Inode that may have multiple corresponding dentries (the code
115                  * will work even if the inode actually contains only 1 dentry
116                  * though) */
117
118                 size_t pos;
119                 struct inode *inode;
120                 struct hlist_node *cur;
121
122                 /* Try adding to existing inode */
123                 pos = d_inode->ino % table->capacity;
124                 hlist_for_each_entry(inode, cur, &table->array[pos], hlist) {
125                         if (inode->ino == d_inode->ino) {
126                                 list_add(&dentry->inode_dentry_list,
127                                          &inode->dentry_list);
128                                 inode->link_count++;
129                                 return 0;
130                         }
131                 }
132
133                 /* Add new inode to the table */
134                 hlist_add_head(&d_inode->hlist, &table->array[pos]);
135
136                 wimlib_assert(d_inode->dentry_list.next == &dentry->inode_dentry_list);
137                 wimlib_assert(d_inode->dentry_list.prev == &dentry->inode_dentry_list);
138                 wimlib_assert(d_inode->link_count == 1);
139
140                 /* XXX Make the table grow when too many entries have been
141                  * inserted. */
142                 table->num_entries++;
143         }
144         return 0;
145 }
146
147 /* Assign the inode numbers to dentries in a inode table, and return the
148  * next available inode ID. */
149 u64 assign_inode_numbers(struct hlist_head *inode_list)
150 {
151         struct inode *inode;
152         struct hlist_node *cur;
153         u64 cur_ino = 1;
154         struct dentry *dentry;
155         hlist_for_each_entry(inode, cur, inode_list, hlist) {
156                 inode->ino = cur_ino;
157                 cur_ino++;
158         }
159         return cur_ino;
160 }
161
162
163 static void
164 print_inode_dentries(const struct inode *inode)
165 {
166         struct dentry *dentry;
167         list_for_each_entry(dentry, &inode->dentry_list, inode_dentry_list)
168                 printf("`%s'\n", dentry->full_path_utf8);
169 }
170
171 static void inconsistent_inode(const struct inode *inode)
172 {
173         ERROR("An inconsistent hard link group that we cannot correct has been "
174               "detected");
175         ERROR("The dentries are located at the following paths:");
176         print_inode_dentries(inode);
177 }
178
179 static bool ref_inodes_consistent(const struct inode * restrict ref_inode_1,
180                                   const struct inode * restrict ref_inode_2)
181 {
182         wimlib_assert(ref_inode_1 != ref_inode_2);
183
184         if (ref_inode_1->num_ads != ref_inode_2->num_ads)
185                 return false;
186         if (ref_inode_1->security_id != ref_inode_2->security_id
187             || ref_inode_1->attributes != ref_inode_2->attributes)
188                 return false;
189         for (unsigned i = 0; i <= ref_inode_1->num_ads; i++) {
190                 const u8 *ref_1_hash, *ref_2_hash;
191                 ref_1_hash = inode_stream_hash(ref_inode_1, i);
192                 ref_2_hash = inode_stream_hash(ref_inode_2, i);
193                 if (!hashes_equal(ref_1_hash, ref_2_hash))
194                         return false;
195                 if (i && !ads_entries_have_same_name(ref_inode_1->ads_entries[i - 1],
196                                                      ref_inode_2->ads_entries[i - 1]))
197                         return false;
198
199         }
200         return true;
201 }
202
203 static bool inodes_consistent(const struct inode * restrict ref_inode,
204                               const struct inode * restrict inode)
205 {
206         wimlib_assert(ref_inode != inode);
207
208         if (ref_inode->num_ads != inode->num_ads &&
209             inode->num_ads != 0)
210                 return false;
211         if (ref_inode->security_id != inode->security_id
212             || ref_inode->attributes != inode->attributes)
213                 return false;
214         for (unsigned i = 0; i <= min(ref_inode->num_ads, inode->num_ads); i++) {
215                 const u8 *ref_hash, *hash;
216                 ref_hash = inode_stream_hash(ref_inode, i);
217                 hash = inode_stream_hash(inode, i);
218                 if (!hashes_equal(ref_hash, hash) && !is_zero_hash(hash))
219                         return false;
220                 if (i && !ads_entries_have_same_name(ref_inode->ads_entries[i - 1],
221                                                      inode->ads_entries[i - 1]))
222                         return false;
223         }
224         return true;
225 }
226
227 #ifdef ENABLE_DEBUG
228 static void
229 print_dentry_list(const struct dentry *first_dentry)
230 {
231         const struct dentry *dentry = first_dentry;
232         do {
233                 printf("`%s'\n", dentry->full_path_utf8);
234         } while ((dentry = container_of(dentry->inode_dentry_list.next,
235                                         struct dentry,
236                                         inode_dentry_list)) != first_dentry);
237 }
238
239 #endif
240
241
242 /* Fix up a "true" inode and check for inconsistencies */
243 static int fix_true_inode(struct inode *inode)
244 {
245         struct dentry *dentry;
246         struct dentry *ref_dentry = NULL;
247         struct inode *ref_inode;
248         u64 last_ctime = 0;
249         u64 last_mtime = 0;
250         u64 last_atime = 0;
251         bool found_short_name = false;
252
253         list_for_each_entry(dentry, &inode->dentry_list, inode_dentry_list) {
254                 if (!ref_dentry || ref_dentry->inode->num_ads == 0)
255                         ref_dentry = dentry;
256                 if (dentry->short_name_len) {
257                         if (found_short_name) {
258                                 ERROR("Multiple short names in hard link "
259                                       "group!");
260                                 inconsistent_inode(inode);
261                                 return WIMLIB_ERR_INVALID_DENTRY;
262                         } else {
263                                 found_short_name = true;
264                         }
265                 }
266                 if (dentry->inode->creation_time > last_ctime)
267                         last_ctime = dentry->inode->creation_time;
268                 if (dentry->inode->last_write_time > last_mtime)
269                         last_mtime = dentry->inode->last_write_time;
270                 if (dentry->inode->last_access_time > last_atime)
271                         last_atime = dentry->inode->last_access_time;
272         }
273
274         ref_inode = ref_dentry->inode;
275         ref_inode->link_count = 1;
276
277         list_for_each_entry(dentry, &inode->dentry_list, inode_dentry_list) {
278                 if (dentry != ref_dentry) {
279                         if (!inodes_consistent(ref_inode, dentry->inode)) {
280                                 inconsistent_inode(dentry->inode);
281                                 return WIMLIB_ERR_INVALID_DENTRY;
282                         }
283                         /* Free the unneeded `struct inode'. */
284                         free_inode(dentry->inode);
285                         dentry->inode = ref_inode;
286                         ref_inode->link_count++;
287                 }
288         }
289         ref_inode->creation_time = last_ctime;
290         ref_inode->last_write_time = last_mtime;
291         ref_inode->last_access_time = last_atime;
292         wimlib_assert(inode_link_count(ref_inode) == ref_inode->link_count);
293         return 0;
294 }
295
296 /* 
297  * Fixes up a nominal inode.
298  *
299  * By a nominal inode we mean a group of two or more dentries that share
300  * the same hard link group ID.
301  *
302  * If dentries in the inode are found to be inconsistent, we may split the inode
303  * into several "true" inodes.  @new_inodes points to a linked list of
304  * these split inodes, and if we create any, they will be added to this list.
305  *
306  * After splitting up each nominal inode into the "true" inodes we
307  * will canonicalize the link group by getting rid of all the superfluous
308  * `struct inodes'.  There will be just one `struct inode' for each hard link
309  * group remaining.
310  */
311 static int
312 fix_nominal_inode(struct inode *inode, struct hlist_head *inode_list)
313 {
314         struct dentry *dentry, *ref_dentry;
315         struct hlist_node *cur, *tmp;
316         int ret;
317         size_t num_true_inodes;
318
319         wimlib_assert(inode->link_count == inode_link_count(inode));
320
321         LIST_HEAD(dentries_with_data_streams);
322         LIST_HEAD(dentries_with_no_data_streams);
323         HLIST_HEAD(true_inodes);
324
325         /* Create a list of dentries in the nominal inode that have at
326          * least one data stream with a non-zero hash, and another list that
327          * contains the dentries that have a zero hash for all data streams. */
328         list_for_each_entry(dentry, &inode->dentry_list, inode_dentry_list) {
329                 for (unsigned i = 0; i <= dentry->inode->num_ads; i++) {
330                         const u8 *hash;
331                         hash = inode_stream_hash(dentry->inode, i);
332                         if (!is_zero_hash(hash)) {
333                                 list_add(&dentry->tmp_list,
334                                          &dentries_with_data_streams);
335                                 goto next_dentry;
336                         }
337                 }
338                 list_add(&dentry->tmp_list,
339                          &dentries_with_no_data_streams);
340         next_dentry:
341                 ;
342         }
343
344         /* If there are no dentries with data streams, we require the nominal
345          * inode to be a true inode */
346         if (list_empty(&dentries_with_data_streams)) {
347                 DEBUG("No data streams");
348         #ifdef ENABLE_DEBUG
349                 {
350                         if (inode->link_count > 1) {
351                                 DEBUG("Found link group of size %zu without "
352                                       "any data streams:", inode->link_count);
353                                 print_inode_dentries(inode);
354                                 DEBUG("We are going to interpret it as true "
355                                       "link group, provided that the dentries "
356                                       "are consistent.");
357                         }
358                 }
359         #endif
360                 hlist_add_head(&inode->hlist, inode_list);
361                 return fix_true_inode(inode);
362         }
363
364         /* One or more dentries had data streams specified.  We check each of
365          * these dentries for consistency with the others to form a set of true
366          * inodes. */
367         num_true_inodes = 0;
368         list_for_each_entry(dentry, &dentries_with_data_streams, tmp_list)
369         {
370                 /* Look for a true inode that is consistent with
371                  * this dentry and add this dentry to it.  Or, if none
372                  * of the true inodes are consistent with this
373                  * dentry, make a new one. */
374                 hlist_for_each_entry(inode, cur, &true_inodes, hlist) {
375                         if (ref_inodes_consistent(inode, dentry->inode)) {
376                                 list_add(&dentry->inode_dentry_list,
377                                          &inode->dentry_list);
378                                 goto next_dentry_2;
379                         }
380                 }
381                 num_true_inodes++;
382                 INIT_LIST_HEAD(&dentry->inode->dentry_list);
383                 list_add(&dentry->inode_dentry_list, &dentry->inode->dentry_list);
384                 hlist_add_head(&dentry->inode->hlist, &true_inodes);
385 next_dentry_2:
386                 ;
387         }
388
389         wimlib_assert(num_true_inodes != 0);
390
391         /* If there were dentries with no data streams, we require there to only
392          * be one true inode so that we know which inode to assign the
393          * streamless dentries to. */
394         if (!list_empty(&dentries_with_no_data_streams)) {
395                 if (num_true_inodes != 1) {
396                         ERROR("Hard inode ambiguity detected!");
397                         ERROR("We split up inode 0x%"PRIx64" due to "
398                               "inconsistencies,", inode->ino);
399                         ERROR("but dentries with no stream information remained. "
400                               "We don't know which true hard link");
401                         ERROR("inode to assign them to.");
402                         return WIMLIB_ERR_INVALID_DENTRY;
403                 }
404                 inode = container_of(true_inodes.first,
405                                      struct inode,
406                                      hlist);
407                 /* Assign the streamless dentries to the one and only true link
408                  * inode. */
409                 list_for_each_entry(dentry, &dentries_with_no_data_streams, tmp_list)
410                         list_add(&dentry->inode_dentry_list, &inode->dentry_list);
411         }
412         if (num_true_inodes != 1) {
413                 #ifdef ENABLE_DEBUG
414                 {
415                         printf("Split nominal inode 0x%"PRIx64" into %zu "
416                                "inodes:\n",
417                                inode->ino, num_true_inodes);
418                         puts("------------------------------------------------------------------------------");
419                         size_t i = 1;
420                         hlist_for_each_entry(inode, cur, &true_inodes, hlist) {
421                                 printf("[Split inode %zu]\n", i++);
422                                 print_inode_dentries(inode);
423                                 putchar('\n');
424                         }
425                         puts("------------------------------------------------------------------------------");
426                 }
427                 #endif
428         }
429
430         hlist_for_each_entry_safe(inode, cur, tmp, &true_inodes, hlist) {
431                 hlist_add_head(&inode->hlist, inode_list);
432                 ret = fix_true_inode(inode);
433                 if (ret != 0)
434                         return ret;
435         }
436         return 0;
437 }
438
439 /*
440  * Goes through each inode and shares the inodes among members of a hard
441  * inode.
442  *
443  * In the process, the dentries in each inode are checked for consistency.
444  * If they contain data features that indicate they cannot really be in the same
445  * inode, this should be an error, but in reality this case needs to
446  * be handled, so we split the dentries into different inodes.
447  */
448 int fix_inodes(struct inode_table *table, struct hlist_head *inode_list)
449 {
450         struct inode *inode;
451         struct hlist_node *cur, *tmp;
452         int ret;
453         INIT_HLIST_HEAD(inode_list);
454         for (u64 i = 0; i < table->capacity; i++) {
455                 hlist_for_each_entry_safe(inode, cur, tmp, &table->array[i], hlist) {
456                         ret = fix_nominal_inode(inode, inode_list);
457                         if (ret != 0)
458                                 return ret;
459                 }
460         }
461         hlist_for_each_safe(cur, tmp, &table->extra_inodes)
462                 hlist_add_head(cur, inode_list);
463         return 0;
464 }