source: soft/build_system/build_system/mkcd/tags/V4_1_1_1mdk/pm/Mkcd/Group.pm @ 1

Last change on this file since 1 was 1, checked in by fasma, 12 years ago

Initial Import from Mandriva's soft revision 224062 and package revision 45733

File size: 39.5 KB
Line 
1package Mkcd::Group;
2
3my $VERSION = '2.0.3';
4
5use strict;
6use File::NCopy qw(copy);       
7use File::Path;
8use Mkcd::Disc;
9use Mkcd::List;
10use Mkcd::Build;
11use Mkcd::Tools qw(cleanrpmsrate printTable printDiscsFile readBatchFile printBatchFile log_);
12use Mkcd::Package qw(genDeps getSize);
13use Mkcd::Shell;
14use MDK::Common qw(any);
15#use Mkcd::Optimize qw(print_conflict_matrix);
16
17=head1 NAME
18
19Group - mkcd module
20
21=head1 SYNOPSYS
22
23    require Mkcd::Group;
24
25=head1 DESCRIPTION
26
27C<Mkcd::Group> include the mkcd high level disc building routines.
28
29=head1 SEE ALSO
30
31mkcd
32
33=head1 COPYRIGHT
34
35Copyright (C) 2000,2001,2002,2003,2004 Mandrakesoft <warly@mandrakesoft.com>
36
37This program is free software; you can redistribute it and/or modify
38it under the terms of the GNU General Public License as published by
39the Free Software Foundation; either version 2, or (at your option)
40any later version.
41
42This program is distributed in the hope that it will be useful,
43but WITHOUT ANY WARRANTY; without even the implied warranty of
44MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
45GNU General Public License for more details.
46
47You should have received a copy of the GNU General Public License
48along with this program; if not, write to the Free Software
49Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.
50
51=cut
52
53my $config;
54
55sub new {
56    my ($class, $conf) = @_;
57    $config = $conf;
58    bless {
59            config      => $conf,
60            list        => new Mkcd::List($conf),
61            build       => new Mkcd::Build($conf),
62            disc        => new Mkcd::Disc($conf)
63       }, $class;
64}
65
66#
67# group structure
68#
69# $group[group number]{list}{rpm/srpm} = { list => [[cd, repname, {options}],[], ...,[]] }
70#
71# $group[group number]
72# brokendeps   => {
73#       rpm_depending_on_non_listed_locales => 1 ,
74#       rpm_which_deps_are_broken => 2,
75#       rpm_exluded_from_conf => 3 }
76# conflict     => { $group_number => 1 } this group have common disc with generic like function with group $group_number.
77# depslistid   => [ depslist id ]
78# depsrep      => deps repository name
79# discdep
80# discdeps     => { cd => { cds it depends on ] }
81# discrep
82# disc_impacted=> { cd => 1 }
83# done         => { rpm => rep number }
84# installDisc  => install disc for this group
85# filelist     => [FILELIST]
86# list
87# lang         => { locale1 => 1, locale2 => 1}
88# list_conflict=> { list => { type => { grp => { list => { type => 0/1 }}}}}
89# listmatrix
90# listmaxrep   => { rpm/srpm => { list => max ordered rep_name number for list list } }
91# listrpm      => { list => [ rpm ] }
92# listsize     => { rpm => { list => total rpm size, ... } }
93# listsort
94# maxlist
95# maxrep       => max ordered rep_name number
96# maxsize      => rpm maxsize
97# nodeps       => { list => 1}
98# options
99# orderedrep   => { rpm/srpm => { "rep_name" => num } }
100# orderedlist  => { rpm/srpm }
101# pkgdeps      => { package_name => [depslist dependencies ] }
102# pkgrate      => { rpm => rpmsrate_increase }
103# globrpm      => [ "path1/rpm1" ... "pathn/rpmq" ]
104# rejected     => { rpm => [ "error", "message" ] }
105# rep          => { type => list => [ { "path" => [pkg list] } } ]
106# rep_pkg      => { type => { "path" => [pkg list] } }
107# replist      => { $type => [ [ cd, repname, num, [ [related list, related curdir] [] ] ], [], ..., []] }
108# reploc
109# revdeps      => [ reversed depslist ]
110# rpmsrate     => { rpmsrate }
111# rpmsratepath => rpmsrate path
112# score        => [ score weight ]
113# scoredlist   => { rpm_name => score }
114# size         => { rpm_name => [filesize, list number, directory], ... }
115# srpmname     => { srpm => srpm-version-release }
116# sourcerpm    => { rpm => sourcerpm }
117# urpm         => URPM::urpm
118#     option added to urpm
119#     rpmkey
120#     sourcerpm
121#     rpm
122#
123
124sub getGroups {
125    my ($config, $lists) = @_;
126    my (@list, %cd, %done, %list, %repname);
127    log_("getGroups\n", $config->{verbose}, $config->{LOG}, 1);
128    foreach my $i (keys %$lists) {
129        log_("getGroups: disc $i\n", $config->{verbose}, $config->{LOG}, 2);
130        $cd{$i} = 1;
131        ref $config->{disc}[$i]{fastgeneric} or next;
132        foreach my $f (@{$config->{disc}[$i]{fastgeneric}}) {
133            my $repname = $f->[1]{repname};
134            my @k = keys %{$f->[1]};
135            ref $f->[1]{lists} or do { log_("ERROR getGroups: disc $i lists not defined for rep $repname\n", $config->{verbose}, $config->{LOG},3); next };
136            log_("getGroups: lists @{$f->[1]{lists}} repname $repname options (@k)\n", $config->{verbose}, $config->{LOG},3);
137            foreach my $g_list (@{$f->[1]{lists}}) {
138                log_("getGroups: list $g_list\n", $config->{verbose}, $config->{LOG}, 3);
139                my $idx;
140                $idx = push @{$list[$g_list]}, [ $i, ${repname}, $f->[1], {} ];
141                push @{$repname{$i}{$repname}}, [ $g_list, $idx - 1 ];
142                log_("getGroups: cd $i repname $repname list $g_list\n", $config->{verbose}, $config->{LOG},3);
143                $list{$g_list} = 0
144            }
145        }
146    }
147    my @group;
148    my $g = prepare_cloned_discs(\@group, \%done, $config, $lists);
149    my %donerep;
150    foreach my $i (keys %$lists) {
151        my $t = $config->{disc}[$i]{function}{data}{installation};
152        log_("getGroups: disc $i ($t)\n", $config->{verbose}, $config->{LOG},2);
153        ref $t and do {
154            log_("getGroups: install disc for group $g => ($i)\n", $config->{verbose}, $config->{LOG},3);
155            $group[$g]{installDisc} = $i;
156            $group[$g]{options} = $t->[1];
157            $group[$g]{score} ||= $t->[1]{score} || [1,1,1];
158            ($group[$g]{maxrep}{rpm}, $group[$g]{maxlist}{rpm}) = addRepList("rpm", $group[$g], $g, $t->[1]{rpmsdir}, $donerep{$g}, \%done, \%list, \%cd, \%repname, $i, \@list);
159            ($group[$g]{maxrep}{srpm}, $group[$g]{maxlist}{srpm}) = addRepList("srpm", $group[$g], $g, $t->[1]{srpmsdir}, $donerep{$g}, \%done, \%list, \%cd, \%repname, $i, \@list);
160            my $struct_v = $config->{struct_version};
161            my $media_info = $config->{struct}{$struct_v}{media_info};
162            $group[$g]{rpmsratepath} ||= $t->[1]{rpmsrate} || "$t->[1]{install}/$media_info/rpmsrate";
163            log_("getGroups: using $group[$g]{rpmsratepath} as rpmsrate file\n", $config->{verbose}, $config->{LOG},4);
164            $group[$g]{list} and $group[$g]{depsrep} = join '-', keys %{$group[$g]{list}};
165            log_("getGroups: $group[$g]{depsrep} defined as deps file directory\n", $config->{verbose}, $config->{LOG},4);
166            if (ref $t->[1]{lang}) {
167                foreach (@{$t->[1]{lang}}) { $group[$g]{lang}{$_} = 1 }
168            }
169
170            $group[$g]{discdeps}{$i} ||= {};
171            log_("getGroups DEBUG: discdep for group $g => ($group[$g]{discdep})\n", $config->{verbose}, $config->{LOG},5);
172            $g++;
173        }
174    }
175    my %alone;
176    foreach (keys %list) {
177        $list{$_} and next;
178        log_("getGroups: searching alone groups list $_\n", $config->{verbose}, $config->{LOG},2);
179        # FIXME not clean as now with the --group option of generic getAlone add new group
180        $group[$g]{score} = [1,1,1];
181        $group[$g]{depsrep} = $_;
182        $g = getAlone($list[$_], $_, \@group, $g, \%done, \%alone);
183        $list{$_}++;
184        log_("getGroups: adding a group $g for list $_\n", $config->{verbose}, $config->{LOG},2);
185        $g++
186    }
187
188    foreach my $i (keys %$lists) {
189        $done{$i} and next;
190        $done{$i} = {};
191        log_("getGroups: searching alone disc disc $i does not handled by any group, setting alone group\n", $config->{verbose}, $config->{LOG},2);
192        $group[$g]{discdeps}{$i} ||= {};
193        log_("getGroups: adding a group $g for disc $i\n", $config->{verbose}, $config->{LOG},2);
194        $g++
195    }
196   
197    for (my $i; $i < @group; $i++) {
198        $group[$i]{orderedlist}{rpm} ||= [];
199        foreach (@{$group[$i]{orderedlist}{rpm}}) {
200            $group[$i]{list}{$_}{srpm} ||= []
201        }
202        $group[$i]{orderedlist}{srpm} ||= [];
203        log_("getGroups: ordered rpm list for group $i: @{$group[$i]{orderedlist}{rpm}}\n", $config->{verbose}, $config->{LOG},2);     
204        log_("getGroups: ordered srpm list for group $i: @{$group[$i]{orderedlist}{srpm}}\n", $config->{verbose}, $config->{LOG},2);   
205    }
206   
207    # $config->{verbose} and printTable(\@group);
208    \@group
209}
210
211sub getAlone {
212    my ($list, $ls, $groups, $g, $done, $alone) = @_;
213    my $num = 1;
214    $list or return;
215    my $lnsort = 1;
216    my $replist_list;
217    my $group = $groups->[$g];
218    my $grp = $g;
219    my $inc;
220    foreach my $l (@$list) {
221        my ($cd, $rep, $opt) = @$l;
222        $done->{$cd}{$rep}{$ls} and next;
223        log_("WARNING getAlone: rep $rep of list $_ does not belong to any installation disc, setting alone group $g\n", $config->{verbose}, $config->{LOG}, 1);
224        my $type = $opt->{source} ? "srpm" : "rpm";
225        log_("getAlone: searching alone groups list $ls cd $cd rep $rep type $type\n", $config->{verbose}, $config->{LOG},1);
226        if ($opt->{group}) {
227            $num = 1;
228            if ($alone->{$opt->{group}}) {
229                $grp--;
230                $g = $alone->{$opt->{group}};
231                log_("getAlone: using existing group $g\n", $config->{verbose}, $config->{LOG},1);
232                $group = $groups->[$g]
233            } else {
234                if ($inc) {
235                    $grp++;
236                    log_("getAlone: creating a new group $g\n", $config->{verbose}, $config->{LOG},1);
237                    $groups->[$grp]{score} = [1,1,1];
238                    $groups->[$grp]{depsrep} = $ls;
239                }
240                $g = $grp;
241                $alone->{$opt->{group}} = $g;   
242                $group = $groups->[$g];
243                $inc = 1
244            }
245            log_("getAlone: adding list $ls cd $cd rep $rep type $type in group $opt->{group} ($g)\n", $config->{verbose}, $config->{LOG},1);
246        }
247        $group->{list}{$ls}{$type} or push @{$group->{orderedlist}{$type}}, $ls;       
248        log_("getAlone: ordered list for group $g type $type (@{$group->{orderedlist}{$type}})\n", $config->{verbose}, $config->{LOG},1);
249        $group->{listmatrix}{$type}{$ls}{$ls} = 1;
250        $config->{list}[$ls]{disc}{$cd}{$rep}{master} ||= $g;
251        if (! exists $config->{disc}[$cd]{group_master}) {
252            log_("getAlone: setting group $g as master of disc $cd\n", $config->{verbose}, $config->{LOG},2);
253            $config->{disc}[$cd]{group_master} = $g;
254            push @{$group->{master_of_disc}}, $cd
255        }
256        $config->{disc}[$cd]{group_list}{$g}{$ls}{$type} = 1;
257        push @{$group->{list}{$ls}{$type}}, $l;
258        push @{$group->{list_cd}{$ls}{$cd}{$type}}, $l;
259        my $cur_num = \$group->{orderedrep}{$type}{"$cd/$rep"};
260        print "CUR_NUM group $group ($g) curnum $cur_num $$cur_num\n";
261        if (! $$cur_num) {
262            $$cur_num = $num;
263            $replist_list = { $ls => $l };
264            $group->{orderedrep}{$type}{"$cd/$rep"} = $num;
265            $group->{replist}{$type}[$num-1] = [ $cd, $rep, $num, $replist_list ];
266            $num++
267        } else {
268            $group->{replist}{$type}[$$cur_num-1][3]{$ls} = $l
269        }
270        print "CUR_NUM $cur_num $$cur_num\n";
271        foreach my $v (@{$config->{list}[$ls]{virtual}}) {
272            my ($d_cd, $d_rep) = ($v->{disc}, $v->{repname});
273            log_("getAlone: setting disc_prereq for disc on disc $d_cd for list $ls disc $cd group $g\n", $config->{verbose}, $config->{LOG},2);
274            $group->{disc_prereq}{$d_cd}++
275        }
276        if (!$group->{listsort}{$ls}{$type}) { $group->{listsort}{$ls}{$type} = $lnsort++ };
277        $done->{$cd}{$rep}{$ls}++;
278        log_("getAlone: searching alone groups group $g handle disc $l->[0]\n", $config->{verbose}, $config->{LOG},2);
279        # FIXME discdeps may be deprecated for group as hdlists are built without reading real directories.
280        $group->{discdeps}{$l->[0]} ||= {};
281        $group->{disc_impacted}{$l->[0]} = 1;
282        log_("getAlone: setting nodeps flag for group $g list $ls\n", $config->{verbose}, $config->{LOG},3) if $opt->{nodeps};
283        $group->{nodeps}{$ls} = $opt->{nodeps};
284        $group->{options}{nodeps} = $opt->{nodeps}
285    }
286    $grp
287}
288
289sub addRepList {
290    my ($type, $group, $g, $replist, $donerep, $done, $list, $disc, $repname, $i, $listTable) = @_;
291    my $num = 1;
292    my $lnsort = 1;
293    my $replist_list;
294    foreach (@$replist) {
295        my ($cdlist, $cd, $name) = @$_;
296        my $opt = $_->[3] || {};
297        log_("getGroups: group $g cd $cd repname $name list $cdlist noauto ($opt->{noauto})\n", $config->{verbose}, $config->{LOG},2);
298        if ($donerep->{$type}{$cd}{$name}{$cdlist}) {
299            log_("ERROR getGroups: $cd/$name/$cdlist is defined multiple time for group $g, ignoring\n", $config->{verbose}, $config->{LOG}); next }
300        $donerep->{$type}{$cd}{$name}{$cdlist} = 1;
301        if (!$disc->{$cd}) { log_("ERROR getGroups: disc $cd not in list, ignoring\n", $config->{verbose}, $config->{LOG}); next }
302        my $ln = $repname->{$cd}{$name};
303        if (!$ln) { log_("ERROR getGroups: $name on disc $cd does not exist\n", $config->{verbose}, $config->{LOG}); next }
304        my $cur_num = \$group->{orderedrep}{$type}{"$cd/$name"};
305        if (! $$cur_num) {
306            $$cur_num = $num;
307            $replist_list = {};
308            $group->{orderedrep}{$type}{"$cd/$name"} = $num;
309            @{$group->{reverse_rep}{$type}{$num}}{'cd','name'} = ($cd, $name);
310            log_("getGroups: reverse rep for $num type $type $group->{reverse_rep}{$type}{$num}{cd} - $group->{reverse_rep}{$type}{$num}{name}\n", $config->{verbose}, $config->{LOG},2);
311            $group->{replist}{$type}[$num-1] = [ $cd, $name, $num, $replist_list ];
312            $num++
313        } else {
314            $replist_list = $group->{replist}{$type}[$$cur_num-1][3]
315        }
316        $cd != $i and $group->{discdeps}{$i}{$cd}++;
317        $group->{disc_impacted}{$cd} = 1;
318        if ($cd != $i) { log_("getGroups: group $g ($i) handle disc $cd\n", $config->{verbose}, $config->{LOG},2) }
319        foreach my $l (@$ln) {
320            my ($ls, $idx) = @$l;
321            next if $cdlist && $cdlist != $ls;
322            next if $replist_list->{$ls};
323            my $list_options = $listTable->[$ls][$idx][2];
324            if ($group->{listmaxrep}{$type}{$ls} < $group->{orderedrep}{$type}{"$cd/$name"}) { $group->{listmaxrep}{$type}{$ls} = $group->{orderedrep}{$type}{"$cd/$name"} }
325            $group->{list}{$ls}{$type} or push @{$group->{orderedlist}{$type}}, $ls;   
326            foreach my $lst (@{$group->{orderedlist}{$type}}) { 
327                log_("addRepList: listmatrix $type list $ls list $lst\n", $config->{verbose}, $config->{LOG},2);
328                $group->{listmatrix}{$type}{$ls}{$lst} = 1 
329            }
330            foreach my $lst_ent (@$ln) { 
331                log_("addRepList: listmatrix $type list $ls list $lst_ent->[0]\n", $config->{verbose}, $config->{LOG},2);
332                $group->{listmatrix}{$type}{$ls}{$lst_ent->[0]} = 1 
333            }
334            if (!$group->{listsort}{$ls}{$type}) { $group->{listsort}{$ls}{$type} = $lnsort++ };
335            my $curdir = [ $cd, $name, $list_options, $opt ];
336            push @{$group->{list}{$ls}{$type}}, $curdir;
337            push @{$group->{list_cd}{$ls}{$cd}{$type}}, $curdir;
338            $replist_list->{$ls} = $curdir;
339            foreach my $v (@{$config->{list}[$ls]{virtual}}) {
340                my ($d_cd, $d_rep) = ($v->{disc}, $v->{repname});
341                log_("addRepList: setting disc_prereq for disc on disc $d_cd for list $ls disc $cd group $g\n", $config->{verbose}, $config->{LOG},2);
342                $group->{disc_prereq}{$d_cd}++
343            }
344            if ($opt->{fixed}) {
345                if (! exists $config->{list}[$ls]{disc}{$cd}{$name}{master}) {
346                    log_("WARNING addRepList: disc $cd list $ls rep $name has no master yet\n", $config->{verbose}, $config->{LOG},2) if !$config->{list}[$ls]{disc}{$cd}{$name}{master};
347                    $config->{list}[$ls]{disc}{$cd}{$name}{master} = $g
348                }
349            } else {
350                # this group is the master for this rep
351                log_("ERROR addRepList: group $g has already a master, overridding\n", $config->{verbose}, $config->{LOG},2) if $config->{list}[$ls]{disc}{$cd}{$name}{master};
352                $config->{list}[$ls]{disc}{$cd}{$name}{master} = $g;
353                if (! exists $config->{disc}[$cd]{group_master}) {
354                    log_("addRepList: setting group $g as master of disc $cd\n", $config->{verbose}, $config->{LOG},2);
355                    $config->{disc}[$cd]{group_master} = $g;
356                    push @{$group->{master_of_disc}}, $cd
357                }
358            }
359            $config->{disc}[$cd]{group_list}{$g}{$ls}{$type} = 1;
360            $list->{$ls}++;
361            $done->{$cd}{$name}{$ls}++;
362        }
363    }
364    return $num, $lnsort
365}
366
367sub preCheck {
368    # TODO
369    # may not be necessary
370}
371
372sub orderGroups {
373    my ($config, $groups, $lists, $acds) = @_;
374    my @metagroups;
375    my @tmpmetagroups;
376    my @groupmeta;
377    my $ok;
378    my $check_group = sub {
379        my ($i, $og, $cd) = @_;
380        log_("orderGroups: checking group $i\n", $config->{verbose}, $config->{LOG},1);
381        if (ref $groups->[$i]{master_of_disc}) {
382            if ($groupmeta[$i] == $groupmeta[$og]) {
383                log_("orderGroups: setting group $i different from $og cos of disc $cd\n", $config->{verbose}, $config->{LOG},5);
384                $groupmeta[$i] = $groupmeta[$og] + 1;
385                return 0;
386            }
387        } elsif ($groupmeta[$i] != $groupmeta[$og] && $og == $config->{disc}[$cd]{group_master}) {
388            log_("orderGroups: setting group $i equal to $og cos of disc $cd\n", $config->{verbose}, $config->{LOG}, 5);
389            $groupmeta[$i] = $groupmeta[$og];
390            return 0
391        }
392        1
393    };
394    # FIXME This algo can create empty metagroups
395    while (!$ok) {
396        log_("orderGroups: ordering metagroups\n", $config->{verbose}, $config->{LOG}, 4);
397        $ok = 1;
398        my %handled;
399        for (my $i; $i < @$groups; $i++) {
400            if ($groups->[$i]{installDisc}) {
401                $lists->{$groups->[$i]{installDisc}} == 2 or next
402            }
403            log_("orderGroups: group $i (install disc $groups->[$i]{installDisc})\n", $config->{verbose}, $config->{LOG}, 6);
404            foreach my $list (keys %{$groups->[$i]{list}}) {
405                foreach my $type (keys %{$groups->[$i]{list}{$list}}) {
406                    foreach my $rep (@{$groups->[$i]{list}{$list}{$type}}) {
407                        my ($cd, $r) = ($rep->[0], $rep->[1]);
408                        $lists->{$cd} == 2 or next;
409                        my $og = $config->{disc}[$cd]{group_master};
410                        $handled{$cd}{$og} = 1;
411                        $og == $i and next;
412                        log_("orderGroups: master of disc $cd/$r = ($og)\n", $config->{verbose}, $config->{LOG}, 8);
413                        $ok &&= $check_group->($i,$og,$cd);
414                    }
415                }
416            }
417        }
418        for (my $i; $i < @$groups; $i++) {
419            foreach my $cd (keys %{$groups->[$i]{disc_prereq}}) {
420                log_("ordreGroups: searching for disc_prereq for group $i disc $cd\n", $config->{verbose}, $config->{LOG}, 5);
421                foreach (keys %{$handled{$cd}}) {
422                    $_ == $i and next;
423                    log_("ordreGroups: disc $cd handled by group $_\n", $config->{verbose}, $config->{LOG}, 5);
424                    # I do not want group to be set equal in prereq checking (this happen for alone groups when the CD is owned by another group)
425                    #$ok &&= $check_group->($i,$_,$cd);
426                    if ($groupmeta[$i] == $groupmeta[$_]) {
427                        log_("orderGroups: setting group $i different from $_ cos of disc $cd\n", $config->{verbose}, $config->{LOG}, 3);
428                        $groupmeta[$i] = $groupmeta[$_] + 1;
429                        $ok = 0
430                    } 
431                }
432            }
433        }
434    }
435    for (my $i; $i < @$groups; $i++) {
436        if ($groups->[$i]{installDisc}) {
437            $lists->{$groups->[$i]{installDisc}} == 2 or next
438        }
439        log_("orderGroups: group $i metagroup $groupmeta[$i]\n", $config->{verbose}, $config->{LOG}, 8);
440        push @{$tmpmetagroups[$groupmeta[$i]][0]}, $groups->[$i];
441    }
442    my %donedisc;
443    for (my $meta; $meta < @tmpmetagroups; $meta++) {
444        my $mg = $tmpmetagroups[$meta];
445        my %cd;
446        my %cdg;
447        my %iogroup;
448        my %cdiogroup;
449        my $i = 1;
450        foreach (@$acds) { $cd{$_} = $i; $cdiogroup{$_} = $i++ }
451        my $grps = $mg->[0];
452        my $i = 0;
453        foreach (0 .. $#$grps){ $iogroup{$_} = $i++ }
454        my $loop;
455        my $ok = 0;
456        my %groups_conflict;
457        my %old_values;
458        while (!$ok && !$loop) {
459ordering_loop: {
460            $ok = 1;
461            # WARNING group number are not definitive here, they must not be saved!
462            foreach my $gn (0 .. $#$grps) {
463                my $g = $grps->[$gn];
464                my @discdeps = (keys %{$g->{discdeps}});
465                my @lists =  (keys %{$g->{list}});
466                log_("orderGroups: group $gn discs @discdeps list @lists\n", $config->{verbose}, $config->{LOG}, 5);
467                foreach my $cd (@discdeps) {
468                    log_("orderGroups: disc $cd DONEDISC $donedisc{$cd} group $gn\n", $config->{verbose}, $config->{LOG}, 5);
469                    $donedisc{$cd} and next;
470                    if ($iogroup{$gn}) {
471                        log_("orderGroups: making disc $cd from group $gn in the same iogroup as group $gn ($iogroup{$gn})\n", $config->{verbose}, $config->{LOG}, 5);
472                        if ($iogroup{$gn} != $cdiogroup{$cd}) {
473                            if ($cdiogroup{$cd} == $old_values{$gn}) {
474                                log_("ERROR: orderGroups: loop in discs dependencies, taking manual order\n", $config->{verbose}, $config->{LOG}); 
475                                $loop = 1;
476                                last ordering_loop
477                            }
478                            $old_values{$gn} = $iogroup{$gn};
479                            $iogroup{$gn} = $cdiogroup{$cd};
480                            foreach my $all_cd (@discdeps) {
481                                $cdiogroup{$all_cd} = $iogroup{$gn};
482                            }
483                            $ok = 0
484                        }
485                    } else {
486                        $iogroup{$gn} = $cdiogroup{$cd}
487                    }
488                    $groups_conflict{$cd}{$gn} = 1;
489                    #$g->{conflict} = $groups_conflict{$cd};
490                    #log_("orderGroups: group $gn conflict with group $gn ($g->{conflict}{$gn})\n", $config->{verbose}, $config->{LOG}, 4);
491                    log_("orderGroups: orderGroups: disc $cd\n", $config->{verbose}, $config->{LOG}, 5);
492                    $lists->{$cd} >= 1 or next;
493                    $cdg{$cd} = {};
494                    if (ref $g->{discdeps}{$cd}) {
495                        foreach (keys %{$g->{discdeps}{$cd}}) {
496                            $donedisc{$_} and next;
497                            $cdiogroup{$_} = $cdiogroup{$cd}; 
498                            log_("orderGroups: disc $cd => $_\n", $config->{verbose}, $config->{LOG}, 7);
499                            if ($cdg{$cd}{$_}) { 
500                                log_("ERROR: orderGroups: loop in discs dependencies, taking manual order\n", $config->{verbose}, $config->{LOG}); 
501                                $loop = 1;
502                                last ordering_loop
503                            }
504                            $cdg{$cd}{$_} = 1;
505                            $cdg{$_} = {};
506                            if ($cd{$cd} <= $cd{$_}) { 
507                                $cd{$cd} = $cd{$_} + 1;
508                                $ok = 0
509                            }
510                        }
511                    }
512                }
513            }
514        }
515        }
516        # FIXME This code may not be needed, as the group with only fixed list are alone, and only linked to one disc, they should
517        # not be separated into a new IO group, but this I am not sure.
518        foreach my $gn (0 .. $#$grps) {
519            my $g = $grps->[$gn];
520            my @discdeps = (keys %{$g->{discdeps}});
521            my @lists =  (keys %{$g->{list}});
522            my $all_fixed = 1;
523            foreach my $list (@lists) {
524                $all_fixed &&= $config->{list}[$list]{fixed}
525            }
526            if ($all_fixed) {
527                # a fixed rep should only have one CD
528                my ($cd) = $discdeps[0];
529                log_("orderGroups: all the list are fixed for group $gn, including it into same iogroup as disc $cd ($cdiogroup{$cd})\n", $config->{verbose}, $config->{LOG}, 5);
530                $groups_conflict{$cd}{$gn} = 1;
531                $iogroup{$gn} = $cdiogroup{$cd};
532            }
533        }
534        if ($loop) {
535            # Does not take care of iogroup in manual mode
536            $metagroups[$meta][0][0] = $mg;
537            foreach my $c (@$acds) { $cdg{$c} and $lists->{$c} == 2 and push @{$metagroups[$meta][0][1]}, $c and $donedisc{$c} = 1 } 
538        } else {
539            my @siogroup = sort { $iogroup{$a} <=> $iogroup{$b} } keys %iogroup;
540            my %iogroupcd;
541            $metagroups[$meta][0][0] = [];
542            for (my ($i, $j); $i < @siogroup; $i++) {
543                if ($i && $iogroup{$siogroup[$i]} != $iogroup{$siogroup[$i-1]}) {
544                    $j++;
545                    $metagroups[$meta][$j][0] = []
546                }
547                log_("orderGroups: siogroup $i (j $j siogroup $siogroup[$i] iogroup $iogroup{$siogroup[$i]} cd " . join(',',keys %{$grps->[$siogroup[$i]]{disc_impacted}})  ." list " .  join(',',keys %{$grps->[$siogroup[$i]]{list}}) . ")\n", $config->{verbose}, $config->{LOG}, 8);
548                my $g = $grps->[$siogroup[$i]];
549                push @{$metagroups[$meta][$j][0]}, $g;
550                $iogroupcd{$_} = $j foreach keys %{$g->{disc_impacted}}
551            }
552            #foreach (keys %iogroup) {
553            #   log_("orderGroups: group $_ (CDs " . join(',', keys %{$grps->[$_]{disc_impacted}}) . ") in iogroup $iogroup{$_}\n", 1, $config->{LOG})
554            #}
555            my @scds = sort { $cd{$a} <=> $cd{$b} } keys %cdg;
556            foreach my $c (@scds) { $lists->{$c} == 2 and push @{$metagroups[$meta][$iogroupcd{$c}][1]}, $c and $donedisc{$c} = 1 }     
557        }
558        for (my $iogi; $iogi < @{$metagroups[$meta]}; $iogi++) {
559            ref $metagroups[$meta][$iogi][1] or next;
560            log_("orderGroups: IO group $iogi disc sorting @{$metagroups[$meta][$iogi][1]}\n", $config->{verbose}, $config->{LOG}, 4);
561        }
562       
563#       for (my $i = 0; $i < @$grps; $i++) {
564#           foreach my $ls (keys %{$grps->[$i]{list}}) {
565#               foreach my $l (keys %{$grps->[$i]{list}}) {
566#                   log_("orderGroups: group $i listmatrix list $ls - list $l -> $grps->[$i]{listmatrix}{rpm}{$ls}{$l}\n", $config->{verbose}, $config->{LOG})
567#               }
568#               foreach my $t (keys %{$grps->[$i]{list}{$ls}}) {
569#                   my $rep = $grps->[$i]{list}{$ls}{$t};
570#                   for (my $grp = 0; $grp < @$grps; $grp++) {
571#                       foreach my $list (keys %{$grps->[$grp]{list}}) {
572#                           foreach my $type (keys %{$grps->[$grp]{list}{$list}}) {
573#                               my $rep2 = $grps->[$grp]{list}{$list}{$type};
574#                               foreach my $a (@$rep) {
575#                                   if (any { $a->[0] == $_->[0] } @$rep2) {
576#                                       log_("orderGroups: group $i list $ls type $t conflicts with group $grp list $list type $type\n", $config->{verbose}, $config->{LOG});   
577#                                       $grps->[$i]{conflict}{$grp} = 1;
578#                                       $grps->[$i]{list_conflict}{$ls}{$t}{$grp}{$list}{$type} = 1;
579#                                       last
580#                                   }
581#                               }
582#                           }
583#                       }
584#                   }
585#               }
586#           }
587#       }
588    }
589    # add alone discs
590    my @cd;
591    foreach (keys %donedisc) {
592        $donedisc{$_} or push @cd, $_ 
593    }
594    @cd and push @metagroups, [[0, \@cd]];
595   
596    for (my $m = 0; $m < @metagroups; $m++) {
597        for (my $iog = 0; $iog < @{$metagroups[$m]}; $iog++) {
598            #log_("GROUP $i iog $iog: $metagroups[$m][$iog][0] (@{$metagroups[$m][$iog][0]})\n", $config->{verbose}, $config->{LOG}, 3);
599            my $grps = $metagroups[$m][$iog][0];
600            for (my $i = 0; $i < @$grps; $i++) {
601                foreach my $ls (keys %{$grps->[$i]{list}}) {
602                    foreach my $l (keys %{$grps->[$i]{list}}) {
603                        foreach my $t (keys %{$grps->[$i]{list}{$ls}}) {
604                            my $rep = $grps->[$i]{list}{$ls}{$t};
605                            for (my $grp = 0; $grp < @$grps; $grp++) {
606                                foreach my $list (keys %{$grps->[$grp]{list}}) {
607                                    foreach my $type (keys %{$grps->[$grp]{list}{$list}}) {
608                                        my $rep2 = $grps->[$grp]{list}{$list}{$type};
609                                        foreach my $a (@$rep) {
610                                            if (any { $a->[0] == $_->[0] } @$rep2) {
611                                                log_("orderGroups: group $i list $ls type $t conflicts with group $grp list $list type $type\n", $config->{verbose}, $config->{LOG});   
612                                                $grps->[$i]{conflict}{$grp} = 1;
613                                                $grps->[$grp]{conflict}{$i} = 1;
614                                                $grps->[$i]{list_conflict}{$ls}{$t}{$grp}{$list}{$type} = 1;
615                                                last
616                                            }
617                                        }
618                                    }
619                                }
620                            }
621                        }
622                    }   
623                }
624            }
625        }
626    }
627    \@metagroups
628}
629
630sub getGroupReps {
631    my ($config, $group, $discsFiles) = @_;
632    my $topdir = "$config->{topdir}/build/$config->{name}";
633    my $check_discsFiles = sub {
634        my ($cd, $rep, $listnumber, $rep_nb) = @_;
635        log_("getGroupReps check_discsfiles: disc $cd rep $rep list $listnumber\n", $config->{verbose} , $config->{LOG}, 5);
636        foreach (keys %{$discsFiles->[$cd]{$rep}{$listnumber}}) {
637            my $type = /src$/ ? 'srpm' : 'rpm';
638            my $d = $discsFiles->[$cd]{$rep}{$listnumber}{$_};
639            push @{$group->{rep}{$listnumber}[$rep_nb]{$type}{$d}}, $_;
640            push @{$group->{rep_pkg}{$type}{$d}}, $_
641        }
642    };
643    # FIXME sep_arch is not used, maybe a chech should prevent both sep_arch and non sep_arch mode.
644    # However current scheme is more robust.
645    my $check_dir = sub {
646        my ($dir, $listnumber, $rep_nb, $type, $test, $sep_arch) = @_;
647        log_("getGroupReps check_dir: dir $dir list $listnumber rep_nb $rep_nb type $type\n", $config->{verbose}, $config->{LOG},6);
648        my $add_rpm = sub {
649            my ($d, $rpm) = @_;
650            $rpm =~ /($test)\.rpm$/ or return;
651            $rpm = ~/(.*)\.rpm$/ or return;
652            push @{$group->{rep}{$listnumber}[$rep_nb]{$type}{$d}}, $1;
653            push @{$group->{rep_pkg}{$type}{$d}}, $1
654        };
655        my $RPMS;
656        if (!opendir $RPMS, $dir) { log_("WARNING getGroupReps: cannot open $dir\n", $config->{verbose}, $config->{LOG}); return }
657        foreach (readdir $RPMS) {
658            if (-d "$dir/$_") {
659                opendir my $rpm_dir, "$dir/$_";
660                foreach my $r (readdir $RPMS) {
661                    $add_rpm->("$dir/$_",$r)
662                }
663            } else {
664                $add_rpm->($dir,$_)
665            }
666        }
667        closedir $RPMS
668    };
669    my $testarch = join '|', keys %{$config->{ARCH}};
670    foreach my $listnumber (keys %{$group->{list}}) {
671        my $ok;
672        foreach (@{$group->{list}{$listnumber}{rpm}}) {
673            !$_->[3]{nodeps} and $ok = 1
674        }
675        if (!$ok) { $group->{nodeps}{$listnumber} = 1 }
676        log_("getGroupReps list $listnumber\n", $config->{verbose}, $config->{LOG},3);
677        my $rep_nb;
678        if (ref $config->{list}[$listnumber]{packages}) {
679            foreach (@{$config->{list}[$listnumber]{packages}}) {
680                log_("getGroupReps: rep num $rep_nb\n", $config->{verbose}, $config->{LOG},4);
681                foreach my $t ('rpm', 'srpm') {
682                    foreach my $d (@{$_->{$t}}) {
683                        log_("getGroupReps: $d\n", $config->{verbose}, $config->{LOG},5);
684                        $check_dir->($d, $listnumber, $rep_nb, $t, $t eq 'rpm' ? $testarch : 'src');
685                    }
686                }
687                $rep_nb++
688            }
689        }
690       
691        foreach my $d (@{$config->{list}[$listnumber]{virtual}}) {
692            my $cd = $d->{disc};
693            my $rep = $d->{repname};
694            my $path = $config->{disc}[$cd]{function}{data}{dir}{$rep}[1]{reploc};
695            my $sep_arch = $config->{disc}[$cd]{function}{data}{dir}{$rep}[1]{sep_arch};
696            my $dir = "$topdir/$cd/$path";
697            log_("getGroupReps: virtual disc $cd path $path (num $rep_nb) in $dir\n", $config->{verbose} , $config->{LOG},3);
698            if ($discsFiles->[$cd]{$rep}{$listnumber}) {
699                $check_discsFiles->($cd,$rep,$listnumber)
700            } elsif (-d $dir) {
701                $check_dir->($dir,$listnumber,$rep_nb, 'rpm',$testarch, $sep_arch);
702            } else {
703                log_("ERROR getGroupReps: could not find virtual disc $cd path $path\n", $config->{verbose} , $config->{LOG});
704                next
705            }
706            $rep_nb++
707        }
708        foreach my $cd (keys %{$config->{list}[$listnumber]{disc}}) {
709            foreach my $rep (keys %{$config->{list}[$listnumber]{disc}{$cd}}) {
710                if ($config->{list}[$listnumber]{disc}{$cd}{$rep}{done}) {
711                    $check_discsFiles->($cd, $rep, $listnumber)
712                }
713                $rep_nb++
714            }
715        }
716    }
717}
718
719# TODO at present clone only do full copy
720sub prepare_cloned_discs {
721    my ($group, $done, $config, $lists) = @_;
722    my $g;
723    foreach my $cd (keys %$lists) {
724        my $loc_conf = $config->{disc}[$cd]{function};
725        if ($loc_conf->{data}{clone}) {
726            log_("prepare_cloned_discs: disc $cd\n", $config->{verbose}, $config->{LOG},2);
727            # nothing to do, cp -r
728            #if (@{$loc_conf->{list}} == 1 && !$loc_conf->{list}[0][1]{to_del}) {
729            #
730            $loc_conf->{data}{clone}[0][1]{full_copy} = 1;
731            $group->[$g]{disc_impacted}{$cd} = 1;
732            $group->[$g]{discdeps}{$cd} = {};
733            log_("prepare_cloned_discs: setting group $g as master of disc $cd\n", $config->{verbose}, $config->{LOG}, 4);
734            $config->{disc}[$cd]{group_master} = int $g;
735            push @{$group->[$g]{master_of_disc}}, $cd;
736           
737            foreach (@{$loc_conf->{data}{clone}}) {
738                $group->[$g]{disc_prereq}{$_->[1]{disc}}++
739            }
740            $done->{$cd} = {};
741            $g++
742            #   next
743            #}
744        }
745    }
746    $g
747}
748
749sub find_cpu {
750    my $cpu;
751    open my $CPU, "/proc/cpuinfo"; 
752    while (<$CPU>) { /processor/ and $cpu++ };
753    $cpu
754}
755
756sub make_io_group {
757    my ($class, $iog, $config, $log, $lists, $discs_files, $cdsize, $size, $graft, $sort, $inode, $done_deps, $iotask, $metagroups, $mkisos) = @_;
758    my $cds = $iog->[1];
759    my $groups = $iog->[0];
760    print $log "Group: $iog (@$cds -- $groups)\n";
761    # FIXME ordering metagroups can lead to empty groups with the -l option
762    $groups or next;
763
764    my (@buildlist, @rpmlist, @needed);
765    my @groupok;
766
767    #print_conflict_matrix($groups);
768    for (my $i; $i < @$groups; $i++) {
769        log_("Get already built discs lists\n", $config->{verbose}, $log, 3);
770        $groups->[$i]{done} = { rep => {}, list => {} };
771        $class->{disc}->getBuiltDiscs($lists, $groups->[$i], $discs_files, $size, $cdsize);
772
773        log_("GROUP $i\n", $config->{verbose}, $log, 5);
774        getGroupReps($config, $groups->[$i], $discs_files);
775
776        log_("genDeps\n", $config->{verbose}, $log, 3);
777        if (! $done_deps->{$groups->[$i]{depsrep}} && ref $groups->[$i]{rep_pkg}{rpm}) {
778            $done_deps->{$groups->[$i]{depsrep}} = genDeps("$config->{tmp}/$config->{name}/$groups->[$i]{depsrep}", $groups->[$i]{rep_pkg}{rpm}, $config->{deps}, $config->{verbose}, $config->{tmp}) or do { log_("ERROR: genDeps failed\n", $config->{verbose}, $log); return 0 }
779        }
780        $groups->[$i]{urpm} = $done_deps->{$groups->[$i]{depsrep}};
781        log_("getSize\n", $config->{verbose}, $log, 3);
782        my $redeps = getSize($groups->[$i],$config, $config->{verbose}) or do { log_("ERROR: getSize failed\n", $config->{verbose}, $log); return 0 };
783
784        $class->{disc}->guessHdlistSize($groups->[$i], $size, $cdsize, $lists, $discs_files);
785
786        # put in getList to handle package nodeps flag
787        #$groups->[$i]{revdeps} = $class->{list}->reverseDepslist($groups->[$i]);
788
789        ($groups->[$i]{filelist}, my $norpmsrate) = $class->{list}->getList($groups->[$i], $discs_files);
790
791        if ($groups->[$i]{rpmsratepath}) { 
792            my $struct_v = $config->{struct_version};
793            my $media_info = $config->{struct}{$struct_v}{media_info};
794            my $outputdir = "$config->{tmp}/build/$config->{name}/$groups->[$i]{installDisc}/$media_info/";
795            -d $outputdir or mkpath $outputdir;
796            my $output = "$outputdir/rpmsrate";
797            # FIXME currently the rpmsrate is updated at group creation,
798            # maybe need to be done again at disc finalizing stage only to include
799            # present packages. However it is harmfull to have packages into the rpmsrate not
800            # present on the discs.
801            log_("cleanrpmsrate $groups->[$i]{rpmsratepath} -> $output\n", $config->{verbose}, $log, 3);
802            $groups->[$i]{rpmsrate} = cleanrpmsrate($groups->[$i]{rpmsratepath}, $output, $norpmsrate, $groups->[$i]{rep_pkg}{rpm}, $groups->[$i]{urpm}) or log_("ERROR: cleanrpmsrate failed\n", $config->{verbose}, $log);
803            $groups->[$i]{options}{rpmsrate} = $output;
804        }
805
806        log_("build_list group $i\n", $config->{verbose}, $log, 3);
807        ($rpmlist[$i], $groups->[$i]{revdeps}) = $class->{list}->build_list($groups->[$i]) or return 0;
808
809        $class->{list}->scoreList($groups->[$i]) or return 0;
810        $class->{list}->autodeps($groups->[$i], $rpmlist[$i]);
811
812        foreach my $l (keys %{$rpmlist[$i]}) { 
813            log_("make_io_group: processing rpmlist $i list $l\n", $config->{verbose}, $log, 3);
814            my (@force, @need, @superforce, @limit, @b);
815            foreach (keys %{$rpmlist[$i]{$l}}) {
816                log_("Group: rpm $_\n", $config->{verbose}, $log);
817                # in case of multiple entries
818                $groups->[$i]{limit}{$_} = 0;
819                if (!$_) {
820                    log_("ERROR: empty rpmlist key ($rpmlist[$i]{$l}{$_}) KEYS " .  keys(%{$rpmlist[$i]{$l}{$_}}) . " \n", $config->{verbose}, $log);
821                    next
822                }
823                my $elt = [ $_, $rpmlist[$i]{$l}{$_}, $groups->[$i]{scorelist}{$_} ];
824                if (!$config->{nodeps} && !$groups->[$i]{options}{nodeps} && !$groups->[$i]{nodeps}{$l} && /basesystem/) { 
825                    $elt->[1]{needed} = 1;
826                    push @superforce, $elt
827                } elsif ($rpmlist[$i]{$l}{$_}{force}) { 
828                    #$elt->[1]{needed} = 1;
829                    push @force, $elt
830                } elsif ($rpmlist[$i]{$l}{$_}{limit}) {
831                    $groups->[$i]{limit}{$_} = 1;
832                    push @limit, $elt
833                } else { 
834                    push @b, $elt
835                }
836                my $n = $rpmlist[$i]{$l}{$_}{needed};
837                push @{$needed[$i]{$l}{alap}[$n]}, $elt if $n;
838                # used to check which packages has beed rejected
839                push @{$groups->[$i]{buildlist}}, $_
840            }
841            $buildlist[$i]{$l} = [ sort { $a->[2] <=> $b->[2] } @b ];
842            unshift @{$buildlist[$i]{$l}}, sort { $a->[2] <=> $b->[2] } @limit;
843            # needed must not be put first.
844            #push @{$buildlist[$i]{$l}}, sort { $a->[2] <=> $b->[2] } @need;
845            push @{$buildlist[$i]{$l}}, sort { $a->[2] <=> $b->[2] } @force;
846            push @{$buildlist[$i]{$l}}, sort { $a->[2] <=> $b->[2] } @superforce
847        }
848    }
849
850    # FIXME it must have a cleaner manner to keep buildlist and do not have
851    # to copy it.
852    my @cb;
853    for (my $i = 0; $i < @buildlist; $i++) { 
854        foreach my $l (keys %{$buildlist[$i]}) { 
855            $cb[$i]{$l} = [];
856            foreach (@{$buildlist[$i]{$l}}) { 
857                log_("MakeWithGroups: copying buildlist group $i list $l package $_->[0] score $_->[2] options " . join(' ', keys %{$_->[1]}) . "\n", $config->{verbose}, $log, 4); 
858                push @{$cb[$i]{$l}}, $_
859            }
860        }
861    }
862
863    my $diff = { data => [], idx => [] };
864    my $rejected;
865    my $n=1;
866    my $shell;
867    my $shell_ok;
868    if ($config->{shell}) {
869        $shell = new Mkcd::Shell("mkcd version $config->{version}");
870        $shell_ok = $shell->prompt({ size => $size, discs_files => $discs_files, config => $config, metagroups => $metagroups });
871    } 
872    $rejected = $class->{build}->buildDiscs($groups, \@cb, \@rpmlist, \@groupok, $size, $cdsize, $lists,$cds, \@needed,$diff,$n) if @cb;
873    my $logi;
874    my ($cd, $diff) = $class->{build}->processDiff($groups,$diff, $discs_files);
875    my $ok;
876    # discs_files contains all the rpms, cd contains only the diff
877
878    if ($config->{shell}) {
879        $shell_ok = $shell->prompt({ size => $size, discs_files => $discs_files, config => $config, metagroups => $metagroups });
880    }
881    log_("make_io_group: $cd->[2]\n", $config->{verbose}, $log, 3);
882   
883    $class->{disc}->makeDiscs(1, $lists, $cds, $size, $mkisos, $discs_files, $graft, $sort, $inode, $cd) or return 0;
884    $ok = $class->{disc}->checkSize($n, $size, $cdsize, $cds, $rejected);
885    #log_("make_io_group: disc_building_tries $config->{disc_building_tries}\n",1,$log);
886    $ok = 1 if $config->{disc_building_tries} < 2;
887    while (!$ok || $shell_ok) {
888        $n++;
889        log_("make_io_group: trying to adjust disc size, try $n\n", $config->{verbose}, $log, 3);
890        $ok = 1;
891        my @cb;
892        for (my $i; $i < @buildlist; $i++) { 
893            foreach my $l (keys %{$buildlist[$i]}) { 
894                $cb[$i]{$l} = [];
895                foreach (@{$buildlist[$i]{$l}}) {
896                    push @{$cb[$i]{$l}}, $_ if $groups->[$i]{rejected}{$_->[0]}{$l}
897                }
898            }
899        }
900        if ($config->{shell}) {
901            $shell_ok = $shell->prompt({ size => $size, discs_files => $discs_files });
902        }
903        $rejected = $class->{build}->buildDiscs($groups, \@cb, \@rpmlist, \@groupok, $size, $cdsize, $lists, $cds, \@needed, $diff, $n) if @cb;
904        my ($cd, $diff) = $class->{build}->processDiff($groups, $diff, $discs_files);
905        $class->{disc}->makeDiscs($n, $lists, $cds, $size, $mkisos, $discs_files, $graft, $sort, $inode, $cd) or return 0;
906        $ok = $class->{disc}->checkSize($n, $size, $cdsize, $cds, $rejected);
907        !$ok and log_("ERROR: one or more disc are too big or too small, trying to correct\n", $config->{verbose}, $log, 2);
908        if ($n >= $config->{disc_building_tries}) { 
909            log_("ERROR: could not manage to build discs of correct size, exiting\n", $config->{verbose}, $log); 
910            last 
911        }
912    }
913    # finally really build the ISOs
914    if ($config->{nofork}) { 
915        $class->{disc}->makeDiscs(-1, $lists, $cds, $size, $mkisos, $discs_files, $graft, $sort, $inode, $cd);
916    } else {
917        # FIXME This algo is not correct, it happens that some IO tasks are still parallelized
918        my $pid = fork;
919        $pid and log_("make_io_group: fork to PID $pid to build ISO files\n", $config->{verbose}, $log, 1); 
920        if (!$pid) {
921            while (@$iotask) {
922                my $p = pop @$iotask;
923                log_("make_io_group: waiting for IOtask PID $p to finish\n", $config->{verbose}, $log, 2); 
924                waitpid $p, 0
925            }
926            $class->{disc}->makeDiscs(-1, $lists, $cds, $size, $mkisos, $discs_files, $graft, $sort, $inode, $cd);
927            exit
928        } else {
929            push @$iotask, $pid
930        }
931    }
932    for (my $i; $i < @$groups; $i++) {
933        foreach my $list (keys %{$groups->[$i]{list}}) {
934            foreach my $type (keys %{$groups->[$i]{list}{$list}}) {
935                foreach (@{$groups->[$i]{list}{$list}{$type}}) {
936                    $config->{list}[$list]{disc}{$_->[0]}{$_->[1]}{done} = 1
937                }
938            }
939        }       
940    }
941}
942
943sub makeWithGroups {
944    my ($class, $lists, $acds) = @_;
945    my $config = $class->{config};
946    my $log = $config->{LOG};
947    my $metagroups = orderGroups($config, getGroups($config, $lists), $lists, $acds);
948
949    my @discsFiles;
950    my (@cdsize, %size, %graft, %sort, %done_deps, %inode, @iotask, @mkisos);
951    for (my $i; $i < @{$config->{disc}}; $i++) { 
952        $cdsize[$i] = $config->{disc}[$i]{size}; 
953        $size{optimize_space}{disc}{$i} = $cdsize[$i]
954    }
955    foreach my $iog (@$metagroups) {
956        foreach (@$iog) {
957            ref $_->[1] or next;
958            log_("makeWithGroups: Group listing $_ (@{$_->[1]} -- $_->[0])\n", $config->{verbose}, $config->{LOG}, 3);
959            my $cds = $_->[1];
960            # Do not make first CDs in io groups to keep inter io groups alone directories safe.
961            $class->{disc}->makeDiscs(0, $lists, $cds, \%size, \@mkisos, \@discsFiles, \%graft, \%sort, \%inode);
962        }
963    }
964    $config->{cpu} = find_cpu() if !$config->{cpu};
965    log_("makeWithGroups: will try to use $config->{cpu} CPUs\n", $config->{verbose}, $config->{LOG}, 3);
966   
967    foreach my $g (@$metagroups) {
968        foreach my $iog (@$g) {
969            make_io_group($class, $iog, $config, $log, $lists, \@discsFiles, \@cdsize, \%size, \%graft, \%sort, \%inode, \%done_deps, \@iotask, $metagroups, \@mkisos);
970        }
971    }
972    printDiscsFile($config, \@discsFiles, $config->{print}, $metagroups);
973    $config->{printscript} and printBatchFile($config, \@discsFiles, $config->{printscript});
974    foreach my $p (@iotask) {
975        waitpid $p, 0
976    }   
977    print "\n";
978    1
979}
980
9811
982
983#
984# Changelog
985#
986# 2002 02 21
987# add maxlistmaxrep value to group
988#
989# 2002 03 03
990# change size to an hash that contains disc size and rep size
991#
992# 2002 03 09
993# make group{discrep} and hash not to have loop in disc dependencies when there are multiple repository on one CD
994#
995# 2002 03 14
996# BIG change of group source handling
997#
998# 2002 03 15
999# use new source handling
1000#
1001# 2002 03 23
1002# change getAlone to be able to build generic CDs without installation
1003#
1004# 2002 06 16   
1005# add conflict in group
1006#
1007# 2002 08 30
1008# change reps structure, add pkg and pkg_rep in group
1009#
1010# 2004 05 28
1011# add IO group to be able to separate IO tasks from CPU tasks
Note: See TracBrowser for help on using the repository browser.