1.  Недетерминированные алгоритмы

  1.1.  NP задачи

Все алгоритмы, рассматривавшиеся нами ранее, имели поли­номиальную сложность. Главное, то, что мы могли найти точное решение этих задач за разум­ный промежуток времени. Все эти задачи относятся к классу Р — клас­су задач полиномиальной сложности. Такие задачи называются также практически разрешимыми.

Есть и другой класс задач: они практически неразрешимы и мы не знаем алгоритмов, способных решить их за разумное время. Эти задачи образуют класс NP — недетерминированной полиномиальной сложности. Отме­тим только, что сложность всех известных детерминированных алго­ритмов, решающих эти задачи, либо экспоненциальна, либо факториальна. Сложность некоторых из них равна 2N, где N — количество входных данных. В этом случае при добавлении к списку входных дан­ных одного элемента время работы алгоритма удваивается. Если для решения такой задачи на входе из десяти элементов алгоритму тре­бовалось 1024 операции, то на входе из 11 элементов число операций составит уже 2048. Это значительное возрастание времени при неболь­шом удлинении входа.

Словосочетание «недетерминированные полиномиальные», характе­ризующее задачи из класса NP, объясняется следующим двухшаговым подходом к их решению. На первом шаге имеется недетерминирован­ный алгоритм, генерирующий возможное решение такой задачи — что-то вроде попытки угадать решение; иногда такая попытка оказывается успешной, и мы получаем оптимальный или близкий к оптимальному ответ, иногда безуспешной (ответ далек от оптимального). На вто­ром шаге проверяется, действительно ли ответ, полученный на первом шаге, является решением исходной задачи. Каждый из этих шагов по отдельности требует полиномиального времени. Проблема, однако, в том, что мы не знаем, сколько раз нам придется повторить оба эти шага, чтобы получить искомое решение. Хотя оба шага и полиноми­альны, число обращений к ним может оказаться экспоненциальным или факториальным.

К классу NP относится задача о коммивояжере. Нам задан набор го­родов и «стоимость» путешествия между любыми двумя из них. Нужно определить такой порядок, в котором следует посетить все города (по одному разу) и вернуться в исходный город, чтобы общая стоимость путешествия оказалась минимальной. Эту задачу можно применять, например, для определения порядка эффективного сбора мусора из ба­ков на улицах города или выбора кратчайшего пути распространения информации по всем узлам компьютерной сети. Восемь городов можно упорядочитьвозможными способами, а для десяти городов это число возрастает уже до 3 Поиск кратчайшего пути требует перебора всех этих возможностей. Предположим, что у нас есть алго­ритм, способный подсчитать стоимость путешествия через 15 городов в указанном порядке. Если за секунду такой алгоритм способен про­пустить через себя 100 вариантов, то ему потребуется больше четырех веков, чтобы исследовать все возможности и найти кратчайший путь. Даже если в нашем распоряжении имеется 400 компьютеров, все равно у них уйдет на это год, а ведь мы имеем дело лишь с 15 городами. Для 20 городов миллиард компьютеров должен будет работать параллельно в течение девяти месяцев, чтобы найти кратчайший путь. Ясно, что быстрее и дешевле путешествовать хоть как-нибудь, чем ждать, пока компьютеры выдадут оптимальное решение.

Можно ли найти кратчайший путь, не просматривая их все? До сих пор никому не удалось придумать алгоритм, который не занимается, по существу, просмотром всех путей. Когда число городов невелико, задача решается быстро, однако это не означает, что так будет всегда, а нас как раз интересует решение общей задачи.

Задача о коммивояжере, конечно, очень похожа на задачи про гра­фы, которыми мы занимались в главе 5. Каждый город можно предста­вить вершиной графа, наличие пути между двумя городами — ребром, а стоимость путешествия между ними — весом этого ребра. Отсюда можно сделать вывод, что алгоритм поиска кратчайшего пути решает и задачу коммивояжера, однако это не так. Какие два условия задачи о коммивояжере отличают ее от задачи о кратчайшем пути?

Во-первых, мы должны посетить все города, а алгоритм поиска крат­чайшего пути дает лишь путь между двумя заданными городами. Если собрать путь из кратчайших кусков, выдаваемых алгоритмом поиска кратчайших путей, то он будет проходить через некоторые города по нескольку раз.

Второе отличие состоит в требовании возвращения в исходную точку, которое отсутствует в поиске кратчайшего пути.

Чтобы показать, что эта за­дача относится к классу NP, нам необходимо понять, как ее можно ре­шить посредством описанной выше двухшаговой процедуры. В задаче о коммивояжере на первом шаге случайным образом генерируется неко­торое упорядочивание городов. Поскольку это недетерминированный процесс, каждый раз будет получаться новый порядок. Очевидно, что процесс генерации можно реализовать за полиномиальное время: мы можем хранить список городов, генерировать случайный номер, выби­рать из списка город с этим именем и удалять его из списка, чтобы он не появился второй раз. Такая процедура выполняется за O(N) опе­раций, где N — число городов. На втором шаге происходит подсчет стоимости путешествия по городам в указанном порядке. Для этого нам нужно просто просуммировать стоимости путешествия между по­следовательными парами городов в списке, что также требует O(N) операций. Оба шага полиномиальны, поэтому задача о коммивояжере лежит в классе NP. Времяемкой делает ее именно необходимое число итераций этой процедуры.

Здесь следует отметить, что такую двухшаговую процедуру можно было применить к любой из рассматривавшихся нами ранее задач. На­пример, сортировку списка можно выполнять, генерируя произвольный порядок элементов исходного списка и проверяя, не является ли этот порядок возрастающим. Не относит ли это рассуждение задачу сор­тировки к классу NP? Конечно, относит. Разница между классом Р и классом NP в том, что в первом случае у нас имеется детерминирован­ный алгоритм, решающий задачу за полиномиальное время, а во втором мы такого алгоритма не знаем.

Итак, задача принадлежит классу NP, если она разрешима за полино­миальное время недетерминированным алгоритмом. Как упоминалось, процесс сортировки можно реализовать следующим образом:

1) вывести элементы списка в случайном порядке;

2) проверить, что s < s+i для всех i от 1 до N — 1.

Это недетерминированный двухэтапный процесс. Первый этап не требует сравнений, и его можно выполнить за N шагов — по одному ша­гу на выходной элемент списка. Второй этап также полиномиален: для его выполнения необходимо сделать N - 1 сравнений. Такая процедура подходит под наше определение класса NP, и можно прийти к выводу, что задача сортировки принадлежит как классу Р, так и классу NP. То же самое можно проделать с любым полиномиальным алгоритмом, поэтому все задачи класса Р лежат и в классе NP, т. е. Р является под­множеством в NP. Однако в классе NP есть задачи, для которых мы не знаем полиномиального детерминированного алгоритма их решения.

Сутью этого различия является большое число вариантов, которые необходимо исследовать в NP задачах. Однако это число лишь незначи­тельно превышает число комбинаций входных значений. У нас может быть список из 30 различных элементов или городов, и только один из 30! возможных порядков в этом списке является возрастающим или задает кратчайший путь. Разница же в том, что упорядочить список можно и полиномиальным алгоритмом — некоторым из них для этого понадобится всего 150 сравнений. В алгоритме пузырьковой сортиров­ки при первом проходе по списку по крайней мере наибольший элемент встанет на свое место, отбросив тем самым всего за 29 сравнений по крайней мере 1/30 всех возможных комбинаций. На втором проходе 28 сравнений отбрасывают 1/29 часть оставшихся возможностей. При бо­лее внимательном взгляде видно, что число отброшенных возможностей может быть и большим: результатом каждого прохода может быть не только помещение на место наибольшего элемента списка, но и пере­упорядочивание других элементов.

Но наилучший известный нам способ поиска кратчайшего пути со­стоит в переборе всех возможных вариантов путей и сравнении их длин. У нас нет алгоритма, позволяющего успешно отбросить значительное количество вариантов. Вот нам и приходится просматривать их все. Даже при просмотре 1 из 30! путей в секунду нам понадоби­лось бы более 840 миллиардов веков для проверки всех путей.

Мы обсудим способы получения ответов, близких к оптимальному. При этом мы не можем оценить, насколько близок оптимальному получен­ный ответ, поскольку оптимальное значение нам неизвестно. Вместо этого мы можем продолжать исполнять алгоритм поиска приближенно­го решения: всякое новое решение будет лучше предыдущего. Может быть так мы доберемся и до оптимального решения, но гарантии этого отсутствуют.

Значит задача попадает в класс NP, если для ее решения необходимо рассмотреть огромное количество возможностей и у нас нет эффектив­ного детерминированного алгоритма просеивания этих возможностей в поисках оптимального ответа.

Пример с задачей сортировки, которая решается как полиномиальным детерминирован­ным, так и полиномиальным недетерминированным алгоритмом, под­тверждает, что класс Р является подклассом в NP. Обсуждение разли­чия между сортировкой и задачей коммивояжера должно, казалось бы, убедить Вас в том, что нам известны задачи из класса NP, не входящие в класс Р. Однако это не так. Нам известно только то, что пока не уда­лось найти детерминированного полиномиального алгоритма для всех задач из класса NP. Это не означает, что такого алгоритма не суще­ствует, и исследователи по-прежнему бьются над проблемой совпадения классов. Многие верят, что полиномиальные алгоритмы решения NP-полных задач не существуют, но как можно доказать, что не существу­ет полиномиального алгоритма решения той или иной задачи? Лучше всего исследовать эту задачу и попробовать оценить снизу минималь­ный объем работы, необходимый для ее решения. Здесь, однако, мы и наталкиваемся на проблему получения нижней оценки, превышающей любой многочлен. Вопрос, выполняется ли равенство P=NP, до сих пор остается предметом исследования по всему миру.

  1.2.  Сведение задачи к другой задаче

Один из способов решения задач состоит в том, чтобы свести, или редуцировать, одну задачу к другой. Тогда алгоритм решения второй задачи можно преобразовать таким образом, чтобы он решал первую. Если преобразование выполняется за полиномиальное время и вторая задача решается за полиномиальное время, то и наша новая задача так­же решается за полиномиальное время.

Поясним наше рассуждение примером. Пусть первая задача состоит в том, чтобы вернуть значение «да» в случае, если одна из данных булевских переменных имеет значение «истина», и вернуть «нет» в противоположном случае. Вторая задача заключается в том, чтобы найти максимальное значение в списке целых чисел. Каждая из них допускает простое ясное решение, но предположим на минуту, что мы знаем решение задачи о поиске максимума, а задачу про булевские переменные решать не умеем. Мы хотим свести задачу о булевских переменных к задаче о максиму­ме целых чисел. Напишем алгоритм преобразования набора значений булевских переменных в список целых чисел, который значению «ложь» сопоставляет число 0, а значению «истина»— число 1. Затем восполь­зуемся алгоритмом поиска максимального элемента в списке. По тому, как составлялся список, заключаем, что этот максимальный элемент может быть либо нулем, либо единицей. Такой ответ можно преобра­зовать в ответ в задаче о булевских переменных, возвращая «да», если максимальное значение равно 1, и «нет», если оно равно 0.

В следующем разделе мы воспользуемся техникой сведения, чтобы кое-что узнать о NP задачах. Однако редукция NP задач может ока­заться гораздо более сложной.

  1.3.  NP-полные задачи

При обсуждении класса NP следует иметь в виду, что наше мнение, согласно которому их решение требует большого времени, основано на том, что мы просто не нашли эффективных алгоритмов их решения. Может быть, посмотрев на задачу коммивояжера с другой точки зре­ния, мы смогли бы разработать полиномиальный алгоритм ее решения. Термин NP-noлная относится к самым сложным задачам в клас­се NP. Эти задачи выделены тем, что если нам все-таки удастся найти полиномиальный алгоритм решения какой-либо из них, то это будет означать, что все задачи класса NP допускают полиномиальные алго­ритмы решения.

Мы показываем, что задача является NP-полной, указывая способ сведения к ней всех остальных задач класса NP. На практике эта де­ятельность выглядит не столь уж устрашающе — нет необходимости осуществлять редукцию для каждой NP задачи. Вместо этого для того, чтобы доказать NP-полноту некоторой NP задачи А, достаточно све­сти к ней какую-нибудь NP-полную задачу В. Редуцировав задачу В к задаче А, мы показываем, что и любая NP задача может быть сведена к А за два шага, первый из которых — ее редукция к В.

В предыдущем разделе мы выполняли редукцию полиномиального алгоритма. Посмотрим теперь на редукцию алгоритма, решающего NP задачу. Нам понадобится процедура, которая преобразует все со­ставные части задачи в эквивалентные составные части другой задачи. Такое преобразование должно сохранять информацию: всякий раз, ко­гда решение первой задачи дает положительный ответ, такой же ответ должен быть и во второй задаче, и наоборот.

Гамильтоновым путем в графе называется путь, проходящий через каждую вершину в точности один раз. Если при этом путь возвраща­ется в исходную вершину, то он называется гамильтоновым циклом. Граф, в котором есть гамильтонов путь или цикл, не обязательно явля­ется полным. Задача о поиске гамильтонова цикла следующим образом сводится к задаче о коммивояжере, Каждая вершина графа — это го­род. Стоимость пути вдоль каждого ребра графа положим равной 1. Стоимость пути между двумя городами, не соединенными ребром, по­ложим равной 2. А теперь решим соответствующую задачу о комми­вояжере. Если в графе есть гамильтонов цикл, то алгоритм решения задачи о коммивояжере найдет циклический путь, состоящий из ребер веса 1. Если же гамильтонова цикла нет, то в найденном пути будет по крайней мере одно ребро веса 2. Если в графе N вершин, то в нем есть гамильтонов цикл, если длина найденного пути равна N, и такого цикла нет, если длина найденного пути больше N.

В книге Гэри и Джонсона, опубликованной в 1979 году, приведены сотни задач, NP-полнота которых доказана.

  1.4.  Типичные NP задачи

Каждая из задач, которые мы будем обсуждать, является либо опти­мизационной, либо задачей о принятии решения. Целью оптимизацион­ной задачи обычно является конкретный результат, представляющий собой минимальное или максимальное значение. В задаче о принятии решения обычно задается некоторое пограничное значение, и нас ин­тересует, существует ли решение, большее (в задачах максимизации) или меньшее (в задачах минимизации) указанной границы. Ответом в задачах оптимизации служит полученный конкретный результат, а в задачах о принятии решений — «да» или «нет».

В 8.1 мы занимались оптимизационным вариантом задачи о комми­вояжере. Это задача минимизации, и нас интересовал путь минималь­ной стоимости. В варианте принятия решения мы могли бы спросить, существует ли путь коммивояжера со стоимостью, меньшей заданной константы С. Ясно, что ответ в задаче о принятии решения зависит от выбранной границы. Если эта граница очень велика (например, она превышает суммарную стоимость всех дорог), то ответ «да» получить несложно. Если эта граница чересчур мала (например, она меньше сто­имости дороги между любыми двумя городами), то ответ «нет» также дается легко. В остальных промежуточных случаях время поиска от­вета очень велико и сравнимо со временем решения оптимизационной задачи. Поэтому мы будем говорить вперемешку о задачах оптимиза­ции и принятия решений, используя ту из них, которая точнее отвечает нашим текущим целям.

1.4.1.  Раскраска графа

Как мы уже говорили в главе 5, граф G = (V,E) представляет собой набор вершин, или узлов, V и набор ребер Е, соединяющих вершины по­парно. Здесь мы будем заниматься только неориентированными графа­ми. Вершины графа можно раскрасить в разные цвета, которые обычно обозначаются целыми числами. Нас интересуют такие раскраски, в ко­торых концы каждого ребра окрашены разными цветами. Очевидно, что в графе с N вершинами можно покрасить вершины в N различных цветов, но можно ли обойтись меньшим количеством цветов? В задаче оптимизации нас интересует минимальное число цветов, необходимых для раскраски вершин графа. В задаче принятия решения нас интере­сует, можно ли раскрасить вершины в С или менее цветов.

У задачи о раскраске графа есть практические приложения. Если каждая вершина графа обозначает читаемый в колледже курс, и вер­шины соединяются ребром, если есть студент, слушающий оба курса, то получается весьма сложный граф. Если предположить, что каждый студент слушает 5 курсов, то на студента приходится 10 ребер. Пред­положим, что на 3500 студентов приходится 500 курсов. Тогда у полу­чившегося графа будет 500 вершин иребер. Если на экзамены отведено 20 дней, то это означает, что вершины графа нужно раскра­сить в 20 цветов, чтобы ни у одного студента не приходилось по два экзамена в день.

Разработка бесконфликтного расписания экзаменов эквивалентна раскраске графов. Однако задача раскраски графов принадлежит к классу NP, поэтому разработка бесконфликтного расписания за разум­ное время невозможна. Кроме того при планировании экзаменов обыч­но требуется, чтобы у студента было не больше двух экзаменов в день, а экзамены по различным частям курсам назначаются в один день. Оче­видно, что разработка «совершенного» плана экзаменов невозможна, и поэтому необходима другая техника для получения по крайней мере неплохих планов.

1.4.2.  Раскладка по ящикам

Пусть у нас есть несколько ящиков единичной емкости и набор объ­ектов различных размеров s1, s2,…, sn - В задаче оптимизации нас ин­тересует наименьшее количество ящиков, необходимое для раскладки всех объектов, а в задаче принятия решения — можно ли упаковать все объекты в В или менее ящиков.

Эта задача возникает при записи информации на диске или во фрагментированной памяти компьютера, при эффективном распределении груза на кораблях, при вырезании кусков из стандартных порций мате­риала по заказам клиентов. Если, например, у нас есть большие метал­лические листы и список заказов на меньшие листы, то естественно мы хотим распределить заказы как можно плотнее, уменьшив тем самым потери и увеличив доход.

1.4.3.  Упаковка рюкзака

У нас имеется набор объектов объемом s1,..., sn стоимости w1,..., wn, В задаче оптимизации мы хотим упаковать рюкзак объемом К так, чтобы его стоимость была максимальной. В задаче принятия решения нас интересует, можно ли добиться, чтобы суммарная стоимость упа­кованных объектов была по меньшей мере W.

Эта задача возникает при выборе стратегии вложения денег: объ­емом здесь является объем различных вложений, стоимостью — предполагаемая величина дохода, а объем рюкзака определяется размером планируемых капиталовложений.

1.4.4.  Задача планирования работ

Пусть у нас есть набор работ, и мы знаем время, необходимое для завершения каждой из них, t1, t2,..., tN, сроки d1,d2,... , dN, к кото­рым эти работы должны быть обязательно завершены, а также штрафы P1, P2 ,…,Pn которые будут наложены при незавершении каждой рабо­ты в установленные сроки. Задача оптимизации требует установить порядок работ, минимизирующий накладываемые штрафы. В задаче принятия решений мы спрашиваем, есть ли порядок работ, при кото­ром величина штрафа будет не больше Р.

  1.5.  Двухшаговое решение NP-задач

Описание класса NP предполагает, что у задач этого класса есть решение с недетерминированным первым шагом, на котором генериру­ется возможный ответ, и детерминированным вторым шагом, который сгенерированный ответ проверяет. Оба эти шага выполняются за по­линомиальное время. Мы займемся алгоритмами, проверяющими полученный ответ в задачах о планировании работ и о раскрашивании графа.

1.5.1.  Задача о планировании работ

Напомним, что в задаче о планировании работ задан набор работ, которые необходимо выполнить. Для каждой работы известно, сколь­ко времени необходимо на ее выполнение, срок, к которому ее следует завершить, и штраф, накладываемый в случае ее незавершения к назна­ченному сроку. Работы выполняются последовательно, а сроки оконча­ния отсчитываются с момента начала первой работы. Для каждой ра­боты нам известна четверка (n, t, d, p), где n — номер работы, t — зани­маемое ею время, d — срок окончания, р — штраф. Вот пример списка из пяти работ: {(1,3,5,2), (2,5, 7,4), (3,1, 5, 3), (4,6,9,1), (5,2,7,4)}.

В задаче принятия решения задается некоторое значение Р, и мы хотим узнать, существует ли такой порядок работ, при котором сум­марный штраф не превысит Р. В задаче оптимизации нас интересует минимальное значение суммарного штрафа. Мы займемся задачей при­нятия решений: если несколько раз вызвать алгоритм решения этой за­дачи с возрастающей границей Р, пока мы не получим утвердительный ответ, то мы решим заодно и задачу оптимизации. Другими словами, мы спрашиваем, существует ли порядок работ с штрафом 0. Если та­кого порядка нет, то мы переходим к штрафу 1, и будем увеличивать размер штрафа до тех пор, пока не получим утвердительного ответа. Следующий алгоритм сравнивает с порогом возможное решение задачи планирования работ.

PenaltyLess(list, N,limit)

list упорядоченный список работ

N общее число работ

limit предельная величина штрафа

currentTime=0

currentPenalty=0

currentJob=l

while (currentJob<=N) and (currentPenalty<=limit)

currentTime += list[currentJob].time;

if(list[currentJob].deadline<currentTime) // срок окончания работы

currentPenalty + = list[currentJob].penalty;

end if;

currentJob=curreatJob+1;

end while;

if currentPenalty <= limit

return да

else

return нет

end if;

end.

Принадлежность задачи классу NP требует про­верки предложенного решение за полиномиальное время. Видно, что описанный алгоритм действительно подсчитывает суммарный штраф. Анализ временной сложности показывает, что цикл while совершает не более N проходов; максимум достигается, если значение переменной currentPenalty не превышает предельное. Учет всех операций позво­ляет заключить, что общее число сравнений равно 3N + 1, а число сло­жений равно 3N. Это означает, что сложность алгоритма равна O(N), и значит он полиномиален и удовлетворяет определению класса NP.

1.5.2.  Раскраска графа

В задаче о раскраске графа требуется найти способ раскраски вер­шин графа в несколько цветов (занумерованных целыми числами) та­ким образом, чтобы любые две соседние вершины были покрашены в различные цвета. Принятие решения заключается в том, чтобы уста­новить, можно ли покрасить вершины в С или меньше цветов с соблю­дением указанного требования, а оптимизация — в том, чтобы найти минимально необходимое число цветов.

На недетерминированном этапе генерируется возможное решение, представляющее собой список вершин и приписанных к ним цветов. Именно на этом этапе решается, сколько будет использовано цветов, поэтому этап проверки не несет ответственности за выбранное число цветов. При выборе решения недетерминированный этап попробует обойтись С цветами. В задаче оптимизации он может начать с большо­го числа цветов, последовательно уменьшая их количество, пока требу­емая раскраска еще возможна. Обнаружив, что граф нельзя раскрасить в X цветов, мы заключим, что раскраска в X + 1 цвет является мини­мально возможной.

Нижеследующий алгоритм проверяет, является ли сгенерированная раскраска допустимой. Раскрашиваемый граф представлен в виде спис­ка примыканий, элемент graph [j] этого списка описывает j-ую вершину графа, поле graph [j].edgeCount этого элемента — число выходящих из нее ребер, а поле graph[j] .edge является массивом, в котором хра­нятся вершины, соседние с вершиной j.

bool ValidColoring(graph, N,colors)

graph, список примыканий

N число вершин в графе

colors массив, сопоставляющий каждой вершине ее цвет

for j=l to N //для каждой вершины графа

for k=l to graph[j].edgeCount // проверка на несовпадение с цветом

if (colors[j] == colors[graph[j].edge[k]]) //смежной вершины

return нет

end if ;

end for ;

end for ;

return да

end.

Видно, что этот алгоритм правильно проверяет допустимость рас­краски. Он проходит по всем вершинам, и если вершина непосредствен­но связана с другой того же цвета, то алгоритм останавливается и возвращает отрицательный ответ. Если же все пары соседних вершин окрашены различными цветами, то ответ утвердительный. Что каса­ется временной сложности этого алгоритма, то внешний цикл for осу­ществляет TV проходов. Во внутреннем цикле просматривается каждое ребро, выходящее из данной вершины. Поэтому общее число сравнений будет равно числу ребер, т. е. сложность алгоритма равна O(edges) — очевидно полиномиальная оценка, поскольку число ребер в графе не превосходит N2. Поэтому наши требования оказываются выполненными.

  1.6.  Приложение задач класса NP

Задачи из класса NP имеют большое число приложений, поэтому их решение представляет значительный интерес. Поскольку полиномиальные алгоритмы решения этих задач неизвест­ны, следует рассмотреть альтернативные возможности, дающие лишь достаточно хорошие ответы. Такой алгоритм может иногда дать и оптимальный ответ, однако такую счастливую случайность нельзя пре­дусмотреть. Мы изучим некоторое количество приближенных алгорит­мов решения этих задач.

1.6.1.  Жадные приближенные алгоритмы

Изу­чим несколько жадных алгоритмов, приближенно решающих задачи из класса NP.

Как уже обсуждалось, найти точное решение задачи из класса NP трудно, потому что число требующих проверки возможных комбинаций входных значений чрезвычайно велико. Для каждого набора вход­ных значений I мы можем создать множество возможных решений PSI. Оптимальное решение это такое решение Soptimal ÎPSI, что Value(Soptimal) £ Value(S’) для всех S' ÎPSI, если мы имеем дело с задачей минимизации, и Value(Soptimal) ³ Value(S') для всех S'ÎPSI, если мы имеем дело с задачей максимизации.

Решения, предлагаемые приближенными алгоритмами для задач клас­са NP, не будут оптимальными, поскольку алгоритмы просматривают только часть множества PSI, зачастую очень маленькую. Качество при­ближенного алгоритма можно определить, сравнив полученное решение с оптимальным. Иногда оптимальное значение — например, минималь­ную длину пути коммивояжера — можно узнать, и не зная оптималь­ного решения — самого пути. Качество приближенного алгоритма при этом дается дробью

Иногда будет играть роль, рассматриваем ли мы случаи с фикси­рованным числом входных значений или случаи с общим оптимальным решением. Другими словами, хотим ли мы понять, насколько хорош приближенный алгоритм на входных списках длины 10 или на входных списках различной длины с оптимальным значением 50? Эти две точки зрения могут привести к различным результатам.

Приводимые алгоритмы являются не единственно возможными, скорее они при­званы продемонстрировать многообразие различных подходов. Все эти приближенные алгоритмы полиномиальны по времени.

1.6.2.  Приближения в задаче о коммивояжере

Для решения многих задач (в том числе и из класса Р) пригодны так называемые жадные алгоритмы. Эти алгоритмы пытаются сделать наилучший выбор на основе доступной информации. Напомним, что алгоритмы построения минимального остовного дерева и кратчайшего пути являются примерами жадных алгоритмов.

Сначала кажется, что для решения задачи о коммивояжере можно просто воспользоваться алгоритмом поиска кратчайшего пути, однако ситуация не так проста. Алгоритм Дейкстры предназначен для поиска кратчайшего пути между двумя вершинами, но найденный путь не обя­зательно проходит через все вершины графа. Однако можно воспользо­ваться этим общим подходом для построения жадного приближенного алгоритма. Стоимость проезда между городами можно задать матри­цей примыканий; пример такой матрицы приведен на рис. 8.1.

Рис. 8.1. Матрица примыканий для полного взвешенного графа

Эта матрица верхняя треугольная, поскольку стоимость проезда между города­ми i и j одинакова в обоих направлениях. Еели бы мы выписали все стоимости, то нижний треугольник матрицы попросту совпал бы с верхним. Использование верхнетреугольной матрицы позволяет упростить трассировку алгоритма.

Наш алгоритм будет перебирать набор ребер в порядке возрастания всех весов. Он не будет формировать путь; вместо этого он будет про­верять, что добавляемые к пути ребра удовлетворяют двум условиям:

1) При добавлении ребра не образуется цикл, если это не завершаю­щее ребро в пути.

2) Добавленное ребро не является третьим, выходящим из какой-либо одной вершины.

В примере с рис. 8.1 мы выберем первым ребро (3,5), поскольку у него наименьший вес. Следующим выбранным ребром будет (5,6). За­тем алгоритм рассмотрит ребро (3,6), однако оно будет отвергнуто, поскольку вместе с двумя уже выбранными ребрами образует цикл [3, 5, 6, 3], не проходящий через все вершины. Следующие два ребра (4,7) и (2,7) будут добавлены к циклу. Затем будет рассмотрено ребро (1,5), но оно будет отвергнуто, поскольку это третье ребро, выходящее из вершины 5. Затем будут добавлены ребра (1,6) и (1,4). Последним до­бавленным ребром будет (2,3). В результате мы получим циклический путь [1, 4, 7, 2, 3, 5, 6, 1], полная длина которого 53, Это неплохое приближение, однако заведомо не оптимальное решение: есть по край­ней мере один более короткий путь, [1, 4, 7, 2, 5, 3, 6, 1], полная длина которого 41.

1.6.3.  Приближения в задаче о раскладке по ящикам

Один из подходов к получению приближенного решения задачи о рас­кладке по ящикам предлагает упаковывать первый подходящий пред­мет. Стратегия состоит в том, что ящики просматриваются поочеред­но пока не найдется ящик, в котором достаточно свободного места для упаковки очередного предмета. Как, например, будет происходить упа­ковка предметов размером (0.5, 0.7, 0.3, 0.9, 0.6, 0.8, 0.1, 0.4, 0.2, 0.5)? Видно, что в первый ящик попадут предметы размером [0.5, 0.3, 0.1], во второй — предметы размером [0.7, 0.2], в третий — предмет раз­мером [0.9], в четвертый — предметы размером [0.6, 0.4], в пятый — [0.8], и, наконец, в шестой — предмет размером [0.5]. Эта упаковка не оптимальна, потому что возможна упаковка в пять ящиков: [0.9, 0.1], [0.8, 0.2], [0.7, 0.3], [0.6, 0.4] и [0.5,0.5]. Вот алгоритм укладки в первый подходящий ящик.

FirstFit(size, N, Used)

size список размеров предметов

N число предметов

Used положения разложенных предметов

for i=l to N

Used[i]=0 ;

end for;

for item=l to N

binLoc=l;

while Used [binLoc]+size[item]>1 //ищет место в ящике для

binLoc=binLoc+l; // очередного предмета

end while;

Used [binLoc] +=size[item] ;

end for;

end.

В другом варианте этого алгоритма список предметов сначала сор­тируется по убыванию размера, а затем они раскладываются поочеред­но в первый подходящий ящик. Читатель без труда проверит, что в рассмотренном примере модифицированный алгоритм приведет к опти­мальному решению. Однако модифицированный алгоритм не всегда приводит к лучшим результатам, чем обычный. Рассмотрим набор предметов размеров (0.2, 0.6, 0.5, 0.2, 0.8, 0.3, 0.2, 0.2). Обычная рас­кладка в первый подходящий ящик приводит к оптимальной раскладке в три ящика. Начав с сортировки списка, мы получим список (0.8, 0.6, 0.5, 0.3, 0.2, 0.2, 0.2, 0.2). Раскладка в первый подходящий ящик отсор­тированного списка приведет к раскладке по ящикам [0.8, 0,2], [0.6, 0.3], [0.5, 0.2, 0.2] и [0.2], использующей на один ящик больше оптимального решения.

Анализ показывает, что стратегия укладки в первый подходящий ящик по отсортированному списку приводит к числу ящиков, превыша­ющему оптимальное в среднем на 50%. Это означает, что если, скажем, для оптимальной укладки достаточно 10 ящиков, то результат алгорит­ма будет около 15. Если список предварительно не отсортирован, то до­полнительные расходы составят в среднем 70%, т. е. при оптимальном числе ящиков 10 алгоритм сгенерирует укладку в 17 ящиков.

1.6.4.  Приближения в задаче об упаковке рюкзака

Приближенный алгоритм упаковки рюкзака представляет собой простой жадный алгоритм, выбирающий наилучшее отношение стоимости к раз­меру. Сначала мы сортируем список объектов по отношению стоимости к размеру. Каждый объект представляется в виде пары [размер, сто­имость]. Для списка объектов ([25, 50], [20, 80], [20, 50], [15, 45], [30, 105], [35, 35], [20, 10], [10, 45]) удельные стоимости имеют значения (2, 4, 2.5, 3, 3.5, 1, 0.5, 4.5). Сортировка удельных стоимостей приводит к списку ([10, 45], [20, 80], [30, 105], [15, 45], [20, 50], [25,50], [35, 35], [20, 10]). После этого мы начинаем заполнять рюкзак последовательно иду­щими элементами отсортированного списка объектов. Если очередной объект не входит — мы отбрасываем его и переходим к следующему; так продолжается до тех пор, пока рюкзак не заполнится или список объектов не будет исчерпан. Таким образом, если емкость рюкзака 80, то мы сможем поместить в него первые четыре предмета суммарно­го объема 75 и общей стоимостью 275. Это не оптимальное решение: первые три предмета с добавкой пятого дают суммарный объем 80 и стоимость 280.

1.6.5.  Приближения в задаче о раскраске графа

Раскраска графа — необычная задача: как мы уже упоминали ра­нее, построение раскраски, достаточно близкой к оптимальной, дает­ся столь же сложно, как и построение оптимальной раскраски. Число красок, даваемое наилучшим известным полиномиальным алгоритмом, более чем вдвое превышает оптимальное. Кроме того доказано, что если существует полиномиальный алгоритм, раскрашивающий верши­ны любого графа числом красок, превышающим оптимальное не более чем вдвое, то существует и полиномиальный алгоритм оптимальной раскраски любого графа. Существование такого алгоритма означало бы, что P=NP. На сложность графа можно наложить некоторые усло­вия, облегчающие его раскраску. Например, известны полиномиальные алгоритмы раскраски планарных графов, т. е. таких графов, которые можно изобразить на плоскости в виде набора вершин и ребер, пред­ставленных попарно не пересекающимися дугами.

Вот простой алгоритм последовательной раскраски произвольного графа с N вершинами.

ColorGraph(G)

G раскрашиваемый граф

for i=l to N

c=l ;

while в G есть вершина, соседняя с вершиной i,

покрашенная цветом с

с=с+1;

end while;

покрасить вершину i цветом с

end for;

end.

Степенью графа называется наибольшее число ребер, выходящее из одной вершины. Число С красок, используемое приведенным алгорит­мом, равно степени графа, увеличенной на единицу. Можно достичь и лучшего результата.

  2.  Вероятностные алгоритмы

Подход, используемый в вероятностных алгоритмах, в корне отли­чается от детерминированного подхода в алгоритмах из глав 1-8. В некоторых ситуациях вероятностные алгоритмы позволяют получить результаты, которых нельзя достигнуть обычными методами.

  2.1.  Численные вероятностные алгоритмы

Численные вероятностные алгоритмы предназначены для получения приблизительных ответов на некоторые математические вопросы. Чем дольше работает такой алгоритм, тем точнее полученный ответ.

2.1.1.  Игла Бюффона

Предположим, что у Вас есть 355 одинаковых палочек, длина ка­ждой из которых равна половине ширины доски дощатого пола. Сколь­ко палочек пересечет щели между досками пола, если их подбросить и дать упасть на пол? Это может быть любое число между 0 и 355, одна­ко Джордж Луис Леклерк показал, что в среднем число таких палочек будет почти в точности равно 113. Для каждой палочки вероятность пересечь щель равна 1/π. Объясняется такая величина соотношени­ем между возможным углом поворота упавшей палочки и расстоянием между щелями. Для палочки, упавшей перпендикулярно к щелям, веро­ятность пересечения щели равна одной второй (это отношение длины палочки к ширине доски пола). Если, однако, палочка упала параллель­но доске, то она почти наверняка не пересекает щель. Поэтому число π можно вычислять, подбрасывая палочки и подсчитывая, сколько из них пересекло щели. Отношение общего числа палочек к числу тех из них, что пересекли щели, будет приближением числа π.

Аналогичный способ приближенного подсчета числа π заключает­ся в бросании стрелок в мишень, представляющую собой квадрат, в который вписан круг (рис. 10.1). Мы выбираем точки в квадрате слу­чайным образом и подсчитываем, какая их часть попала в круг. Если радиус круга равен г, то его площадь равна πг2, а площадь квадрата равна (2г)2 = 4г2. Отношение площади круга к площади квадрата рав­но π /4. Если мы выбираем точки в квадрате действительно случайно, то стрелки распределятся по квадрату более или менее равномерно. Для случайного бросания стрелок в мишень число π приблизительно равно 4 * c/s, где с — число стрелок, попавших в круг, а s — общее число брошенных стрелок. Чем больше стрелок брошено, тем более точное приближение к числу π мы получаем.

Рис. 10.1. Круг, вписанный в квадрат

С помощью этой техники можно подсчитать площадь произвольной неправильной фигуры, для которой мы умеем проверять, принадлежит ли ей заданная точка (х, у). Для этого мы просто генерируем случай­ные точки в объемлющем фигуру квадрате и подсчитываем отношение числа тех из них, которые попали внутрь фигуры, к общему числу сге­нерированных точек. Отношение: