3.1.1. Цель - сбор информации для ЛПР

Тогда  Рабочая  группа  должна  собрать  возможно  больше относящейся к делу
информации,  аргументов  "за"  и  "против"  определенных  вариантов решений.
Полезен  метод  постепенного  увеличения  числа  экспертов:  сначала  первый
эксперт  приводит свои соображения по рассматриваемому вопросу; составленный
им  материал  передается второму эксперту, который добавляет свои аргументы;
накопленный  материал  поступает  к  следующему  -  третьему  -  эксперту...
Процедура заканчивается , когда иссякает поток новых соображений.

Отметим,   что   эксперты   в   рассматриваемом   методе  только  поставляют
информацию,  аргументы  "за"  и  "против", но не вырабатывают согласованного
проекта   решения.  Нет  никакой  необходимости  стремиться  к  тому,  чтобы
экспертные  мнения  были  согласованы  между  собой.  Более того, наибольшую
пользу  приносят эксперты с мышлением, отклоняющимся от массового, поскольку
именно от них следует ожидать наиболее оригинальных аргументов.

              3.1.2. Цель - подготовка проекта решения для ЛПР

Математические  методы  в  экспертных  оценках применяются обычно именно для
решения  задач  подготовки  проекта  решения. При этом зачастую некритически
принимают  догмы согласованности и одномерности. Эти догмы "кочуют" из одной
публикации в другую, поэтому целесообразно их обсудить.

ДОГМА  СОГЛАСОВАННОСТИ  Считается,  что  решение  может быть принято лишь на
основе  согласованных  мнений  экспертов.  Поэтому  исключают  из экспертной
группы   тех,   чье  мнение  отличается  от  мнения  большинства.  При  этом
отсеиваются  как  неквалифицированные  лица,  попавшие  в  состав экспертной
комиссии  по  недоразумению  или  по соображениям, не имеющим отношения к их
профессиональному  уровню,  так  и  наиболее  оригинальные мыслители, глубже
проникшие  в  проблему, чем большинство. Следовало бы выяснить их аргументы,
предоставить  им  возможность  для обоснования их точек зрения. Вместо этого
их мнением пренебрегают.

Бывает  и  так,  что эксперты делятся на две или более групп, имеющих единые
групповые  точки  зрения.  Так,  в [10] приведен пример деления специалистов
при  оценке  результатов научно-исследовательских работ (НИР) на две группы:
"теоретиков",  явно  предпочитающих  НИР,  в  которых получены теоретические
результаты,  и  "практиков",  выбирающих  те НИР, которые позволяют получать
непосредственные   прикладные   результаты  (речь  идет  о  конкурсе  НИР  в
Институте  проблем  управления  (автоматики  и  телемеханики)  Академии наук
СССР).).

Иногда  заявляют,  что  в  случае  обнаружения  двух  или  нескольких  групп
экспертов  (вместо одной согласованной во мнениях) опрос не достиг цели. Это
не  так! Цель достигнута - установлено, что единого мнения нет. И ЛПР должен
это  учитывать. Стремление обеспечить согласованность мнений экспертов любой
целой  может  приводить  к  сознательному  одностороннему подбору экспертов,
игнорированию  всех точек зрения, кроме одной, наиболее полюбившейся Рабочей
группе ( или даже "подсказанной" ЛПР).

Поскольку   число   экспертов  обычно  не  превышает  20-30,  то  формальная
статистическая  согласованность  мнений  экспертов  (установленная с помощью
тех  или  иных критериев проверки статистических гипотез) может сочетаться с
реально  имеющимся  разделением  на группы, что делает дальнейшие расчеты не
имеющими  отношения  к  действительности.  Если  же  обратиться к конкретным
методам  расчетов,  например,  с помощью коэффициентов конкордации на основе
коэффициентов  ранговой  корреляции  Кендалла  или  Спирмена,  то необходимо
помнить,  что на самом деле положительный результат проверки согласованности
таким  способом означает ни больше, ни меньше, как отклонение статистической
гипотезы  о независимости и равномерной распределенности мнений экспертов на
множестве  всех  ранжировок. Другими словами, мы падаем жертвой заблуждений,
вытекающих  из  своеобразного  толкования  слов:  проверка согласованности в
указанном  статистическом смысле вовсе не является проверкой согласованности
в  смысле  практики  экспертных  оценок.  Именно  ущербность рассматриваемых
математико-статистических  методов  анализа  ранжировок  привела  нас в 80-х
годах   к   разработке   нового   математического   аппарата   для  проверки
согласованности - непараметрических методов, основанных на люсианах [5].

МНЕНИЯ  ДИССИДЕНТОВ. С целью искусственно добиться согласованности стараются
уменьшить  влияние  мнений  экспертов-диссидентов.  Жесткий  способ борьбы с
диссидентами  состоит  в  их  исключении  из  состава  экспертной  комиссии.
Отбраковка  экспертов,  как  и  отбраковка  резко  выделяющихся  результатов
наблюдений,   приводит   к   процедурам,   имеющим  плохие  или  неизвестные
статистические свойства.

Мягкий   способ   борьбы  с  диссидентами  состоит  в  применении  робастных
(устойчивых)   статистических   процедур.   Простейший  пример:  если  ответ
эксперта  -  действительное  число,  то резко выделяющееся мнение диссидента
сильно  влияет на среднее арифметическое ответов экспертов и не влияет на их
медиану.  Поэтому  разумно  в  качестве  согласованного мнения рассматривать
медиану.   Однако   при  этом  игнорируются  (не  достигают  ЛПР)  аргументы
диссидентов.

В  любом  из  двух  способов  борьбы с диссидентами ЛПР лишается информации,
идущей  от  диссидентов,  а  потому  может  принять  необоснованное решение,
которое   приведет   к   отрицательным   последствиям.   С  другой  стороны,
представление  ЛПР всего набора мнений снимает часть ответственности и труда
по  подготовке  окончательного решения с комиссии экспертов и рабочей группы
по проведению экспертного опроса и перекладывает ее на плечи ЛПР.

                          3.2. Догма одномерности

Распространен  довольно  примитивный  подход  т.  н. "квалиметрии", согласно
которому  объект всегда можно оценить одним числом. Оценивать человека одним
числом  приходило  в  голову лишь на невольничьих рынках. Вряд ли даже самые
рьяные  квалиметристы рассматривают книгу или картину как эквивалент числа -
ее "рыночной стоимости".

Каждый  объект  можно  оценивать  по  многим показателям качества. Например,