В начале 2016 года стратифицированная выборка из 78 форм с законченными предложениями по методу «Глобальный профиль лидера» от 2015 года (10 – Эксперт, 20 – Достиженец, 20 – Переопределяющий, 20 – Трансформирующий и 8 – ранний Алхимик) была пересмотрена на предмет надежности не только в отношении общей оценки, но и оценки отдельных пунктов в каждом протоколе. Это исследование показало идеальное совпадение по протокольной оценке в 94 % случаев и расхождение по 1/3 логики действий в 6 % случаев (и не забудьте, что несоответствия были урегулированы до того, как результаты показали клиенту). Что касается отдельных пунктов, идеальное совпадение оценок между двумя кодировщиками составило 98 %; только в четырех случаях из 2340 пунктов отмечено расхождение по двум логикам действий и ни одного случая более серьезных отклонений. Если сравнить эти результаты с результатами семилетней давности, полученными теми же кодировщиками, можно заметить повышение доли идеального совпадения оценок на 22 %. Отчасти это можно объяснить тем, что постоянно проводится сопоставление результатов измерений, полученных разными кодировщиками.
В дополнение к этому новому методу определения надежности путем сравнения оценок разных кодировщиков, каждый, кто проходит тестирование по программе «Глобальный профиль лидера», может сам оценить собственную логику действий, прежде чем получит результаты теста. Во время эксперимента 2015 года, в котором приняли участие 66 человек, оценки самих клиентов отличались от анализа по методике «Глобальный профиль лидера» всего в шести случаях (9 %). В четырех из них по итогам беседы с дебрифером испытуемые согласились с оценкой. Обычно клиенты понимают, что условия, которые они винят в расхождениях (например, спешка или усталость во время заполнения пропусков в незаконченных предложениях), такие же, как на их работе, и, следовательно, отражают их обычную логику действий. В двух других случаях дебрифер согласился с самооценкой испытуемых (поскольку английский не был первым языком респондентов и это повлияло на их письменные ответы). Таким образом, в 94 % случаев клиент принимал достоверность анализа «Глобального профиля лидера». Этот процесс дифференцированного исследования надежности с участием испытуемых – одновременно новая форма и проверки надежности, и внешней проверки валидности.
Есть мнение, что краткая проверка надежности, когда каждый кодировщик оценивает одни и те же десять окончаний предложений, не зная, какие баллы выставляют коллеги, может считаться более «строгим» тестом, чем те, о которых мы только что рассказали. Но явный недостаток таких тестов надежности, к которым кодировщики могут подготовиться и работать с ними в оптимальных условиях (после отдыха, когда внимание более сконцентрировано), состоит в том, что никогда нельзя точно знать, можно ли их экстраполировать на повседневные оценки кодировщиков. Второй аргумент против описанного выше теста в том, что у второго кодировщика будет мотив согласиться с первым, чтобы получить высокий процент согласованности оценок. Но идея о пересмотре предыдущих баллов для подтверждения надежности возникает только после процедуры оценки, поэтому в процессе мотивация отсутствует. Кроме того, у второго кодировщика есть еще три стимула для искреннего несогласия с первым: 1) если клиент получает несостоятельную оценку, непригодную для использования в его дальнейшем личностном росте, спрос на программу «Глобальный профиль лидера» постепенно иссякнет; 2) если оценка по этой методике станет менее надежной, результаты исследований будут случайными и статистически несущественными; 3) если оценки неточны, они будут бесполезны для обучения будущих кодировщиков.
В конце 2016 года Элейн Хердман-Баркер подготовила двух кодировщиков для программы «Глобальный профиль лидера». Тест надежности, проведенный между оценками ответов на 900 незаконченных предложений, выставленными новыми кодировщиками, и оценками Хердман-Баркер (выставленными ранее, но не известными новым кодировщикам), показал уровень точного совпадения 87,1 и 87,4 %, при расхождении в оценке двух стадий менее чем в 1 % случаев.
Валидность WUSCT и «Глобального профиля лидера»
Валидность WUSCT и «Профиля» подвергается критике по двум пунктам: 1) это вопрос беглости речи, поскольку респонденты с продвинутой логикой пишут гораздо более длинные протоколы; 2) статус развития своего «я» как «главный признак», предложенный Лёвинджер, не подтверждается психометрическими методами. Что касается беглости речи, можно считать, что корреляция неизбежна: для выражения концептуальной сложности и креативности, характерных для продвинутых стадий, нужны более длинные ответы [68, 119]. В то же время результаты многочисленных исследований показывают, что развитие своего «я», измеренное по методике WUSCT, сопровождается далеко не только беглостью речи. Личностные характеристики, ассоциированные с предполагаемыми логиками действий, включают подчиненность строгим правилам (здесь наблюдается криволинейная зависимость, менее выраженная на пре- и постконвенциональных стадиях и более явная в конвенциональных логиках), забота, опека, сознательность, доверие, терпимость, эмпатия, склонность к самоанализу, творческий подход, нравственное развитие и целый ряд критериев, связанных с психическим здоровьем [58, 60, 69, 118, 119].
Читать дальше