Ответственность людей и решения искусственного интеллекта

Автор: Базиян Армен. Целью данной работы является разбор понятия «ответственность», которое является базовым инструментом достижения коллективных целей и организации работы в компаниях, а также интереснейшим метафизическим, философским понятием, которое глубоко отражает человеческую суть.

Причиной исследования ответственности стало фундаментальное различие между человеком и искусственным интеллектом (далее ИИ) при принятии решений. Краеугольным камнем этого различия является ответственность, присущая только людям. Выводы про границы применимости «безответственных» решений ИИ также рассмотрены в работе.

Определение ответственности

Среди многообразия определений ответственности, мудреных и не очень, можно выделить отличительное ее свойство – готовность лица, которое берет на себя ответственность, держать ответ за предпринятые или будущие действия. «Держать ответ» при этом трактуется широко, но мы будем считать, что это означает – быть готовым пожертвовать чем-то для возмещения/устранения урона, который может возникнуть в результате предпринятых действий или недостигнутых результатов [1]. Поэтому ответственность подразумевает:

  1. наличие «вышестоящего лица», перед которым нужно держать ответ («ответственность перед …»)
  2. границы ответственности, в рамках которых подответственное лицо держит ответ («ответственность за…»)
  3. размер ответственности («ответственен чем…»)
  4. уровень свободы (принятия решений) – возможность действовать и принимать решения самостоятельно для достижения декларируемого результата (в рамках своей ответственности).

Ниже каждый пункт будет рассмотрен более подробно и откроет новые глубины понимания ответственности.

Вообще, ответственность – это качество, которое свойственно всему человечеству, всем народам, вне зависимости от их местоположения, расы, культуры. Это универсальное понятие, на языке которого могут разговаривать народы между собой. На ответственности, как на фундаменте, построена вся коллективная деятельность человечества. Она тесно связано с понятием «обязательство». Несмотря на то, что ответственность является нематериальным понятием, ее можно принять, вменить, отвергнуть, взять …

Ответственность перед …

Как было сказано выше в определении ответственности, ее обязательной составляющей является тот, перед кем эта ответственность родилась. Сам факт необходимости наличия «начальника» для целей отчета уже специфичен для человека. Из этого вытекает ряд занимательных следствий:

  1. Первый вышестоящий – это сам ответственный. Без личной ответственности за себя остальные виды ответственности не могут существовать.
  2. Человек – существо по природе своей иерархичное. Ему нужен начальник, перед которым он отчитывается. И если начальника нет, то он его находит (Бог – тоже отличный начальник, поэтому «свято место пусто не бывает»), а без начальника – деградация от отсутствия контроля.
  3. Начальника нельзя подводить.

Важно: Ответственность находится очень глубоко внутри человеческой натуры. Она так же вложена нам Природой, как и сексуальность. Она с нами с рождения и до смерти, поэтому мы постоянно разговариваем о ней с собой, даже этого не замечая. Ответственность такая же логически необъяснимая, как влечение. Мы с ней живем. Это данность, которой если бы не было, мир был бы другой (построение управляемых систем без ответственности тоже вполне возможно, но это не человеческий сценарий организации систем управления [2]).

Ответственность существенно влияет на принятие решений. Поэтому решения людей отличаются от решений ИИ, в котором понятие ответственности не заложено (подробнее об этом ниже).

Есть две грани ответственности, которые важно выделить:

  1. Нравственная ответственность (ответственность перед идеалом, призвание) – Есть идея, которая больше нас. Есть идея, которая захватывает нас целиком, без остатка. Эта идея резонирует во всем нашем существе, она придает смысл жизни, наполняет ее красками, делает весь мир осмысленным. Эта идея – вечный источник энергии, двигатель и мобилизатор усилий. Она питает нас и требует своего воплощения в делах. И если эта идея внутри человека найдена, если ее уже осознал наш мозг, то она будет частью нас, а мы станем производителем ее плодов. И мы будем создавать эти плоды, не отвечая за последствия. Это главное – при служении идее человек не отвечает за результаты своего труда перед людьми. Он просто делает то, что должен, а получается то, что будет. Это служение идеалу, который больше него. И за общественные последствия воплощения которого человек ответственности не несет [3].
  2. Ответственность перед людьми (обязательство) – Эту ответственность мы берем на себя в рамках социально значимых проектов. Мы обязуемся перед людьми (в лице начальника, коллектива или народа) действовать в рамках своих полномочий для достижения поставленных целей. Мы готовы быть подотчетными и действовать в рамках этических норм на благо себя и окружающих. На пути достижении ожидаемого результата мир принимается со всеми его недостатками, и потому реализатор уделяет особое внимание средствам достижения целей и полностью готов отвечать за последствия своих действий, которые должен был бы предвидеть. Ответственность перед людьми — это умение объяснить и показать, как ты добился декларируемого результата или как планируешь до него дойти.

В человеке живут оба вида ответственности. Люди любят ответственных, любят верующих, потому, что на них можно положиться. Иными словами, они предсказуемы (а это минимизирует риски окружающих). Всем, кто что-то имеет, или дорожит жизнью, опасно жить в многообразии явлений открытого мира (они могут нести угрозу имуществу или жизни). Комфортнее создать вокруг себя закрытую, управляемую среду, в которой действуют понятные причинно-следственные связи.

Наличие нравственных идеалов является шаблоном для принятия решений в непредсказуемом море вариантов. Идеологические опоры помогают быстро принимать решения в новых ситуациях. Набор жизненных ориентиров обеспечивает единый вектор направленности всех действий человека.

Религия является формой проявления нравственной ответственности. Она как фундамент дает возможность оценивать все явления в категориях «хорошо/плохо». Религия формирует в человеке нормы этики.

Ответственность перед идеалом не должна вступать в конфликт с ответственностью перед людьми, иначе родится конфликт интересов внутри самого человека. И во что этот конфликт выльется – прогнозировать трудно (отказ от ответственности перед людьми, психические отклонения и т.п.). Поэтому важно идеологическую религиозную базу держать в русле общественного развития.

Личная преданность

Частным случаем ответственности перед людьми является личная преданность. Это когда начальник становится проводником идей из области нравственных целей человека, и переходит из категории людей в категорию полубогов. В нем сливается воедино идеал и объект обязательств. В этом случае подчиненный теряет свободу принятия решений и полностью подчиняет свое мнение мнению начальника, как существу более высокого порядка.

На должностях с формально очерченными границами полномочий большое значение играет личная преданность подчиненных, т.к. решения, принятые в рамках делегированных другим полномочий, могут идти вразрез с линией начальника (шкалой его приоритетов), а формальных поводов уволить такого подчиненного не будет, потому, что его действия также подчинены некоторой логике, которая может быть оправдана. Поэтому обычно на общественно значимых должностях сменяются сразу команды, а не только начальники.

Уровень неопределенности и уровень ответственности

Интересно отметить, что несмотря на то, что сама ответственность – понятие вполне определенное, уровень ответственности – понятие весьма противоречивое. Разберем это. Кажется очевидным, что уровень ответственности измеряется как потенциальная ценность результатов или разрушений, которые могут возникнуть вследствие ответственных действий. Иными словами, чем масштабнее цель, к которой ведет ответственный, тем выше уровень ответственности. Чем выше возможный уровень разрушений в результате действий ответственного лица, тем выше ответственность. Это определение кажется вполне адекватным, например, высказывание «у него ответственная работа» воспринимается как работа с высоким уровнем общественного влияния. Также можно сказать, что чем выше уровень доверия или ожиданий со стороны окружающих, тем выше уровень ответственности.

Но можно ли назвать ответственной работу, в которой менеджер управляет большими активами, но уровень случайностей минимален (например, все действия менеджера строго регламентированы инструкциями)? Конечно нет, он функционер, тупо выполняющий свою работу (например, бухгалтер, который перекладывает миллионы по счетам, по строго заданным правилам (сейчас в расчет творческую оптимизацию налогооблагаемой базы не берем)).

Отсюда следует, что уровень ответственности также находится в прямой зависимости от уровня рисков в достижении цели. Чем выше уровень рисков и случайностей, тем труднее достигать намеченных целей. Получаем, чем маловероятнее достижение цели, тем выше уровень ответственности. Но, при определенном очень высоком уровне рисков достижимость цели становится совсем маловероятной. Означает ли это, что человек, который берет на себя ответственность в таких неблагоприятных условиях, является очень ответственным? Или это свидетельство его безответственности? Ответ – ниже.

Уровень ответственности таким образом зависит от:

  1. количества ресурсов, переданных в управление,
  2. общественной важности ожидаемого результата (может исчисляться в деньгах),
  3. уровня свободы при принятии решений
  4. уровня вариативности среды (количества рисков при достижении цели).

Признание безответственности

Пришло время определить, что же такое безответственность.

Безответственность бывает 2-х видов, назовем их – неосознанная и осознанная.

Неосознанная безответственность – это безответственность ребенка, когда человек готов подписаться на достижение результата и взять на себя ответственность без реального понимания того, какой ценой этот результат может быть достигнут и какие действия нужно предпринимать.

Осознанная безответственность – отсутствие цели, невозможность придерживаться в своих действиях заявленной линии, непредсказуемость действий для окружающих и обман их ожиданий.

И снова вопрос: человек, который берет ответственность за достижение результата в высоком уровне неопределенности и рисков является ли очень ответственным, или наоборот безответственным? Ответ парадоксален – человек будет признан очень ответственным или безответственным в зависимости от того, достигнута ли цель в конце (!).Т.е. звание ответственного или безответственного человека назначается постфактум, по результатам предпринятых действий и полученных результатов. Получаем, что это звание зарабатывается исторически.

Из этого имеем несколько интересных стратегий поведения для подответственных лиц:

  1. Пока проект длится, невозможно сказать, является ли менеджер ответственным или безответственным. Поэтому в случае первых неудач менеджеру нужно лоббировать продолжение проекта любыми средствами: нельзя закрывать проект, а нужно всеми силами его продлевать и двигаться до первой удачи.
  2. В случае недостижения целей, но наличия обоснований фактами причин неудачи, действия менеджера могут быть признаны ответственными, а неудача списана на неблагоприятные факты окружающей среды. Граница между ответственностью и осознанной безответственностью может быть размыта при правильной аргументации.
  3. В случае достижения успеха действия менеджера всегда признаются ответственными, какими бы абсурдными они ни были в процессе достижения цели (если, конечно, он их может обосновать словами) – «Победителей не судят».

Из выше сказанного следует, что общественное мнение процессе движения к цели не имеет ровно никакой ценности в ввиду того, что оно всегда право и всегда постфактум.

Свойства ответственности

Ответственность и предсказуемость. К ответственности, как известно, приучают с детства. Как в семье, так и школе, в детях воспитывают «ценности» и приучают следовать правилам. Именно ценности и правила ограничивают свободу принятия решений, отбрасывая «запрещенные» решения. Эти ценности «гуманизма» заложены в человека с самого начала. Он их впитывает в процессе воспитания и социализации.

С самого детства общество формирует умение последовательно выполнять задачи, идти системно к цели и быть предсказуемым. Предсказуемость является базой для управляемости. О пользе управляемости говорить не приходится. Именно управляемость позволяет объединять разных людей в решении одной задачи для достижения результата, который был бы нереализуем для каждого отдельного индивидуума.

Собственно говоря, ответственность и последовательность в принятии решений – это синонимы.

Уровень зрелости человека определяется уровнем сформированности его ценностей, а также и способностью следовать им: принимать решения согласно выбранной им стратегии поведения.

Вариативность при принятии решений у людей не приветствуется. Внезапная смена стратегии, внезапное изменение взглядов и ценностей воспринимается обществом настороженно и негативно. Мгновенная смена парадигм – это угроза общественному строю, угроза непрерывному развитию общества, обман ожиданий. Мы предпочитаем иметь дело с теми, от кого знаем, чего ожидать. Это обеспечивает базовую ценность – безопасность. И в наших детях мы закладываем то же. По ходу жизни мы формируем связи с другими людьми. Связи рождают непрерывность в выборе стратегии. Чем бОльшим количеством связей мы обросли, тем труднее сменить свою стратегию одномоментно. Отсутствие непрерывности – это стресс.

Только форсмажор – резкое изменение внешних условий или большой стресс, являются поводом снять с себя ответственность.

В связи с тем, что одним из качеств, которые высоко ценит общество в общественно значимом человеке является постоянство, человеческое общество построено иначе, чем если бы его членами были машины ИИ. Люди выбирают одну стратегию и упорно следуют ей до достижения задуманного результата. Смена стратегии обычно обусловлена ее признанной неэффективностью или форсмажорным обстоятельством.

Стратегии ИИ

В противоположность логике принятия решений человеком, для ИИ характерны «случайные ходы», которые не характерны человеку. ИИ не мыслит непрерывно, он переключает стратегии молниеносно. ИИ меняет стратегию каждую минуту, по мере поступления новых данных.

В этом смысле он ведет себя безответственно (!). Поясним, если бы человек менял свои жизненные ценности по 5 раз на дню, как это может делать ИИ [4], то ценность личности была бы сведена к нулю. Все бы были стохастическими живыми роботами.

Человек нацелен на одну стратегию выигрыша, и если она не оправдывает себя – меняет их последовательно. Машина держит все возможные стратегии в активе и меняет их после каждого следующего хода. У машины нет вектора стратегии кроме одного – выиграть. Человек же ведет свою линию выигрыша непрерывно. Выбрав план, он последовательно ему следует из-за развитого чувства ответственности (!).

Именно ответственностью – последовательным следованием выбранной стратегии, отличается стиль игры человека от стиля ИИ.

Машине нет необходимости отчитываться (в т.ч. перед собой), почему она приняла свое решение. С каждым следующим ходом противника она вольна тут же изменить свою стратегию. Если ее отчет о выборе следующего хода услышит человек, то он придет в негодование: «но ведь ровно 1 ход назад ты планировала выигрывать совсем по-другому! И сейчас ты снова все пересмотрела?!»

А что с людьми? В людей инноваторов, которые меняют свои стратегии постоянно, вкладываться опасно. Нет надежности. А в ИИ человечество вкладывается с удовольствием, потому, что ответственность за предложенное машиной решение на себя берет человек, пропуская это решение через призму своей личности. При этом машина вольна предлагать любые решения, в том числе противоречащие «общечеловеческим ценностям», в т.ч. «бессовестные, беззастенчивые и наглые».

Получаем, что то, что запрещено человеку, разрешено машине. Из-за того, что у машин нет ограничивающих норм и убеждений, машины находятся в более выигрышной позиции при принятии решений – они вольны предлагать то, что людям запрещено. Это свойство машин используется человеком в областях, где нет ответственного (например, в войнах). Об этом подробнее ниже.

«А разве так можно было?»

Вообще, принятие решений без оглядки на правила трактуется обществом двояко, по факту того, был ли достигнут для общества позитивный или негативный результат.

Обычно бывает неприятной неожиданностью, когда у кого-то есть свои правила, которые отличаются от ваших ожиданий. Успешные действия других в противной логике по непонятным или непризнаваемым правилам вызывают негодование у проигравшей стороны, и, наоборот, превозносятся стороной победившей. Победившая сторона в случае успешности своей стратегии считает ее похвальной (но только с момента достижения победы).

Приведем несколько примеров:

ИИ не задумываясь «влезет в очередь», если его цель – быстрая покупка. ИИ найдет кратчайший путь решения задачи без оглядки на правила, которые в него заложены не были. Эффективность таких действий может стать оправданием их безнравственности.

Мы пришли к краеугольному камню отличия решений людей от решений ИИ – эффективность машин против нравственности людей. Какую сторону выбрать при принятии решения? Зависит от ситуации. Эта тема будет раскрыта чуть позже.

Команды против ИИ

Мы формируем личность в результате образования. Фиксируем специальность, чтобы поставить человека в рамки и сделать его действия предсказуемыми. Ценность постоянства стратегии в том, что постоянному человеку можно предложить место, которое соответствует его мировоззрению и/или профессии (и он не сбежит вдруг).

Формой постоянства является также личность человека. Личность – это человек со сформированными нравственными принципами. Личностное мировоззрение  – это всегда однобокое восприятие реальности. Поэтому личностей сочетают в коллективах, создавая адаптивные и устойчивые конструкции, которые эффективно выполняют поставленные задачи, нивелируя негативные качества каждого из индивидуумов. Или, наоборот, если требуется, усиливают особые качества одной личности подобными ей, создавая требуемую «атмосферу» науки, творчества, бесшабашности, отвязности, молодежности и т.п., в которой рождается инновация.

В этом принципиально отличается человеческий коллектив от машины ИИ. ИИ использует лучшее для создания подобного согласно заданным правилам, повторяя выявленную закономерность или ранее раскрытый успешный опыт (пример: Яндекс – ИИ эмулирует музыку Скрябина). Люди рождают то, чего не было (каким образом – пока не формализовано). Уникальные команды создают уникальные неповторимые продукты. И даже похожие продукты разных команд живут разной индивидуальной жизнью. В отличие от реализаций ИИ, которые при одинаковых начальных условиях и критериях успеха приходят к единому результату.

Итак, предсказуемые люди комплектуются в предсказуемые команды для достижения предсказуемого результата. И делают это другие люди-управляющие, которые в свое время тоже были отобраны другими управленцами. Это обеспечивает управляемость структурами в целом и обеспечивает непрерывность развития и безопасность вложений ресурсов и человеческого времени.

Машина не считает прошлых вложений. В каждый момент времени она смотрит только в будущее.

Хочется вспомнить хрестоматийный пример с самолетом, который достроен на 90% но требует вложения еще 100 млн для выхода на рынок. Но у конкурентов уже вышел самолет по всем характеристикам лучше создаваемого. Какое решение принять? Отказаться от вложений, или достроить?

Человек живет перед лицом неопределенности, зная многоплановость возможных реализаций (можно продавать через маркетинг или продажи, политический вес, экономические возможности, создание потребностей, хорошее знание рынков, создание уникальной ценности, поиск целевой аудитории и т.п.).

Машина живет в полной определенности прошлого и настоящего. Ее мир ограничен четкими рамками, и она не несет никакой ответственности за принятые решения.

Люди обычно склонны довести продукт до реализации. Машины более прагматичны (все зависит от модели принятия решения).

Человеческие системы

Делегирование ответственности. Ответственность – это ключевой системообразующий инструмент создания управляемых человеческих структур. Свойство человека передавать и брать на себя ответственность является основой для построения иерархий с целью достижения коллективного результата [5].

Вообще, человеку свойственно возлагать ответственность на кого-то или брать ее на себя. В случае неудачного решения «крайний» должен быть найден. Того требует человеческая натура. Поэтому ответственность – это то, «с чем что-то надо делать».

Для этого человечество придумало массу инструментов, с помощью которых ответственность или возлагается на кого-то или, наоборот, скрывается, размазывается.

Примеры инструментов возложения ответственности:

Примеры инструментов ограничения и сокрытия ответственности:

Механизмы появления «дыр» в системе делегирования ответственности.

Бывает, когда области безответственности рождаются по причинам, не связанным с халатностью или злым умыслом. Например:

Это лишь некоторые примеры, инструментов фиксации или сокрытия ответственности. Чтобы полно раскрыть эту тему нужно посвятить этому целое исследование.

Демократия как способ безответственности

Как говорилось в данной работе ранее, принятие решений зависит от жизненных приоритетов индивидуума. Система ценностей у каждого человека своя. Поэтому в условиях демократии легко могут быть приняты только те решения, которые выгодны подавляющему большинству. Именно такие решения принимаются в ООН (об этом читайте ниже), а пока скажем, что немалое число решений, связанных со стратегией, ущемляют перспективы одних участников в пользу других с целью достижения благоденствия в обществе в целом, как его понимает принимающий решение.

Иными словами, подавляющее большинство решений имеют личностный окрас (!), отражающий жизненные приоритеты властеимущего человека. Из этого следует, что демократия, как инструмент волеизъявления каждого, неэффективна в решении вопросов, связанных с конфликтом интересов. Неэффективность демократии особенно ярко выражается в случаях, когда общество делится в пропорции, близкой к 50/50. В таких случаях решение просто не может быть принято, оно затягивается всевозможными процедурами согласования между лицами, принимающими решение, обсуждениями в народных дебатах и т.п. Все это финансируется силами, каждая из которых верит в свой успех, и поэтому не жалеет средств. И все это в конечном итоге эскалирует проблему, формирует раскол в обществе, усугубляет общественные противоречия, подсвечивая их.

Немудрено, что демократию можно использовать как инструмент развала страны. Там, где при авторитарной власти решение принимается тихо, в демократическом обществе может сформироваться общественный раскол (вспоминаем последние американские выборы, английский брексит). Трудно представить себе, что бы было, если бы присоединение Крыма выносилось предварительно на всенародное голосование.

Как уже упоминалось, любое голосование – это размывание ответственности. На вопрос, кто принял такое решение, ответ – народ. Кто несет персональную ответственность за решение народа? – Никто. Как же мы до этого дошли? – Так получилось.

Сказанное выше не означает, что автор является приверженцем авторитарной власти (см. статью «О стратегии развития человечества в новом мире искусственного интеллекта»), однако целостность политики, проводимой одним уполномоченным лицом, существенно больше, чем в демократическом обществе, где нет яркого представителя, выражающего волю народа.

В этом заключается роль личности в истории. Личность аккумулирует в себе чаяния народа и придает им целостность через призму своей личности.

Ответственность кончается там, где заканчивается иерархия

Высшее лицо в иерархической пирамиде делегирования ответственности принимает решения в интересах человеческой структуры, которая его на этот пост возвела. Это значит, что это лицо будет действовать не в интересах человечества в целом, а в интересах той его части, которая делегировала ему принятие решения. А это значит, что ЛПР[6] не несет нравственной ответственности за все человечество. А значит, угрызения совести за все человечество у него отсутствуют. Поясним это на примере.

Взаимоотношения между государствами – система без центра ответственности

Очевидные человеческие иерархии, в которых есть единый центр ответственности, это конечно государства. Каждое государство выстроено иерархически, действует в своих интересах, а все люди в нем подчинены единому центру ответственности (президенту, премьер-министру, королю и т.п.). По внутригосударственным вопросам найти центр ответственности относительно несложно. Де-юро все прописано.

Значительно интереснее обстоит дело в принятии межгосударственных решений. Решения в масштабах всего мира, которые удовлетворяют все государства, принимаются на уровне ООН. Напомню, в ООН важное решение принимается только в том случае, когда за него голосуют 2/3 государств (т.е. подавляющее большинство). Но таких решений, которые были бы выгодны всем, очень немного. Большинство решений (даже если они выгодны всем) ставят некоторые государства в более выгодные условия перед другими.

Например, если принято решение по улучшению экологии Земли (казалось бы, должно быть выгодно всем), то государства, которые владеют экологичными технологиями будут их экспортировать в другие страны и ставить их в зависимую позицию. Налицо различный уровень выгоды для государств от, казалось бы, очевидного решения.

Поэтому решений, которые можно принять на уровне ООН очень немного. Большинство мировых решений ущемляют интересы одних стран, в пользу других, несмотря на то, что они работают на благо всего человечества. Поэтому в большинстве решений на благо человечества нужно принудительно ущемить одни страны и открыть горизонты развития для других. (А попробуйте-ка ущемить тех, кто сильнее всех…)

Приведу несколько краеугольных проблем человечества, которые требуют какого-то решения, но этого решения нет:

  1. Регулирование численности человечества – экспоненциальный рост численности населения должен быть поддержан таким же ростом мощностей по производству продуктов питания и ресурсами планеты. Иначе голод дестабилизирует ситуацию на всей Земле и истощит ее ресурсы. Нельзя утверждать, что будущий голод – это данность для человечества, т.к. технологии развиваются, но можно утверждать, что подобный вопрос не может быть решен силами ООН.
  2. Земельный вопрос – возможные природные катаклизмы могут привести к необходимости миграции большого количества людей на новые земли, пригодные для проживания, которые находятся на территории других государств. Как в этом случае должны поступить государства со свободными землями? Защищать их до последнего, или поделиться ими с другими нациями в пользу человечества в целом?
  3. Управление природными ресурсами – уничтожение природных ресурсов влечет сиюминутное обогащение государств, на территории которых они находятся, но это негативно сказывается на экологическом фоне всей Земли (лесные, водные, биосферные, энергетические ресурсы). Какими средствами можно остановить уничтожение природных ресурсов планеты?
  4. Ограничение гонки вооружений – как ограничить производство ядерного оружия в условиях нарастания противоречий между государствами? Как обеспечить условия выживания и процветания человечества в этих условиях? Как сделать так, чтобы машины не доиграли сами ядерную битву в конечном итоге уничтожив человечество?

Выше приведенные мировые вопросы и подобные им не могут быть решены демократическими структурами, но только авторитарным решением единого центра принятия решений (например, кристально чистых людей, действующих в интересах всего человечества, которых нельзя заподозрить в корыстных целях). Однако авторитарное решение при существующем многополярном многогосударственном мире может быть принято только с поддержкой военной силы ввиду того, что несогласные государства будут защищать свои интересы как умеют. Да и нет такой структуры (типа мирового правительства), которой все государства готовы делегировать принятие решений.

Такую структуру сейчас трудно представить (не считая Шамбалы Рерихов). Конфликтуют между собой сейчас не только государства, но и финансовые кланы. Как следствие, насущнейшие вопросы человечества не могут быть решены. Но ведь оттягивание решения подвигает все человечество к биосферной катастрофе (впрочем, Земля обновляла своё видоразнообразие даже когда оно сокращалось до 10%, но для человеческой цивилизации все закончится печально).

Получаем, что человечество является объектом безответственности. Нет органа, который не просто думает о нем, но и принимает волевые решения в пользу всего человечества.

А там, где нет ответственности – нет совести. Например, несмотря на то, что все понимают, что самоуничтожение человечества в войнах – это неправильно, любой руководитель государства вступит в войну за защиту интересов своей страны (и против интересов человечества как вида). Получаем парадоксальный факт, что народы защищены, а человечество в целом – нет. Мировое правительство с точки зрения ответственности за Землю имеет практический смысл, однако негативно воспринимается жителями всех государств.

Вся эта преамбула к тому, что именно в межгосударственных отношениях, где нет ответственности, нравственности и совести, решения ИИ наиболее применимы. Здесь есть только один критерий – эффективность воздействий. Эта простая целевая функция прекрасно оптимизируется средствами ИИ. Возможно, государства легче договорятся о единой модели для постановки задачи ИИ, чем будут обсуждать само решение задачи? Тогда они примут решение ИИ с бОльшей охотой J. Если это случится, то использование ИИ для принятия решений выйдет на новый уровень.

Приложение

Красивой иллюстрацией к понятию ответственности является притча про расколотый алмаз, которую приведем здесь:

Один купец приобрел в Африке большой алмаз, величиной с голубиное яйцо. Но внутри камня была трещина. Ювелир, которому владелец камня показал алмаз, восхищенно покачал головой и сказал: «Этот камень можно расколоть на две части, из которых получатся два великолепных бриллианта, каждый из которых будет во много раз дороже алмаза. Но неосторожный удар может разбить это чудо природы на горсть мельчайших камушков, которые будут стоить копейки. Я не берусь так рисковать…» Так же отзывались и другие.

Но однажды ему посоветовали обратиться к старому ювелиру, мастеру с золотыми руками. Тот рассмотрел камень и снова рассказал о рисках. Купец сказал, что он уже знает эту историю наизусть. Тогда ювелир согласился помочь, назвав хорошую цену за работу. Когда купец согласился, ювелир вызвал своего молодого подмастерья. Паренек положил камень на ладонь и один раз ударил по алмазу молоточком, разбив его на две равные части.

Потрясенный хозяин бриллианта спросил: «Как давно он у вас работает?!» Ювелир ответил: «Всего третий день. Он не знает настоящей цены этого камня, и поэтому его рука была твердой»

Огромная ответственность, которую принял на себя ювелир (нетрудно представить, что было бы в случае неудачи), была уравновешена безответственностью, порожденной неведением молодого подмастерья.

________________________________________

[1] Готовность возместить урон совсем не всегда означает необходимость его возмещения. Адекватной платой за безответственное отношение должностного лица может стать его увольнение, хотя решение может повлечь за собой многомиллионные убытки.

[2] вспоминаем, например, теорию автоматов.

[3] В качестве примера можно привести Великую Социалистическую Революцию 1917 г (+), или идеалы Гитлера (-).

[4] у ИИ есть только одна цель, которой все подчинено, а у человека – много и взаимно противоречивых.

[5] Свойство организации в коллектив для достижения общей цели присуще и другим живым существам (волки, муравьи и т.п.), однако механизмы, которые побуждают других живых существ это делать, могут быть отличными от личной ответственности.

[6] ЛПР – лицо, принимающее решение.

Источник(и):

Хабр