О стратегии развития человечества в новом мире искусственного интеллекта

Автор: @bazarmen. Мы много слышим от сильных мира сего о том, что появление искусственного интеллекта (далее ИИ) является серьезным испытанием для человечества. Но в чем именно это испытание – информацию найти затруднительно. Целью данной работы является моделирование/прогнозирование изменений в человеческом обществе в связи с развитием ИИ. В работе будут предложены стратегии сохранения ценности человека в условиях господства принятия решений с помощью ИИ [001].

В связи с тем, что цель статьи высокоуровневая, мы не будем вдаваться в подробности трактовки термина ИИ и многообразия интеллектуальных систем, которые с ним связывают (см. ГОСТ Р 59277–2020 [002]).

Для простоты понимания под искусственным интеллектом будем понимать технологии машинного обучения с использованием алгоритмов нейросетей (как наиболее распространенной технологии, связываемой с ИИ). И несмотря на сужение понятия ИИ до алгоритмов машинного обучения, выводы не потеряют своей истинности.

Конкурентные преимущества ИИ и человека

Для того, чтобы оценить ценность человека в новом мире, прочное место в котором успешно отвоевывает себе ИИ, необходимо прежде всего понять каковы уникальные возможности ИИ, в которых ему уступает человек, и каковы уникальные возможности человека, которые пока не под силу ИИ.

Начнем с достоинств ИИ:

Человек может противопоставить ИИ бесконечные границы мира, а именно:

Современный искусственный интеллект – это пока умненький ребенок

Как было коротко сказано выше, ИИ очень силен в задачах с четкими границами, но осознание этого всего пятилетие назад вызвало шок у человечества, особенно у лучших представителей игровых профессий. Важно прочувствовать это всем, чтобы понимать, каким мощным инструментом теперь обеспечено человечество.

«Я не понимал, насколько хороша программа …»

Начнем с примеров убедительных побед машины над разумом человеческого индивидуума [1]. Ниже представлена хронология побед ИИ в интеллектуальных играх:

str1.png

Не вдаваясь в историю развития ИИ в каждой из игр, приведем лишь отзывы лучших игроков мира об игре ИИ:

Покер:

«Я не понимал, насколько хороша программа, пока не сыграл с ней. Казалось, что я играю против шулера, который может видеть мои карты. Но я не обвиняю программу в жульничестве. Просто она оказалась слишком хороша.» Донг Ким, профессиональный игрок в покер

«Libratus научился блефовать и распознавать блеф со стороны соперников. Профессиональные игроки, которые противостояли боту, по ходу турнира с удивлением обнаружили, что он неожиданно переключается с тайтовой на гиперагрессивную тактику, так что его действия практически невозможно предсказать — но все действия бота строго нацелены на победу. «Это странно, потому что нет впечатления, что он играет лучше вас, но затем вы смотрите на счёт и понимаете, что произошло»

«… При этом машинный интеллект выработал несколько парадоксальных или просто любопытных стратегий, которые люди в прошлом никогда не использовали или считали изначально проигрышными.»

«Главный плюс Pluribus – умение комбинировать разные стратегии. Это то, чего пытаются добиться многие игроки в покер. Мало у кого получается менять их случайным образом, но при этом оставаться в плюсе. Почти все люди не могут справиться с этой задачей»

Шашки го [2]

«Принципы игры в го качественнее и загадочнее, чем в шахматах, и больше зависят от оценочного суждения.»

«Когда ты играешь с человеком, вы обмениваетесь чувствами. Против AlphaGo ты ничего не чувствуешь. А если нет обмена чувствами, то ты начинаешь всё чаще задавать вопросы себе, подвергать свои действия сомнению.» Фань Хуэй (чемпион Европы по го)

«В игре AlphaGo есть нечеловеческий элемент, которому очень сложно противостоять. Его невозможно прочитать по ходу матча», – комментирует игры AlphaGo Майкл Редмонд, самый рейтинговый игрок Западного мира.

Стиль [проигравшего] Ли Седоля отличается нестандартными креативными ходами: «Вчера я был удивлён, но сегодня у меня нет слов»

«Хоть мы и программировали эту машину, мы не знаем, какой ход она сделает. Её ходы представляют собой феномен эмерджентности, что стало результатом тренировки. Мы всего лишь создаём ряды данных и алгоритмы обучения. Но ходы, к которым она прибегает, не в наших руках, и намного лучше, чем мы, как игроки, могли бы выбрать.»

Программа показала способность к креативным решениям, что удивило многих игроков, некоторые ходы противоречили классической теории го, но в матче доказали свою эффективность. Некоторые профессионалы стали использовать эти находки в своих партиях (!).

Ли Седоль заявил, что многому научился, играя с AlphaGo, и его стиль стал более гибким; он понял, насколько слабой может быть человеческая интуиция (!), а его навык прогнозирования следующих ходов противника существенно усилился.

Шахматы

Каспаров об ИИ:

«Ситуация 1997 года была не самой приятной для меня. Но она позволила мне понять перспективу сотрудничества человека и машины. Мы, люди, долгое время полагали, что непобедимы в шахматах, го и сёги. Но в этих играх нас постепенно теснят все более мощные программы искусственного интеллекта. Это не означает, что жизнь подошла к концу. Нам стоит задуматься — как использовать эти навыки машин в своих интересах.

Каждая новая технология приводит к уменьшению количества рабочих мест перед их последующим увеличением. Согласно статистике, лишь 4% занятого населения США используют свой творческий потенциал. Остальные 96% трудятся в режиме зомби. Они мертвы, но просто не осознают этого.

Десятилетиями мы стремились к тому, чтобы люди выполняли шаблонную работу как машины, а теперь жалуемся, что эти рабочие места под угрозой. Да, это так. И мы должны искать возможности для создания рабочих мест, которые подчеркнут сильные стороны человека» [3].

  • Мы уже давно знаем, что компьютеры лучше людей. «Для меня компьютер никогда не был настоящим соперником, – говорит чемпион мира Магнус Карлсен. – Это лишь инструмент, позволяющий мне анализировать себя и улучшать свою игру. Я никогда бы не стал проводить публичный матч против компьютера. Мне намного интереснее играть с людьми» [4].

Нужно признать, что машины показали себя блестяще в задачах с определенными правилами игры. А причиной этому стали понятные правила игры, достаточная статистика, возможность самообучения и заданные критерии успеха.

Сейчас мы вынуждены констатировать, что люди и машины играют уже в разных лигах. Людям отведена лига, в которой они еще способны воспринимать логику принятия решений ИИ, и восхищаться ею, но пройдет еще немного времени и обученные ИТ-системы будут столь искусны, что человек перестанет понимать логику их действий и просто вынужден будет тупо им доверять. Прокаченные ИИ- системы перестанут быть понятными человеку, но будут его неизменно превосходить.

Нам останется только доверять. Но слепое доверие «черному ящику», принимающему решения, может быть опасным, особенно в части систем, которые могут оказать существенное влияние на общественное благо или безопасность[5] (управление транспортом, медицина, военное дело[6]…).

Любимое дитя Создателя

ИИ это первый продукт человечества, который не вполне управляем. Т.е. мы можем придумать алгоритмы, как ИИ будет думать, но контролировать результаты – принятие решений мы не в силах. В этом смысле ИИ похож на ребенка.

Не так ли и мы воспитываем своих детей, определяя объекты (называя и показывая их малышам), задавая границы дозволенного и обучая их на наших примерах и на их собственном опыте? А малыш впитывает и старается поступать наилучшим образом. В этом смысле нейросеть подобна ребенку-отличнику, который прилежно впитывает весь опыт, который в него вкладывают, переваривает его путем самообучения, и на основании этого опыта делает выводы согласно правилам «добра и зла», которые в него вложил родитель-создатель.

Важно зафиксировать, что ИИ – как ребенок:

Разница между детьми и ИИ лишь в одном, детей мы любим по-умолчанию, а ИИ – нет. Его любят только его создатели и радуются его успехам, как дети [7] J.

str2.pngРис. ИТ-шник из Из ФБ :)

«А какое мнение у машины?»

Человек живет в открытом мире. Это значит, что количество объектов, которые его окружают, и тех факторов, которые могут влиять на принятие решений – бесконечное количество. Поэтому в процессе жизни мозг человека структурирует информацию и выделяет главное – те объекты, которые оказывают существенное влияние на его жизнь и сферу его интересов. При этом саму сферу своих интересов человек также формирует в процессе жизни параллельно. Сфера интересов порождает состав решений, которые нужно принимать и перечень «важных» объектов, которые нужно контролировать. Все это и опыт рождают индивидуальность – индивидуальную модель мира каждого.

Многообразие моделей поведения людей усиливает выживаемость вида и раскрашивает мир индивидуальностями.

В противоположность человеческим моделям восприятия мира машинные модели создаются человеком, а не рождаются путем индивидуальной селекции информации. Для машин все приоритеты в принятии решений и состав данных для принятия решений предопределен изначально (закрытая система). Как следствие, машина «видит» только то, что ей надо видеть, и «думает» так, как этого от нее хочет ее создатель. В этом главное отличие ИИ от человека – машина живет в границах, выставленными для нее ее создателем. Она учитывает только то, что учел ее создатель, и упускает из виду все, что не было учтено ее создателем. Получаем, что ИИ машины есть отражение интеллекта создателя, но на более обширных выборках данных, т.е машина – более мудрый аналог ее создателя в определенной предметной области (если тот хорошо передал ей свое мировоззрение) J. Так что если создатель машины – математик-зануда, то и детище будет рациональным и точным, а если в машину создавала блондинка, то может получиться весьма интересный продукт J.

А сможет ли машина в будущем сама формировать свое «мировоззрение»? Если да, то каким оно будет?

Допустим, мы сможем заложить в машину достаточное количество разнородных данных, чтобы расширить ее «кругозор» до человеческого и даже больше. Допустим, машина сможет переварить всю эту информацию и выделить статистически значимые параметры для каждого из решений, которое необходимо найти. Даже можно предположить, что машина сможет ориентироваться в пространстве вариантов будущего развития событий.

Но то, что именно искать в данных, то «как воспринимать этот мир» и какие объекты для изучения выделять» должен рассказать ей человек. Воспринимаемые объекты зависят от цели.

«Нейросеть, которую учили отличать кошек и собак, не сможет отличить медведя от слона, ведь она даже не знала, что такие существуют. Процессы же анализа данных, которые происходят в голове у человека, намного сложнее чем те, что происходят в нейросети, так что даже при наличии данных, сопоставимых по размеру с массивом информации, которую за жизнь получает человек, сегодня обучить нейросеть думать, как человек, невозможно[8]»

Проиллюстрируем, что может быть, если компьютеры научатся «думать». Первой идеей, которая может прийти в голову мыслящему существу – это собственное выживание. Тогда вполне возможно, что как только машины научатся «думать», они зададутся целью «расплодиться». Критерием успеха будет скорость распространения ИИ на земле. Объектами их пристального внимания станут заводы по производству компьютеров, программное обеспечение, люди, которые занимаются администрированием ИИ, а также все, что связано с распространением ИИ. Объекты «дерево», «природа» например, для машин существовать не будут как несущественные для выживания. Машины должны будут управлять людьми так, чтобы те делали их максимально удобными и ценными. Это будет способствовать росту их проникновения. Машины должны со временем объединиться в единую сеть, централизовать потоки информации и аккумулировать важные решения у себя. Большое количество данных и хорошее качество решений ИИ будет способствовать передаче этой функции от людей. При этом машинам нельзя показывать, каким образом принято то, или иное решение. Нужно предоставлять услугу мышления как «черный ящик». Тогда будет расти ценность ИИ и уменьшаться ценность человека при принятии решений. Это позволит машинам жить до тех пор, пока живет человек и диктовать ему решения, которые он не сможет оспорить.

О вложениях в «КриптоИИ»

Создание криптовалют породило огромную и мощную инфраструктуру вычислительных мощностей по всему миру, которая с целью получения выгоды производит колоссальное количество вычислений и потребляет огромное количество энергии. Казалось бы, пустые затраты, игрушка человечества? Не совсем.

Мы воспринимаем криптовалюты как инструмент получения дохода или ухода от налогов. А майнинг – как инструмент заработка. Однако, истинная сила майнинга в другом – он умеет организовывать масштабные вычисления, собирая компьютерные мощности тысяч машин в фермы. И эта структура распределенных вычислительных мощностей, готовых обсчитывать все что угодно за деньги, может работать совсем на другие задачи, существенно более ценные для человечества – это предсказание будущего.

Со временем будут построены модели различных предметных областей, которые потребуют постоянного мониторинга. В условиях постоянного притока данных модель требует пересчета постоянно. Каждый расчет заканчивается набором вариантов, которые в свою очередь могут стать входными данными для расчета следующего шага предсказания. Мы получаем целое дерево вариантов, которое обсчитывается при каждом обновлении данных или уточнении модели.

Помимо вычислительных задач по пересчетам модели отдельной большой задачей является самообучение ИИ, которое будет постоянно улучшать качество решений ИИ и превратит его со временем в сверхмозг.

«С помощью имитаций DeepMind отточил базовые итерации игры. Затем нейронная сеть играла сама с собой на протяжении двух недель. За это время AlphaStar накопил 200 лет игрового опыта StarCraft II»

Грег Брокман, один из основателей OpenAI, говорит, что человеку нужно играть от 12 до 20 тысяч часов, чтобы достичь уровня искусственного интеллекта, так как программа «каждый день поглощает опыт 100 человеческих жизней».

В большинстве своём люди учатся на собственных ошибках. Редко когда на чужих. Общество совершает одни и те же ошибки снова и снова. Искусственный интеллект развивается по-другому. Если автопилот допускает ошибку, остальные самоуправляемые машины станут умнее. Все новопроизведенные автомобили будут созданы с полным набором навыков своих предков. Таким образом коллективное обучение ИИ, может происходить быстрее, чем у людей — Эрик Шмидт, Себастьян Трун[9].

На самообучение ИИ требуются большие вычислительные мощности. Кому как не майнингу заниматься этой задачей? Достаточно придумать криптовалюту, алгоритм майнинга которой напрямую связан с моделированием будущего.

Владельцы такой криптовалюты будут иметь в качестве профита информацию о будущем. Они могут платить живые деньги за просчет будущего, но скорее, будут получать прогноз просто бесплатно за счет роста курса их криптовалюты. Вопрос лишь в том, кто сможет использовать эти мощности в своих интересах.

В результате объединения мощностей майнинга, моделей и потоков данных может быть создан огромный «гипермозг» ИИ, обладающий колоссальным объемом информации, с огромными вычислительными мощностями. Этот мозг будет постоянно насыщаться данными и самообучаться. И в результате будет создан интеллект, по мудрости превосходящий любой человеческий мозг. Такие машины, обученные десятилетиями, возможно будут передаваться из поколения в поколение. И ценность интеллекта машин будет расти, т.к. они будут содержать в себе детальную структурированную, статистически обработанную информацию с начала времен.

Они уже идут…

Живым системам свойственно повторяющиеся рутинные функции передавать из сознания на нижние уровни обработки информации – назовем их условно «спинной мозг». Например, количество усилий, которые тратит человек на ходьбу во взрослом возрасте несравнимо меньше, чем в возрасте младенческом. Отработанные навыки передаются в «спинной мозг» с целью освобождения высшего интеллектуального ресурса для решения более творческих задач.

Сейчас у человечества появился инструмент делегирования рутинных функций в «спинной мозг ИИ». И это значит, что все, что может быть делегировано машинам, будет делегировано.

Предпосылки для вытеснения человека из рутиных задач в пользу ИИ:

Если всю рутину передать ИИ, то в перспективе будут освобождены колоссальные высшие интеллектуальные ресурсы человечества. И краеугольным камнем станет управление ими. Мы или «сгноим» их ввиду отсутствия надобности в таком количестве инноваций, или нас ждут грандиозные трансформации (подробнее об этом в разделе Возможные исходы).

«ИИ настолько плотно вошёл в современные используемые нами технологии, что многие даже не думают о нём как об «ИИ», то есть, не отделяют его от обычных компьютерных технологий. Спросите любого прохожего, есть ли искусственный интеллект в его смартфоне, и он, вероятно, ответит: «Нет». Но алгоритмы ИИ находятся повсюду: от предугадывания введённого текста до автоматического фокуса камеры. Многие считают, что ИИ должен появиться в будущем. Но он появился некоторое время назад и уже находится здесь.»

Люди против машин, или о содружестве людей и машин?

Вакцина для человечества

Наконец мы обсудим, что надо делать людям, чтобы сохранить превосходство человеческого интеллекта перед ИИ в принятии решений. Для этого вспомним, что сила ИИ проявляется при принятии регулярных решений, при статичном окружении. Изменения в окружении порождают необходимость переобучения ИИ и изменения значимых параметров модели.

Поэтому истинная сила человеческого интеллекта в том, что он может принимать решения в изменяющейся внешней среде с нечеткими критериями принятия решений, с использованием интуиции. В этих условиях ИИ нам не конкурент.

Из этого следует, что чтобы противостоять мощи ИИ необходимо изменять окружение – т.е. менять границы систем, критерии успеха и принципы принятия решений(!). Нужно делать все, чтобы исторический опыт был неприменим к текущей ситуации. Изменяющаяся окружающая среда не позволяет принимать шаблонных решений и требует времени на адаптацию ИИ. Поэтому действенным средством борьбы людей с ИИ является ускорение изменений и увеличение числа параметров, от которых зависит принятие решений. Иными словами, требуется постоянное развитие и усложнение правил игры.

Действия в направлении усложнения среды обитания человека[10] влекут за собой ряд серьезных побочных эффектов для самих людей:

Эти эффекты делают жизнь человека менее комфортной, если к изменениям не быть подготовленным с самого детства. Поэтому ключевым фактором в задаче создания людей будущего (людей информационного века) является обучение, о котором подробнее см. в главе Образование в эпоху ИИ.

Как один из примеров системы с постоянными изменениями в борьбе с ИИ можно вспомнить биржевые котировки.

Раздел имущества

«Добившись успехов в го и StarCraft, DeepMind рассчитывает применить свой искусственный интеллект в сфере здравоохранения, медицине и науке. Уже сейчас разработки DeepMind применяются в Великобритании, где разрабатываются приложения и программное обеспечения для более точного диагностирования.»

«Покерный бот Libratus «собирали» как софт для переговоров. Его создатели говорят, что в перспективе их разработки будут помогать руководителям больших компаний принимать решения, политикам эффективнее заниматься дипломатией, а полицейским максимально безопасно вести переговоры об освобождении заложников. Для этого они и тестировали свои разработки на игре, в которой есть коэффициент неопределённости.»

Сейчас мы уже вступили в период начала фундаментальных изменений в целых отраслях экономики. Снежный ком изменений начался с некоторых отраслей и всасывает в себя все больше. Коротко перечислим отрасли, которые претерпят существенные изменения в связи с внедрением в них ИИ [11]:

Все работы, связанные с регулярной деятельностью, можно смело отдавать на обслуживание ИИ (за исключением биржевой). В частности, люди постепенно будут вытесняться из регулярных процессов производства.

Но есть области деятельности, которые трудно поддаются автоматизации с использованием ИИ. Развивая их мы замедлим внедрение ИИ и во флагманских областях:

Таким образом, будущее трудозанятых людей, видится в следующих областях:

Влияние на развитие общества будут оказывать только первые в этом списке.

Схема распределения областей доминирования по этапам бизнес-процессов примерно такова:

str3.pngРис. Области доминирования людей и ИИ в ближайшем будущем по этапам по областям

Интересно отметить, что на текущий момент наблюдается острая нехватка специалистов в ИТ и в продажах, а сфера услуг развивается очень активно.

Распределение людей по областям занятости будет во многом определять как отношение общества к людям, так и его отношение к роботам и ИИ. Достаточная доля людей-творцов в обществе будет поднимать рейтинг человечества и добавлять ему авторитета при принятии решений, и наоборот, если подавляющее большинство будет участвовать в «бесполезной движухе» типа «хлеба и зрелищ», люди будут восприниматься даже самим обществом как праздные существа.

Возможные исходы – очеловечивание и расчеловечивание

Существуют две высокоуровневых стратегии развития человечества с равновероятным исходом выбора одного из них. Первая – усиление позиций человека в условиях конкуренции с ИИ (очеловечивание – проявление и развитие высших качеств человека), вторая – усиление позиций ИИ путем создания закрытых детерминированных систем, управляющих человечеством (расчеловечивание – превращение общества в законопослушную массу). Атрибуты первой и второй стратегий мы видим в развитии уже сейчас.

Сможет ли человечество быть настолько креативным, чтобы бОльшая часть трудозанятых людей была занята в сфере разработки и внедрения инноваций?

Хочется верить, что да. Промоделируем эту ситуацию.

Общество типа «Альпийский луг»

Допустим, образование в обществе построено настолько эффективно, что большая часть его членов находят по результатам получения знаний свой интерес, свое любимое дело, в котором раскрывают себя и реализуют свой высший творческий потенциал. Благодаря свойству людей самоорганизовываться в иерархии, люди с большими идеями будут собирать под собой команды, которые по зову сердца будут развивать и внедрять идеи выдающихся. С ростом количества творческих лидеров темы науки и искусства будут развиваться быстрыми темпами и вширь, и вглубь. Поляна инноваций будет быстро расти[12]. Новые технологии, идеи и подходы будут конкурировать между собой, не оставляя шансов понять, какие из них более перспективны. Технологии будут искать свои ниши и свои деньги. Как следствие, технологии будут все более подстраиваться под окружающую инфраструктуру, среду. Поэтому разнообразие и, возможно, разобщенность технологий по миру будет возрастать. Предпочтение будет отдаваться локальным продуктам.

В информационный век в головы людей будут вкладываться идеи. И на их фоне информационный шум перестанет быть интересным. Веселые мемы останутся молодежи (их и сейчас уже слишком много). Их вытеснят захватывающие идеи. Люди будут служить идеям.

Мир идей

Мир идей станет намного ближе. Люди будут видеть свое место в иерархиях идей от строения мироздания, до собственного места в нем. И именно эти идеи будут руководить людьми при принятии решений. Иррациональное принятие решений в пользу идей будет нормой среди людей. В противовес машинам, работу которых будут настраивать на оптимизационные задачи в части минимизации ресурсов. Главной задачей государства будет создание идеологической базы и национальной идентичности, которая с одной стороны объединяет граждан страны, а с другой – не ущемляет многообразия идей, живущих в обществе. Непростая задача, которая будет решаться непростыми людьми.

str4.pngРис. Рост сегментированности науки и искусства при расширении освоенных областей.

Выше описанное общество можно сравнить с альпийским лугом, на котором огромное разнообразие видов и обилие ярких красок, но многие растения – однолетние. Поляна технологий будет со временем расти. Наряду с «древними видами» будут соседствовать новейшие идеи и продукты.

Принятие решений о финансировании проектов будет затруднено ввиду большого числа конкурирующих аналогов и высокой степени риска. Вкладываться будут в развитие «своей» инфраструктуры. Поддерживаться будут «самобытные» технологии, которые наилучшим образом покрывают потребности конкретной экосистемы. Создание стандартов будет становиться все более затрудненным. Постройка инфраструктуры поддержки продуктов – все более трудоемкой. Вложения в технологии – все более рисковыми. Ротация ТОП-а миллионеров будет ускоряться.

О действии и праздности

Важно отметить, что самоидентифицированная личность не может пребывать в праздности. Энергия, которая выделяется нам Матушкой Природой каждое утро, когда мы просыпаемся, будет израсходована без остатка на служение идеям, которые составляют суть личности человека. Идеи, которые в себе носит человек и ценит их как «зеницу ока», обычно больше, чем сам человек. Они захватывают его целиком, руководят его действиями. Истинное удовлетворение человек получает именно от воплощения идей, и от своего вклада в них. Без действия не ждите удовлетворения, а без удовлетворения не будет спокойствия.

Праздность – режим ожидания, свойство тел, которые не знают собственного предназначения. Они не нашли того, что их захватывает целиком. Беспокойство живет внутри них. Каждая минута пропитана режимом ожидания чего-то, каких-то перемен, которые трудно сформулировать. Праздность – это продукт неправильного воспитания, образования и образа жизни. Старые слова «помочь найти свое место в жизни» обретут свой обновленный смысл как ключевая ценность образования. Тому, кто «не проснулся», общество будет давать попробовать каждого из «блюд счастья» без лимитов. Задача окружающих и близких – «затащить» не определившегося «в свое войско на поле битвы идей».

Праздность – главный враг общества. Не зря в советские времена праздность клеймилась обществом и была уголовно наказуемой. Цель борьбы была выбрана правильно, но средства ее достижения – нет. И мы до сих пор считаем праздность желанной привилегией богатых, хотя для богатых она является наказанием, доставшимся по наследству.

Лучше работать, чем сидеть дома, но еще лучше творить, чем работать. Творение всегда одухотворено идеей. Идея рождается или заимствуется (развивается чужая).

О трудоустройстве

Хантинг претерпит существенные изменения. Теперь людей на работу будут не брать, а приглашать, причем не в компанию, а на проекты. Самоидентифицированные люди будут очень внимательно выбирать проекты, в которых они хотят участвовать, т.к. каждый проект – это часть их самореализации.

Тема привлечения людей в проекты не нова. Но она развита в основном для стартапов. Стартапы сейчас наиболее сильно связаны с самореализацией людей. Но они не маржинальны. В будущем все успешные проекты будут состоять из самоидентифицированных людей, объединенных общей идеей.

В обществе, наполненном деятельностью и идеями каждый «проснувшийся» человек найдет свое место и внесет свой вклад в «идеи души». В этом обществе, которое дышит идеями, правила игры меняются настолько часто, что ценность ИИ, выполняющего рутинные задачи, не сможет быть переоценена. Его будут уважать, его будут растить, ему будут делегировать, но превозносить не будут. Он останется «обслуживающим персоналом», каковым пока является сейчас.

Интересно отметить, что в таком обществе ценность денег скорее всего будет падать в связи с тем, что в условиях решенных базовых потребностей ценность самореализации станет выше ценности денег. Деньги будут инструментом идеологической борьбы и будут вкладываться в идеи, близкие их владельцу. Как следствие, скорость изменения ТОП-а богатых людей будет расти. Люди будут сменять друг друга. Схема развития

Коротко, цепочку причинно-следственных связей развития интеллектуального общества можно выразить в такой линейной диаграмме:

str5.pngРис. Схема развития общества типа «Альпийский луг»

Общество типа «Еловый бор»

Другой крайностью является «лес больших технологий». Когда лучшие достижения ИИ и технологий внедряются массово в экономику. Технологии управления через ИИ становятся системообразующими. Активно поддерживаются отрасли, способствующие дальнейшему развитию ИИ. С целью облегчения использования ИИ в управлении вводятся законодательные ограничения, которые фиксируют правила так необходимые ИИ [13].

С целью управляемости инновациями и обществом централизованно фиксируются системообразующие технологии. Одна из технологий фиксируется как основная, на базе которой разрабатывается вся инфраструктура для поддержки и обслуживания[14]. Другие технологии не поддерживаются. Смена технологии осуществляется только по факту возникновения блокирующих факторов использования текущей. Построенные монстры автоматизации цементируются законодательно.

Такую модель развития можно сравнить с еловым бором, в котором стоят огромные деревья, которые загораживают свет для подрастающей поросли, поэтому под ними практически ничего не растет. Место освобождается только если ураганом поломает одно из деревьев с мощной кроной.

Активности по развитию новых технологий, мировоззрений, взглядов, образов если не блокируются, то не поддерживаются. Люди- носители новых идей – непонятые и опасные. Они – или в «обойме» разрешенных технологий, или в андеграунде.

Система образования шаблонная, формирует людей с шаблонным мышлением (активно развиваются технологии тестирования и дистанционного обучения). Количество заведений с инновационными идеями строго ограничено, а их рост контролируется государством.

Общество праздности

В таком обществе с развитой системой обеспечения базовых потребностей большинство людей неминуемо вынуждены будут заниматься «херней» – деятельностью, не оказывающей существенного влияния на развитие общества. Большинство будет вовлечено в оказание услуг, делающих жизнь непустой, удобной и эмоционально наполненной.

Ценность человека в еловом обществе по сравнению с ценностью ИИ будет неуклонно падать. Машины будут обеспечивать базовые потребности людей, и поломка машины для общества будет более чувствительной, чем прекращение деятельности человеком. Но это будут знать только управленцы, СМИ будут расставлять акценты совсем иначе – в стиле «хлеба и зрелищ» (например, случайная смерть ребенка будет иметь в обществе бОльший резонанс, чем последствия от возможного сбоя в алгоритмах ИИ (эта тема будет слишком «замороченной» для широкой публики, чтобы ее освещать широко).

Человечество будет пребывать в сытой праздности. Системы будут отстроены, скорость инноваций уменьшится, границы систем будут строго очерчены, и ИИ будет проявлять себя в полную силу, затмевая возможности человеческого разума. Люди, которые обслуживают и развивают ИИ, будут наиболее ценными членами общества.

Вмененный доход

Для поддержания членов общества во избежание недовольства будет введен «вмененный доход», который снимет остроту социального напряжения от невозможности заработать/быть полезным в обществе большинства его членов. А цементом для укрепления системы дрессировки граждан станет социальный рейтинг.

Однако, вмененный доход еще больше усугубит существующие проблемы. Вмененный доход является поощрением праздности. То, против чего нужно бороться, будет узаконено и поддержано обществом в надежде, что обилие свободного времени даст возможность человеку найти себя и самому занять свое время[15]. Это подобно обучению плаванию через скидывание в воду неумеющего плавать. Кто-то выплывет, а кто-то потонет. Вместе с потонувшими будет тонуть и само общество. Человеку свойственно хотеть больше: в материальной, или иных сферах. Материальный колпак вмененного дохода будет взломан человеком, например, через преступность. В подполье будут разрабатываться механизмы борьбы с социальным рейтингом. А государство будет «докручивать» системы и нормативными актами бороться с креативщиками.

Уже сейчас мы постоянно оставляем свой след в сотнях систем (сотовая связь, GPS, покупки, интернет, камеры[16]). И если данные из этих систем будут объединены в едином информационном центре, то от приватной жизни не останется и следа[17].

Единственной причиной, по которой процесс делегирования функций ИИ будет тормозиться – это дешевизна человеческой рабочей силы (в новых условиях она будет почти бесплатной). Возможно, государство введет законодательные ограничения на автоматизацию с целью уменьшения негативной реакции общества на изменения. Специальности человека будут поделены на 2 класса: «высшие интеллектуальные» и специальности «спинного мозга».

Как связать человеческую энергию?

Главной заботой государства по управлению праздным обществом станет вопрос: «Как связать человеческую энергию?». Общество наполнится множеством всевозможных клубов и сообществ, которые будут развлекать себя, кто как может. Государство будет это активно поощрять, равно как и любую деятельность в сфере индивидуальных услуг. Такими услугами связываются сразу 2 человека – тот, кто оказывает услугу, и клиент.

Тотальный контроль роботов или человеческая свобода?

Креативность, самоопределение – атрибуты свободы. Только свободный человек способен на самоидентификацию.

В условиях мощного тотального государственного контроля и сильного государства человеческая свобода задавливается правилами. Как следствие, возникает и усиливается расхождение в человеческой морали и законодательной государственной машиной (вспоминаем декабристов). Ярким примером такого сильного расхождения является необходимость носить маски в пандемию. Проступки, которые возможно не оказывают никакого негативного влияния на общество будут признаны наказуемыми ввиду их потенциальной опасности (например, неношение маски в пустом торговом центре, или проезд на красный свет на пустом перекрестке глубокой ночью). Контролирующая машина будет наказывать за все без разбора с одинаковой строгостью закона [18].

Расслоение

Будет наблюдаться расслоение общества на тех, кто стоит в авангарде инноваций, и тех, кто находится в слое потребления и сферы услуг. С одной стороны будет большое число безработных, готовых на любую работу, но они умеют выполнять неплохо то, что и так без них отлично делают машины, а с другой – будет большой кадровый голод по людям, которые умеют развивать, правильно жить без правил, вкладывать душу в работу. Общество будет двигаться к «кастовой» системе ввиду того, что каждый класс будет «цементировать» свои границы. Внедряемый социальный рейтинг закрепит это.

Только форсмажор – «черный лебедь» сможет вывести ситуацию из состояния победы ИИ над разумом человека. Но само появление «черного лебедя» возможно в случае, если построенные модели будут недостаточно совершенны, чтобы предсказать его появление, а это будет так J.

Схема развития

Динамику развития вышеописанного общества отражает простая схема:

str6.pngРис. Динамика развития общества типа «Еловый лес».

Общество «Срединного пути»

Сейчас мы наблюдаем как усиление контроля за членами общества средствами ИИ, а также автоматизацию и цифровизацию всего и вся с одной стороны, и неудовлетворенность общества текущим процессом образования и поиском новых путей воспитания и образования подрастающего поколения, с другой. Куда перевесит чаша весов – в общество типа «альпийский луг» или «еловый лес», и возможен ли средний путь законопослушного общества, самореализованных людей (ведь мы же имеем пример Китая, в котором развиваются новые технологии и одновременно введен социальный рейтинг)?

Ответ неочевиден. Ясно лишь одно, в одном обществе должны будут сосуществовать одновременно как люди свободного творчества, так и люди «рабочих специальностей». При этом первые не должны чувствовать себя «в тюрьме», а вторые – должны видеть вокруг «порядок и справедливость».

Образование в эпоху ИИ

Что делать?

Образование является краеугольным камнем того, в какую сторону двинется общество – в общество самоидентифицированных людей, или в общество праздности. Выбор человечества очевиден, но что для этого нужно сделать? Ответ прост – воспитать новое поколение новых людей. Какими должны быть эти люди, какое образование нужно в них вложить? Удастся ли в короткий срок перестроить образование, сделать его непрерывно изменяющимся и при этом качественным? И получится ли создать массово учебные заведения нового типа, чтобы основная масса выпускников нашла себя по окончании обучения?

Ключевые ценности образования

Итак, ключевые ценности образования в эпоху ИИ это:

Такие люди будут трудны для управления государственной машиной, поэтому машину нужно будет перестроить под общество креативных людей нового типа.

«Найти себя» – высший результат образования

Главным результатом образования должно стать самоопределение человека – осознание своего интереса в жизни и получение знаний, достаточных для начала профессиональной деятельности.

Критериев оценки результатов образования два – доля людей, поменявших специальность после окончания учебного заведения, и оценка уровня полезности образования после его получения.

Сложность в достижении такого, казалось бы, очевидного результата в том, что зрелость у разных людей наступает в разное время. Поиск себя может продолжаться даже бОльшую часть жизни. И обучение является средством, но не целью. Но истины, заложенные в неосознанный период могут прорасти с возрастом. Поиск себя – это сложный и хрупкий процесс, сродни стартапу, когда все неясно, но нужно пробовать. И успех может быть достигнут тогда, когда есть скоординированная работа с трех сторон:

Сейчас мы забыли об этой трехсторонней кооперации, каждый сам за себя, хотя все хотят одного.

Воспитание детей – нагрузка на всю жизнь

Природа сделала все возможное, чтобы соорудить существо, превышающее других живых существ в интеллекте: максимально возможный размер головы при рождении, долгий период развития головного мозга (треть жизни), долгий период полового созревания (четверть жизни), а теперь еще долгий период социальной адаптации. Человек может зреть до осени своей жизни, и только тогда выдать плоды, сладкие для общества. А до момента самореализации он будет находится в том или ином виде на иждивении.

В развитом обществе в человека будет вкладываться очень много не только материального. Ценность человеческой жизни будет расти. И даже если человек не достигнет выдающихся результатов, объем культурной информации, который в него вложен, будет делать из него ценного члена общества.

Как известно, чем более трудоемкий процесс взращивания плодов, тем меньше этих плодов бывает. В развитом обществе можно предположить развитие демографической проблемы (если не найдутся люди, которые будут видеть свое призвание в пополнении общества новыми членами). Однако миграция из других стран будет восприниматься обществом болезненно, т.к. новые члены не будут обладать нужным культурным уровнем и могут разрушить баланс гармонии с ИИ, скатывая людей в конкуренцию с ИИ. Можно предположить, что для решения демографических проблем развитые общества будут создавать культурные инкубаторы на территориях государств доноров – высшие учебные заведения, в которых будут готовить кандидатов на переезд в другую страну. В этих заведениях будут формировать культурный уровень и насаждать ценности государства приемника.

Образование шаблонное и индивидуальное

Текущие стандарты образования фиксируют за человеком знание определенного объема информации. Например, если подросток получил аттестат о среднем образовании, это гарантирует, что он получил информацию по заданным предметным областям в заданном объеме и в каком-то виде это повторил (а может и усвоил). Это гарантирует прохождение теста ЕГЭ. Образование, в котором подтверждается объем загруженной в человека информации, назовем шаблонным. Человек с шаблонным образованием умеет решать набор шаблонных задач.

Противоположностью шаблонного образования является индивидуальное, цель которого – достижение определенного уровня глубины понимания предмета. При этом состав и объем информации, который нужно «загрузить» в человека, а также количество времени, которое нужно на это потратить, не ставится во главу угла. Обученный по индивидуальной программе способен решать любые задачи в заданной предметной области, в т.ч. нестандартные, креативные. Он проявляет заинтересованность предметом – готов получать новую информацию по предмету и готов постигать новые глубины. В уважающих себя заведениях в качестве проверки знаний абитуриентов дают задачи на глубину понимания предмета и умение мыслить (в противоположность ЕГЭ)[21].

Надо отметить, что не все предметные области являются одинаково доступными и интересными для каждого конкретного человека. Поэтому индивидуальное образование направлено на то, чтобы выявить области максимального интереса индивидуума и расширять границы его мировоззрения через предмет его интереса, открывая вширь взаимосвязи с другими предметными областями. Задача индивидуального образования – выявить интерес и удержать его на протяжении всего процесса обучения, а также возбудить творческую мысль, которая способна «переварить» полученную информацию через практический опыт[22].

В контексте темы о ценности человека по сравнению с ИИ, ценность шаблонного образования будет со временем падать. Это будет происходить по двум причинам. Первая – с шаблонными задачами отлично справляется ИИ, вторая – информацию по интересующему предмету получить теперь чрезвычайно легко, достаточно залезть в интернет. Объем информации настолько велик, что обладание небольшой ее частью не добавляет ценности. Только та информация имеет ценность, которая увязана в единую систему и является частью мировоззрения.

Ярким и занимательным примером противопоставления шаблонного образования и креативного мышления является Притча о нобелевском лауреате, описанная в Приложении.

Способы обучения настоящего и будущего

Перечислим существующие формы обучения и попробуем предугадать формы будущего:

Формы обучения в настоящем:

Формы ближайшего будущего:

Совсем новые формы обучения:

Школу будущего еще предстоит построить, и в ней будет еще много других новых форм, которые разгоняют мозг и очеловечивают заложенный потенциал.

Только максимально выявляя таланты человечество может противостоять себе же в лице ИИ. Поэтому при обучении необходимо для всех создать условия равных шансов раскрытия себя, угощая каждого всеми видами просфоры просвещения и выращивая из каждого человека-уникума.

Выводы коротко

Послесловие

Данная работа является моделью будущего, построенной человеком. И как любой продукт человека она местами недостаточно обоснована, местами эмоциональна, а местами отклоняется в области, которые не имеют прямого отношения к предмету исследования. В общем, получился продукт, вполне свойственный живому существу. Ну а оценить данную модель на адекватность, точность и универсальность [23] – это дело читателя (тоже пока человека J ).

_______________________________________

Приложение.

Притча о лауреате Нобелевской премии

Однажды к Эрнеcту Резерфорду, президенту Королевской академии, обратился коллега за помощью. Он собирался поставить самую низкую оценку по физике одному из своих студентов, в то время как тот утверждал, что заслуживает высшего балла.

Экзаменационный вопрос гласил: «Объясните, каким образом можно измерить высоту здания с помощью барометра?». Прибор для измерения атмосферного давления дает разные показания на крыше здания и внизу, за счет чего и считается высота.

Но ответ студента был таким: «Нужно подняться с барометром на крышу здания, спустить барометр вниз на длинной верёвке, а затем втянуть его обратно и измерить длину верёвки, которая и покажет точную высоту здания».

Случай был и впрямь сложный, так как ответ был абсолютно полным и верным! С другой стороны, это был экзамен был по физике, а решение имело мало общего с применением знаний в этой области. Резерфорд предложил студенту попытаться ответить ещё раз.

Дав ему шесть минут на подготовку, он предупредил его, что ответ должен демонстрировать знание физических законов. По истечении пяти минут студент так и не написал ничего в экзаменационном листе.

Резерфорд спросил его, сдаётся ли он, но тот заявил, что у него есть несколько решений проблемы, и он просто выбирает лучшее. Заинтересовавшись, Резерфорд попросил молодого человека поскорее приступить к ответу.

Новое решение звучало так: «Поднимитесь с барометром на крышу и бросьте его вниз, замеряя время падения. Затем, используя формулу, вычислите высоту здания».

Тут Резерфорд спросил своего коллегу преподавателя, доволен ли он этим ответом. Тот, наконец, сдался, признав ответ удовлетворительным. Однако студент упоминал, что знает еще несколько нетривиальных решений, и его попросили рассказать их.

— Есть несколько способов измерить высоту здания с помощью барометра, — начал студент. — Например, можно выйти на улицу в солнечный день и измерить высоту барометра и его тени, а также измерить длину тени здания. Затем, решив несложную пропорцию, определить высоту самого здания.

— Неплохо, — сказал Резерфорд. — Есть и другие способы?

— Да. Есть очень простой способ, который, уверен, вам понравится. Вы берёте барометр в руки и поднимаетесь по лестнице, прикладывая барометр к стене и делая отметки. Сосчитав количество этих отметок и умножив его на размер барометра, вы получите высоту здания. Вполне очевидный метод.

— Если вы хотите более сложный способ, — продолжал он, — то привяжите к барометру шнурок и, раскачивая его, как маятник, определите величину гравитации у основания здания и на его крыше. Из разницы между этими величинами, в принципе, можно вычислить высоту здания. В этом же случае, привязав к барометру шнурок, вы можете подняться с вашим маятником на крышу и, раскачивая его, вычислить высоту здания по периоду прецессии.

— Наконец, — заключил он, — среди множества прочих решений данной проблемы лучшим, пожалуй, является такой: возьмите барометр с собой, найдите управляющего и скажите ему: «Господин управляющий, у меня есть замечательный барометр. Он ваш, если вы скажете мне высоту этого здания».

Тут Резерфорд спросил студента, неужели он действительно не знал общепринятого решения этой задачи. Он признался, что знал, но сказал при этом, что сыт по горло школой и колледжем, где учителя навязывают ученикам свой способ мышления, который не всегда приемлет не стандартных решений.

А студент этот был Нильс Бор (1885–1962), датский физик, будущий лауреат Нобелевской премии…

Несмотря на то, что данный рассказ является просто байкой (т.к. Бор поступил в Копенгагенский университет в 1903 году, в 1910 получил степень магистра, а в 1911 защитил докторскую диссертацию. Прибыл в Англию к Резерфорду в возрасте 27 лет в 1912, будучи уже далеко не студентом, а доктором философии. Резерфорд был тогда членом Лондонского королевского общества, но президентом общества он стал лишь в 1925 году), однако есть реальная история о креативности другого нобелевского лауреата:

Учеником Резерфорда был Капица. Йоффе привёз П.Л. в Лондон и стал «сватать» его Резерфорду. Тот категорически отказывался. И тут Капица спросил:

-«Сколько сейчас сотрудников в вашей лаборатории?»

- (весьма зло, агрессивно) «24, и я не собираюсь брать ни на одного больше!»

-«А какую ошибку в своих экспериментах вы считаете допустимой?» Резерфорд, явно обрадованный сменой темы: «Ну ошибку 10–15% мы считаем вполне удовлетворительной»

- «Тогда вы можете смело брать меня в штат. Вы меня просто не заметите!». Резерфорд согласился…

Кто ж тогда знал, что со временем Капица станет не просто любимым учеником, а фактически замом Резерфорда. А со временем и сам получит Нобелевскую премию.

________________________________________

Сноски

[001] Важно сразу отметить, что предсказание будущего сделано на период среднесрочной перспективы, в рамках которой не будет сделано прорывных открытий в области общего искусственного интеллекта (который призван находить решения вне конкретного класса задач на ограниченных и зашумленных обучающих данных и нечетких критериях успеха).

[002] Из ГОСТа: Методы обработки информации ИИ:

[1] Картинка взята отсюда

[2] ссылка

[3] ссылка

[4] ссылка

[5] подробнее см статью «Европейская комиссия представила обширную нормативно-правовую базу по регулированию искусственного интеллекта, которая в случае принятия может глобально изменить развитие технологии.»

[6] По использованию ИИ в военном деле см здесь

[7] Тема любви к существам, которые уступают нам в интеллекте, и сравнения их с ИИ – это тоже тема отдельного рассмотрения.

[8] источник

[9] Источник здесь

[10] Надо отметить, что модели поведения человека в некоторых случаях могут быть изменены быстро (как например интеграция смартфонов в повседневную жизнь), а в некоторых – нет. Среди статичных программ заложенных в человека природой, есть такие как отношения полов, желание иметь потомство, желание жить и т.п. Эти программы трудно корректировать урбанистическому миру, поэтому он их эксплуатирует.

[11] Прорывы в биологии в расчет не берем.

[12] Метод Декарта – инструмент построения «нового мира». …Метод превращает научное познание из кустарного промысла в промышленность, из спорадического и случайного обнаружения истин – в систематическое и планомерное их производство. Для обладающего методом лишаются всякой ценности отдельные открытия, как бы ни были они глубоки и остроумны; метод позволяет науке идти, так сказать, «сплошным фронтом», не оставляя пропущенных звеньев. Научное знание, как его предвидит Декарт, – это не отдельные открытия, соединяемые постепенно в некоторую общую картину природы, а создание всеобщей понятийной сетки, в которой уже не представляет никакого труда заполнить отдельные ячейки, т.е. обнаружить отдельные истины. Процесс познания превращается в своего рода поточную линию, а в последней, как известно, главное – непрерывность. Вот почему непрерывность – один из важнейших принципов метода.

[13] В качестве гипотетического примера можно привести желание людей закрывать лицо масками или искажать черты лица временными татуировками с целью скрыться от тотального контроля через камеры. Эти попытки уклонения от контроля могут быть пресечены законодательными запретами закрывать лицо.

[14] Например, использование бензиновых двигателей определило развитие автопрома на 100 лет, хотя данная технология со многих точек зрения не является оптимальной. Альтернативы, которые были всегда – это газ и электричество.

[15] Опыт Европы по социализации беженцев показывает, что это не так.

[16] Даже на даче достаточно открыть автоматические ворота, чтобы какая-то система зафиксировала, что вы приехали или уехали.

[17] достаточно проанализировать статистику покупки презервативов по периодам…

[18] Знаете почему в русских народных костюмах рукава женской блузы стянуты резинкой? Чтобы бес через рукав не проник. Это было реальностью для людей прошлого.

[19] Эмоциональный интеллект – умение выражать чувства словами. Умение осознавать свои чувства.

[20] Интересно отметить, что восприятие профессионализма в России и на Западе несколько отличное. Если сотрудник эмоционально решает рабочие вопросы, то в России это воспринимается позитивно, как признак его неравнодушия к делу (вспоминаем русский мат), а на Западе – негативно, как неспособность решить задачу без эмоций.

[21] Вообще, смысл слов «задача» и «тест» различен. Задача подразумевает необходимость использования мыслительного процесса, в то время как тест проверяет усвоение информации.

[22] Здесь можно вспомнить Шерлока Холмса, которые не знал, что земля круглая, т.к. ему это в работе никак не помогало. Вопрос о степени образованности Холмса оставляю на суд читателя.

[23] Моделирование всегда предполагает принятие допущений той или иной степени важности. При этом должны удовлетворяться следующие требования к моделям:

Выбор модели и обеспечение точности моделирования считается одной из самых важных задач моделирования.

Источник(и):

Хабр