Голосовать
Полный экран
Скачать в [формате ZIP]
Добавить в избранное
Настройка чтения

Куда мы движемся?

От того, как мы справимся с вызовами и возможностями начавшегося века, будет зависеть окончательная траектория дальнейшего движения человеческой расы.
Мичио Каку

В статье «Эволюционизирует ли человечество?» (http://www.proza.ru/2018/11/26/1442) я выяснил, что если сравнить эволюцию человечества со взрослением человека, то сыны Адама в целом находятся где-то на уровне раннего отрочества: им в среднем около 10-12 лет и в своих песочницах они все еще продолжают играть в оловянные солдатики, хотя и обладают ядерным оружием… А некоторые сыны земли в этом смысле вообще еще не вышли из младенчества... Этим объясняется частота конфликтов, постоянные драчки и истерики, увлечение примитивными игрушками и игрищами, еще более примитивная конкуренция и защита жизненного пространства, абсолютная нетерпимость к более успешным и продвинутым, а также — те недоумки или лузеры, которых они выбирают себе в вожаки…

Естественно, среди нас есть более продвинутые индивиды, но подростковый возраст абсолютного большинства, включая наших «заправил», характеризуется полным отсутствием гармонии: непропорциональные конечности, угловатые движения, непредсказуемость и необъяснимость поступков, неустойчивая психика, по сей день неоскудевающий поток благоглупостей. То есть какая-никакая культура уже создана и усвоена, но взросление идет с большим скрипом и частыми бросками в архаику.

На самом деле картинка более сложная, потому что среди массы малолетних недоумков изредка появляются вундеркинды и даже первопроходцы, как правило затаптываемые стадами маленьких еще не сформировавшихся носорогов (хотя еще и без отросших рогов). И все равно вся эта пестрая, громко голосящая и драчливая «малышня» не в состоянии «выпрыгнуть» из естественного пербутатного периода — так отставшая цивилизация не может в два прыжка перепрыгнуть из темных веков в века более светлые. Медлительность темпов эволюции, огромный груз «середняка» не позволяет…

Все это не упреки, а констатация фактов. Потому что так предусмотрела природа. А предусмотрела она именно так потому, что будь иначе, юные вундеркинды давным-давно изобрели бы смертельно опасные игрушки, а лузеры начали бы расстреливать из этих игрушек друг друга уже в песочницах, как они это порой делают в современных школах и спортзалах.

Я уже писал, что Августин Аврелий, будучи невероятно проницательным человеком, своим авторитетом приостановил развитие науки в раннем средневековье, ибо понимал, что если после Платона, Евклида и Архимеда «притыркам» дать волю, то они принялись бы за оружие судного дня не в XX-м, а в Х-м веке, и тогда крестоносцы могли бросить атомную бомбу на Иерусалим во время своих разрушительных походов. Блаженный Августин понимал, что современники не доросли до плодов рук своих. Впрочем, не доросли они и в XX-м, ибо и сегодня все чаще грозятся «испепелить», «повторить» и вообще изничтожить вездесущих врагов.

Возможно, нарисованная мною картинка кого-то покоробит, но всё происходящее при моей жизни прекрасно в нее укладывается: войны, граничащие с первобытностью, диктаторы и тираны, конкурирующие с Калигулами, Тибериями и Чингисханами, «патриотическое» поведение массового человека и «лучших людей города», наши нынешние «солнцеликие» и качество нашей замечательной «элиты», даже «художественное» наполнение 90% социальных сетей, созданных далеко не самыми худшими умами…

Самое трагичное в этой картинке мира — несоответствие уже указанных «плодов» и соответствующих «умов»: самые продвинутые люди, торящие пути человечеству, как мне кажется, часто недооценивают или не учитывают возможности «интеллектуального большинства», то есть легко оболваниваемого и зомбируемого недоразвитыми вожаками-«отроками» электората. То есть народонаселения, с легкостью необыкновенной готового подбросить хворост в пылающий под кем-то костер или засыпать известь в воспаленные глаза очередного первопроходца…

Теперь — кульбит: переворот-перекат вперед через голову. Чем сегодня в нарисованной мною картинке занимаются самые продвинутые, самые талантливые, самые умные? Оказывается, им мало собственных талантов и своего ума, они занимаются проблемой похлеще создания атомной бомбы — искусственным интеллектом (ИИ)…

И вот что самое интересное. Уже при нынешнем развитии ИИ обыгрывает чемпионов мира по шахматам, в американской игре «Jeopardy!» и в еще более сложной игре го; автопилоты водят машины лучше и безопаснее человека; ИИ может заменить переводчиков, учителей, поставить точный диагноз. ИИ уже используют в страховой деятельности, при игре на бирже и управлении собственностью, охране банковской системы, торговле, исследованиях рынка и управлении перевозками, интерпретации медицинских изображений, при уходе за престарелыми, создании лекарств и планов лечения (в настоящее время в отрасли здравоохранения работает более 90 стартапов, основанных на применении ИИ).

Искусственный интеллект уже научился лучше врачей предсказывать смерть пациента: разработанный компанией ExcelMedical алгоритм Wave Clinical Platform фиксирует комплекс малейших изменений в жизненных показателях и посылает врачам предупреждение за шесть часов до потенциально скоропостижной смерти пациента. Алгоритм наблюдает за больными постоянно, что практически невозможно осуществить с помощью медперсонала. Он в реальном времени показывает физиологическую и медицинскую информацию, которую может посмотреть врач как на рабочей станции, так и буквально со смартфона. При любом изменении показателей Wave Clinical Platform автоматически подсчитывает риски и дает предупреждение заранее, если считает, что пациент находится в опасности. В клинических испытаниях, проведенных в медицинском центре Питтсбургского университета, Wave использовали в группе пожилых пациентов, и там, где систему подключали, она предотвратила ряд скоропостижных смертей.

Американский физик-теоретик Брайан Грин вообще считает, что биологическая форма жизни на Земле является всего лишь промежуточным звеном между обезьяной и ИИ, и если ИИ ее заменит — нет ничего страшного. По его мнению, биологическая версия разумной жизни на планете является лишь трамплином для ИИ. И если этот трамплин приведет к тому, что в будущем биологическая форма жизни перестанет быть господствующей на Земле, — то так тому и быть, полагает ученый.Поэтому покорение Вселенной человеком отменяется: этим займутся наши потомки — роботы с искусственным интеллектом.

Надо отдавать себе полный отчет в том, что создание думающей и даже чувствующей машины — вопрос времени. Технический директор Google и известный футуролог Рэй Курцвейл рисует следующие картинку прогноза касательно ступеней развития ИИ:

2020 – Персональные компьютеры достигнут вычислительной мощности, сравнимой с человеческим мозгом.
2022 – В США и Европе будут приниматься законы, регулирующие отношения людей и роботов. Деятельность роботов, их права, обязанности и другие ограничения будут формализованы.
2025 – Появление массового рынка гаджетов-имплантатов, напрямую связывающих ИИ и человека.
2027 – Персональный робот, способный на полностью автономные сложные действия, станет такой же привычной вещью, как холодильник или кофеварка
2028 – Первые автономные медицинские микророботы, способные самостоятельно перемещаться в организме пациента.
2029 – ИИ будет способен к самообучению, пониманию шуток и имитации эмоций, а компьютер сможет пройти тест Тьюринга, доказав наличие у него разума в человеческом понимании этого слова. Это будет достигнуто благодаря компьютерной симуляции человеческого мозга.
2034 – Первое свидание человека с искусственным интеллектом.
2037 – Гигантский прорыв в понимании тайны человеческого мозга.
2038 – Появление роботизированных людей.
2040 – Поисковые системы станут основой для гаджетов, которые будут вживляться в человеческий организм. Поиск будет осуществляться с помощью мыслей, а результаты поисковых запросов будут выводиться на экран линз или очков.
2042 – Первая потенциальная реализация бессмертия благодаря армии нанороботов. 2044 – Небиологический интеллект станет в миллиарды раз более разумным, чем биологический.

Роботизация сельского хозяйства со временем приведет к резкому снижению эрозии почвы, снижению затрат воды и ядохимикатов, возможности проводить предварительную оценку урожая, вести сбор в нужном объеме продуктов необходимого качества в заданный момент времени, еще – к повышению производительности сельскохозяйственных роботов, до 20 раз превосходящих производительность человека.

Я полагаю, что силиконовые сети ИИ мало чем отличаются от нейронных сетей нашего мозга, но возможности первых по части скорости обработки информации и ее накопления несравненно выше – это раз, и их гораздо более просто совершенствовать и накапливать в них информацию – это два...

Всё, казалось бы, прекрасно, и в нашем лучшем из миров эволюция ИИ вполне конкурента с эволюцией самого человека. Если бы не несколько маленьких и очень больших НО…

Скажем, по оценкам экспертов, к 2035 г. роботы будут выполнять треть всех работ в США и Англии и 50% в Японии. Уже к 2020 году роботы уничтожат более 5 миллионов вакансий на рынке труда, а у каждого десятого американца появится робот-слуга. Но уже и сегодня вполне ощутимо сокращение числа рабочих мест в связи с внедрением «думающих машин». Компания Foxconn уже сократила больше половины сотрудников, заменив их на роботов, причем все эксперты сходятся в том, что эта тенденция начнет расти как снежный ком. Говорят, что освободившиеся люди смогут работать в области ИИ. Но это абсолютная чушь, во-первых, потому, что потребность трудовых ресурсов в этой области неизмеримо меньше, чем количество освободившихся, и, во-вторых, мне трудно себе представить сотни миллионов освободившихся «водил», занимающихся созданием «думающих машин».

Кстати, вовсе не случайно в ряде стран уже начала обсуждаться проблема необходимости перехода на систему гарантированных выплат «интеллектуальному большинству», которое выбросит с рынка труда ИИ. Обсуждаются эксперименты по выплате гарантированного дохода такого рода "освобожденным" в Финляндии и США, а также сокращение рабочей недели до 3-4-дневной.

Видимо, вовсе не случайно британский физик-теоретик Стивен Хокинг, высказал мнение, что стремительное развитие искусственного интеллекта представляет главную угрозу для человечества. Он заявил, что в будущем искусственный интеллект сможет воспроизводить самого себя, и эта новая форма жизни превзойдет человека. Роботы, в погоне за собственной эффективностью, способные совершенствовать себя самостоятельно, смогут захотеть избавиться от людей. Недооценка угрозы со стороны искусственного интеллекта, считает Хокинг, может стать самой большой ошибкой в истории человечества.

Футуристы отмечают множество других проблем ИИ и роботизации, среди них совершенно экзотических:
К 2040 году роботы начнут совершать больше преступлений, чем люди. Это прогноз The Future Laboratory.
В обозримое время 30% корпораций будут иметь ИИ на руководящей должности.
Грядет процесс реиндустриализации стран, которые несколько лет назад вынесли производство в страны Юго-Восточной Азии, где их привлекла сравнительно малая стоимость рабочей силы.
Аграрные страны потеряют возможность индустриализации. ИИ помешает экономическому росту беднейших стран мира.
И т.д., и т.п.

Невероятно сложными оказываются этические проблемы ИИ, ведущие к большому количеству парадоксов. Хотя моральные запреты несложно «вшить» в разрабатываемые алгоритмы ИИ, их гораздо труднее реализовать в неопределенных ситуациях выбора. Сохраняются также «человеческие» проблемы личной свободы и ответственности (действенности нравственного выбора) ИИ. Ключевой вопрос, который, так или иначе, возникнет на определенном этапе создания ИИ, заключается в том, следует ли этот интеллект рассматривать как сознающий себя субъект, способный принимать ответственные решения.

Проблема, как определить, что или кто является мыслящим субъектом, также как и родственные ему вопросы о том, что есть жизнь? кто есть живой объект? какие для этого существуют объективные критерии? – еще многократно будут обсуждаться обществом. Расплывчатость критериев связана не с тем, что они плохо продуманы, а с тем, что, по существу, они отсутствуют, так как их невозможно сформулировать. Задача создания ИИ будет решена только в тот момент, когда этот потенциальный интеллект заставит всех отступиться от него и оставить в покое, предоставив самому себе. Реализовав свою свободу, свою самостоятельность, заставив признать себя личностью, он посредством этого факта окажется включенным в равноправные и полноценные члены сообщества.

В свое время А.Азимов и Д.Кэмпбелл сформулировали три закона роботехники, соблюдение которых должно предотвратить возможный конфликт между роботами, обладающими искусственным интеллектом, и создавшими их людьми. Основная идея, внешне вполне разумная и почти что сама собой напрашивающаяся, заключается в том, что в качестве элемента своих управляющих программ роботы должны иметь ограничения или блоки, не допускающие нанесения вреда людям.

Елиезер Юдковски исследует в Институте сингулярности (SIAI) в США проблемы глобального риска, которые может создать будущий сверхчеловеческий ИИ, если его не запрограммировать на дружественность к человеку. В 2004 году SIAI был создан сайт AsimovLaws.com для обсуждения этики ИИ в контексте проблем, затронутых в фильме «Я, робот». На этом сайте хотели показать, что законы робототехники Азимова небезопасны, поскольку, например, могут побудить ИИ захватить власть на Земле, чтобы «защитить» людей от вреда.

У меня нет сомнений в том, что при той интенсивности работ, которая ведется в продвинутых странах мира по созданию ИИ, многие проблемы будут решаться по мере их поступления. И даже этические проблемы ИИ сегодня находятся в центре рассмотрения и решения. Но поскольку, как я уже сказал, само человечество в целом еще не вышло из пербутатного периода развития, лично у меня нет уверенности в том, что удастся всё предусмотреть, как, скажем, не удалось гарантировать неиспользование оружия судного дня или появление идиотов, грозящих им человечеству в наши дни.

Но так или иначе, рано или поздно, обе стороны — ИИ и его создатели должны выйти на стадию взаимного воздействия и обоюдного влияния, в которой поведение обеих сторон очень высокой степени коррелирует между собой, если говорить языком динамических систем. Здесь как бы уже не допускается, чтобы одна сторона игнорировала действия и реакции противоположной стороны — ей следует учитывать их во всей сложности. Когда мы говорим об обществе, то не только подразумеваем, что субъекты способны манипулировать, затевать интриги и «давить на психику» друг друга, но и что они демонстрируют готовность быть манипулируемыми. Своими реакциями каждый субъект показывает — он способен понять, что от него хотят или ждут, он в полной мере способен симулировать ожидаемую реакцию — включая сознательность и субъектность. Эта готовность участвовать в игре, строить личные отношения, понимать речь, обращенную к себе, понимать смысл слов и действий, а также участвовать в борьбе за лидерство, за влияние — есть непременное условие для вхождения потенциального субъекта в этическую сферу, с которым приходят возможности, недостижимые в изолированном состоянии. Поэтому, если мы говорим о создании ИИ как об определенной цели, то именно этой готовности его создателю и следует достичь. Но все равно как-то тревожно от всего сказанного становится на душе.

Cвидетельство о публикации 560556 © Гарин И. И. 06.12.18 17:07
Комментарии к произведению: 1 (0)
Число просмотров: 22
Средняя оценка: 0 (всего голосов: 0)
Выставить оценку произведению:

Считаете ли вы это произведение произведением дня?
Да, считаю:
Купили бы вы такую книгу?
Да, купил бы:
Введите код с картинки (для анонимных пользователей):


Если Вам понравилась цитата из произведения,
Вы можете предложить ее в номинацию "Лучшая цитата дня":


Введите код с картинки (для анонимных пользователей):