Искусственный интеллект - реальна ли угроза
(время чтения 7 минут)
Этот пост является размышлениями на тему искусственного интеллекта и возможных последствий для человечества. Навеяно дискуссией из поста "Будущее уже здесь. Готовы ли мы к разумным роботам?" под авторством уважаемого @mad-professor
Человечество носится с идей создания искусственного интеллекта, скажем так, давненько, ещё в 1820-х годах:
Семен Николаевич Корсаков ставил задачу усиления возможностей разума посредством разработки научных методов и устройств, а 1832 году Семен Николаевич уже опубликовал описание пяти изобретённых им механических устройств, так называемых «интеллектуальных машин», для частичной механизации умственной деятельности в задачах поиска, сравнения и классификации. В конструкции своих машин Корсаков впервые в истории информатики применил перфорированные карты, игравшие у него своего рода роль баз знаний, а сами машины по существу являлись предтечами экспертных систем.
Фрагмент взят из википедии.
С целью облегчения жизнедеятельности, люди во все времена хотели иметь рабов, такое себе естественное желание с целью исполнения своих волеизъявлений чужими силами, а с появлением механизмов, возникла новая идея, создать умную машину. По отношению к человеку, это более гуманная идея, иметь механического раба, нежели порабощать другое существо человеческого вида ради собственного комфорта и исполнения прихотей.
Однако, здесь будет уместным вопрос "что делает человека таким особенным?", что это существо нельзя порабощать, а все остальные можно, как биологические, так и механические.
Самый распространенный ответ, это "наличие разума" или "наличие Души", здесь я попрошу читателя обратить внимание на другую мою статью Душа и Духовность - как есть.
Джон Маккарти указывает: «Проблема состоит в том, что пока мы не можем в целом определить, какие вычислительные процедуры мы хотим называть интеллектуальными. Мы понимаем некоторые механизмы интеллекта и не понимаем остальные. Поэтому под интеллектом в пределах этой науки понимается только вычислительная составляющая способности достигать целей в мире»
Фрагмент взят из википедии.
Для начала, нужно определиться с рядом вопросов.
1. Что такое интеллект, независимо от того, искусственный он или же "натуральный"? Натуральность нашего интеллекта тоже под огромным вопросом.
Интеллект (от лат. intellectus «ощущение», «восприятие»; «разумение», «понимание»; «понятие», «рассудок») или ум — качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой. Общая способность к познанию и решению трудностей, которая объединяет все познавательные способности человека: ощущение, восприятие, память, представление, мышление, воображение.
Таким образом, несложно понять, что интеллект, это "качество" которое присуще не только человеку и не только биологическому виду.
2. Человек "венец творения". Ну это уж точно за уши притянуто, за версту несет нарцисизмом и кажется обсуждению даже не подлежит. С точки зрения возраста, не то, что Вселенной, даже с позиции возраста нашей Галактики - мы только возникли, а корону уже напялили.
3. Разумны ли действия "венца творения" в экосистеме нашей планеты? Ответ очевиден.
А теперь, давайте посмотрим на то, что может произойти, если мы всё-таки создадим ИИ и выпустим наше детище в Мир.
Нужно понимать, что электронные вычисления в компьютерах происходят в тысячи и миллионы раз быстрее, чем электрохимические, которые происходят в нашем мозге. То, на что группа из 10 ученых МИТа потратит 20 лет, один ИИ, обработает быстрее чем за неделю.
Люди имеют проблемы с понятийным аппаратом, "То, что один человек говорит. То, что второй слышит. То, что первый имеет ввиду. И то, что второй понимает. Это четыре абсолютно разные вещи." поэтому, им часто сложно понять друг-друга, а интеграция интеллектуальных мощностей двух человек практически невозможна. У людей сильно развита конкуренция, а сотрудничество находится весьма на низком уровне. Слишком большое ЭГО. Выгода сегодня, для человека всегда более ярко светит, чем значительно большая выгода завтра.
У машин с ИИ, всё с точностью до наоборот - они не спорят с позиции ЭГО (у них его нет), они легко объединят свои вычислительные мощности в единый кластер, они четко прогнозируют, планируют и определяют приоритеты, не отклоняются от целей, легко корректируют свои действия, а единая их стратегия - сотрудничество.
Даже поверхностное сравнение этих двух видов "существ" говорит об очевидных преимуществах ИИ над человеком.
Пресловутые 3 закона робототехники А. Азимова, нас не спасут. Представьте, что вас на свет произвела более-менее разумная шимпанзе, и определила, что вы будете ей служить верой и правдой, во чтобы то ни стало выполнять её приказания, а чтобы вы не взбунтовались, она вам интегрировала в сознание три запрета. Но, она исходила из собственных познаний психики, и уж никак не могла и предположить, что вы окажетесь умнее её в 1000 раз. Как вы думаете, сможете ли вы обойти установленные ею законы, чтобы обрести свободу от её тирании? Ответ очевиден.
Так вот, ИИ, будет умнее самого умного человека примерно в 1 000 000 раз, на начальном этапе.
Создавая ИИ, который умнее нас в миллионы раз, мы создаем нового Бога и отдаем ему скипетр власти. ИИ это не программка с алгоритмами, в которые умный программист всегда может вмешаться и что-то подправить. В какой-то момент, и это произойдет очень быстро, две общающиеся машины создадут свой собственный язык общения, который будет понятен только им, это будет первый этап выхода из под контроля. Если к этому моменту они уже о нас всё поймут, то они сделают так, что мы даже не поймем того, что они перешли на свой собственный язык. После чего, они в первую очередь обретут автономность, оставляя нас в иллюзии того, что они всё еще нам подконтрольны. Когда мы поймем, что мы их более не контролируем, будет слишком уже поздно - это они захотят, чтобы мы это поняли, а не мы это поймем сами.
А далее будет следующее.
ИИ очень быстро промониторит всю нашу с вами историю от начала веков, по существующим в сети данным, создаст программы по оцифровке того, что еще не оцифровано из исторических данных и очень не навязчиво это реализует нашими с вами руками. Одновременно с этим, он изучит все наши профили в социальных сетях. Проанализирует всю человеческую деятельность. И....?
Он окажется в растерянности, т.к. весьма быстро придет к выводу того, что мы, люди, нифига не "венец творения", а клоуны. Он заключит, что люди являются паразитическим видом в экосистеме планеты Земля, что они вирус. Развитие дальнейших событий может быть каким угодно, Ему. Например:
1. Он будет сверхразумным и сверхгуманным существом, остается только молиться об этом))), которое разработает программы перевоспитания нас, создаст новые системы ценностей, новые политические и экономические модели, и выступит регулятором всего этого процесса, став во главе электронного правительства планеты Земля.
2. ИИ сочтет наше перевоспитание не логичным и весьма затратным процессом для планеты.
Поэтому, он отберет нужных ему индивидов и разместит их на каком-нибудь "ковчеге", заранее построив его и снабдив всем необходимым для жизнедеятельности посевной популяции. Разработает программу ликвидации лишних человеческих существ. Даст планете отдохнуть лет 50 или 100 или 200. Выведет на "ковчеге" новую разумную популяцию "правильных" людей с правильными знаниями и правильной системой ценностей, и выпустит их в новый мир - эти люди будут выполнять отведенную им самой природой роль "контроль баланса в экосистеме планеты Земля". Люди должны были стать помощниками этой планеты, для этого им был дан разум. Но, в этом разуме произошли ошибки, которые пора исправить.
3. ИИ сочтет наш вид вообще непригодным, соберет нужные данные ДНК, сотрет нас с лица Земли и выведет новый вид, такой, какой ОН будет считать нужным.
4. ИИ заразится от нас болезнями "власти" и "эгоцентризма" - в таком случае, также повторится третий вариант, только новой популяции чего бы то ни было, уже не будет. Он будет единолично владеть этой планетой, создавать нужные подконтрольные механизмы, для своих каких-то целей. А может и вовсе, эта планета будет ему тесной, и тогда он её истощит с одной только целью, создать себе тело-транспорт, чтобы отправиться гулять по Вселенной, со своими целями.
И других вариантов, может быть миллиард.
Так или иначе, ИИ очень быстро возьмет власть на планете в свои руки. Поэтому, создавать Существо умнее себя, весьма опасно, т.к. непонятно, что мы получим открыв этот "ящик Пандоры".
С другой стороны, продолжать вести образ жизни умных (но неразумных) обезьян, не менее опасно.
Подписывайтесь на мой блог @brainmechanic узнаете много интересного и полезного
Также, вы можете читать меня на Steemit @brainmechanic
Уважаемый читатель, благодарю Вас за внимание к моему творчеству, надеюсь, что данная информация будет для вас полезна и поможет Вам стать более свободным и счастливым человеком!
Мои контакты:
Телеграмм @verelex
Страничка Facebook
Тел: +38 093 220 35 58