Что, если революция AI не утопия или апокалипсис, а что-то между ними?
Привет. Почему все считают, что революция AI приведет либо к огненному апокалипсису, либо к утопии, а не к чему-то промежуточному? Конечно, часть этого преставления сводится к тому, что можно получить больше внимания, говоря: «Конец близок!» или «Утопия грядет!»
Но часть этого видения сводится к тому, как люди думают об изменениях, особенно о беспрецедентных изменениях. Милленаризм это способ мышления о будущем, которое связано с глубоко укоренившимся чувством судьбы. Определение может быть следующим: «Миллианизм - это ожидание того, что мир как таковой будет уничтожен и заменен другим совершенным миром.
Эти убеждения тесно связывают идеи разрушения и созидания. Они включают в себя идею огромного, апокалиптического, сейсмического сдвига, который разрушит ткань старого мира и создаст нечто совершенно новое. Подобные системы убеждений существуют во многих философских концепциях, а также в негласной парадигме некоторых атеистов и агностиков, основой которой является вера в технологии.
Посмотрите на некоторые футуристические убеждения вокруг технологического сингулярности. В видении Рэя Курцвейла Сингулярность - это создание рая. Каждый человек становится бессмертным благодаря биотехнологии, которая сможет вылечить все наши болезни; наш мозг может быть загружен в облако; неравенство и страдания смываются волной новых технологий. "Разрушение мира" заменено фаворитом модного слова Силиконовой долины: disruption (крушение). И, как и во многих тысячелетних убеждениях, ваш пробег зависит от того, ведет ли это разрушение к новой утопии-или просто заканчивает мир.
Есть веские причины скептически относиться к такому образу мышления. Самая убедительная причина, вероятно, в том, что мировоззренческие убеждения, по-видимому, являются дефолтным (по умолчанию) способом того, как люди думают об изменениях.
Марксизма имеет сходные преставления. Это все о детерминированном взгляде на историю. Точно так же марксисты ищут доказательства того, что мы находимся на поздних этапах капитализма. Они считают, что неизбежно общество будет деградировать и выродиться до предела.
В марксизме это выражено в том, что когда эксплуатация рабочего класса богатыми становится неустойчивой, рабочий класс объединяется и свергает угнетателей. «Скорбь» заменяется «революцией». Иногда революционные деятели, такие как Ленин, объявляются великими деятелями, которые ускоряют начало "тысячелетия"; их риторика включает в себя полное разрушение старой системы, чтобы можно было построить новый мир.
Даже в норвежской мифологии есть элемент этого, как отмечает Джеймс Хьюз в своем эссе в книге Ник Бостром «Глобальные катастрофические риски». Рагнарок включает в себя людей и богов, победивших в финальной апокалиптической битве, но поскольку это было немного мрачно, они добавляют идею о том, что новая земля возникнет там, где выжившие будут жить в гармонии.
Возможно, в Сингулярности происходит нечто подобное. По мере того, как наши технологии и, следовательно, наши возможности улучшаются, приближается конечный расчет: наши человеческие дела будут взвешиваться. Если они окажутся слишком тяжелыми из-за проступков - глупости, высокомерия, тогда мы провалим испытание, уничтожив самих себя. Но если мы пройдем его и выйдем из Сингулярности и всех ее угроз невредимыми, тогда у нас начнется новая жизнь. И, как и в других системах убеждений, все общество будет радикально изменено, хотите ли вы этого или нет, выгодно ли оно вам или нет. Технологический восторг.
Похоже, что почти каждые серьезные преобразования провоцируют эту реакцию. Ядерное оружие тоже. Либо это станет последней каплей, и мы уничтожим себя, или ядерная энергия может быть использована для создания лучшего мира. Ученые, которые работали над бомбой, часто думали, что с такой разрушительной силой в человеческих руках мы будем вынуждены сотрудничать и работать вместе.
Когда мы снова и снова видим один и тот же ответ в разных обстоятельствах, возникающих в разных областях, будь то наука, философия или политика, нам нужно учитывать человеческие предубеждения. Нам нравятся такое видение будущего; и поэтому, когда возникает идея искусственного интеллекта, превосходящего человеческий разум, эти убеждения возникают с новой силой вокруг этой темы.
Люди не так рациональны. Физики наблюдают за миром, и мы вплетаем наши наблюдения в повествовательные теории. Историки пытаются понять бесконечный поток событий. Мы полагаемся на истории: истории, которые осмысливают прошлое, оправдывают настоящее и готовят нас к будущему.
Нам нужно остерегаться тысячелетнего повествования, когда мы рассматриваем технологические разработки и Сингулярность и экзистенциальные риски в целом. Может быть, на этот раз все по-другому. Есть более вероятная, менее привлекательная история. Что-то вроде: существует много возможностей и ни одна из них не является неизбежной, а многие возможные результаты менее экстремальные, чем мы думаем, - или они могут занять гораздо больше времени. На первый взгляд это не удовлетворяет человеческую фантазию. Гораздо приятней думать о происходящих событиях, как о сигнале конца мира, о начале утопии или, возможно, и о том и о другом сразу.
Но копни чуть глубже-и вы найдете, что милленаристские убеждения, не всегда самые перспективные, потому что они выводят человека из уравнения. Если вы думаете, что, скажем, злонамеренное использование алгоритмов или контроль над суперинтеллектуальным AI являются серьезными и неотложными проблемами, которые стоит решить, вы не можете быть принадлежать системе убеждений, которая настаивает на том, что утопия или антиутопия неизбежны. Вы должны верить в оттенки серого—и в вашу собственную способность влиять на то, где мы можем оказаться. По мере того, как мы движемся в неопределенное технологическое будущее, мы должны осознавать силу и ограничения фантазий.
