Сингулярность
В последние десятилетия реди представителей гуманитарных и естественных наук, писателей и публицистов все чаще используются такие термины, как «технологическая сингулярность» (ТС) или просто «сингулярность» для описания кульминационного момента в истории постиндустриального общества. Это понятие не имеет общепринятого, универсального определения, его толкование варьируется в зависимости от научной области. Общим для всех дефиниций являются его единичность, уникальность и неповторимость.
В физике под сингулярностью понимается точка, в которой гравитация настолько сильна, что нарушает пространственно-временную реальность. Это конечное состояние материи, попадающей в черную дыру. В математике сингулярность рассматривается либо как провал внутри уникального диапазона, где соответствующие правила становятся неприменимы, либо как точка, в которой математический объект ведет себя совершенно нетипично, непредсказуемо.
Весь исторический процесс характеризуется фазовыми переходами к качественно новой исторической стадии, причем последовательность фаз обладает свойством геометрической прогрессии, т.е. каждая фаза короче другой. Историк И.М. Дьяконов сделал из этого вывод о неотвратимости момента, когда длительность исторической фазы достигнет практически нуля, - и определил этот момент в истории человечества как точку сингулярности [2. С.350]. Если нанести на график фазы развития, то можно увидеть, как экспоненциальное развитие достигает кульминации – сингулярности, что равносильно «переходу в бесконечность». Для истории понятие «бесконечности» лишено смысла, поэтому с точки зрения обыденного сознания в этот момент возможна катастрофа [2. С.350-351].
В сингулярной антропологии сингулярное событие - это рождение человеческого сознания. Сингулярность – это точка, из которой появляется явь и сон, смыслы, реальное и идеальное [1. С.27-28]. Это сознание, в котором действуют не природные, а человеческие законы. Если сингулярная антропология ставит вопрос о ценности внутреннего мира человека, его появлении как уникального и неповторимого события, то технологическая сингулярность полностью нивелирует вопрос о человеке, нацелившись на постчеловечество.
Технологическая сингулярность
Технологическая сингулярность - гипотетическое событие в будущем, когда технологический прогресс, в особенности в области ИИ, станет настолько глубоким и стремительным, что приведет к беспрецедентным и необратимым изменениям в человеческой цивилизации. Как спрашивает Д. Чалмерс: «А что будет, если машины станут умнее нас?” [7. P. 7].
Джон фон Нейманн (1903 – 1957), возможно был одним из первых, кто осознал огромный потенциал компьютера. Польско-американский ученый в области математики и физики С. Улам в статье, посвященной жизни и деятельности Нейманна, утверждал, что в одном из разговоров с ним ученый высказал следующее предположение: «Постоянно ускоряющийся прогресс в технологии и изменения в образе человеческой жизни… создают видимость приближения какой-то существенной сингулярности в истории расы» [28. P. 5].
В 1965 году британский математик И. Дж. Гуд (1916 – 2009) ввел понятие «интеллектуального взрыва», подразумевая под ним появление сверхчеловеческого интеллекта. «Поскольку проектирование машин является одним из видов интеллектуальной деятельности, сверхразумная машина могла бы создавать еще более совершенные машины, и тогда… произошел бы “взрыв интеллекта”, а человеческий разум остался бы позади. Основная идея заключается в том, что машина, которая умнее человека, будет проектировать машины лучше, чем человек» [12. P. 31].
Мыслители, ученые и писатели ХХ века осознавали непредсказуемые возможности нового вида технологий, основанных на использовании ИИ, обладающих превосходящей человечксие возможности способностью выполнять сложнейшие вычислительные и другие интеллектуальные работы. Особенно настораживала потенциальная способность машин к самовоспроизводству. В 1965 году Гордон Мур (1929 – 2023), влиятельный американский бизнесмен, инженер, специалист в области компьютерных технологий, на основе своих эмпирических наблюдений сформулировал «закон Мура», по которому число транзисторов на кристалле интегральных схем удваивается примерно каждые два года [19. P. 115]. Считается, что практика в целом подтверждает его точность [9. P. 206–207].
Стремительное технологическое развитие подтверждало понимание того, что приближается тревожный момент, когда машинный интеллект становится опасным для человека. Об этом заявлял Ганс Моравец, канадский специалист австрийского происхождения в области компьютеров и робототехники, который, сосредоточившись на разработке искусственного интеллекта, пришел к выводу, что в начале XXI века произойдет «пожар разума» в этой сфере [20. P. 62–68].
В начале 1980-х годов математик и писатель-фантаст Вернор Виндж использовал термин «сингулярность» в связи развитием так называемых умных машин. «Мы скоро создадим разум, превосходящий наш собственный. Когда это произойдет, человеческая история достигнет своего рода сингулярности, интеллектуального перехода, столь же непроницаемого как пространственно-временной узел в центре черной дыры, и мир пойдет далеко за пределы нашего понимания» [29. P. 10]. В 1993 году в докладе «Приближающаяся технологическая сингулярность: как спастись в постчеловеческую эпоху» Виндж расширил свою концепцию и ввел понятие ТС [30]. В этом же докладе он предположил, что «…создание ИИ, значительно превышающее человеческий интеллект, произойдет в течение последующих тридцати лет.» [30. P. 12] В настоящее время возникновение концепции ТС обычно связывают с именем Винджа.
Однако его высказывания Винджа относительно ТС мало что объясняют. Когда Виндж ввел понятие ТС, трудно определить, в каком качестве он использовал этот термин: как математик или писатель-фантаст. Даже в своих научных исследованиях он ссылается на авторов научной фантастики 1960−1980 годов [31. P. 13].
На деле корень проблемы ТС кроется в нашем безответственном отношении к ИИ и научно-техническому прогрессу, в недооценке антропологической уникальности человеческого сознания и его принципиального отличия от машинного интеллекта. Любой бесконтрольный прогресс ведёт к дурной бесконечности, превращаясь в процесс саморазрушения, что отправляет нас к точке невозврата, когда деструктивный процесс достигает кульминации. Было бы наивным упрощением представить ТС как момент, когда вдруг наступит царство машин. Мы уже окружены машинным интеллектом и находимся в техносфере, которая стала средой нашего обитания.
Техносфера
В 1968 году канадский инженер Джон Милсун (1925-2008) впервые использовал слово «техносфера» в названии своей статьи, в которой он утверждал, что техносфера отличается от других сфер системы Земли, но не уточнил сути этого понятия [18]. Концептуальное определение термина «техносфера» предложил геолог П. K. Хафф (1944 – 2024): «…широко распространенные и взаимосвязанные технологические системы, на функциях которых основаны современная цивилизация и общество» [14. P. 149]. По его мнению, техносфера выполняет роль, эквивалентную биосфере [13]. «…Cовокупность крупномасштабных сетевых технологий, которые лежат в основе и создают искусственные процессы, включая добычу и переработку сырья, производство, электронные коммуникации, пищевую промышленность; политическую и экономическую бюрократию и т.д., без чего современное человечество существовать не может» [15. P. 301-302]. Ключевая фраза в определениях Хаффа - «технологические системы, на функциях которых основаны современная цивилизация и общество».
В техносфере как глобальной среде существования человеческой цивилизации неизбежно формируется техногенная культура. «В становлении техногенной культуры существенную роль играет постоянное развитие новых технологий, стандартизация социального устройства…» [3. C.168]. Существенная характеристика современной техногенной культуры - стремительный информационно-коммуникационный поток, развитие цифровых технологий. Цифровые технологии срастаются с человечеством, внедряясь во все сферы жизни, становясь неотъемлемой частью всего социокультурного пространства.
Одно из важнейших следствий их развития - появление и активное внедрение в нашу жизнь техногенных акторов: роботообразной техники, виртуальных помощников, чат-ботов, основанных на ИИ, влияющих не только на социокультурное пространство, но и нашу повседневную жизнь. Если еще недавно понятие «отношения» применялось к людям, то теперь утвердился термин «человек и техника», подразумевающий то, что техника становится не только актором, но и посредником между человеком и миром. Посредничество техники означает, что мы уступаем свою доминирующую роль субъекта (человека) объекту (технике). Техносфера вытесняет человека из своей структуры.
Современная техника способна полностью заменить многие виды человеческой деятельности. Парадокс заключается в том, что человек сам отдает свои исключительные функции человека машине, даже когда в этом нет объективной необходимости.
Современные технологии ИИ обладают способностью психо-эмоционального и ментального воздействия на человека, навязывая идеалы и ценности, часто не имеющие ничего общего с традиционными моральными и духовными ценностями. Технологический комфорт породил проблему духовной деградации и деформации многих духовно-нравственных ценностей, на которых традиционно строились человеческие отношения и понимание жизни. Цифровые технологии проникли в быт, общение, деловые практики, практически во все сферы жизни человека. Компьютерные сети, виртуальная реальность нивелируют физическую природу, предлагая нереальную модель жизни. Человек оказывается в нечеловеческой экзистенциальной ситуации, где господствует не человек, а цифра. Техногенная культура ведет к обезличиванию, стимулирует появление технического мышления, находящегося вне контекста человеческих духовных ценностей.
Автоматизация, роботизация и виртуализация затрагивают все сферы жизни. Замена человека робототехникой — это одна из ключевых идей Четвертой промышленной революции.
Четвертая и Пятая промышленные революции.
Согласно концепции Четвертой промышленной революции, пред
ложенной К. Швабом, происходят экспоненциальное технологическое изменение и конвергенция, при которой прорывные открытия и их реализация происходят одновременно в физической, биологической и цифровой сферах. «Четвертая промышленная революция создает мир, в котором виртуальные и физические системы производства глобально и гибко взаимодействуют друг с другом» [25. P. 12].
В основе концепции Четвертой промышленной революции лежит идея синтеза кибернетических и физических пространств, суть которых состоит в соединении физического процесса производства с электронно-программным управлением. Ключевым требованием киберфизических систем является требование синхронной работы всех их элементов. Выполнить его не под силу человеку, но робототехника сможет справиться практически со всеми электронными задачами. Робот — материализованный алгоритм, который является одновременно и объектом, и субъектом. Киберфизические системы могут быть встроены в производственные процессы, а в виртуальной среде они способны отслеживать цифровое присутствие человека в Интернете.
Таким образом, современные технологии ИИ создают реальный риск подчинения человеческой воли «умным» технологическим решениям, при котором ИИ принимает решения, а человек их выполняет. ИИ не просто заменяет труд: он отменяет потребность в человеке. Такая замена неизбежно поднимает проблему этического антропоцентризма: как относиться к ИИ, как к субъекту или как к объекту?
Четвертая Промышленная революция обусловила Пятую Промышленную революцию как новый этап индустриализации, который фокусируется на сотрудничестве человека и машины. Роботов будут называть «коботами» (коллаборативный робот). Предполагается, что кобот в зависимости от уровня сложности будет не только выполнять работу, но и мониторить человеческую деятельность, принимать решения. Это означает, что роботы становятся фактически равноправными человеку. То, что должно изначально быть инструментом, приобретает статус субъекта, освобождаясь от контроля со стороны человека.
Электронная техника и другие технологии делают нашу жизньво многих отношениях комфортной, но за этот комфорт мы платим своей человеческой свободой. Зависимость означает порабощенность и беспомощность. Современные технологии преобразуют нашу жизнь
таким образом, что мы теряем контроль над ней,
даже не замечая этого. Техника становится панацеей, предлагая техническое решение человеческих проблем, как это активно постулируют трансгуманисты, которые являются главными идеологами и теоретиками ТС.
Трансгуманизм
Главная идея трансгуманизма заключается в том, что люди с помощью новейших технологий превзойдут свои естественные биологические, когнитивные ограничения и трансформируют себя в иных существ, обладающих способностями, столь радикально разнящимися с нашим нынешним состоянием, что тем самым достигнут нового – постчеловеческого состояния.
Британский философ Макс Мор называет трансгуманизм идеологией, нацеленной на «продолжение и ускорение эволюции разумной жизни за пределами сегодняшних форм человеческих возможностей посредством науки и технологии...» [21]. Постулирование идеи ТС имеет не только культурно-философскую мотивацию и описывается трансгуманистами как некая гипотеза, но и сильную идеологическую подоплеку, нацеленную на переосмысливание традиционного понимания человека как существа духовно-телесного, замены человеческой рабочей силой машинной, поскольку машины намного дешевле и их проще эксплуатировать.
Трансгуманистов поддерживают и спонсируют влиятельные финансовые корпорации и предприниматели, активно популяризирующие идею сращивания человека и техники. Так, Илон Маск заявил о своем желании соединения людей с ИИ, «чтобы достичь симбиоза с ИИ» в целях «усовершенствования» человечества [27]. Идея улучшения человека с помощью технических модификаций получила концептуальное оформление в проекте Human enhancement («усовершенствование человека») [8]. В его рамках развиваются идеи, связанные с вмешательством технологий в человеческий организма.
В отличие от терапии, нацеленной на восстановление нарушенных функций организма, Enhancement направлен на вмешательство в здоровые органы с целью их усовершенствования. Речь идет о вживлении чипов, генной инженерии, переносе мозговой деятельности на искусственный носитель, создании бестелесной личности как цифрового существа. Для трансгуманистов нет антропологических границ, они не применяют морально-нравственных принципов к технологическим манипуляциям с человеком как с объектом или животными. Так, в конце января 2024 года первый человек получил мозговой имплант от американской компании Neuralink, занимающейся разработкой имплантируемых мозговых интерфейсов и выражающей концепцию трансгуманизма [26] (ранее подобные эксперименты с мозговыми имплантами проводились на животных).
Трансгуманизм фактически лишает человека способности целеполагания, ибо мозговой имплант имеет потенциальную возможность контролировать человека и манипулировать им дистанционно.
В рамках трансгуманистических проектов особый акцент ставится на исследованиях, связанных с заменой мозга компьютерным устройством, соединением тела с компьютером. Такие безнравственные исследования бросают вызов человеку как существу духовно-телесному.Трансгуманизм не только транслирует и работает над проектом «усовершенствования человека» с помощью технических средств, но и настаивает на необходимости такого «усовершенствования», поскольку это якобы подготовит человечество к существованию после наступления ТС. По мнению трансгуманистов, в эпоху господства ИИ люди, не прошедшие процесс технологического «усовершенствования», просто не смогут идти в ногу со временем и перестанут понимать и ориентироваться в том, что происходит.
Гипотетический образ постчеловеческого существа формируется на основе спекулятивных теорий относительно перспектив радикальной трансформации человеческого вида с помощью нано-, биотехнологических и информационных технологий, развитие которых, по словам теоретиков трансгуманизма, ведет к формированию техно-модифицированного, когнитивно «усовершенствованного» существа, которое будет симбиозом кибернетики и органики - киборгом. Такое техногенное мышление полностью нивелирует идею человека, обладающего сознанием и волей, дарованных нам от Бога. Если мы не созданы по образу и подобию Божию, то можно быть подобием чего угодно и даже киборга, который не воспринимает себя как человек, не знает человеческих ценностей, не понимает святости материнства, не ощущает ни боли, ни страданий, потому что киборги не рожают детей, не болеют и не страдают. Они не знают раздора и легко управляемы, потому что у них полностью отсутствует критическое мышление, религиозные, национальные, этнические и гендерные различия.
Киборгизация
Идея сращивания человека и машины особенно приветствуется представителями феминизма. Картину будущей цивилизации без человека образно и детально изобразила в «Манифесте киборгов» Д. Харауэй, американский профессор феминистской теории. Киборг – это культурно-природный гибрид, который символизирует новую онтологию (бытие) и новую политику, отрицающие традиционные различия между природой и культурой, отвергающие любые формы идентичности. Харауэй прямо говорит: «Киборг – это наша онтология; это дает нам нашу политику» [16. P. 8]. В киборге она отразила гипотетический образ постчеловечества – техногенной цивилизации, чуждой традиционным человеческим понятиям нормы и патологии, не знающей разграничений между человеческим и нечеловеческим. Харуэй обосновала глобалистскую теорию, в основе которой лежит идея постчеловеческого общества — бесполой, безликой, безрасовой цивилизации, родственно связанной с машинами.
Р. Курцвейл, американский специалист в области компьютерной техники, писатель-футурист и предприниматель, утверждает, что по мере ускорения развития информационных технологий мы так или иначе станем киборгами и загрузим себя в компьютер, превзойдя свою биологическую природу. Разработкой проектов, нацеленных на перенос человеческого интеллекта на искусственные носители, занимаются влиятельные научные организации. Н. Бостром, ведущий теоретик трансгуманизма, профессор, директор Института Будущего Человечества Оксфордского университета утверждает: «Для сохранения личности не имеет большого значения, реализованы ли вы на кремниевом чипе внутри компьютера или в этом сером комке внутри вашего черепа… Радикальные когнитивные улучшения, вероятно, легче будет осуществить в загрузке, чем в органическом мозге…» [6. P. 18–19]. Бостром утверждает, что «…мы, в конечном итоге, достигнем точки, когда мозги, занимающиеся исследованием искусственного интеллекта, сами станут искусственным интеллектом. Вопрос в том будем ли мы по-прежнему жить в человеческом мире, когда ИИ преобладает над нами?» [5] Он говорит о полной трансформации сознания, когда человеческое сознание нельзя будет отличить от ИИ.
Подобные эксперименты предполагают стирание различий между человеческим и техническим. В рамках трансгуманизма ТС гипотетически предполагает момент, когда человеческий интеллект в результате технологического «усовершенствования» окажется настолько развит, что не будет отличаться от искусственного. Но возможно ли такое? Ответ на этот вопрос зависит от ответа на вопрос, чем отличается человеческий интеллект от искусственного и от нашего сознания.
Сознание. Человеческий интеллект и искусственный
Искусственный интеллект в самом общем смысле — это имитация процессов человеческого интеллекта машинами, особенно компьютерными системами. В основе ИИ —программирование, алгоритм и вычисление. ИИ не рождается, он создается, поэтому у него не может быть того, что дано человеку свыше — души и сознания.
Человеческий интеллект связан с нашим сознанием, но сознание не тождественно интеллекту. Сознание не имеет истоков, оно трансцендентно по своей природе, так же, как не имеют истоков доброта, сострадание и любовь. Сознание есть источник добродетелей. Нельзя иметь сознание и не иметь совести. Сознание относится к духовной сфере, умонастроению и ценностным ориентирам. Благодаря сознанию человек имеет способность относиться к самому себе, заниматься самоанализом и иметь внутренний духовный мир.
Человеческое сознание обладает двумя важнейшими функциями: воображением и изображением. Мышление связано с воображением. Прежде, чем человек мыслит, он воображает, и это антропологическая аксиома. Именно этих функций нет и не может быть у машины: она вычисляет. В основе ИИ - алгоритм. А человек – это не алгоритм, а мыслящий, грезящий, воображающий художник своего внутреннего мира, где господствует сознание как источник совести, чести и человечности. Зачастую триггером мышления является чувство недовольства, вопрошание, которое есть главное условие критического мышления и осмысления. Никакое событие не имеет смысла, пока оно не осознано, не осмыслено. Благодаря критическому мышлению мы придаем смысл происходящему и противостоим нонсенсу внешнего мира.
Человеческий интеллект относится к когнитивным способностям и сопряжен с целеполаганием, мотивацией, смысложизненными ценностными ориентирами и чувством, которые являются исключительно человеческими качествами. Вот почему ни сознание, ни человеческий интеллект невозможно перенести на искусственный носитель, как это пытаются сделать трансгуманисты.
Аксиологический аспект
Аксиологический аспект проблемы соотношения человеческого интеллекта и искусственного поднимает вопрос о человеческих духовных - нравственных, моральных и культурных ценностях, которые абсолютно чужды машине. Алгоматизированные решения принимаются машинным интеллектом без учета этих ценностей, которые определяют суть человека и его отличие от всех других существ. Доверие к ИИ в любой сфере человеческой деятельности означает, что мы неосознанно и невольно опираемся на математический формализм, на основе которого работает ИИ.
Предположения теоретиков ИИ о том, что корреляция интеллекта и рациональности в создании программных систем приведет в «взрыву морали», и можно создать «сверхразумный» и «сверхморальный» ИИ [7. P.36], попросту нелепы.
Попытки запрограммировать морально-этические ценности в ИИ бессмысленны. Для возникновения человеческих моральных ценностей требуется синтез сознания и чувственности, а для этого необходима эмоционально-чувственная структура, которой нет у машины. Кроме этого, сознанию необходимы ценностные ориентиры как критерии добра и зла. Более того, нельзя не учитывать потенциальный риск того, что ИИ алгоматизирует запрограммированные ценности таким образом, что направит их против человека в силу того, что критерии добра и зла машина может переформатировать непредсказуемо.
Гипотетические сценарии ТС
Теоретики ТС, совмещая в своем дискурсе научные и фантастические подходы, делают значительный акцент на утопических представлениях «улучшенного» или техномодифицированного человечества. На основании критического анализа основных идей, теорий и исследований, содержащихся в исследованиях и произведениях ученых, философов, социологов, писателей, включая теоретиков и оппонентов трансгуманизма, можно сделать вывод об отсутствии ясной картины или четкого концептуального определения того, что можно определить как ТС. Однако можно выявить два гипотетических сценария ТС.
Первый сценарий – это постчеловеческое состояние, к которому нас усердно «готовят» трансгуманисты. В его рамках человечество трансформируется с помощью научно-технических средств в транслюдей как переходное состояние от человека к трансчеловеку и, в конечном итоге, к постчеловеку как иному виду живых, но уже нечеловеческих существ [11. P. 116]. Трансгуманистические сторонники ТС, игнорируя различия между человеческим и техническим, низводят человека к объекту бесконтрольных технических манипуляций, предлагая техномодифицированную форму постчеловека, когнитивные способности которого будут несравненно выше наших сегодняшних.
Второй гипотетический сценарий ТС связан с утерей человеком контроля над «сверхразумными машинами», основанными на сильной версии ИИ.
Нанотехнологии и ТС
Трансгуманисты возлагают особенно большие надежды на использование нанотехнологий в трансформации тела как важном этапе в искусственной эволюции человека, нацеленной на преодоление естественных биологических ограничений в качестве «подготовки» к ТС. Интеграция ИИ в нанотехнологии создала новую область исследований и инноваций, известную как ИИ-нанотехнологии [4]. Использование нанотехнологий как основы для трансгуманистических проекций будущего постчеловечества сформулировал американский ученый и инженер Э. Дрексел, предположивший, что будущие достижения в наномедицине будут основаны на так называемых сборщиках (assemblers), наномашинах, способных размещать атомы в произвольном порядке [10. P. 10].
Нанотехнологии, действующие на атомно-молекулярном уровне, позволяют трансформировать фундаментальные первоосновы живой и неживой материи. Эта способность особенно привлекает трансгуманистов, поскольку предоставляет возможность манипулировать как предметом, так и человеком, изменяя основу материи. Бостром пишет: «Нанотехнология, позволяя эффективно переупорядочивать атомы, сделает возможным превращать уголь в алмазы, песок в суперкомпьютеры…» [6. P. 9]. В трансгуманистических видениях будущего постчеловек представляется иным существом, потому что технологии могут трансформировать его телесность непредсказуемо.
Современные перспективы генной инженерии, возможности нанотехнологий ведут к разрушению традиционного представления о биологической природе человеческого тела, обещают освобождение не только от болезней, но и от самого тела. В условиях интеграции человеческой природы с техносферой человек оказывается в ситуации метафизической отчужденности, когда он перестает осознавать свою духовную сущность, не задумывается о духовно-нравственных аспектах своих действий и о том, что он позволяет делать с собой.
Непредсказуемость сильной версии ИИ
Не вдаваясь в подробные технические детали, поясним, что слабые версии ИИ запрограммированы инструкциями и выполняют именно ту работу, которую им задала инструкция. Сильная версия ИИ имеет способность создавать программы самостоятельно. Существует распространенное мнение, что сильная версия ИИ может мыслить. Как было объяснено выше, никакая машина не может мыслить, ибо мышление связано с сознанием, которое является уникальным антропологическим атрибутом человека, отличающим его от всех других существ.
Что может машина, а именно сильная версия ИИ? Машинный интеллект способен вычислять, анализировать, писать программы, но все это не будет учитывать интересы и ценности человека, ибо машина не способна осознавать. Особую опасность представляет способность электронных технологий, основанных на сильной версии ИИ, самовоспроизводиться. Компьютер или робот обладает способностью к рекурсивному самосовершенствованию, что равносильно перепроектированию или изменению первоначальной версии программы.
Сильный ИИ может создавать собственный машинный язык, алгоритм и программы, которые человек не сможет понимать. Это означает, что процесс развития ИИ может выйти из-под контроля человека и пойти в непредсказуемом направлении к непоправимым последствиям. Согласно мнению специалистов, такое «поведение» машин может привести к «взрыву интеллекта», когда «умные машины», проектируя «более умные машины», создадут интеллект, настолько превосходящий человеческие интеллектуальные возможности, что он выйдет из-под контроля.
В частности, британский специалист в области компьютерных технологий Джеффри Хинтон, известный как «крестный отец ИИ» за свою работу в области ИИ, открыто предупреждает, что сильные версии ИИ могут быть более мощными, чем мы думаем, и существует риск, что они могут стать неконтролируемыми [22]. Хинтон предупреждает, что сильный ИИ представляет реальную угрозу человечеству [24].
Модели сильной версии ИИ могут быть трудными для понимания даже тех, кто непосредственно работает с ними. Это приводит к отсутствию ясности и прозрачности того, как и почему ИИ приходит к своим выводам, что повышает риск использования их решений. Для человека использование решений, предложенных ИИ, может привести к непредсказуемым и необратимым последствиям. Усложняет ситуацию тот факт, что корпорации, занимающиеся разработкой ИИ, упорно хранят молчание о своих продуктах. Так, в июне 2024 года нынешние и бывшие сотрудники OpenAI и Google DeepMind открыто выразили обеспокоенность рисками, связанных с возникающими ИИ технологиями, фактически обвинив эти компании в сокрытии рисков [23].
Деструктивный процесс движения к саморазрушению
Человечество в ходе бесконтрольного научно-технического прогресса движется к ТС, а это антропологическая деструкция, суть которой заключается в мутации сознания в условиях техносферы. В техносфере человек становится элементом техногенной культуры, переставая быть личностью, обладающей сознанием, теряет свою исключительную роль субъекта, ставя себя в полную зависимость от техники. А что происходит с сознанием в условиях господства дигитальных технологий, постоянного погружения в виртуальную реальность, которые требуют от человека не сознательного человеческого отношения, а умения использовать информационные технологии, а теперь еще и «сотрудничать» с роботом? Сознание мутирует, потому что зазор между человеческим и техническим заполняется ИИ, который является субъектом в виртуальной реальности, влияет на мировосприятие, превращая все в симуляцию.Бесконтрольное развитие нанотехнологий, когнитивных наук, занимающихся разработкой искусственного интеллекта (ИИ) и созданием моделей человеческого мозга грозит размыть грани между человеческим и нечеловеческим миром, а также изменить традиционное понимание смерти, - ведь трансгуманисты стремятся преодолеть болезни и даже достичь бессмертия, «технологичекого рая» на Земле.
Анализ идеологической траектории трансгуманистов и других теоретиков ТС, призывающих нас «подготовиться» к наступлению ТС, показывает, что цель этой «подготовки» - кардинальное модифицирование человечества для трансформации сознания, отключения критического мышления и мутации самосознания так, чтобы человек перестал отличать человеческое от нечеловеческого, воспринимая самого себя и окружающее через призму ИИ.
Такая модификация человечества нужна, чтобы создать глобальную постчеловеческую цивилизацию, в которой не будет разделения по признаку гендерной, национальной идентичности, не будет религии, культурных традиций, а превалирующим методом решения социальных проблем станет применение высоких технологий, обладающих способностью дистанционного когнитивного манипулирования, морфологического изменения телесности.
Сегодняшний технооптимизм необходимо сменить на разумную осторожность относительно развития и повсеместного внедрения ИИ и нанотехнологий. Феномен ТС на данный момент остается в области спекулятивных предположений, которые, однако, далеко не безосновательны, и поднимает ряд серьезнейших проблем антропологического, морального, духовно-нравственного социокультурного и политического характера.
Литература
1. Гиренок Ф.И. Введение в сингулярную философию. М.: Проспект, 2002.
2. Дьяконов И.М. Пути истории. От древнейшего человека до наших дней. М. КомКнига, 2007.
3. Кашкаров А.М. Техногенная культура и этапы формирования//Вестник Калмыцкого Университета. 2018. N 39 (3).
4. Agrawal, R. Artificial Intelligence in Nanotechnology // Mishra, D., Yang, X.S., Unal, A., Jat, D.S. (eds) Data Science and Big Data Analytics. IDBA 2023. Data-Intensive Research. Springer Singapore. 2024.
5. Bostrom N. On Superintelligence and the future of AI. 2019 //
https://www.freethink.com/series/uprising/future-of-ai- superintelligence (дата обращения: 01.12.2024)
6. Bostrom N. The Transhumanist FAQ. A General Introduction. Oxford: World Transhumanist Association, 2003.
7. Chalmers D.J. The Singularity: A Philosophical Analysis // Journal of Consciousness Studies. 2010. № 17.
8. Clarke S., Savulescu J., Coady C.A.J., Giubilini A., Sanyal S. (eds.). The Ethics of Human Enhancement: Understanding the Debate. Oxford, 2016.
9. Disco C., Barend van der Meulen. Getting New Technologies Together. New York: Walter de Gruyter, 1998.
10. Drexler K.E. Engines of Creation: The Coming Era of Nanotechnology. New York: Bantam Doubleday Publishing. 1987.
11. Esfandiary F.M. Are You a Transhuman? Monitoring and Stimulating Your Personal Rate of Growth in a Rapidly Changing World. N. Y.: Warner Books, 1989.
12. Good I.J. Speculation Concerning the First Ultra Intelligent Machine // Advances in Computers. 1966. Vol. 6.
13. Haff K. P., Horl E. Technoshere and technnoecology // https://technosphere-magazine.hkw.de/p/Technosphere-and-Technoecology-qzjFDWgzxX2RDEDg9SN32j (дата обращения: 01.12.2024)
14. Haff P. Technology and human purpose: The problem of solids transport on the Earth’s surface // Earth System Dynamics. 2012. № 3.
15. Haff P. 2013. Technology as a geological phenomenon: Implications for human well-being // A Stratigraphical Basis for the Anthropocene. 2013. Edited by Waters C., Zalasiewicz J., Williams M., Ellis M. and Snelling A. London: Geological Society, London.
16. Haraway D. A manifesto for cyborgs: science, technology & socialist
feminism in the 1980s // The Haraway reader. New York: Routledge, 2004.
17. Kurzweil R. The Singularity is Near: When Humans Transcend Biology. New York: Viking, 2005.
18. Milsum J. The technosphere, the biosphere, the sociosphere. Their systems modelling and optimization // IEEE Spectrum. 1968. № 5.
19. Moore G.E. Cramming More Components onto Integrated Circuits//Electronics. 1965.Vol. 38. № 8.
20. Moravec H. Mind Children: The Future of Robot and Human Intelligence. Cambridge: Harvard University Press, 1988.
21. More M. H±: True Transhumanism. 2009 // https://metanexus.net/h-true-transhumanism (дата обращения: 07 October 2024).
22. Nilima M. Geoffrey Hinton: AI pioneer who fear artificial intelligence could end humaniy//https://www.independent.co.uk/news/science/nobel-prize-in-physics-british-university-of-toronto-nobel-california (дата обращения: 09.12.2024)
23. OpenAI, Google DeepMind’s current and former employees warn about AI risks. // https://www.reuters.com/technology/openai-google-deepminds-current-former-employees-warn-about-ai-risks (дата обращения: 09.12.2024).
24. Pelley S. “Godfather of AI.” Gejffrey Hinton on the promise, risk of advanced AI// https://www.cbsnews.com/news/geoffrey-hinton-ai-dangers-60-minutes-transcript/ (дата обращения: 07.12.2024)
25. Schwab K. The Fourth Industrial Revolution The Fourth Industrial Revolution. NY.: Crown Publishing Group, 2017.
26. Singleton A. First Human Receives Neuralink Brain Chip Implant, Says Elon Musk// https://www.telegraph.co.uk/business/2024/01/31/elon-musk-claims-win-in-sci-fi-brain-implant/ (дата обращения: 19 March 2024).
27. Transhumanism: billionaires want to use tech to enhance our ability// https://theconversation.com/transhumanism-billionaires-want-to-use-tech-to-enhance-our-abilities-the-outcomes-could-change-what-it-means-to-be-human-220549 (дата обращения: 02.12.2024)
28. Ulam S. Tribute to John von Neumann // Bulletin of the American Mathematical Society. 1958. Vol. 64, № 3, part 2. May, 16.
29. Vinge V. First Word // Omni. 1983. Vol. 5, № 4.
30. Vinge V. The Coming Technological Singularity: How to Survive in the Posthuman Era // NASA. Lewis Research Center, Vision 21: Interdisciplinary, 1993.
Ранний опыт государственного строительства большевиков и Конституция РСФСР 1918 года
7
