Ранний опыт государственного строительства большевиков и Конституция РСФСР 1918 года    7   23664  | Официальные извинения    970   98793  | Становление корпоративизма в современной России. Угрозы и возможности    237   80152 

Человек на рынке искусственного интеллекта

  Постановка проблемы

        «Искусственный интеллект» (далее – ИИ) - одно из самых популярных словосочетаний последнего времени, опередившее в России по частоте упоминания такие мантры вчерашнего дня, как, например,  «инновации» и «модернизация». Развитие информационного общества и интенсификация работ по ИИ и «цифровой экономике» стали предметом амбициозных стратегических документов федерального (а за ними, традиционно, и регионального) уровня и составным звеном национальных проектов, реализация которых объявлена важнейшей задачей. Открывая 30 мая 2019 г. совещание по стратегии развития технологий в области ИИ, В. В. Путин заявил: «Если кто-то сможет обеспечить монополию в сфере искусственного интеллекта, …тот станет властелином мира... И мы… должны обеспечить технологический суверенитет в сфере искусственного интеллекта».

        Вхождение ИИ в жизнь современного общества многоаспектно. Одной из самых интригующих его сторон становятся, к сожалению, малоизученные  взаимоотношения  человека и рынка искусственно-интеллектуальных товаров и услуг. Их специфика во многом определяется не только стремительным расширением областей успешного применения ИИ или опасениями «вытеснения человека из его естественной среды», но и  присущим нашему времени синтезу сущностных характеристик информационного   общества и общества  потребления. Последнее - один  из «ключей» к разгадке триумфального шествия  ИИ: человек информационного общества потребленияориентирован на непрерывное потребление материальных и виртуальных благ ИИ и на комфортное существование в формируемой под его воздействием новой материально-технической и виртуально-информационной среде.

        Постановка проблемы «человек на рынке искусственного интеллекта» провоцирует вопрос о собственной роли человека-потребителя в становлении и развитии этого рынка.

 

     Предварительные дефинициальные уточнения

       Ряд ключевых понятий этой статьи нуждаются в кратком пояснении.

       «Общество потребления» - замечательное определение Жана Бодрийяра, сформулированное им в 70-х годах ХХ века в книге «Общество потребления. Его мифы и структуры» («La société de consommation: ses mythes et ses structures»). Автор представил доказательную характеристику общества индустриально развитых стран, характеризующегося ценностными ориентациями на массовое (фактически безудержное) потребление постоянно обновляемых благ [4]. Общество потребления и современная рыночная экономика, индивидуальная жажда новизны и невероятные успехи технического прогресса «нашли друг друга».   Ж. Бодрийяр одним из первых проанализировал свойственное нашим современникам отождествление личностного счастья с возможностью потребления вне зависимости от фактических потребностей человека, а достижение такого благосостояния – с жизненным успехом. Он же обнаружил ныне всем заметное отношение людей общества потребления к культуре как к моде: массовая культура не ориентируется на долговечность ни в содержательном, ни в ценностном смысле, она должна быть постоянно «актуальной», «современной» и адекватной человеку-потребителю. Это торжество китча и «наименьшей общей культуры» как «свидетельства культурного гражданства».     

       Понятие «информационное общество» концептуально связано с   теорией постиндустриализма и с представлениями о наличии на различных стадиях глобального развития доминирующих и системообразующих  секторов экономики: первичного (сельскохозяйственного) в аграрный период, вторичного (промышленного) в индустриальный период и третичного (услуг) в постиндустриальный. В наше время по этой логике доминирующим объявлен информационный  сектор, а самой  информации отдана роль инициатора и ускорителя (предполагается – только позитивных!) перемен в всех сферах экономической, социальной и политической жизни.

Одно время информационное общество отождествляли с «обществом знаний», что нашло отзвук в Указе Президента РФ о Стратегии развития информационного общества в Российской Федерации на 2017 - 2030 годы [26], которая была принята «в целях обеспечения условий для формирования в Российской Федерации общества знаний». Правда, уже в п.1 документа уточнено: «Настоящая Стратегия определяет цели, задачи и меры по реализации внутренней и внешней политики Российской Федерации в сфере применения информационных и коммуникационных технологий, направленные на развитие информационного общества, формирование национальной цифровой экономики, обеспечение национальных интересов и реализацию стратегических национальных приоритетов». В перечне «основных понятий» Стратегии (ст.4) дополнительно разъяснено, что  «информационное общество - общество, в котором информация и уровень ее применения и доступности кардинальным образом влияют на экономические и социокультурные условия жизни граждан» и что под «информационным пространством» понимается «совокупность информационных ресурсов, созданных субъектами информационной сферы, средств взаимодействия таких субъектов, их информационных систем».

      Информационное общество и его научно-техническая основа – информационные технологии (далее - ИТ) и информационно-коммуникативные технологии (далее -  ИКТ) за исторически ничтожный срок не только преобразовали научно-технический облик производства («цифровая экономика» и пр.), социальной сферы, инфраструктуры и управления, но и сформировали принципиально новую систему потребления. В нее вошли как собственно продукты ИТ и ИКТ (персональные компьютеры, средства мобильной связи, различные гаджеты), так и ранее неведомые  способы формирования и удовлетворения спроса (вездесущая реклама, технические возможности виртуального ознакомления с товарами, интернет-торговля и т.п.). Общество потребления получило уникальные информационные  стимулы развития всех его признаков, а информационное общество – гарантированного потребителя его благ. Современную среду жизнедеятельности человека уже можно без всякого преувеличения назвать информационным обществом потребления,

       Требует пояснений и словосочетание «искусственный интеллект» (далее – ИИ), которое в России узаконено в утвержденной указом Президента РФ от 10 октября 2019 г. № 490 «Национальной стратегии развития искусственного интеллекта на период до 2030 года» [27] (далее – «Стратегия»). Этот документ трактует ИИ как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека» (выделено мной. - В.Л.). Использование слова «имитация» (от лат. imitation), означающего по-русски лишь подражание, воспроизводство и даже подделку, неполно характеризует ИИ, изначально ориентированный не столько на подражание, сколько  на замещение наших  когнитивных функций; вспомним первые вычислительные машины и установки автопилотов на самолетах.  Если «имитация» характеризует суть многих технологий создания ИИ, то «замещение» есть его действительная цель – сделать нечто лучше человека и, главное, вместо него.

        Упомянутый в вышеприведенной официальной трактовке ИИ комплекс технологических решений в той же «Стратегии» понимается как «информационно-коммуникационная инфраструктура, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений», а технологии искусственного интеллекта - как все технологии, основанные на «использовании ИИ, включая компьютерное зрение, обработку естественного языка, распознавание и синтез речи, интеллектуальную поддержку принятия решений и перспективные методы искусственного интеллекта». В «Стратегии» появляется и определение «универсального (сильного) ИИ (автономное решение различных задач, автоматический дизайн физических объектов, автоматическое машинное обучение, алгоритмы решения задач на основе данных с частичной разметкой и (или) незначительных объемов данных, обработка информации на основе новых типов вычислительных систем, интерпретируемая обработка данных и другие методы)». Называются и «смежные области использования ИИ - технологии и технологические решения, в которых ИИ используется в качестве обязательного элемента, включая робототехнику и управление беспилотным транспортом». Все это – необходимые «дефинициальные азы».

 

Жизненные устремления типичного представителя информационного общества потребления

       Людей информационного общества потребления вне зависимости от возраста, социального положения и политической ориентации объединяет  эпоха расцвета этого общества, формирующего под воздействием тотальной информатизации и распространения соответствующих материально-технических и виртуальных средств однотипные целевые установки, интересы, предпочтения. Ни одна эпоха не предоставляла каждому человеку столько возможностей замены своих сил и умений научно-техническими новинками, не побуждала такой интерес к их приобретению, не переводила столько общественных функций в разряд «услуг» и т.д. И это, сохраняя возрастно-половые и социально-экономические различия, делает информационное общество потребления по-своему гомогенным.

      Едва перешагнув ранний младенческий возраст, ребенок становится активным и привычным потребителем многообразной и многофункциональной информационно-коммуникативной техники, которая замещает его двигательные и когнитивные функции. Он использует электронный пульт для нахождения любимых каналов или файлов, он живет в мире сказочных персонажей, создаваемых в его воображении не сказками родителей и нянь, а готовыми образами с экранов различных гаджетов, он не возит по полу игрушечные автомобили и поезда, а, неподвижно сидя, управляет их электронными двигателями. За ребенком все чаще наблюдает камера видеонаблюдения, и взрослые при необходимости могут удаленно голосом скорректировать его поведение или имитировать свое присутствие на панели телеэкрана с помощью видеосвязи по Интернету. Малолетний ребенок приобретает навык адаптации к автономному существованию в виртуальной действительности и начинает осознавать  связанные  с эти удобства.

      Отроческие и подростковые годы нашего современника – период осознанного созревания потребителя ИК и ИКТ-товаров и услуг, период становления Homo electronicus (он же Homo ludens electronicus) – ставшее обиходным наименование нашего гаджет-зависимого современника. Еще в 2013 г. было скзано, что гаджеты «порабощают нашу волю и создают новый биологический вид — Homo electronicus» [13]. В зрелые годы человек информационного общества потребления, уже ставший в той или иной степени Homo electronicus’ом, все шире использует электронные блага для замещения собственных физических, физиологических и мыслительных функций. Речь, естественно, не о тех благах электроники и ИИ, которыми вынуждены пользоваться люди с нейропротезами и кардиостимуляторами или те, для кого ограниченные возможности передвижения делают Интернет единственным видом связи с окружающим миром, а компьютер – удаленным рабочим местом. Речь о массово распространенном: например, об автомобильных GPS-навигаторах, о мобильных поисковых системах, о встроенных в гаджеты калькуляторах, об интернет-услугах просмотра и прослушивания практически любой видео- и аудиопродукции масс-медиа, об интернет-играх и электронных игрушках «для взрослых» и т.п.

       Все эти и подобные им технические приспособления отвечают потребностям человека информационного общества потребления, замещая многое из того, что могло бы внести дискомфорт в его повседневную жизнь. И мало кто всерьез принимает предупреждения врачей, о том, что  постоянное погружение в виртуальную среду ведет к патологическому неприятию действительности и своего рода аутизму, что исчезновение навыков письма есть примитивизация не только моторики рук, но и самого языка общения, что потеря навыков устного счета ведет к атрофии этого сегмента мыслительной деятельности, что поток ненужной информации приводит к утрате способностей концентрации внимания, что навигатор рано или поздно становится заменителем естественной ориентации в пространстве и усилий по самостоятельному выбору пути. Если все это не деградация личности человека информационного общества потребления, то, как минимум, ее переформатирование.

 

      Масштабы и перспективы рынка искусственного интеллекта

       ИИ при всей его уникальности - обычный продукт обычного рынка,  который определяется спросом и предложением. Это подтверждено в ст.26 упоминавшейся «Стратегии»: «основными механизмами развития искусственного интеллекта» служат: «а) обеспечение роста предложения конкурентоспособных в мире российских продуктов (услуг), созданных (оказываемых) с использованием искусственного интеллекта и б) обеспечение роста спроса со стороны российских граждан, организаций и государственных органов на продукты (услуги), созданные (оказываемые) с использованием искусственного интеллекта» (выделено мной. - В.Л.). Но что и кем создается на потребу  человека-потребителя на рынке искусственно-интеллектуальных товаров и услуг?

         В конце 2019 г. CNews опубликовал проект дорожной карты «Нейротехнологии и искусственный интеллект», подготовленный Сбербанком РФ в рамках федерального проекта «Цифровые технологии» одноименного нацпроекта. Он указывает, что мировой рынок решений в сфере искусственного интеллекта (ИИ) в 2018 г. составил 21,5 млрд долл. и в сфере нейротехнологий 1,3 млрд  долл. при прогнозе роста этих рынков к 2024 г. до 137,5 млрд долл. и  7 млрд долл. соответственно[1]. Российский рынок решений в сфере ИИ по данным Сбербанка РФ  прогнозируется с еще большим ростом: если в 2018 г. он составил 2,1 млрд. руб. и в сфере нейротехнологий - 100 млн руб., то к 2024-му он может  увеличиться до 160 и  8,2 млрд руб.. С учетом выручки компаний в сфере ИИ, выручки прочих ИТ-компаний, которые разрабатывают продукты благодаря использованию достижений ИИ, а так же прироста выручки за счет этого компаний из других отраслей экономики, российский рынок ИИ в 2018 г.  оценивался Сбербанком РФ в 189 и рынок нейротехнологий в 45 млрд. руб. при ожидаемом росте к 2024 г. до 907 и 65 млрд. руб..

       Впечатляющ список компаний, ведущих разработки в области ИИ. Это лидеры мирового рынка: Amazon, Apple, Baidu, Boeing, Google, Facebook, IBM, Intel, Microsoft, NVIDIA, Tesla, Philips research и другие, не менее известные. Сфера их исследовательских и рыночно ориентированных интересов включает все направления использования ИИ – от компьютерного зрения, обработки естественного языка, распознавания и синтеза речи до  нейропротезирования, объединяющего достижения  нейробиологии и биоме­дицинской  инженерии для создания нейронных протезов (электронных  им­плантатов, восстанавливающих  утраченные двигательные, сенсорные и когнитивные функции), нейрофейсов - гаджетов, распознающих альфа-, бета- и другие волны, излучаемые  мозгом, и электронных средств  нейростимуляции. Отдельный массив разработок искусственного интеллекта – так называемые рекомендательные системы и системы поддержки принятия решений: они  все более востребованы бизнесом, вооруженными силами и органами государственного и муниципального управления. Существенно, что почти все компании-разработчики не замыкаются в пределах какой-либо области ИИ.      

     Не менее впечатляет и разнообразие конкретных направлений разработок. Так, Boeing использует ИИ для исключения  нештатных ситуаций в авиации из-за пресловутого «человеческого фактора», Sanofi разрабатывает на основе технологий компьютерного зрения методы  клеточного фенотипирования[2], компания Takeda использует моделирование и обучаемые системы на основе ИИ для выявления наиболее перспективных потребителей лекарств, Philips research разрабатывает гибридные системы поиска и сопоставления биомедицинских технологий, направленных на создание новых биологических объектов и их продуктов, способных вызывать определенный диагностический, лечебный или  профилактический эффект.  L’Oreal, Netflix, H&M (Hennes & Mauritz), IBM, Phillips,  Bosch и другие компании начинают использовать технологии ИИ в выборе товара или услуги, в ротации кадров и в управлении бытовой техникой.

      Разработки  в сфере ИИ и их доведение до стадии рыночно востребованных инноваций  требуют огромных интеллектуальных и финансовых ресурсов[3]. Но уже сейчас имеются доказанные факты экономически выгодного и социально оправданного использования этих ресурсов. При этом всё только начинается, в связи с чем уместно процитировать российскую «Стратегию», по которой создание универсального (сильного) ИИ «может привести не только к позитивным изменениям в ключевых сферах жизнедеятельности, но и к негативным последствиям, вызванным социальными и технологическими изменениями, которые сопутствуют развитию технологий искусственного интеллекта». Обоснованный прогноз этого дан в известной работе Ника Бострома «Сколько осталось до суперинтеллекта?» [36]. Наиболее распространены опасения того, что, во-первых, «мышление» таких устройств будет концептуально отличаться от свойственного человеку, а возможности контроля последнего за сильным ИИ представляются ограниченными, и, во-вторых, предугадывается вероятность его использования совсем не в благих целях [2, 8].  

 

Замещение человека      История человечества может быть прочитанас позиций последовательного замещения  людских усилий, - сначала  лошадьми, простыми водо- и ветродвигательными устройствами (паруса, мельницы), затем паровыми машинами и электродвигателями. В  наши дни   наиболее распространенным материальным воплощением этого замещения стали разнообразнейшие роботы, в последнее время - с использованием ИИ [15, 20, 21].       Уже сейчас нет почти никакой работы, где бы роботы не могли заменить человека. Примеры этого представлены в ряде работ [9, 11, 14, 28] и в специальном обзоре TAdviser [41]. Наряду с давно освоенными роботизированными цехами промышленных предприятий и использованием  роботов для работы с радиоактивными отходами имеются роботизированные (в том числе полностью) рестораны, широко распространены  роботы, заменяющие кассиров в магазинах и сетях быстрого питания, роботы-инструкторы по вождению автотранспорта, роботы-сборщики яблок, роботы, заменяющие труд кадровых работников, юристов и бухгалтеров. Появились  роботы-полицейские, которые ищут находящихся в розыске, штрафуют водителей и пешеходов, роботы-преподаватели английского языка как иностранного, роботы-чистильщики окон коммерческих высотных зданий, сельскохозяйственные ИИ-роботы, распознающие и выпалывающих сорняки (это позволяет в несколько раз сократить использование гербицидов), роботы – каскадеры, роботы для домашних и личных нужд («сиделки», компаньоны и т.п.). Роботы с ИИ начинают научно-техническую революцию в интимной жизни людей, что становится предметом исследований социологов и демографов и поводом для опасений представителей «самой древней профессии» потерять работу. В отличие от примитивных секс-приспособлений, которыми заполнены «магазины для взрослых», секс-роботы для мужчин и женщин, геев и лесбиянок способны «общаться с партнёром…и  даже имитировать оргазм» [22]. Прогнозируется, что через пару десятилетий более половины мужчин и женщин информационного общества потребления  предпочтут услуги секс-робота традиционным сексуальным отношениям.       Создавая комфортную среду жизнедеятельности людей, умные роботы, а тем паче киборги[4] представляются многим угрозой замены огромных масс трудящихся [30]. В докладе ООН о человеческом развитии за 2019 г. говорится о беспокойстве по поводу того, что «технологические изменения преобразят рынки труда, особенно в отношении того, как автоматизация и искусственный интеллект смогут заменить человека» [39]. В уже названном обзоре TAdviser указывается, что по этому вопросу имеются сотни исследований, и даются ссылки  на работы К. Б. Фрея и М. Осборна о прогнозируемом в США «под натиском роботизации» сокращении к 2033 году 47% рабочих мест, существовавших в 2018 г. [37]. Там же приводится прогноз Мирового банка о возможном уровне этого показателя в Китае более 70% и расчеты МОТ о риске сокращения свыше 50% трудящихся в Камбодже, Индонезии, на Филиппинах, во Вьетнаме и Таиланде. Сведения о состоянии и перспективах изменения потребности в рабочей силе по почти 50 направлениям производственной деятельности представлены в исследовании бывшего руководителя  направления ООН  по промышленному развитию [29].        Но дело не столько в том, что роботы замещают людей, сколько в том, кого они замещают. Сегодня роботы приходят на рабочие места с физиологически вредными условиями труда и туда, где труд монотонен и рутинен, не требует интеллектуальных усилий и особой квалификации, практически общедоступен. Но это – пространство жизнеобеспечения подавляющей части населения, не обладающей так называемым креативным потенциалом,   выдающимися умственными способностями,  стремлениями к личной ответственности за результаты труда и склонностью к постоянному обучению и переобучению все более сложным профессиям, требующим к тому же солидной базы исходного образования.Тотальная роботизация и насыщение рынка «умными машинами»  может внести фундаментальные изменения в социальную структуру общества и в распределение его ресурсов. Может оправдаться расхожее выражение «безработные станут практически неработоспособными», и все большая часть людей будет оставаться без работы, соответствующей их естественным способностям. Даже если это не приведет к бедности безработных (уже сейчас в ряде стран принимаются меры недопущения этого), неминуема трудовая деградация, известная нам на примере сотен тысяч наших сограждан, превратившихся в охранников из инженеров, техников и обычных рабочих.       Было бы наивно полагать, что вышесказанное относится только к тем, кого принято считать «пролетариатом» и «крестьянством». Уже сейчас социологи изучают, как роботы превращают средний класс в прекариат со свойственной ему неустойчивой и непостоянной занятостью.

 

«Цифровая религия» как реальность

     «Цифровизация» (и даже роботизация) религиозной жизни и использование ИИ в богослужебной практике не новость, Известно, например, о роботе-монахе,  поющем мантры и толкующем основы буддизма в одном из храмов Пекина, о роботе-священнике, приветствующем на пяти языках и благословляющем прихожан  в том самом Виттенберге, где в октябре 1517 г. Мартин Лютер вывесил на церковной двери свои 95 антипапских  тезисов и тем самым открыл начало Реформации [23]. Но проблема «Церковное служение в цифровую эпоху» глубже курьезных примеров «религиозной роботизации». На открытии Всемирного русского собора в 2017 г. Патриарх Кирилл сказал: «Вера в технологию сегодня… это тоже своеобразная квазирелигия. Это вера человека в то, что с помощью науки и технологий можно достичь совершенства и бессмертия, полной власти над своим телом, над природой, над жизнью» [15].

    Одним из подтверждений начавшейся «цифровизации церкви» стали  слова Папы Бенедикта XVI в энциклике “Caritas in Veritate”: «Цифровая среда является не параллельным или чисто виртуальным миром, но частью повседневной жизни многих людей, прежде всего молодых… Технология — это глубочайшим образом человеческая реальность, связанная с автономией и свободой человека» [3]. Известный  теолог, писатель, директор журнала «La Civiltà Cattolica» священник А. Спадаро в интереснейшей книге «Кибертеология: думающее христианство во времена сети» пишет: «Церковь призвана быть там, где люди, а сегодня они в Интернете» [40].  

        Первая цифровая церковь «Путь будущего» (Way of the Future), основанная в 2015 г. инженером и сотрудником Google, Otto и Uber Энтони Левандовски и официально признанная в США религиозной организаций с освобождением от налогов, возникла на «земле обетованной» ИИ, в калифорнийской Кремниевой долине. Сведения о новом вероучении, активно обсуждаемые в соцсетях, основываются в основном на программном интервью Э. Левандовски, опубликованном в конце 2017 г. авторитетным журналом Wired, публикующем материалы  о наиболее значимых инновациях. Левандовски называет себя лидером новой церкви  и главой некоммерческого фонда, который будет ведать сбором пожертвований и платой за публичные выступления в Сан-Франциско, а затем в других городах и странах. Центральная идея «Пути будущего» - обожествление искусственного интеллекта. «Это не тот бог, который мечет молнии и создает смертоносные ураганы, - говорит Левандовски. -  Но, если вы столкнулись с чем-то, что в миллиард раз умнее вас, как еще вы можете это назвать?... Интернет уже стал нервной системой мира, гаджеты — его органами чувств, и в будущем искусственный интеллект сможет слышать, видеть и знать абсолютно все о нас… Единственный способ влиять на это всемогущее нечто - молитвы и поклонение... Искусственный интеллект будущего будет относиться к людям как к старшим родственникам: чувствовать за них ответственность и заботиться о них» [38].

        У новой «церкви» есть все основания стать очередным новым религиозным движением с собственной «Библией», своим «символом веры», своими  миссионерами. убеждающими в потенциальном всесилии и благостности ИИ. Уверен, что миссия адептов Э. Левандовски будет успешной. Новое поколение будет убеждено в том, что ни одна традиционная религия не в состоянии обеспечить его физический контакт с Богом, к которому «нельзя лично прикоснуться, увидеть или же контролировать. У нас все по-другому. На этот раз вы лично сможете поговорить с Богом и будете знать, что он действительно вас слушает». Автор подробной публикации о церкви «Путь будущего» замечает, что ее называют «типичной американской религией, сравнив ее адептов с мормонами и саентологами за стремление по-новому осмыслить усложняющуюся реальность» [17].

        Институализация первой «цифровой церкви» была подготовлена идеологией так называемого датаизма (от понятия «datа» - данные).    Глашатаем датаизма как «религии данных» стал Юваль Ной Харари – совсем недавно малоизвестный профессор Еврейского университета в Израиле, а ныне один из самых читаемых авторов «нон-фикшн». В последнем десятилетии три его книги [31, 32, 33], претендующие на систематизированное изложение прошлого, настоящего и будущего человечества, были изданы на десятках языков общим тиражом более 20 млн. экземпляров.

      Датаизм как «религия данных», по Ю. Н. Харари, исторически сменяющая традиционные религии, мог преподноситься как таковой лишь при снисходительно-уничижительном к ним отношении. Ведь уже в первой книге (об «истории Sapiens») автор убеждает читателя в том, что современному человеку религия не нужна, ибо не решает его жизненных проблем: «Как показали несколько последних столетий, нам нет нужды обращаться к Богу, чтобы соблюдать нормы морали. Секуляризм дает нам все необходимые для этого ценности… Датаизм не ограничивается пустыми пророчествами. Как у всякой религии, у него есть практические заповеди, заветы, предписания… Датаизм, как всякая успешная религия (выделено мной. - В.Л.), занимается миссионерством. Его… предписание – подсоединять к системе всех и вся, в том числе еретиков, не желающих подключаться…» [33]. Даже если датаизм не прав, и организмы не есть алгоритмы, это не обязательно помешает ему овладеть миром.

      В датаизме Бог есть «Интернет всех вещей», и, в соответствии с этим, по словам Харари, в будущем суть человека «будет сведена к микросхеме, потом до бита информации, а в конце концов мы растворимся в потоке данных, подобно комку земли в бушующем речном потоке… и  Человек может исчезнуть, как до него исчезали другие животные, не выдержавшие естественного отбора». При этом человек нашего времени, способный «обеспечить свое благополучие, хочет обладать большим, в том числе, блаженством и бессмертием…, а технологические успехи… объективно  ведут к появлению  Homo Deus с паранормальными способностями и притязаниями на вечную жизнь». Впрочем, Харари предупреждает о том, что  «когда  появится всемогущий ИИ, который "знает нас лучше, чем мы знаем себя", богоподобные элиты и суперумные роботы в конце концов могут  решить, что существование остального человечества не имеет смысла» [32. 431-465].

  Человеко-машина, или почем бессмертие?

        Итак, живущий в XXI в. человек информационного общества потребления жаждет обретения и такой услуги, как блаженное личностное бессмертие, - не такое, какое обещают  авраамические религии (причем лишь некоторым, при отказе от многих удовольствий и неизвестно где), а бессмертие земное, абсолютно реальное и технически гарантированное. Не нужно ждать посмертного преображения в состояние, где «не́сть боле́знь, ни печа́ль, ни воздыха́ние, но жи́знь безконе́чная», поскольку все это можно с помощью новаций IT-медицинских нанотехнологий и ИИ получить если не сегодня, то уж наверняка в ближайшие годы. Смысл и задачи улучшающей трансформации собственного тела и всех его функций (в первую очередь, - интеллектуальных) разъясняет идеология трансгуманизма, которая исходит из предположения о желательности и возможности беспредельной эволюции человека, кардинального изменения его организма и созидательного конструирования пост-человека.   

       Об идее трансгуманизма (не называя его по позднее данному имени) еще в 50-х годах ХХ века писала Ханна Арендт, отмечая, что человек недалекого будущего будет «одержим борьбой против первозданной человеческой сущности – дара из ниоткуда, который он желает заменить… на что-то рукотворное... Стремление убежать из «земного плена» и тем самым от условий, в которых люди получили жизнь, проявляется в попытках породить жизнь в реторте, через искусственное оплодотворение вырастить сверхчеловека или вызвать мутации, в которых человеческий облик и функции будут радикально «усовершенствованы», что по-видимому выражается также и в попытках растянуть продолжительность жизни далеко за предел столетия». Х. Арендт предупреждала: «Этот будущий человек, о котором естественники полагают, что он будет населять Землю не более как через сто лет, возникни он когда-нибудь на деле, окажется обязан своим существованием бунту человека против своего собственного существа (выделено мной - В. Л.), а именно против того, что было ему при рождении подарено как вольный дар и что он сейчас хочет обменять на условия, создаваемые им самим» [1].

        Близкую к этому позицию, подкрепленную интервью с практикующими трансгуманистами, аргументирует Марк О'Коннелл, автор одного из самых популярных трудов последних лет о связи разработок искусственного интеллекта и нашего будущего, которые он характеризует как «борьбу против первозданной человеческой сущности». «Трансгуманисты верят, что мы можем и должны искоренить старение как причину смерти; что мы можем и должны использовать технологии, чтобы укрепить наши тела и расширить наш разум; что мы можем и должны, наконец, слиться с машиной, переделывая самих себя в соответствии с нашими собственными более высокими идеалами. Они, эти люди, желают заменить дар природы на нечто лучшее – на нечто, сделанное человеком» [16].     

      Уже сейчас активные трансгуманисты не против превращения в искусственных постлюдей и даже согласны стать информационной структурой в сверхбыстрых компьютерных сетях. Начальная стадия такого преображения  – имплантация в живую плоть   сверхмощных, сверхразумных  и сверхмалых (миллимикронных) компьютеров – так называемых "ассемблеров" – способных (при наличии соответствующей программы) к самовоспроизводству. Это – логичный и перспективный путь соединения возможностей нанотехнологий и ИИ, в конце которого человек утратит статус созданного «по образу и подобию» пока что единственно разумного  Homo sapiens, а заодно и свою пресловутую «креативность», не сопоставимую по творческому потенциалу со сверхвозможностями  сверхкомпьютеров. Об этом книги  Кима Эрика Дрекслера, известного американского учёного, автора концепции нанотехнологического механосинтеза, теоретика создания молекулярных нанороботов и пророка «серой слизи» [5].

.     Трансгуманист может стать частью сверхинтеллекта, загружая собственный мозг нейроинтерфейсами и уже упомянутыми имплантами или осуществляя так называемую «загрузку сознания», то есть переноса когнитивных функций мозга в сверхкомпьютер с уничтожением «донорского» мозга после его тотального сканирования или с переносом только его скан-копии. Для истинного трансгуманиста приемлемо и первое и второе, поскольку ему все равно. где будет физически функционировать его психо-эмоциональная  суть – в собственном мозгу или в компьютере, который к тому же открывает реальные возможности не ограниченного во времени (вечного?) клоно-копирования. И зарубежные, и российские адепты этого движения (академические круги различных направлений, бизнес-структуры, СМИ и др.) не сомневаются в безальтернативном трансгуманитарном будущем человечества, хотя в публичных дискуссиях о таких предметах высказываются и диаметрально противоположные суждения (см., например, часто цитируемый цикл лекций известного историка О. Н. Четвериковой [35]).

                                                *     *     *                                                                               

      Несколько лет назад гонконгской компанией Hanson Robotics была создана София - робот с заложенным ИИ, способным к визуальной обработке данных, распознаванию лиц, к поддерживанию разговора с людьми, к выражению нескольких десятков эмоций, к передвижению и, главное, к самообучению. Не удивительно, что  о Софии написано не менее, чем о ее прототипе – великолепной Одри Хепберн. Хотя ИИ Софии  содержит заранее запрограммированные ответы на вопросы либо фразы, она может поддержать разговор даже на философскую тематику и имеет чувство юмора. София была представлена во многих странах, встречалась с политиками и лидерами рынка ИИ, участвовала в теле-шоу и т.д. Но главной сенсацией стало получение Софией в октябре 2017 г. официального  гражданства Королевства Саудовской Аравии. ИИ впервые стал полноценным субъектом человеческого общества [19].

        Вечером 10 февраля 2020 года российские СМИ рассказали  об очередной ИИ-сенсации: в Корее матери умершей несколько лет назад девочки Найон подарили возможность увидеться с дочерью. По прогнозам, такое виртуальное оживление усопших может пользоваться неплохим спросом... Поместить в уже готовую матрицу любой другой частный сценарий – вполне посильная трата для среднестатистических пользователей смартфонов и автовладельцев. По сути, программисты готовы превращать реально существующих людей в аналог тамагочи, но уже почти неотличимый от реальности[5]. Обращу внимание на очевидное, - мать умершей девочки никто не принуждал обратиться за услугой ИИ – на этом рынке первенствовал человек информационного общества потребления. ИИ – не ящик Пандоры (это имя означает «всем одаренная» или «всезнающая»), и открывает его не любопытная дочь Гефеста, а только желания человека такого общества. И, судя по всему, процесс этот только ускоряется.

 

Литература

1. Арендт Ханна. Vita Activa, или О деятельной жизни. Перевод В. В. Бибихина. - М., Изд. Ад Маргинем, 2017.

2. Багдасарян В. Э. Заглянуть за черту. Искусственный интеллект  и постчеловек: проблемы ценностного программирования. – М.: ИИУ МГОУ.

3. Бенедикт XVI. Caritas in veritate. Энциклика о целостном человеческом развитии в любви и истине. – М.; ДАП, 2009.

4. Бодрийяр Ж. Общество потребления. Его мифы и структура  (перевод Е. А. Самарской. Серия «Мыслители XX века») - М., изд-ва «Республика» и «Культурная Революция», 2006.

5. Дрекслер К. Э. Всеобщее благоденствие. Как нанотехнологическая революция изменит цивилизацию. - М., изд. Институт экономической политики им Е. Т. Гайдара, 2014.

 

6. Здор С. Е. Кодированная информация. От первых природных кодов до искусственного интеллекта. - М.; Наука, 2012.
7. Искусственный интеллект и принятие решений, 2011, №1.

8. Искусственный интеллект: угроза или возможность? Аналитический обзор №4154. Опрос «ВЦИОМ-СПУТНИК».

9. Каляев И. А., Гайдук А. Р. Однородные нейроподобные структуры в системах выбора действий интеллектуальных. - М.: Янус-К, 2015.

 

10. Косинец Е. Цифровое «воскрешение»: в Корее маме умершей девочки подарили возможность увидеться с дочерью - radiovesti.rubrand/61178/episode/2245829/

 

11. Крейг Джон. Введение в робототехнику. Механика и управление; Институт компьютерных исследований. - М., 2013.

12. Курцвейл Рэй. Эволюция разума. - М., Эксмо, 2015.
13. Лесков С. Человек и его Apple. Гаджеты создают новый биологический вид — Homo electronicus //Огонёк" №37, 23.09.2013.

14. Макаров И. М., Лохин В. М., Манько С. В., Романов М. П. Искусственный интеллект и интеллектуальные системы управления - М., Наука, 2012

15. Материалы Всемирного русского собора 2017 года. patriarchia.rudb/text/5052136.html

16 О'Коннелл Марк. Искусственный интеллект и будущее человечества - М., Изд. БОМБОРА. 2019.

 

17. Портнягина М. И. Слово было бот. Как в Кремниевой долине пробиваются ростки цифровой религии // Огонек №2, 22.01.2018.

18. Потапова Р. К. Речевое управление роботом. Лингвистика и современные автоматизированные системы  - М.,: СИНТЕГ, 2012.

19. Робот София: первый человекоподобный робот с гражданством /

mentamore.comrobototexnika/robot-sofiya.html

 

 

20. Рутковский Лешек. Методы и технологии искусственного интеллекта; - М., Телеком 2012.

21. Ручкин В. Н., Фулин В. А. Универсальный искусственный интеллект и экспертные системы – М., СПб, БХВ, 2011.

22. Самые реалистичные роботы для секса cosmo.rusex-love/sex/samye…kukly-i-roboty…seksa/

 

23. Сегеда А. Протестанты Виттенберга создали “робота-священника» // pravoslavie.fm…vittenberga…robota-svyashhennika/

24. Тимофеев А. В. Роботы и искусственный интеллект. - М.: Наука, 2005.


25. Тьюринг А. Может ли машина мыслить. М., Ленанд, Едиториал УРСС, 2016.

26. Указ Президента РФ  от 9 мая 2017 г №203 «О Стратегии развития информационного общества в Российской Федерации на 2017 - 2030 годы»; полный текст  размещен в garant.ruproducts/ipo/prime/doc/71570570/

27. Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» Полный текст документа размещен на garant.ruproducts/ipo/prime/doc/72738946/

28. Федуненко Е. Роботы придут с миром// Коммерсант,17.09.2018.

29. Фонсека Рикардо Сейдль. Рынок труда в условиях технологической трансформации // Форсайт, 2017, т.11, №4.

30. Форд Мартин. Роботы наступают. Развитие технологий и будущее без работы. - М.: Альпина нон-фикшн, 2016.
31. Харари Ю. Н. 21 урок для XXI в. М.;  Синдбад,  2019.

32. Харари Ю. Н. Homo Deus. Краткая история Будущего.- М., Синдбад, 2019.

33. Харари Ю. Н. Sapiens. Краткая история человечества. – М., Синдбад, 2019.

34. «Цифровая экономика от теории к практике: как российский бизнес использует искусственный интеллект». Доступен по ссылке: raec.ruДеятельностьАналитика11002

 

35. Четверикова О. Н. Диктатура «просвещённых». О духовных корнях и целях трансгуманизма». e-libra.ru…diktatura…i-celi-transgumanizma.html

 

 

 

36. Bostrom N. How Long Before Superintelligence?. 1998. International Journal of Futures Studies. Vol. 2.  Reprinted in Linguistic and Philosophical Investigations, 2006, Vol. 5, No. 1.

 

 

37. Frey C. B., Osborne M. A. The future of employment: How susceptible are jobs to computerisation?  - Oxford, UK, 2013: University of Oxford; Frey C.B., Osborne M. А. Technology at Work: The Future of Innovation and Employment. - Oxford, UK: 2015  University of Oxford.

 

38. Inside Artificial Intelligence's First Church // WIRED .comstory/anthony-levandowski-artificial-

 

39. Human Development Report 2019 - By the United Nations Development Programme 1 UN Plaza, New York, USA.

40. Spadaro A. Cyberteologia: Pensare il cristianesimo al tempo della rete.-  Milano, Vita e pensiero, 2012.

 

41. Тadviser.ruindex… Как_роботы_заменяют_людей



[1] Одновременно сообщается, что с учетом внутренних разработок компаний эти показатели составили в 2018 г. 396 млрд долл. и 7 млрд долл. при прогнозе на 2024 г. -  890 млрд долл. и  35 млрд долл. соответственно.
[2]Анализ клеток крови на эритроцитарные антигены, что  при переливании крови и ее компонентов имеет решающее значение для подбора совместимых пар донор - реципиент, для профилактики посттрансфузионных осложнений (тяжелых патологических реакций, сопровождающихся нарушением функции жизненно важных органов), а также для диагностики иммунологических конфликтов матери и плода во время беременности.
[3] На реализацию мероприятий ранее названной российской дорожной карты до 2024 г. будет необходимо 392 млрд руб.. В том числе федеральный бюджет, как предполагается, выделит 57 млрд..
[4] Киборг – сокращенное англ. cybernetic organism (кибернетический организм) — биологические организмы, содержащие механические компоненты или (чаще) «железо» со встроенным ИИ.
[5]Авторы передачи уместно напомнили о тесте Тьюринга (выяснение возможностей человека отличить его интеллект от компьютерного ИИ)  и пришли к выводу : «сегодня технологии максимально близко подошли к той границе, за которой отличить живого собеседника от эмулятора практически невозможно».
комментарии - 133
Robertundit 11 мая 2022 г. 12:59

Будьте осторожны, не попадите в клиенты( да и в студенты вообще-то), к человеку, который называет себя врачом, не имея даже среднего медицинского образования Бактенкова Анна Михайловна [url=https://bioreformed.ru/index.php?route=product/category&path=59_119_108]увлажнение [/url]
Также возникают вопросы к руководителю Академии образования Планета Красоты( Москва, Газетный переулок дом 2), который не проверяет профессиональную квалификацию и документы людей, устраивающихся на работу [url=https://bioreformed.ru/]Мужской Дезодорант [/url]
Якобы врач-дерматокосметолог, специалист по ботоксу, мезотерапии и контурной пластике Бактенкова Анна Михайловна не изучала ни анатомии, ни физиологии, но видимо хорошо умеет обманывать и манипулировать людьми, и вот она уже высококлассный специалист с десятилетним стажем!

Моё личное мнение [url=https://bioreformed.ru/index.php?route=product/category&path=59_119_118]омолаживающий крем [/url]
Подруга ходила к вам на курсы [url=https://bioreformed.ru/index.php?route=product/category&path=59_119_113]рейтинг кремов для лица [/url]
Наращивания ресниц [url=https://bioreformed.ru/index.php?route=product/category&path=59_119_92]гели для душа [/url]
Ей все понравилось только, теперь мне не нравится , что дома часто посторонии люди __

ScottDal 11 мая 2022 г. 13:33

Урал 4320-1951-40, ДВС ЯМЗ 236 НЕ2-24 (евро3, 230 л [url=https://jerdesh.net/birge-ru-rabota]жеке жарнамалар москва [/url]
с [url=https://jerdesh.net/birge-ru-prodayu-kuplyu]бесплатная доска объявлений москва [/url]
)навесное оборудование турбина, интеркулер, стартер, генератор, возд [url=https://jerdesh.net/]Колунан Сатып Алуу [/url]
компрессор новые ,КПП Камаз(вал 51), редуктора ус [url=https://jerdesh.net/birge-ru-prodayu-kuplyu]бесплатное объявления [/url]
[url=https://jerdesh.net/birge-ru-snimu-komnatu-koiko-mesto]объявления в москве [/url]
[url=https://jerdesh.net/birge-ru-rabota]доска бесплатных объявлений москва московская область [/url]

На нашем сайте Вы можете бесплатно разместить свое объявление с фотографией или найти необходимую информацию на более чем 800 тематических досках объявлений [url=https://jerdesh.net/birge-ru-rabota]частное объявление [/url]
На нашем сайте представлены более 350 [url=https://jerdesh.net/birge-ru-rabota]доски объявлений москва [/url]
000 предложений по аренде квартир и офисов, продаже коттеджей и земельных участков, а также много других актуальных предложений товаров и услуг [url=https://jerdesh.net/birge-ru-sdayu-snimu-zile]жарнама жайгаштыруу [/url]
У нас Вам предоставляются максимальные сервисные возможности, организован быстрый и удобный поиск объявлений по ключевым словам и возможность настройки сайта по Вашему вкусу [url=https://jerdesh.net/birge-ru-sdayu-snimu-zile]кайда сатылат [/url]

Stromcah 4 июня 2022 г. 10:44

[url=https://stromectolgf.online/#]ivermectin lotion cost[/url] ivermectin ebay

RalphTwede 5 июня 2022 г. 14:58

cialis canada price <a href=" https://tadalafilusi.com/# ">tadalafil 20mg best price</a>

Chesterwaymn 6 июня 2022 г. 22:53

https://stromectolgf.com/# stromectol ivermectin 3 mg

ViktosKt 9 июня 2022 г. 6:31

Как демонтажный работа снос. Цены на демотажные работы. 1) Оставьте заявку на сайте, напишите в Viber или WhatsApp . В случае с работой под какого-то одного определенного интернет-ритейлера заказов с одной стороны будет меньше, но с другой стороны и платить вам за них будут больше [url=https://ломатьнестроить.рф/demontazh-i-tseny/snos-doma-v-spb/]снос дом заказать санкт петербург[/url] . Опишите подробно что нужно сделать, количество квадратных метров. При необходимости мы зададим Вам несколько вопросов и назовём точную стоимость работ. 2) Позвоните нам, расскажите какой демонтаж Вас интересует. Мы оценим стоимость работ по телефону. При необходимости выезжаем на оценку (выезд бесплатный). сэкономим вам 5% 1) отлаженной работе 2) выполнению демонтажа без посредников 3) наличию парка техники и инструмента. Демонтажные работы по Самарской области. Если Вы ищите кто выполнит демонтажные работы качественно, быстро и без страшных последствий, то это может только профессиональная бригада, которая имеет большой опыт в этой сфере. Обратившись к нам, Вы получите качественную услугу, которая будет стоить Вам небольших денег. Также следует учитывать, что пункты выдачи могут работать как с интернет-магазинами, так и с транспортными компаниями (службами доставки) https://ломатьнестроить.рф/demontazh-i-tseny/snos-doma-v-spb/ - демонтаж деревянный дом цена санкт петербург.

теги: снос дом ленинградская санкт петербург , стоимость дом снос санкт петербург , снос дачный дом санкт петербург , снос дом два санкт петербург , разбор дом брус санкт петербург , снос деревянный дом вывоз санкт петербург , разбор вывоз старый дом цена санкт петербург

ViktosKt 10 июня 2022 г. 0:57

Если вы энтузиаст тренажерного зала и знаете все упражнения и использование оборудования, почему бы не стать инструктором по фитнесу. Это может быть одна из лучших онлайн-вакансий с частичной занятостью, поскольку в наши дни люди предпочитают посещать уроки фитнеса онлайн, поскольку это экономит их время в пути, а также они могут посещать занятия, когда это для них возможно. Вы можете заняться аэробикой, зумбой, йогой или хардкорным тренажерным залом, чем захотите. Рассмотрим пример расчета плановой и фактической выработки и порядок ее анализа [url=https://ломатьнестроить.рф/demontazh-i-tseny/demontazh-vagonki-so-sten-spb/]цена демонтажа вагонка стена санкт петербург[/url] . Вы можете найти несколько рабочих мест в тренажерном зале или создать собственный веб-сайт, на котором вы сможете проводить уроки онлайн. Средняя почасовая оплата составляет 20,25 доллара США. 2 Микро вакансии. На микроработах люди выполняют небольшие задачи, которые составляют более крупный проект. К небольшим задачам относятся идентификация изображения, совместное использование страницы, просмотр видео, поиск в Google, ввод данных, маркировка фотографий и т. Обычно для таких работ не требуется опыта или требуется очень мало опыта, и вы получаете от 5 до 30 долларов за каждую час. Средняя почасовая оплата составляет 5-10 долларов США. 21. То есть для расчета выработки на одного работающего нужно знать численность персонала https://ломатьнестроить.рф/demontazh-i-tseny/demontazh-vagonki-so-sten-spb/ - расценка демонтаж вагонка стена санкт петербург.

теги: цена демонтажа вагонка стена санкт петербург , цена демонтажа вагонка стена санкт петербург , цена демонтажа вагонка стена санкт петербург , демонтаж вагонки стена санкт петербург , цена демонтажа вагонка стена санкт петербург , демонтаж вагонки стена санкт петербург , расценка демонтаж вагонка стена санкт петербург

ViktosKt 11 июня 2022 г. 8:46

Единственное, что еще здесь стоит добавить, так это напомнить о таком важном элементе индивидуальной защиты, как респиратор. Пыли обычно много (особенно если в ходе выполнения работ задействована болгарка), а легкие даются человеку раз и навсегда. Его удобство в том, что он собирает данные по заданной вакансии с различных интернет-порталов [url=https://ломатьнестроить.рф//demontazh-i-tseny/demontazh-peregorodki-iz-gipsokartona-v-spb/]демонтаж гкл перегородка цена м2 санкт петербург[/url] . Берегите свое здоровье с молоду – по крайней мере, так гласит народная мудрость, которая практически всегда оказывается истиной. Демонтаж несущих стен: особенности проведения работ. Самая главная опасность в процессе выполнения работ по демонтажу несущих стен связана с риском обрушения плит перекрытия – именно по этой причине строители превращают данную работу в настоящую технологическую операцию, которую можно разделить на два этапа. Укрепление перекрытий. На данном этапе работ выделяются те части несущей стены, которые будут оставлены нетронутыми – они будут играть роль колонн, поддерживающих перекрытия. Дальше с одной стороны стены и с другой, под потолком, вдоль всей стены врезаются большие швеллеры, размер которых рассчитывается исходя из нагрузки на стену. Швеллеры, расположенные с двух сторон стены, объединяют в единую конструкцию с помощью шпилек. После этого с краев будущих колон стены прорезают или пробивают насквозь отверстия (делают узкую прорезь), после чего колонны обваривают крупным металлическим уголком, который вместе с верхними швеллерами создает единую конструкцию. Разработчики также сделали удобное мобильное приложение https://ломатьнестроить.рф//demontazh-i-tseny/demontazh-peregorodki-iz-gipsokartona-v-spb/ - демонтаж гипсокартонных перегородка цена м2 санкт петербург.

keywords: снос перегородка гипсокартон цена м2 санкт петербург , демонтаж перегородка гкл цена м2 санкт петербург , демонтаж гкл перегородка расценка санкт петербург , снос гкл перегородка санкт петербург , снос гипсокартонных перегородка санкт петербург , демонтаж перегородка гипсокартон цена санкт петербург , снос перегородка гипсокартон расценка санкт петербург

ViktosKt 14 июня 2022 г. 3:32

Весь процесс сопровождается под наблюдением ИТР, назначенного по приказу фирмы. 4) Реклама бизнеса. Если лет 5 назад в рекламе упор делался на печатные материалы и офлайн-размещения в рамках регионального распространения, то 2021 год диктует совсем иные способы достижения желаемой популярности услуги. Сложность: всем новичкам [url=https://ломатьнестроить.рф/demontazh-i-tseny/demontazh-keramicheskoy-plitki-so-sten-v-spb/]демонтаж керамический плитка стена санкт петербург[/url] . Основной упор сейчас делается на интернет-продвижение. Даже в крупном городе бизнес-идея по демонтажу зданий не нова, а потому наличие конкурентов гарантировано. Если ограничивать себя по рамкам района или города, риск прогореть слишком велик. Следует выделить 2 направления деятельности – средние или крупные заказы, для выполнения которых требуется специальная техника, и мелкие сносы, куда могут выезжать бригады с ручным оборудованием. Стратегия продвижения должна включать ответы на ряд вопросов: Расчётный объем клиентской базы за первые 6 месяцев работы. Какие преимущества есть перед конкурентами. Какие заказы более востребованы – частные объекты или крупные здания. Бюджет на рекламу. Зарплата: от 90 000 рублей в месяц и выше https://ломатьнестроить.рф/demontazh-i-tseny/demontazh-keramicheskoy-plitki-so-sten-v-spb/ - расценка демонтаж керамический плитка стена санкт петербург.

keywords: расценка демонтаж керамический плитка стена санкт петербург , демонтаж керамический плитка стена санкт петербург , расценка демонтаж керамический плитка стена санкт петербург , демонтаж керамический плитка стена санкт петербург , расценка демонтаж керамический плитка стена санкт петербург , демонтаж керамический плитка стена санкт петербург , демонтаж керамический плитка стена санкт петербург

xipqgzlm 3 февраля 2023 г. 2:06

<a href="https://striplife.ru/">striplife.ru</a>

Gregoryimili 5 апреля 2023 г. 21:40

Thanks, Loads of tips.
how to write an amazing college essay https://essaywriting4you.com masters degree dissertation https://essaytyperhelp.com

Harryavals 5 апреля 2023 г. 21:40

Many thanks! Very good information.
[url=https://bestpaperwritingservice.com/]where to buy college papers[/url] buy school papers online [url=https://bestonlinepaperwritingservices.com/]what are the best paper writing services[/url] buying paper

Nathanerymn 9 апреля 2023 г. 21:23

Thanks! I appreciate this.
can i pay someone to do my essay for me <a href="https://gseomail.com/">cheapest essay writer</a> academic essay writer

ScottPrela 10 апреля 2023 г. 12:19

Nicely put. Regards!
play free online casino games [url=https://bestonlinecasinoreal.us/]my choice casino online[/url] tropicana online casino

ErnestVal 11 апреля 2023 г. 18:10

Thank you. Lots of tips!
pay to do my essay [url=https://seoqmail.com/]buy essay now[/url]

нейросетьTheby 8 мая 2023 г. 17:56

<a href=https://vk.com/neural_anime>нейросеть рисует</a>

ErnastVal 29 июля 2023 г. 13:08

Regards. An abundance of knowledge.
paper writing service reddit [url=https://essayservicehelp.com/]college paper writing services[/url] linkedin writing service

HectorDer 4 августа 2023 г. 0:36

This is nicely expressed! !
cheap coursework writing service <a href="https://essayservicehelp.com/">custom college essay writing service</a> first writing service reviews

ErnastVal 5 августа 2023 г. 17:29

You actually mentioned that wonderfully!
best executive resume writing service [url=https://essayservicehelp.com/]write essay service[/url] australian essay writing service

HectorDer 7 августа 2023 г. 10:22

Nicely put. Many thanks.
essay writing services reviews blog <a href="https://essayservicehelp.com/">best college essay writing service</a> writing an essay meme


Мой комментарий
captcha