St Petersburg, St. Petersburg, Russian Federation
UDK 001.891 Научно-исследовательские работы. Методы исследований
Evolving the technogenic world, developing network and cyber-physical systems include mechanisms of social and environmental self-organization due to transforming human experience within the cycles of autopoetic techno-environment self-organization. At the stages of forming and implementing a technical project, an important role in creating new forms of socio-technical systems (artificial intelligence technology) is played by the concept adopted by the developers including the mechanisms of self-organization and the system development, associated with the methodology for evaluating the ergonomic properties of the systems being created. Ergonomic evaluation plays a special harmonizing and corrective role in creating human-machine sociotechnical systems. The article shows the decisive importance in forming an ergonomic evaluation of sociotechnical systems of the reduction mechanisms, which determine the evolution of these systems in the required direction. A sociotechnical system with artificial intelligence a priori does not have all the properties known and understandable to authors and users in advance, it manifests the properties only in a working context, which does not allow using the usual methods of ergonomic appraisal applied in evaluating the constant qualities of a sociotechnical system in relation to the user. The special role of symbiotic relationship in maintaining the effective operation of sociotechnical systems with distributed artificial intelligence is noted. The processes of coherence-decoherence that affect changing forms of organized complexity and determine the system viability in the environment are considered. The problem of deactivating the elements of the technical environment generated by technologies into the evolving part of the socio-technical system is posed. On the example of the Internet, the paper shows that the free evolution of the technical environment associated with the excessive information diversity of the network social component leads to accelerating its evolution, but reduces its social sustainability and stability. The extreme danger of total digitalization is emphasized.
sociotechnical system, artificial intelligence, self-organization, evolution, cycles of autopoietic incarnation, ergonomics, digitalization, evaluation of social systems
Введение
Интенсивное развитие техногенной среды человеческой цивилизации наблюдаемое в последние десятилетия, сопровождается ростом сложности ее составляющих (технологий, гаджетов, машин и механизмов), объединяющихся в сетевые структуры, управляемые с помощью технологий искусственного интеллекта, Это ведет к развитию глобального эволюционирующего планетарного технобиотического единства [1], которое проявляет свойства самоорганизации и саморазвития присущие в своем системном базисе только живым организмам и социуму.
Основным механизмом, вызывающим процессы глобальной самоорганизации и конституирования новой системной сущности техногенной цивилизации, становится электронная коммуникация, формирующая виртуальные интерфейсы, которые связывают пользователей с искусственными мирами разной степени виртуальности [2].
Участниками социальных сетевых коммуникаций становятся не только люди, но и искусственные интеллектуальные системы и агенты, в том числе мобильные роботы и «умные среды». Возникают гибридные и искусственные социотехнические системы эволюционирующего типа. Идет развитие сетевого сложностного мира, в логике функционирования которого особую роль играет коммуникация наблюдателей, в том числе и искусственных агентов, формирующих цифровую динамическую копию мира. Вероятностный, квантовоподобный характер взаимодействий в возникающей техно-биотической среде самоорганизующегося мира включает механизмы когерентности и декогерентности обеспечивающие возникновение и распад сложных форм организации техносреды. «Технологически выстраивается человекомерный сетецентричный сценарий эволюции антропотехносферы» [3, с. 55]. Возникает мир организованной сложности, проявляющейся в интенсивном развитии и внедрении во все сферы человеческой деятельности компьютерных технологий управления и контроля.
1. Теоретико-методологические проблемы эволюции техносреды
1.1. Разработка методологии и методик формирования техногенной среды.
Меняется методология исследования и проектирования артефактов техногенной среды. Активная роль технологий искусственного интеллекта при решении задач проектирования смещает акцент с определяющей роли человека при проектировании техносреды на кооперативные и взаимоориентирующие взаимодействия с интеллектуальной средой. Эти взаимодействия осуществляются в системах автоматизированного проектирования включающих интерфейсы виртуальной реальности. Деятельность проектировщика в виртуальной среде моделируемой реальности, позволяет эффективно воплощать творческие возможности человека в создаваемый продукт.
Старые механистические представления о конструировании как совместной реализации алгоритма выполнения инженерного проекта, сменяют холистические модели и концепции, отражающие сложность мира в процессе аутопоэтической самоорганизации среды. Развитие киберфизических технологий и сетевых систем машинного проектирования, внедрение промышленных роботов и средств автоматизации привносят новые технологические и производственные возможности создания сложной техногенной среды. Возникает распределенная технологическая социотехническая среда, порождающая элементное разнообразие компонентов из которых создаются новые машины и механизмы. Разработчик сложной системы не может быть вне процесса эволюции среды проектирования и, подчиняясь логике ее развития, придает ей требуемые свойства, но при этом он часто не понимает латентных стратегических целей и направления развития создаваемой системы, не осознает последствий возможного в будущем негативного влияния на человека результатов ее функционирования в том числе (как следствий возникающих самоорганизующихся элементов техносреды). Использование симбиотических форм взаимодействия человека и интеллектуальной среды проектирования [4] требует новых подходов для создания эффективных социотехнических систем.
В качестве варианта включения человека в процессы проектирования некоторыми авторами предлагаются «технологии воображения», под которыми понимаются методы, позволяющие пользователям обсуждать потенциальные социотехнические миры с разных точек зрения, представляя, каким образом развитие новых технологий, может повлиять на их жизнь и на будущее общества в целом [5, c. 233]. По мнению Е.Г. Гребенщиковой, в проектировании будущего особую роль играют социотехнические мнимости – ментальные конструкции настоящего и будущего науки и технологий, в которых постулируется развитие социальных технологий, ориентированных на проактивный подход, упреждающее управление, открытость к критике, включение социальных акторов в обсуждение потенциальных социотехнических миров [6]. Применительно к проектировочной деятельности можно говорить о появлении в проектной организации гибридной технокультурной среды, определяющей эффективность деятельности проектного коллектива.
Проектирование локально в пространстве и распределено во времени. Важен процесс селективной энактивации проекта в техногенную эволюционирующую среду, которая может быть и не готова к внедрению новшеств содержащих потенциальную опасность для человеческих элементов техно-социального организма.
1.2. Социотехнические системы: роль оценки в циклах самоорганизации
Особую роль при создании рассматриваемых нами социотехнических систем играют вопросы симбиотического взаимополезного объединения человека и техники в рамках эволюционирующей техносреды.
Социотехническая система – это динамический самоорганизующийся элемент гибридной техногенной среды, возникающий и развивающийся в результате взаимодействия и коммуникации человека, технической инфраструктуры и технологии. Данный термин был предложен в 1960 годах Эриком Тристом и Фредом Эмери, работавшими консультантами в Тавистокском институте человеческих отношений [7]. Примерами таких техно-социальных организмов являются аэропорты, энергетические, транспортные и другие системы, содержащие и реализующие компьютеризированные сетевые формы циклической коммуникации, в которых осуществляется групповая деятельность членов трудового коллектива.
В настоящее время в социотехнических системах используют технологии искусственного интеллекта, позволяющие оптимизировать внутрисистемные процессы функционирования за счет автоматизации работы с большими данными и типовыми процедурами. Однако возникают проблемы обеспечения эффективного и комфортного взаимодействия человека с самоорганизующейся коммуникативной техносредой, эволюция и аутопоэзис которой может приводить к появлению стрессогенных и деструктивных состояний у пользователей и акторов.
Особую гармонизирующую и корректирующую роль при создании человеко-машинных социотехнических систем играет эргономическая оценка, которая осуществляется в процессе эргономической экспертизы, производимой на разных этапах проектирования и эксплуатации. Социотехническая система с искусственным интеллектом априорно не имеет заранее заданных, четко известных и понятных авторам и пользователям свойств, их она проявляет только в рабочем контексте, что не позволяет применять привычные методы эргономической оценки, используемые при постоянных качествах социотехнической системы по отношению к человеку-пользователю). Они могут меняться на разных этапах развития социотехнической системы и проявляются лишь в формах доступных для интерпретации наблюдателем. Будучи комплексной междисциплинарной процедурой, эргономическая оценка осуществляется только человеком-экспертом, который включает в нее элементы творчества, эстетики, группового и индивидуального профессионального опыта.
В сущности, любая субъективная оценка, создаваемая человеком, есть попытка редукции его опыта, суть и форма редукции реальности осуществляемой сознанием (которая сама есть форма редукции, осуществляемой механизмами сознания), а оценка объективная – результат обработки редуцированных данных в информационной системе. И та и другая оценки являются формами статистической оценки, обработки и оптимизации данных.
Оценка всегда связана с измерением и интерпретацией. Последняя отражает динамическую картину мира проектировщика и в значительной мере субъективна. Попытки автоматизации процессов формирования интерпретаций с помощью алгоритмов искусственного интеллекта возлагают на технологии обработки больших данных и глубокого обучения [8]. Однако замена естественного интеллекта его техническим аналогом искусственным интеллектом в настоящее время невозможны в силу различия их природы – активной, но вероятностной у человека и пассивной, но детерминированной у компьютерной системы несмотря на их принципиально общую информационную основу [9-11]. Сходной позиции придерживается В.А. Лекторский, опираясь на принципы постнеклассической рациональности и своего рода процессуальной метафизики, исходящей из того, что вещи и иные предметности могут и должны быть поняты как своеобразные сгустки процессов [12].
При проведении оценки чего-либо люди традиционно пытаются реализовать принцип объективности, который требует исключения из нее субъективности. Вместе с тем измерение и оценка есть всегда процесс редукции осуществляемой наблюдателем, в роли которого выступает человек, делающий различение. Порождение моделей мира является основной функцией сознания, которое пытается создать и проверить в субъективной форме самые эффективные и минимальные модели реальности [13].
Наиболее часто при проектировании используется математика как дисциплина, работающая с объектами и моделями, полученными в результате формализации результатов редукции, но при этом огромную роль играют интуиция и опыт разработчика. Каждое новое состояние социотехнической системы также является результатом непрерывной редукции ее прошлых состояний, моделей и оценок. Циклы «редукция-оценка-коррекция» являются базовыми для всех социотехнических систем.
Наблюдение играет ведущую роль в процедурах оценки (локальных редукциях) и связано с операциями различения, обработки и интерпретации данных преобразующих их в понятный, непротиворечивый результат. При этом квантовая холистическая природа мира вступает в противоречие с конкретными результатами восприятия действительности, представленного в сознании. Разрешение этого противоречия возможно только в рамках социальных отношений и формируемых в них социальных оценок.
Социальная оценка является некоторой целостностью, составленной из редуцированных оценок членов коллектива. В силу аутопоэтического и вероятностно-случайного характера возникающих социальных взаимодействий в коллективе социальная система не может быть редуцирована в некий завершенный объект, так как любое ее описание будет неполным, представляет собой некоторую интерпретацию. Множественная оценка в виде нелинейной суммы единичных редукций ведет к спутанности и реставрации интерпретации как целостности, которая вновь приобретает квазиквантово-механический характер.
Таким образом, проектирование является процессом конструирования некоторой целостности из локальных редукций, создаваемых проектировщиками в процессе совместного труда. Синтез локальных реализаций проекта, приобретает в продукте силу реальности. По мнению В.П. Зинченко возникает геном духовного развития, который циклически совмещает и дополняет реальную и идеальную формы реальности, образуя спираль эволюции [14, c. 338]. Субъект и технология при этом являются инструментом и механизмом превращения редуцированных субъективных форм сознания в реальность (рис. 1.).
Рис.1 Двойная спираль развития по В.П. Зинченко
Fig.1 The double helix of development according to V.P. Zinchenko
1.3. Проектирование самооргани-зующихся социотехнических систем
Проектирование – это не только процесс создания, обладающего заданными свойствами продукта, но и множественная оценка его влияния на мир в целом. Любая вещь в реальности бесконечно разнообразнее ее проекта. Это эволюционирующая сложность, растущая из идеальной формы в сознании авторов проекта и реализуемая в многообразии технологических и социальных отношений и форм в реальный продукт.
В 1972 году Остину Рошу (Austin O. Roche), Филу Рэю (Phil Ray) и Джону Фрассанито (John Frassanito) был выдан Патент № 224,415 на создание настольного персонального компьютера Datapoint 2200, что позволяет считать их создателями первого персонального компьютера [15]. Они даже не предполагали сколь эффективную технологию они выпустили в мир, сколь велики оказались последствия сделанного ими для прогресса человечества. Следствием этого стала тотальная компьютеризация всех сфер существования и деятельности человека и независимость от человека самой технической среды. Появились киберфизические системы, основанные на эволюционных принципах развития [16] включающих такие ключевые характеристики:
– независимость функционирования компонентов системы;
– управленческую независимость компонентов системы;
– географическую распределенность;
– развивающееся поведение;
– эволюционирующие процессы развития.
Техника получила возможность повторять информационное поведение человека, создавать цифровую картину мира и изменять его. Эта картина может быть недружественной и опасной для человека.
При проектировании сложных компьютерных и коммуникационных сетей и сред требуется проведение экспертизы влияния глобальных последствий изменений, возникающих в техногенной среде, особенно в ее интерфейсных элементах, обеспечивающих межсистемные отношения и интеграцию человека в технобиотическую среду [17].
Отметим активный характер развития человекомерных систем само существование которых суть непрерывное изменение в процессе которого происходит непрерывное запутывание макроскопических систем и распад систем взаимодействий. Работают механизмы, формирующие систему и ее окружение в форме суперпозиции макросистем – процесс когеренции и разрушающие ее спутанное состояние – процессы декогеренции, в результате которых перед наблюдателем появляются системы классических взаимодействий [18]. Спутанные состояния создают тонкую материю реального мира, а редукция ведет к классическому определенному миру. Вместе с тем только творчество в широком смысле этого слова, интегрирующее разные точки зрения на эволюцию сложной системы, способно преодолеть мертвящую силу редукционизма, препятствующего развитию формируемой версии сложного мира.
2. Результаты и заключение
Нужно признать, что эргономическая оценка социотехнических систем возможна только при использовании многомерного анализа, включающего множественный взгляд на систему со стороны внутренних и внешних наблюдателей.
Компьютерный мир всегда порождает цифровые редукции, составленные из наблюдений, и он всегда отличается от реального объекта моделирования. Любая редуцированная форма подчиняется формальным законам и в силу этого приобретает свойство вычислимости и, следовательно, может быть реализована в цифровой форме. Тотальная цифровизация является попыткой редукции реального холистического по своей природе квантовомеханического мира и губительна для последнего.
Интернет превращаясь в динамическую цифровую копию реального мира в своей основе ведет к его уничтожению так как не способен управлять будущим, что свойственно только активным включающим человека системам. Необходимо прекратить тотальную цифровизацию общества, так как это приводит к появлению деструктивных копий мира внешне не отличимых от реальности. Все это ведет к разрушению социальных механизмов самоорганизации, к деградации человеческого общества и вытеснению теряющего моральные и этические ориентиры человека из производительной и творческой деятельности.
1. Sergeev S.F. Science and Technology of the 21st Century. Communications and NBICS Convergence. In: Dubrovsky DI, editor. Global Future 2045. Convergent Technologies (NBICS) and Transhumanist Evolution. Moscow: MBA Publishing House, LLC; 2013. p. 158-168.
2. Sergeev S.F. Reflexive Autoevolution of Global Intelligent Technogenic Environments. Reflexive Processes and Management. In: Lepsky VE, editor. Proceedings of the 9th International Symposium; 2013 Oct 17-18; Moscow: Kogito-Centre: 2013. p. 245-248.
3. Arshinov V.I., Budanov V.G. The Network Concept in the Optics of the Paradigm of Synergistic Complexity. Voprosy Filosofii. 2018;3:49-58.
4. Sergeev S.F. Intelligent Symbionts in Ergatic Systems. Scientific and Technical Journal of Information Technologies, Mechanics and Optics. 2013;2(84):149-154.
5. Felt U., Schumann S., Schwarz C.G., Strassnig M. Technology of Imagination: A Card-Based Public Engagement Method for Debating Emerging Technologies. Qualitative Research. 2014;14 (2):233-251. DOIhttps://doi.org/10.1177/1468794112468468.
6. Grebenshchikova E.G. Sociotechnical Imaginaries of Technoscience. Voprosy Filosofii. 2018;3:59-67.
7. Emery F, Trist E. The Social Engagement of Social Science, a Tavistock Anthology. In: A Tavistock Anthology - The Socio-Ecological Perspective. Philadelphia: University of Pennsylvania Press. 1997;3. DOIhttps://doi.org/10.9783/9781512819069-004.
8. Allen J.F. In Silico Veritas. Data-Mining and Automated Discovery: The Truth Is in There. EMBO Reports. 2001;2:542-544. DOIhttps://doi.org/10.1093/embo-reports/kve139.
9. Dubrovsky D.I. Psychic Phenomena and the Brain: Philosophical Analysis of the Problem in Connection with Actual Problems of Neurophysiology, Psychology and Cybernetics. Moscow: Nauka; 1971. 385 p.
10. Dubrovsky D.I. The Problem of the Ideal. Subjective Reality. Moscow: Kanon+; 2002. 366 p.
11. Dubrovsky D.I. The Task of Creating Artificial General Intelligence and the Problem of Consciousness. Russian Journal of Philosophical Sciences. 2021;64(1):13-44. DOIhttps://doi.org/10.30727/0235-1188-2021-64-1-13-44.
12. Lektorsky V.A. Comments on L. Garai’s Article “Complimentarity of Information Theory and Identity Theory in Human Sciences”. Voprosy Filosofii. 2019;5:124-127. DOIhttps://doi.org/10.31857/S004287440005062-3.
13. Dubrovsky D.I. Consciousness, Brain, Artificial Intelligence. Moscow: Strategy Centre; 2007. 263 p.
14. Munipov V.M., Zinchenko V.P. Ergonomics: Human-Oriented Design of Hardware, Software and Environment. Moscow: Logos; 2001. 356 p.
15. Wood L. Datapoint: The Lost Story of the Texans Who Invented the Personal Computer. Hugo House Publishers, LTD; 2013. 330 p.
16. Maier M.W. Architecting Principles for System of Systems. Systems Engineering. 1998;1(4):267-284. DOIhttps://doi.org/10.1002/(SICI)1520-6858(1998)1:4<267::AID-SYS3>3.0.CO;2-D
17. Sergeev S.F. The Human Factor in the Technogenic World Evolution. Automation. Informatics. 2016;2(39):39-44.
18. Joos E., Zeh H.D., Kiefer C., Giulini D. et al. Decoherence and the Appearance of a Classical World in Quantum Theory. New York: Springer; 2003. 508 p.
