Милош Йованович, президент OpenLink Group, корпорации по развитию информационных технологий, и доцент Столичного университета в Белграде (Сербия), рассказал об актуальности вопросов технического суверенитета, управления искусственным интеллектом (ИИ) и поиска правильного баланса между глобализацией и фрагментацией.
В последние годы в цифровой среде произошла смена парадигмы, подчеркнувшая необходимость сохранения странами своего национального цифрового пространства и защиты своего цифрового суверенитета. В связи с ростом влияния транснациональных корпораций и опасностью фрагментации Интернета возникла обеспокоенность по поводу прав рядовых пользователей и роли национальных государств в глобальной сети Интернет. В результате этих опасений возникла концепция устойчивого цифрового общения, подчеркивающая человеко-ориентированный подход к цифровизации и способствующая межнациональному сотрудничеству.
Как поясняет Пол Грант в своем эссе для журнала Prometheus, опубликованном в 1983г. и озаглавленном «Технологический суверенитет: Забытый фактор в «высокотехнологичном» обмане», технологический суверенитет определяется как «способность и свобода выбирать, генерировать или приобретать, а также применять, развивать и эксплуатировать на коммерческой основе технологии, необходимые для промышленных инноваций». Это понятие суверенитета может относиться не только к государствам, но и к компаниям. Под технологическим суверенитетом понимаются усилия государств и/или стран по созданию технологий, снижающих контроль и слежку со стороны США за технологическими системами, включая Интернет и использование искусственного интеллекта для различных манипуляций с данными, общественным мнением и т.д. Она предполагает защиту суверенитета государств и их граждан путем принятия законов и разработки «национальных» или отечественных технологий. Концепция технологического суверенитета часто обсуждается в связи с изменением роли государственного суверенитета в цифровую эпоху.
Грант также критикует неспособность Австралии признать важность технологического суверенитета при миграции в технологически интенсивные сферы деятельности. Это подчеркивает важность технологического суверенитета в обеспечении способности государства разрабатывать и использовать приобретенные технологии без договорных или правовых ограничений. Кроме того, разоблачения массовой слежки, сделанные Эдвардом Сноуденом и Wikileaks, побудили многие страны уделять приоритетное внимание защите своего коллективного суверенитета и суверенитета своих граждан путем разработки отечественных технологий. Например, Германия предприняла усилия по противодействию слежке США за переговорами Ангелы Меркель по телефону и электронным средствам связи.
Это свидетельствует о важности технологического суверенитета для обеспечения контроля государства над своими технологическими системами и снижения внешнего контроля и слежки. Так, например, Президент РФ Владимир Путин в одном из своих публичных выступлений предупредил граждан России о том, что та страна, которая лидирует в технологиях, использующих искусственный интеллект, будет доминировать на планете: «Искусственный интеллект - это будущее не только России, но и всего человечества. Он несет в себе колоссальные возможности, но и угрозы, которые трудно предсказать. Тот, кто станет лидером в этой сфере, станет правителем мира».
Кроме того, в своей книге «Предыстория облака» (2015) Тун-Хуэй Ху утверждает, что суверенитет национальных государств подтверждается в цифровом формате, когда они реализуют свои прерогативные полномочия по контролю над доступом всего населения к Интернету. Это подчеркивает роль технологического суверенитета, позволяющего государствам осуществлять контроль над потоком информации и поддерживать свою власть в цифровой сфере. Важность технологического суверенитета проявляется также в необходимости защиты персональных данных и решения проблем неприкосновенности частной жизни, поскольку данные превратились из простого аспекта хранения информации на каком-либо носителе в инструкцию для алгоритмов искусственного интеллекта, которой достаточно для определения защитных действий. В целом технологический суверенитет важен в цифровую эпоху, поскольку он позволяет государствам защищать свои интересы, снижать внешний контроль и сохранять контроль над своими технологическими системами и информацией.
Решение проблем, связанных с национальным цифровым пространством, может быть сложным и многогранным. Одним из них является доминирование крупных технологических компаний, которые утвердили свою легитимность и занимают значительное место в управлении Интернетом. Существует также потенциальный риск вмешательства ИИ как извне, так и внутри системы в различные аспекты, такие как конфиденциальность данных, права человека, различные политики и т.д. К этим проблемам можно также отнести создание стабильных системных инфраструктур, нормативно-правовой базы и обеспечение инклюзивности в усилиях по цифровой трансформации. В статье, опубликованной в сентябре 2019г. в журнале The Statesman, Ишан Джоши также предупреждает о «потере традиционных секторов занятости [...], вызывающей всплеск киберпреступности и, по мнению некоторых, способствующей дерационализации и измельчению человеческого существования». Далее Джоши цитирует экономиста малазийского происхождения Эндрю Шенга, который написал для AsiaNews Network, что «ни одна экономика сегодня не может позволить себе быть благодушной [...] Нам нужен коренной и всесторонний пересмотр того, как конкурировать в сложном цифровом мире».
В целом можно выделить четыре категории вызовов и возможностей. Это технические, организационно-экономические, правовые, а также национальные и региональные вызовы. К техническим проблемам относятся: совместное использование с определенной целью, цифровой суверенитет, децентрализация, безопасность, достоверность и защита конфиденциальности, о некоторых из которых уже говорилось ранее.
ИИ способен оказать значительное влияние на широкий круг предприятий и сфер деятельности, включая «финансы, здравоохранение, производство, розничную торговлю, цепочки поставок, логистику и коммунальное хозяйство», как отмечают Йогеш Двиведи и др. в статье, опубликованной в 2021г.в журнале International Journal of Information Management. Быстрое развитие технологий ИИ несет в себе как преимущества, так и трудности. С одной стороны, ИИ позволяет создавать новые технологии, повышающие эффективность и производительность. С другой стороны, он может усиливать неравенство между странами и внутри них, препятствуя достижению поставленных целей.
Влиянию ИИ на национальную идентичность и национализм уделяется мало внимания, хотя «превращение людей в демографические данные» под воздействием ИИ приводит к изменениям в государственном суверенитете, как отмечает Дж. Пол Гуд в эссе «Искусственный интеллект и будущее национализма», опубликованном в 2020г.в журнале Nations and Nationalism. Политика и стратегия стран и союзов в области ИИ различны. Например, члены Евразийского экономического союза делают упор на внешние технологии и инвестиции, создавая очаги технологического роста. Китай, напротив, является одним из мировых лидеров в области технологий ИИ, обладая значительными инвестициями и достижениями в области вычислительной инфраструктуры, а также высокой патентной и публикационной активностью. Россия также стремится стать мировым лидером в области цифрового и технологического развития, используя свои «научные, политические, экономические, нормативные и социальные ресурсы», как отмечает Алексей Колянов из Санкт-Петербургского электротехнического университета. Развитие технологий ИИ тесно связано с обеспечением национального цифрового суверенитета, и уровень правового регулирования должен соответствовать требованиям времени.
Преимущества ИИ в различных отраслях получили широкое признание. В сфере финансовых услуг ИИ способствует повышению эффективности процессов и улучшению качества обслуживания клиентов. В сельском хозяйстве ИИ способен решить проблемы устойчивости и помочь в достижении целей по сохранению климата и биоразнообразия. В сфере здравоохранения ИИ сулит выгоды, но в то же время создает проблемы с точки зрения его влияния на медицинских работников, организации и правительства. ИИ также дает преимущества в плане расширения доступа к цифровым финансовым услугам, среди которых южноафриканский ученый Дэвид Мланга выделяет доступ к официальным финансовым услугам, снижение транзакционных издержек и рисков финансовых преступлений. Наряду с этими преимуществами существуют и потенциальные риски, связанные с ИИ. Риски, связанные с применением ИИ в государственном секторе, относительно невелики по сравнению с многочисленными преимуществами. Как отмечают Даниэль Толл, Ида Линдгрен и другие исследователи в своем исследовании «Ценности, преимущества, соображения и риски ИИ в правительстве: Исследование политических документов по ИИ в Швеции». В контексте цифрового онлайн-опыта использование ИИ представляет собой сценарии значительных социально-технологических рисков, особенно с точки зрения проблем конфиденциальности и безопасности. Использование ИИ в сельскохозяйственном секторе также требует надежной правовой базы для решения вопросов, связанных с ответственностью за качество продукции, конфиденциальностью и безопасностью данных. Кроме того, распространение ИИ в обществе потребления может привести к безработице и усилению социально-экономического расслоения, как утверждают Панкратов, Морозов и др. в работе «Цифровые помощники в обществе потребления: Глобальные тенденции и векторы развития России».
Роль регулирования ИИ
Роль регулирования ИИ имеет решающее значение для обеспечения ответственного и этичного развития и использования технологий искусственного интеллекта. Быстрое развитие ИИ требует соответствующей политики и регулирования для устранения потенциальных пробелов в области прозрачности, подотчетности, безопасности и этических норм. Без надлежащего регулирования существует риск пагубного влияния на развитие и устойчивое использование ИИ.
Необходимость регулирования ИИ для обеспечения технологического суверенитета обусловлена несколькими ключевыми факторами. Во-первых, стремительное развитие и внедрение технологий ИИ способно оказать как положительное, так и отрицательное воздействие на различные аспекты жизни общества, включая устойчивое развитие. Хотя ИИ может способствовать достижению многих целей, связанных с Целями устойчивого развития (ЦУР), он также может препятствовать достижению некоторых целей, например, усиливая неравенство между странами и внутри них. Поэтому для того, чтобы развитие ИИ соответствовало целям устойчивого развития и не подрывало общественные цели, необходима соответствующая политика и регулирование.
Во-вторых, неконтролируемое внедрение ИИ может создавать риски и проблемы, которые необходимо решать с помощью регулирования. Технологии ИИ, если они не регулируются должным образом, могут привести к пробелам в прозрачности, подотчетности, безопасности и этических нормах. Например, системы ИИ могут быть недостаточно прозрачными в процессах принятия решений, что затрудняет понимание и устранение возможных предубеждений или дискриминационных результатов. Кроме того, использование систем искусственного интеллекта может вызывать опасения в отношении конфиденциальности и защиты данных, поскольку эти системы часто опираются на большие объемы персональных данных. Поэтому для разработки, внедрения и использования технологий ИИ необходимо регулирование, которое установит четкие принципы и стандарты, обеспечивающие прозрачность, подотчетность и защиту прав личности.
Кроме того, управление такими новыми технологиями, как ИИ, требует участия множества заинтересованных сторон и создания механизмов управления. Регулирование ИИ должно включать в себя сотрудничество между правительствами, промышленностью, научными кругами и гражданским обществом, чтобы обеспечить учет интересов и перспектив всех заинтересованных сторон. Такой многосторонний подход поможет решить сложные этические, правовые и социальные проблемы, связанные с технологиями ИИ, и обеспечить комплексность и эффективность регулирования.
Регулирование ИИ имеет решающее значение для сохранения технологического суверенитета. Технологический суверенитет - это способность страны «разрабатывать, контролировать свои технологии и ими», по определению Стивена Глобермана и Совета по науке Канады (1977). Без надлежащего регулирования страны могут попасть в зависимость от иностранных технологий ИИ, что может иметь последствия для национальной безопасности, экономической конкурентоспособности, защиты прав и интересов граждан. Поэтому регулирование ИИ играет важную роль в обеспечении технологического суверенитета стран с гарантией того, что технологии ИИ будут разрабатываться и использоваться в соответствии с национальными интересами и ценностями.
Баланс между инновациями, этикой и подотчетностью при регулировании ИИ требует соответствующей политики и регулирования, этичного управления, четких правил и использования экспериментальных нормативных баз. Эти меры необходимы для обеспечения прозрачности, подотчетности, безопасности и соблюдения этических норм при разработке и внедрении технологий ИИ. Этические принципы, такие как подотчетность, конфиденциальность, справедливость и прозрачность, должны лежать в основе разработки и управления системами ИИ.
В последние годы растет интерес к поддержке долгосрочного цифрового диалога, под которым понимается использование цифровых технологий для организации содержательных и конструктивных диалогов между отдельными людьми и группами. Такой подход подчеркивает актуальность концепций человеко-ориентированного дизайна при создании и реализации цифровых дискуссионных платформ, в которых приоритет отдается требованиям и опыту пользователей. Внедрение методов инклюзивного дизайна является важной частью долгосрочного цифрового дискурса. Инклюзивный дизайн направлен на то, чтобы сделать цифровые дискуссионные платформы доступными и удобными для использования людьми с любым уровнем подготовки, навыками и предпочтениями. Языковые барьеры, нарушения зрения и когнитивные ограничения - все эти факторы необходимо учитывать. Цифровые дискуссионные платформы могут создать более инклюзивную и справедливую онлайн-среду за счет использования принципов инклюзивного дизайна, позволяющих всем желающим участвовать в дискуссии и вносить в нее свой вклад.
Еще одной важной составляющей долгосрочной цифровой дискуссии является пропаганда этичного и ответственного использования цифровых технологий. Решение таких проблем, как конфиденциальность, безопасность данных и алгоритмическая предвзятость, является частью этого процесса. Платформы цифрового диалога должны уделять первостепенное внимание безопасности данных пользователей и предоставлять им возможность контролировать свою личную информацию. Платформы должны четко представлять процедуры сбора и использования данных, а также принимать меры по снижению вероятности алгоритмической предвзятости и предрассудков. Кроме того, устойчивый цифровой диалог требует постоянного взаимодействия и сотрудничества с пользователями. Это означает активный поиск отзывов и предложений от пользователей и учет их мнений в процессе проектирования и разработки. Вовлечение пользователей в процесс принятия решений позволяет платформам цифрового диалога лучше удовлетворять их потребности и предпочтения и создавать более интересный и содержательный пользовательский опыт. Устойчивый цифровой диалог - это использование цифровых платформ и технологий для содействия постоянному, инклюзивному и уважительному общению, способствующему сотрудничеству и соблюдению прав пользователей. Он предполагает создание среды, в которой можно обмениваться различными мнениями и вести содержательные дискуссии, приводящие к положительным результатам. Устойчивый цифровой диалог способствует развитию сотрудничества, предоставляя людям платформу для совместной работы, обмена идеями и достижения общих целей. Он позволяет совместно создавать знания и разрабатывать инновационные решения. При поддержке открытого и инклюзивного диалога устойчивый цифровой диалог также обеспечивает соблюдение прав пользователей, таких как свобода выражения мнений и неприкосновенность частной жизни.
Одним из возможных преимуществ долгосрочного цифрового диалога является возможность развития технического суверенитета. Технологический суверенитет - это способность страны или региона разрабатывать собственные технологии, не зависящие от иностранного влияния и управлять ими. Поощряя местные инновации и обмен информацией, устойчивый цифровой дискурс может способствовать укреплению технического суверенитета. Он позволяет обмениваться идеями и знаниями внутри сообщества, что может привести к разработке технических решений, соответствующих местным условиям и рассчитанных на длительный срок. Заинтересованные стороны могут совместно работать над повышением своего технологического потенциала и снижением зависимости от иностранных технологий путем налаживания коммуникаций и сотрудничества. Для развития сотрудничества и соблюдения прав пользователей очень важен долгосрочный цифровой диалог. Он обеспечивает возможность выражения различных точек зрения и проведения важных диалогов. Устойчивый цифровой диалог способствует открытому и инклюзивному диалогу, который помогает выработать творческие решения и совместное создание знаний. Кроме того, он способен содействовать техническому суверенитету, поощряя местные инновации и снижая зависимость от иностранных технологий. Однако для полного понимания влияния и потенциальных преимуществ устойчивого цифрового диалога в различных сценариях необходимы дальнейшие исследования.
Обеспечение прав пользователей при соблюдении баланса корпоративных интересов - сложная и многообразная задача, требующая тщательного рассмотрения множества вопросов. С одной стороны, очень важно обеспечить права пользователей и их неприкосновенность частной жизни, гарантировать сохранность их личной информации и предоставить им возможность выбора способа использования своих данных. С другой стороны, компании имеют законный интерес в сборе и анализе данных о пользователях с целью совершенствования своих продуктов и услуг и получения прибыли за счет целевой рекламы. Одним из способов достижения компромисса между правами пользователей и интересами бизнеса является введение жестких законов о защите данных. Эти правила могут служить для бизнеса основой для надлежащего и открытого сбора и использования пользовательских данных. Например, в Общем регламенте Европейского союза по защите данных (GDPR) установлены жесткие требования к сбору, хранению и использованию персональных данных. Компании, ведущие бизнес на территории ЕС, должны запрашивать явное согласие потребителей на сбор персональных данных и быть прозрачными в отношении их предполагаемого использования. Компании могут предпринимать активные действия по сохранению прав пользователей в дополнение к нормативным инициативам. Это может выражаться в принятии надежных мер безопасности для предотвращения утечек данных, а также в предоставлении потребителям доступа к инструментам и возможности выбора для управления настройками конфиденциальности. Например, платформы социальных сетей могут предоставлять пользователям возможность выбирать, кто может просматривать их сообщения и личную информацию, а также отказываться от целевой рекламы.
Кроме того, компании могут применять более этические методы сбора и использования данных. Это может включать в себя открытое и честное информирование пользователей о том, как используются их данные, а также выяснение их мнения относительно практики конфиденциальности и правил использования данных.
В эпоху цифровых технологий защита прав пользователей важна как никогда, поэтому она необходима. Право на неприкосновенность частной жизни - одно из важнейших прав пользователя, которое необходимо защищать. Пользователи должны быть ответственны за свои персональные данные и иметь возможность контролировать их сбор, использование и распространение. Это касается защиты личных сообщений, финансовой информации и медицинских карт. Для предотвращения незаконного доступа к персональным данным и их неправомерного использования правительства и организации должны принять строгие законы и правила по защите данных. Право на свободу слова - одно из важнейших прав пользователя. В цифровую эпоху люди могут делиться своими мнениями и идеями по различным каналам Интернета. Следить за тем, чтобы это право не нарушалось, тем не менее, необходимо. Правительства, равно как и Интернет-провайдеры, не должны запрещать или контролировать деятельность людей в Интернете. Они должны выступать за создание в Интернете доброжелательной и открытой среды, в которой можно высказывать различные точки зрения. Возможность использования и доступа к Интернету также должна быть включена в права пользователей в цифровую эпоху.
Для коммуникации, образования и доступа к информации Интернет стал важнейшим ресурсом. Поэтому важно, чтобы каждый человек имел доступ к Интернету на равной основе и по разумной цене. Правительства и институты должны стремиться к устранению цифрового неравенства и гарантировать доступ к Интернету всем желающим. Кроме того, право на безопасность в Интернете должно быть включено в права пользователей. В связи с участившимися случаями киберугроз, таких как взломы, кража личных данных и мошенничество в Интернете, пользователи должны быть ограждены от этих опасностей. Чтобы защитить данные пользователей и гарантировать целостность транзакций в Интернете, правительства и компании должны инвестировать в надежные меры кибербезопасности. В цифровую эпоху права пользователей должны быть защищены любой ценой. Это и защита персональных данных, и обеспечение свободы слова, и поощрение справедливого доступа в Интернет, и повышение уровня безопасности в сети. В защите этих прав и формировании инклюзивной и безопасной среды в Интернете должны участвовать и правительства, и организации, и люди.
Противоречие между глобализацией и необходимостью защиты национального цифрового суверенитета - сложная проблема, включающая в себя вопросы динамики власти, культурного империализма и баланса между сотрудничеством и защитой. Глобализация, характеризующаяся растущей взаимосвязанностью и взаимозависимостью стран и обществ, принесла множество выгод, таких как экономический рост, технологический прогресс и культурный обмен. Однако она также вызывает опасения по поводу расшатывания национального суверенитета и доминирования могущественных государств или корпораций над более мелкими или менее развитыми странами, на что неоднократно указывает австралийский автор Моник Манн в статье 2018 года «(Большие) данные и Север-Юг: Информационный империализм и цифровой колониализм Австралии». Особенно ярко это проявляется в контексте цифровых технологий и практик работы с данными. Одной из ключевых проблем, связанных с балансом между глобализацией и цифровым суверенитетом, является риск информационного империализма и цифрового колониализма. Могущественные страны, особенно страны Глобального Севера, могут использовать свое технологическое доминирование для увековечивания колониальной практики и установления контроля над менее могущественными странами Глобального Юга. Это может проявляться в различных формах, таких как извлечение данных из развивающихся стран без их согласия или справедливой компенсации, навязывание западных норм и ценностей на цифровых платформах, концентрация власти в руках нескольких мировых технологических гигантов.
Поиск баланса между глобализацией и защитой национального цифрового суверенитета требует комплексного и скоординированного глобального подхода. Это предполагает продвижение инклюзивных и справедливых механизмов управления цифровыми технологиями, учитывающих права и интересы всех стран, особенно стран Юга. Кроме того, необходимо предоставить странам возможность контролировать свою цифровую инфраструктуру и данные с помощью таких инициатив, как «Суверенитет национальных данных». Кроме того, международное сотрудничество и взаимодействие имеют решающее значение для решения общих проблем и обеспечения более справедливого распределения выгод от глобализации.
Для формирования многополярного мира в цифровую эпоху важное значение имеет развитие технологического суверенитета и устойчивой цифровой коммуникации. Для обеспечения национальных интересов, ослабления внешнего контроля и сохранения контроля над своими техническими системами и информацией государства должны обладать технологическим суверенитетом, под которым понимается способность создавать и регулировать собственные технологии. Ценность технологического суверенитета проявляется в усилиях по защите персональных данных, сохранению национальных цифровых пространств и решению проблем, вызванных вмешательством ИИ и гегемонией транснационального бизнеса.
По мере усиления воздействия ИИ на общество он играет важную роль в обеспечении технологического суверенитета. При устранении возможных опасностей и проблем путем соответствующего регулирования создание и применение технологий ИИ должно соответствовать целям устойчивого развития. Для того чтобы развитие ИИ было прозрачным, подотчетным, безопасным и этичным при сохранении технического суверенитета, необходимо регулирование ИИ. Для достижения баланса между инновациями, этикой и подотчетностью в регулировании ИИ необходимо сотрудничество многих сторон и внедрение структур управления. Налаживание сотрудничества, защита прав пользователей и укрепление технологического суверенитета зависят от устойчивого цифрового диалога, который характеризуется постоянными, инклюзивными и уважительными беседами. Это позволяет обмениваться знаниями и идеями внутри сообществ, способствуя развитию местных инноваций и снижая зависимость от иностранных технологий. Идеи человеко-ориентированного дизайна, принципы инклюзивного проектирования, этичное и ответственное использование цифровых технологий должны быть приоритетными в любом устойчивом цифровом диалоге.
При попытке найти баланс между правами пользователей и корпоративными интересами крайне важно соблюдать права пользователей, такие как неприкосновенность частной жизни и защита данных, признавая при этом законные бизнес-цели корпораций. Установление строгих правил конфиденциальности данных, таких как GDPR, может стать основой для надлежащего сбора и использования пользовательских данных. Кроме того, компании могут активно защищать права пользователей, применяя надежные меры безопасности, предоставляя клиентам возможность контролировать настройки конфиденциальности, а также применяя более этические процедуры сбора и использования данных.
Установление технологического суверенитета является ключевым компонентом общего национального суверенитета каждого государства. В условиях геополитической напряженности и стремления к созданию многополярного мира ключевым вопросом становится обеспечение собственного производства аппаратных средств, без которых невозможно обеспечить технологический суверенитет. Учитывая ситуацию с производством микрочипов в мире - ограниченную передачу технологий, считающуюся критически важной для каждой страны, - основное внимание каждого суверенного государства должно быть направлено на производство собственных микрочипов и микрочипов для коммерческого использования с упором на собственные силы и дружественное научное партнерское сообщество. Кроме того, развитие и обеспечение технологического суверенитета невозможно без адекватных криптологических механизмов и применения цифровых сертификатов, выдаваемых национальными сертификационными органами. В перспективе также намечается прогресс в развитии квантовой криптографии, когда мы используем квантовую механику, то есть квантовую физику, для обеспечения безопасной связи. По сути, речь идет о создании информационной последовательности, известной только общающимся сторонам, которая может быть использована в качестве ключа для шифрования и дешифрования сообщений, где появляется возможность обнаружения общающимися пользователями присутствия третьей стороны. Это чрезвычайно важно для адекватной защиты канала связи. В итоге необходимо создание национальной технологической экосистемы с собственными продуктами, представляющими собой замкнутый круг аппаратно-программно-криптологических механизмов на уровне протоколов, и особенно важно на законодательном уровне создать системы резервирования и высокий уровень контроля критической инфраструктуры национального пространства.
Любая деятельность, направленная на нарушение суверенитета и территориальной целостности России, неприемлема. ...
Директор АНО «Центр глобальной ИТ-кооперации» Вадим Глущенко рассказал, как правительство помогает бизнесу пер...