01 декабря 2022

Путь к равноправному и безопасному развитию AGI

Редакция Центра глобальной ИТ-кооперации

В дискуссии экспертов из международных и общественных правозащитных организаций Азиатско-тихоокеанского региона, Латинской Америки и Европы были обсуждены вопросы, главным образом связанные с гуманитарными и социальными вызовами при развитии искусственного интеллекта (ИИ), проблемами преодоления различных видов неравенства. В частности, поднимался вопрос о том, как социально-экономическая, геополитическая динамика, исторические факторы повлияют на разработку и внедрение технологий ИИ. Специалисты также коснулись проблем формирования многосторонней модели управления ИИ, в которой необходимо обеспечить представительство заинтересованных стейкхолдеров, учесть интересы молодежи, различных социальных слоев и меньшинств, в том числе Глобального Юга. 

Поскольку на Форуме IGF спикеры неоднократно обращались к тематике Глобального Юга (Global South), имеет смысл отдельно раскрыть понимание данного термина, который прочно закрепился в политическом и научном обиходе и широко используется для общего обозначения развивающихся стран и регионов (по сути на сегодня этот термин заменил собой удящий из употребления термин «третий мир»). «Глобальный Юг» — это универсальный термин для обозначения развивающихся стран, находящихся ниже уровнем развития, чем условный «Глобальный Север». В силу своей неоднозначности термин «Глобальный Юг» имеет множество недостатков, такая классификация, безусловно, не может передать ясного понимания из-за множества исключений. Один из участников воркшопа упомянул, что «Глобальный Юг» - «это большинство мира в буквальном смысле». Происхождение и эволюция термина «Глабальный Юг» подробно рассматривается в исследовании ИМЭМО РАН ««Глобальный Юг» в полицентричном миропорядке», Сборник «Мировое развитие», выпуск 19, 2018 г. 

Организаторами было отмечено, что по мнению исследователей, AGI может появиться в ближайшие 30 лет, он может помочь решить проблемы бедности и повышения уровня жизни. Вместе с тем сильный ИИ может также увеличить разрыв между Глобальным Севером и Югом, усугубить неравенство, вызвать экономические катастрофы и явиться источником экзистенциального риска для человечества. 

Со стороны участников дискуссии было отмечено, что монополия технологических компаний, которая усиливается за счет цепочек поставок, устанавливает новую форму доминирования в получении прибыли. Проектируя цифровую экосистему, эти компании определяют новую технологическую архитектуру. Такие компании получают возможность контролировать политические, экономические, общественные уровни и слои жизни, - таким образом устанавливается новый вид контроля. Обращено внимание на неадекватность такой политики для Африки, была подчеркнута необходимость выработки рамок и стандартов для регулирования при использовании технологий. 

Применительно к этому региону был упомянут проект "Африканская обсерватория ИИ" (AfricanObservatory on Responsible Artificial Intelligence, https://www.africanobservatory.ai/about). В ходе этого проекта изучены девять африканских стран и рассмотрены национальная политика в области ИИ, вопросы обработки данных, модели управления, конкуренция и защита прав потребителей.  

В дискуссии также была выделена проблема предоставления цифровых услуг населению. Прозвучало, что пока государство не может полагаться на то, что глобальные игроки и частный сектор предоставят исключительно общественно-полезные и недискриминационные услуги и продукты. Исходя из этого, государство вынуждено тратить ресурсы и все новые инвестиции на создание собственных суверенных и безопасных продуктов и технологических решений для населения, которые отвечали бы требованиям прозрачности и доступности. 

В современном мире цифровая повестка подвержена влиянию бизнес-моделей, основанных на капитале, при этом зачастую происходит игнорирование позиций граждан, таким образом могущественные автократические режимы пытаются установить свою повестку развития, требуя большей гибкости правовых режимов на глобальной арене. Такая тенденция превалирования и превосходства рыночной динамики может затруднить движение к равноправному сильному ИИ, который мог бы в идеале принести пользу человечеству. Рыночные механизмы, стимулирующие гонку в области ИИ не всегда позволяют взвешивать интересы всех сторон и всех пользователей – в этом смысле выработка политик на IGF, по мнению участников воркшопа, будет препятствовать доминированию права первого потенциального разработчика AGI и поможет учесть интересы молодых поколений, которые придут за нами. 

Экспертами также была затронута и проблема предвзятости, которая, например, существует при использовании исторических наборов данных для разработки ИИ. Высказано предположение, что такие системы будут воспроизводить предвзятость, которая существовала исторически – это нужно учитывать при создании систем, принимающих ответственные решения.  В этом контексте также была высказана озабоченность – способны ли даже высокоинтеллектуальные системы принимать решения лучше и справедливее, чем это делает человек? 

Как представляется, реализованная дискуссия и высказанные мнения экспертов будут способствовать расширению интереса широкой аудитории и политиков к общепланетарным и региональным (в частности, африканским) проблемам развития ИИ в долгосрочной перспективе. 


Похожие статьи

Роль российского экспертного ИТ-сообщества растет на международном уровне
28 мая 2024

Роль российского экспертного ИТ-сообщества растет на международном уровне

Директор Центра глобальной ИТ-кооперации Вадим Глущенко выступил в пленарном заседании «Консолидированное межо...
Регулирование Интернета: что это такое и зачем нужно
17 мая 2024

Регулирование Интернета: что это такое и зачем нужно

Что подразумевает под собой регулирование Интернета и какие есть актуальные проблемы, с этим связанные

Напишите нам

Если есть вопросы и предложения о сотрудничестве, будем рады ответить вам!