01 декабря 2022

Доверенный искусственный интеллект

Редакция Центра глобальной ИТ-кооперации

На сессии «Необходимость доверенного искусственного интернета для создания лучшего мира» отмечалось, что заявленная разработчиком высокая эффективность не должна отменять необходимость сохранения прозрачности и наличия доступных инструментов верификации работы ИИ-системы со стороны потребителя. Кроме того, говорилось о необходимости развития национального регулирования внедряемых ИИ-технологий, прежде всего, в сфере медицины. Предпринимаемых «стандартных» усилий разработчиков на технологическом уровне по контролю качества и безопасности перспективных ИИ-решений, как показывает практика, недостаточно. 

В ходе дискуссии была предложена универсальная карта оценки ИИ-технологий на различных уровнях, позволяющая выделять области ответственности по линии разработчик-государство. Согласно карте, национальный регулятор задает определенные параметры, которым должен отвечать будущий ИИ-продукт, а разработчик стремится на инженерном уровне предпринять необходимые меры по безопасности и объяснимости проектируемого ИИ-решения. Такое распределение сфер ответственности, как ожидается, должно способствовать появлению в гражданском обороте ИИ-технологий, которым можно будет доверять решение важных задач без излишнего контроля и перепроверки со стороны оператора ИИ-системы.

Аналитик Центра компетенций глобальной ИТ-кооперации Юрий Линдре считает, что несколько лет назад российские эксперты стояли у истоков концепции "доверенного ИИ". «Отрадно, что риски и угрозы, о которых постоянно говорят отечественные специалисты, теперь осознаются и на международном уровне. Постепенно формируется глобальный консенсус относительного того, что процесс принятия решения ИИ-системой должен быть понятным для человека. В противном случае такие ИИ-системы не должны получать широкое распространение, даже несмотря на формально высокую эффективность», - отметил специалист. 

 


Похожие статьи

Регулирование Интернета: что это такое и зачем нужно
17 мая 2024

Регулирование Интернета: что это такое и зачем нужно

Что подразумевает под собой регулирование Интернета и какие есть актуальные проблемы, с этим связанные

ВОРОТА В ЮГО-ВОСТОЧНУЮ АЗИЮ ОТКРЫТЫ ДЛЯ РОССИЙСКИХ ИТ-КОМПАНИЙ
27 апреля 2024

ВОРОТА В ЮГО-ВОСТОЧНУЮ АЗИЮ ОТКРЫТЫ ДЛЯ РОССИЙСКИХ ИТ-КОМПАНИЙ

26 апреля Центр глобальной ИТ-кооперации провёл вебинар «Сингапур – ворота в Юго-Восточную Азию», посвящённый ...

Напишите нам

Если есть вопросы и предложения о сотрудничестве, будем рады ответить вам!