Пекин ввёл этические принципы для регулирования искусственного интеллекта

В Китае опубликован первый набор этических принципов регулирования искусственного интеллекта (ИИ). Первостепенное значение придаётся защите прав пользователей и предотвращению рисков, связанных с влиянием мировых техногигантов. Ещё одной целью инициативы является стремление Китая стать мировым лидером в области ИИ к 2030 году.

Источник: scmp.com

В руководстве говорится, что человек должен сохранить полное право принимать решения, а также право делать выбор, прибегать ли к услугам ИИ или в любое время прекращать его работу. Документ опубликован Министерством науки и технологий КНР неделю назад. Официальная цель документа — «обеспечение уверенности в том, чтобы ИИ всегда находился под контролем человека». Руководство озаглавлено как «Спецификации этики искусственного интеллекта нового поколения». Документ был разработан комитетом по управлению ИИ, созданным в структуре министерства в феврале 2019 года. В июне того же года комитет опубликовал предварительную версию руководства с более краткими и широкими формулировками.

В документе приводятся шесть базовых принципов для систем ИИ, в первую очередь это обеспечение их «управляемости и надёжности». Кроме того, отмечены улучшение благосостояния человека, обеспечение справедливости и правосудия, защита частной жизни и безопасности, а также повышение этической грамотности. Первостепенное значение защиты и расширения полномочий пользователей отражает результаты работы Пекина по усилению контроля над технологическим сектором страны. Не так давно в Китае были опубликованы принципы составления алгоритмов рекомендаций контента — в основе таких алгоритмов часто лежат системы ИИ, построенные на сборе и анализе больших объёмов пользовательских данных.

Источник: scmp.com

Во всех случаях нововведения действительно предполагают расширение прав пользователя — он получает больше контроля над взаимодействием с системами ИИ в Интернете. Упоминаются вопросы безопасности данных, личной конфиденциальности, а также право отказаться от принятия решений на основе ИИ. Согласно документу, предотвращение рисков предусматривает выявление и устранение технических уязвимостей в системах ИИ, обеспечение подотчётности отраслевых организаций, а также оптимизацию управления и контроля качества продуктов на базе ИИ. Принципы вводят запрет для поставщиков продуктов и услуг на базе ИИ участвовать в незаконной деятельности, а также создавать угрозу для национальной и общественной безопасности и безопасности производства. Такие системы не должны наносить вреда общественным интересам.

В 2017 году Государственный совет КНР представил план, согласно которому страна должна опередить США и стать мировым лидером в области ИИ. На первом этапе плана, в котором ведущая роль отводится правительству, говорится, что к 2020 году промышленность страны должна не уступать ведущим мировым технологиям ИИ, их практическим приложениям, этическим принципам и основам политики. Следующая цель — крупный прорыв в области ИИ к 2025 году, чтобы к концу десятилетия КНР стала ведущей страной в данной области.

Источник