25 мая в НИУ ВШЭ в рамках II Евразийского экономического форума прошел семинар "Регулирование в Китае: как Alibaba раскрыла алгоритмы". Модератором выступил директор Международного центра конкурентного права и политики БРИКС Алексей Иванов. Главными спикерами семинара стали Цзя Кай, доцент Китайского университета электронных наук и технологий (UESTC), и Фу Хунъюй, заместитель директора Центра цифровой экономики Alibaba, который присоединился онлайн.
В конце 2021 года китайские регуляторы интернет-пространства обязали цифровые компании раскрывать рекомендательные алгоритмы. К настоящему моменту в Китае запущена система регистрации алгоритмов: уже более 100 компаний предоставили и опубликовали в открытом доступе 262 различных алгоритма. Об этом во вступительном слове рассказал Цзя Кай.
Как раскрывала свои алгоритмы и какую информацию предоставляла одна из крупнейших китайских интернет-компаний — Alibaba, рассказал Фу Хунъюй, доктор наук, заместитель директора Центра цифровой экономики Alibaba, научный сотрудник Министерства промышленности и информатизации Китая.
Сейчас регистрация алгоритмов в Китае не является обязательной для компаний. Процесс подачи информации об алгоритмах регулятору происходит постфактум, никакой предварительной проверки не требуется. Законодательная база по регулированию алгоритмов включает в себя Правила по применению рекомендательных алгоритмов, Правила для технологи глубокого синтеза и Проект правил для регулирования алгоритмов генеративного искусственного интеллекта (ИИ). Все эти документы предполагают постановку алгоритма на учет, если он ориентирован на широкую аудиторию или “оказывает определенное влияние на общество”.
Власти Китая уже разработали централизованную и практически автоматическую электронную систему учета алгоритмов. Администрация киберпространства Китая (CAC) выделила пять типов алгоритмов:
- персонализированных рекомендаций;
- ранжирования и выбора (применяются в работе поисковиков);
- генерации и синтеза (пример использования — нейронная сеть Midjourney, создающая изображения по текстовому описанию);
- поиска и фильтрации;
- планирования и принятия решений (применяются в том числе сервисах такси и доставки).
Регистрационные данные алгоритмов содержат базовые принципы их функционирования, механизм действия, область и цели применения, а также информацию о выявленных и потенциальных рисках, процессе обучения, стратегии оптимизации и контроле результатов работы.
Так, если компания использует систему персонализированных рекомендаций, она должна раскрыть, какие методы оптимизации были использованы — как повышают метрики CTR (Click-through rate, коэффициент кликабельности) и DAU (Daily Active Users, количество уникальных пользователей за сутки), как проходило машинное обучение ИИ-алгоритма и т. д.
Кроме прочего, при постановке алгоритма на учет нужно указывать метод контроля за результатами его работы (output control). Например, указать, предусматривает ли он безопасность и отсутствие переработок у сотрудников. Для сервисов онлайн-заказа такси актуально требование китайского трудового законодательства, по которому водители должны отдыхать по 30 минут каждые 4 часа.
Каждый алгоритм Alibaba должен пройти внутреннюю проверку на риски, о результатах которой сообщается регулятору. Закон требует от китайских компаний хранить данные о выявленных рисках в течение трех лет. Важнейшую роль во всем этом процессе играет механизм внутренней оценки влияния компании (Impact Self-Assessment).
“Если у компании нет такого механизма, а регулятор не стремится сотрудничать с ней, прозрачность алгоритмов не обеспечить. У правительства нет ресурсов для подробного изучения каждого алгоритма. Это задача самих компаний, которую они должны выполнять в полном объеме в режиме реального времени”,
— отметил Фу Хунъюй.
Многие риски, связанные с разработкой и применением ИИ, затрагивают этические вопросы. Рекомендации по работе с ними дает Совет по этике Alibaba, в состав которого входят сотрудники компании, научные эксперты и пользователи.
Немаловажно, что платформам, раскрывающим свои алгоритмы, гарантируется защита коммерческой тайны со стороны регуляторов. Компании могут не опасаться, что данные об их алгоритмах будут использованы против них другими органами власти, конкурентами или злоумышленниками.
По словам Фу Хунъюйя, открытость для общества и обеспечение равного доступа разных групп населения к информации о работе компании — важный принцип Alibaba. Компания публично рассказывает о некоторых используемых алгоритмах и ведет просветительскую работу среди пользователей и разработчиков.
“Общество — это те, кто получит выгоду от применения алгоритма и кому будет нанесен вред в случае его неправильного применения, поэтому мы должны объяснить потребителям, что за алгоритмы мы применяем, какую личную информацию собираем, как она обрабатывается и используется”,
— подчеркнул Фу Хунъюй.
В ходе семинара участники смогли задать спикеру вопросы. Несколько из них касались контроля за работой ценовых алгоритмов.
“В Китае запрещено использовать личные данные пользователей для персонализированного ценообразования. За выполнением этого требования следит Администрация киберпространства. С 2021 года Alibaba не использует алгоритмы, которые формируют цены на основе личных данных. При этом компания может предоставлять пользователям бонусы и скидки”,
— ответил спикер.
Алексей Иванов попросил рассказать, как организована регистрация алгоритмов при столь разветвленной структуре Alibaba Group, включающей множество компаний, в том числе Taobao, Tmall, и AliExpress.
“Если компания в составе Alibaba Group является отдельным юридическим лицом, то она сама ставит на учет свои алгоритмы. В рамках холдинга мы можем оказать помощь в сборе данных или переговорах с регулятором, но финальное решение всегда за конкретной компанией”,
— пояснил Фу Хунъюй.
Фаррух Карабаев, заместитель председателя Антимонопольного комитета Узбекистана, поднял вопрос об ИИ-технологиях: есть ли в Проекте правил по генеративному ИИ какие-либо проконкурентные требования? И кто будет нести ответственность за решения, генерируемые ИИ?
“Технологии генеративного ИИ развиваются так стремительно, что все сферы их применения еще не определены. Поэтому и конкретных требований по конкуренции в правилах для ИИ пока нет. Однако Alibaba уже использовала ИИ-алгоритмы в проконкурентных целях — для выявления недобросовестных пользователей и поддельных товаров на платформе. Что касается вопроса о решениях, сгенерированных ИИ, то в Китае принято разделять зоны ответственности: есть определенные регуляторные требования для каждого этапа разработки ИИ и для его использования”,
— рассказал спикер.
Алексей Сушкевич, директор Департамента антимонопольного регулирования ЕЭК, поинтересовался, сказывается ли требование о раскрытии алгоритмов на конкуренции Alibaba с компаниями, на которые это требование не распространяется.
Требование по постановке алгоритмов на учет касается только крупных платформ, подчеркнул Фу Хунъюй:
“В целом, нельзя сказать, что это требование ставит большие компании в невыгодную позицию. Обладая большими ресурсами и влиянием, они должны нести ответственность перед обществом. Чем больше продавцов и покупателей на платформе, тем более прозрачными должны быть ее механизмы работы. Закон о цифровых рынках (DMA) в ЕС определяет такие компании как гейткиперов, и к ним тоже предъявляются особые требования. Мы в Alibaba считаем, что это делает цифровых гигантов более подотчетными, и приветствуем тренд на поощрение более конкурентной среды”.
Нуржан Уранхаев, руководитель департамента Агентства по защите и развитию конкуренции Республики Казахстан по городу Алматы, спросил, как в условиях запрета на какие-либо договоренности о ценах с продавцами Alibaba обеспечивает скидки и бонусы пользователям.
В основном бонусы обеспечиваются за счет самих компаний, ответил Фу Хунъюй. Раньше скидки и бонусы были главным оружием в конкурентной борьбе. Так несколько лет назад в результате жестокой ценовой войны DiDi выдавила Uber с китайского рынка. Сейчас приток инвестиций в китайские бигтехи снизился из-за регуляторного давления, и у них недостаточно ресурсов, чтобы проводить такую политику.
“Теперь компании делают ставку не на бонусы для клиентов, а на качество товаров/сервиса и снижение комиссии для продавцов. Я считаю, будущее именно за такой конкуренцией, а не за битвой бонусов”.
О том, как будет развиваться история с прозрачностью бизнеса и возможно ли, что со временем будут вводиться санкции в отношении компаний, не пожелавших раскрыть свои алгоритмы, спросила Дарья Котова, эксперт Антимонопольного центра БРИКС.
Побуждение компаний к большей прозрачности более эффективно, чем штрафы и санкции, отметил докладчик:
“Я предлагаю стимулировать компании к большей открытости, а не наказывать за то, что они не раскрывают алгоритмы. Думаю, что тюрьмы и так переполнены”.
Армине Акопян, заместитель директора Департамента конкурентной политики и политики в области государственных закупок ЕЭК, попросила спикера поделиться мнением о том, какой подход к регулированию цифровых рынков он считает более эффективным: ex-post или ex-ante.
Раньше Китай применял положения о "безопасной гавани", которые ближе к регулированию ex-post, а теперь двигается в направлении ЕС, к мерам предварительного регулирования, отметил спикер. “Для крупных платформ вводятся более жесткие требования, но я не могу сказать, как это повлияет на рынок. Необходимо выждать и посмотреть на реакцию цифровой среды, чтобы понять какой регуляторный режим оптимален”, — сказал он.
Отвечая на вопрос доцента факультет социальных наук ВШЭ Евгения Стырина об уровне компетенции китайских регуляторов, Фу Хунъюй подчеркнул, что CAC расширила свою технологическую экспертизу за счет сотрудничества с крупными университетами и Китайской академией наук. Однако процесс постановки алгоритмов на учет все равно остается трудоемким для обеих сторон.
“Мы подсчитали, что для подачи заявки на регистрацию одного алгоритма требуется около 230 часов работы эксперта Alibaba. Изучить такой объем данных и обеспечить обратную связь непросто. Я думаю, именно поэтому CAC до сих пор не предоставила никаких отзывов по существу регистрации — у них просто нет ресурсов, чтобы обработать эту информацию”.
Решить эту проблему можно только совместными усилиями, в режиме сотрудничества регуляторов и компаний, заключил Фу Хунъюй.
Фото: Антимонопольный центр БРИКС
