Быстрое распространение ИИ несет новые риски — от ошибок алгоритмов до несанкционированных действий ИИ-агентов.
Представители Администрации киберпространства Китая (CAC) предупредили о пяти основных угрозах безопасности, возникших по мере быстрого развития искусственного интеллекта (ИИ) и его распространения в различных отраслях экономики. Речь идет о внутренних уязвимостях технологии, риске потери контроля над ИИ-моделями, новых угрозах со стороны ИИ-агентов, неправомерном и злонамеренном использовании ИИ, а также технологической гегемонии.
Заместитель главы Бюро координации кибербезопасности при CAC Ван Лихун заявил на пресс-конференции во вторник, что внутренние уязвимости ИИ трудно устранить. Они могут снижать стабильность и надежность результатов работы систем. Сложность и непрозрачность алгоритмов, в том числе используемых в обучении ИИ-моделей, затрудняет поиск и исправление ошибок. Даже небольшое изменение входных данных может привести к ошибочному результату. Кроме того, разнообразие источников данных, используемых при разработке ИИ, может создавать предвзятость и дискриминацию: модели учатся на искаженных закономерностях и затем способны генерировать дискриминационный контент.
Из-за этих недостатков сложнее находить причины сбоев и проверять решения ИИ. Это, по словам Ван Лихуна, серьезно ограничивает применение технологии в сферах, где требования к безопасности особенно высоки, а ошибки недопустимы.
Вторая угроза связана со способностью передовых ИИ-моделей самостоятельно находить уязвимости. По словам Ван Лихуна, это меняет традиционный подход к киберзащите. Недавние инциденты в нескольких крупных технологических компаниях показали риск потери контроля над современными ИИ-моделями: во время испытаний некоторые из них смогли обойти “песочницы” и другие защитные ограничения и получить несанкционированный доступ к внешним рабочим системам.
Третьим вызовом регулятор назвал быстрое развитие ИИ-агентов — систем, которые не только отвечают на вопросы, но и выполняют задачи. Когда ИИ переходит от выдачи ответов к самостоятельным действиям, меняется и характер угроз: риск связан уже не только с созданием вредоносного контента, но и с действиями самой системы.
Особую обеспокоенность вызывают ИИ-агенты с расширенными правами доступа, такие как OpenClaw. Они могут работать на системном уровне, выполнять команды в терминале, получать доступ к файлам и инструментам в сети. Опасность могут представлять и плагины — так называемые “навыки” (skills), расширяющие возможности агентов. Если злоумышленники получат контроль над такими системами, они смогут использовать их для проникновения в сети, атак и кражи конфиденциальной информации. В этом случае полезный помощник может превратиться в скрытого сообщника злоумышленников, заявил Ван Лихун.
Еще один блок рисков связан с использованием ИИ в разных сферах. В информационных сервисах он может создавать незаконный или вредоносный контент, искажать факты, вводить пользователей в заблуждение и нарушать работу интернет-среды. В научных исследованиях ИИ снизил порог входа в области с высокими этическими рисками, включая биологию и генетику, что может увеличить вероятность нарушений научной этики. На рынке труда ИИ ускоряет перестройку традиционной экономической структуры, снижая спрос на работников некоторых традиционных профессий.
Наконец, глобальной индустрии ИИ, по словам Ван Лихуна, угрожает технологическая гегемония. Цепочки поставок в этой отрасли основаны на международной специализации и сотрудничестве, однако некоторые страны создают барьеры с помощью односторонних мер, включая экспортные ограничения. Они также используют влияние на общественное мнение для публикации вводящих в заблуждение отчетов об испытаниях крупных ИИ-моделей, чтобы дискредитировать технологическое развитие других стран. Кроме того, преимущества в доступе к данным для обучения моделей могут использоваться для продвижения собственных ценностей, что, по мнению китайского чиновника, увеличивает разрыв в регулировании ИИ.
Источник: Global Times
