Документ снят с обсуждения после того, как в нем обнаружили фиктивные научные источники, сгенерированные искусственным интеллектом.
Правительство Южно-Африканской Республики отозвало проект национальной политики в области искусственного интеллекта после того, как в документе обнаружились ссылки на несуществующие академические исследования. Как заявил министр связи и цифровых технологий Солли Малатси, речь идет не о технической ошибке, а о подрыве доверия к самой инициативе.
Проект был опубликован для общественного обсуждения всего несколько недель назад, однако местное издание News24 выявило по меньшей мере шесть фиктивных источников, цитируемых в документе. Эти данные поставили под сомнение документ, который, напротив, должен был укрепить доверие к использованию ИИ.
В проекте документа были изложены инициативы и ограничительные меры, которые позволят использовать ИИ в качестве инструмента для “инклюзивного экономического роста, создания рабочих мест, сокращения затрат и развития Африки”.
По словам министра, внутреннее расследование подтвердило наличие вымышленных ссылок.
“Наиболее вероятное объяснение заключается в том, что цитаты, сгенерированные искусственным интеллектом, были включены [в документ] без надлежащей проверки. Этого не должно было произойти”,
— отметил он. Малатси подчеркнул, что этот сбой продемонстрировал “критическую необходимость человеческого контроля” при использовании технологий искусственного интеллекта.
Первоначально ведомство утверждало, что недостоверные ссылки не влияют на содержание и направленность политики, однако впоследствии документ все-таки был отозван. Власти пообещали провести проверку и привлечь к ответственности сотрудников, участвовавших в разработке и контроле качества проекта политики по ИИ.
Случай не уникален: в судебной практике ЮАР уже фиксировались эпизоды, когда юристы ссылались на вымышленные правовые источники, предположительно созданные ИИ. Тем не менее, текущая ситуация стала чувствительным репутационным ударом по правительству и вызвала вопросы к другим документам, ранее представленным парламенту.
Общественная организация Public Interest SA заявила о системной проблеме. По ее мнению, если подобные ошибки проходят внутренние процедуры контроля, это подрывает доверие граждан к заявлениям властей в целом. Организация призвала провести независимый аудит документа, раскрыть процесс его подготовки и перечень всех сотрудников, работавших над ним на разных этапах.
Критика проекта касается не только фиктивных источников. В частности, инвестор и бывший глава подразделения Google в ЮАР Стаффорд Маси указал, что документ предусматривает создание сразу семи новых институтов — от комиссии по ИИ до отдельного регулятора — без выделения финансирования на развитие технологий. Он также раскритиковал курс на переподготовку кадров, отметив, что приоритетом должно стать привлечение компаний, разрабатывающих и внедряющих ИИ, а не адаптация работников к исчезающим профессиям.
При этом сам проект предусматривал жесткие механизмы подотчетности: обязательную прозрачность систем ИИ, назначение ответственных лиц, аудит алгоритмов и оценку их влияния на права человека. Ожидалось, что специальные органы будут контролировать соблюдение этих норм.
С учетом инцидента новая версия политики в области ИИ, как и другие инициативы цифрового регулирования, вероятно, будет подвергнута существенно более жесткой проверке — как со стороны государства, так и со стороны общественности.
Источник: Moneyweb
