Управление по развитию инфокоммуникационных средств массовой информации Сингапура обновило Типовую систему управления ИИ для агентного искусственного интеллекта (Model AI Governance Framework for Agentic AI), предложив практические рекомендации по управлению рисками ИИ-систем, способных самостоятельно планировать и выполнять задачи с определённой степенью автономности. В документе особое внимание уделяется ограничению доступа, тестированию и реальной ответственности человека. Это рекомендации, а не обязательный законодательный акт.
Управление по развитию инфокоммуникационных средств массовой информации Сингапура (<span class="news-text_medium">IMDA</span>) опубликовало обновлённую <a href="https://www.imda.gov.sg/resources/press-releases-factsheets-and-speeches/factsheets/2026/updated-model-ai-governance-framework-for-agentic-ai" target="_blank" class="news-text_link">Типовую систему управления ИИ для агентного искусственного интеллекта</a> 20 мая 2026 года после её первоначального запуска в январе. Обновление является частью более широкой работы Сингапура по ответственному регулированию ИИ и посвящено особым вызовам, связанным с агентами, которые могут предпринимать действия для достижения цели, а не просто отвечать на отдельные запросы.
Система рекомендует организациям до внедрения оценивать, подходит ли агент для выполнения предполагаемой задачи. При такой оценке следует учитывать риски, обусловленные его автономностью, используемые им инструменты и наличие у него доступа к конфиденциальной информации. IMDA рекомендует определять сферу задач агента и устанавливать надлежащие ограничения его разрешений, включая перечень сервисов и данных, к которым он может получить доступ. В качестве способов выявления и устранения проблем в процессе эксплуатации также указаны тестирование безопасности и защищённости до внедрения, поэтапное развёртывание и постоянный мониторинг.
IMDA рекомендует чётко распределять ответственность на протяжении всего жизненного цикла агента и предусматривать контрольные этапы, на которых человек должен проверять или одобрять соответствующее действие. Важное значение имеют также прозрачность и обучение пользователей: лица, использующие агента, должны понимать, что взаимодействуют с ИИ, какие действия ему разрешено выполнять и как оценивать результаты его работы.
Сама по себе эта система не устанавливает новых предусмотренных законом обязательств. Её ценность заключается в предоставлении практической структуры для организаций, разрабатывающих или внедряющих агентный ИИ: определить, что может делать система, ограничить доступные ей ресурсы, протестировать её поведение и обеспечить возможность контроля со стороны людей за действиями, имеющими существенные последствия. Эти рекомендации отражают более широкий переход от оценки только ответов ИИ-системы к анализу действий, которые она может совершать, и лиц, сохраняющих ответственность за такие действия.
