|
Professor Seleznov
|
ИИ-агенты в проде — не игрушка, а архитектура. Подкаст ГНИВЦ
Вышел новый выпуск подкаста ГНИВЦ, посвящённый теме, которая окончательно вышла из лабораторий в продакшен— ИИ-агенты.
Гости выпуска:
- Анастасия Рождественская — руководитель комплексных проектов отдела ИИ, ГНИВЦ
- Кирилл Двуреченский — руководитель технической части внедрения ИИ, ГНИВЦ
О чём говорили:
🔹 Платформа vs. голая LLM — почему просто «загрузить модельку» недостаточно и зачем строить ИИ-экосистему. Как единая платформа решает проблему коллизий между командами, обеспечивает версионность компонентов и даёт прогнозируемость по сайзингу мощностей и капиталоёмкости.
🔹 MVP в ИИ ≠ продакшен — почему это критично донести до ЛПР. Реальный опыт: несколько команд параллельно пилят компоненты одной системы, а на этапе интеграции — всё разваливается.
🔹 Мультиагентные системы — как внутри одной точки входа может работать целое сообщество агентов: с валидацией, обменом контекстом и разграничением ролей. Агенты, которые выходят за пределы сетей и влияют на реальные бизнес-процессы.
🔹 Версионность данных и RAG — хаотизация данных, дисциплина сбора и хранения корпоративных знаний. Почему внедрение ИИ побуждает организацию трансформировать бизнес-процессы (даже заставляет команды писать документацию).
🔹 Prompt-инжиниринг на стероидах — промпты с ветвлением, системные правила проектов в IDE, разница между пользовательским запросом и техническим промптом агента.
🔹 Безопасность ИИ в госсекторе — ролевая модель доступа, закрытый контур, защита от prompt-инъекций и jailbreak. Реальные кейсы: модели с вшитыми ссылками на сторонние домены, утечка телеметрии. Исследование Red Hat — атака через локальное окружение LLM на устройстве пользователя.
🔹 Тёмная сторона — рынок «взломанных» моделей в даркнете: подписки, франшизы, фишинг и генерация вредоносного кода «под ключ».
🔹 Суверенный ИИ — термин, который пришёл из ЕС (EU AI Act). Регулирование не версий моделей, а их происхождения. Как это влияет на выбор open-source решений.
🔹 Экономика внедрения — почему разработка с ИИ ближе к реальному сектору (дорогое оборудование, пусконаладка). Эффект масштаба: каждый следующий агент дешевле предыдущего.
🔹 Из песочницы в прод — пилотные группы, A/B через разделение трафика, тестирование агентом агента.
Смотреть выпуск: VK Video
Расскажите в комментариях: запускали ИИ-ассистентов или мультиагентные системы в корпоративной среде? С какими граблями столкнулись?-Источник
|
|
|
