ИИ-агенты: от эйфории до скрытого сопротивления кремниевым работникам
Пока топ-менеджеры российских компаний с энтузиазмом осваивают no-code, технические специалисты все внимательнее присматриваются к издержкам массового внедрения ИИ-агентов. На форуме Data Fusion спикеры сессии "Софта не будет: как агентный ИИ меняет архитектуру корпоративных систем" фактически разделились на технооптимистов и айтишников-"старообрядцев" и обсуждали сколько свободы можно и нужно отдавать ИИ-агентам в корпоративной среде, и кто будет отвечать за их промахи.
Руководитель направления Искусственный интеллект ИТ-холдинга Т1 Сергей Голицын, выступивший модератором дискуссии, подчеркнул, что ИИ-агенты уже "вросли" в офисный софт.
В Т1 есть процессы, в которых мультиагентные системы сами формулируют задачи, ставят друг другу подзадачи, разрабатывают решения и верифицируют их, фактически закрывая весь контур создания продукта. Главный вопрос сегодня в том, какие задачи мы готовы делегировать таким "кремниевым коллегам", которые уже переросли уровень скрипта с нейросетевой прослойкой, и насколько к этим изменениям готовы разработчики и пользователи", — отметил он.
Старший управляющий директор Московской биржи по розничному бизнесу и маркетплейсу "Финуслуги" Игорь Алутин подчеркнул, что проникновение ИИ радикально меняет работу с информацией: от качества и систематизации данных напрямую зависят и качество, и стоимость вычислений. Эволюция ИИ-агентов в рознице Мосбиржи, по его словам, началась с FinGPT — виртуального финансового консультанта для частных инвесторов. Опора на открытые источники быстро выявила пределы качества: ответы не всегда были точными, и модель пришлось намеренно "упростить", жестко задав сценарии работы.
Этот опыт убедил команду, что профессиональный ИИ-агент невозможен без опоры на верифицированные источники. Сейчас под агентную архитектуру перестраивают витрину маркетплейса "Финуслуги", и Алутин ожидает, что в течение ближайшего года до половины пользовательского трафика сместится из классических поисковиков в GPT –подобные интерфейсы, включая отечественные.
Покупка финансовых продуктов через ИИ-агента станет для клиента стандартным поведением, но потребность в человеческих компетенциях при принятии инвестиционных решений не исчезнет", — считает он.
ИИ-агенты возьмут на себя сбор и первичную сводку данных, а человеку еще какое-то время придется заниматься верификацией. По мере роста точности люди будут уходить от сплошного чтения отчетности к проверке и интерпретации данных, потому что институты доверия для инвесторов никуда не денутся", — уверен Игорь Алутин.
Как заметили участники встречи, внедрение ИИ-агентов в компаниях почти всегда проходит через сопротивление инерции. Советник генерального директора Р7-Офис Михаил Алексеев признал, что айтишники-"старообрядцы" в офисной среде не исчезнут, но их доля будет сокращаться естественным образом — так же, как когда-то исчезла когорта людей, пользовавшихся интернетом без браузера.
По словам Алексеева, смена пользовательского опыта уже идет: молодое поколение ИТ-специалистов и офисных работников не пишет макросы на VBA, они изначально ориентируются на естественный язык инструкций и мгновенный результат. "В перспективе 20–25% пользователей будут обращаться к таблицам и другим офисным инструментам через диалоговый интерфейс, получая сразу инсайты, а не только цифры, — и это станет нормой и для начинающих специалистов, и для членов советов директоров", — резюмировал он. При этом, как подчеркивает Михаил Алексеев, ИИ не дает сакрального знания: его задача — снять с человека рутину. По оценке компании, 30% рабочего времени среднего офисного сотрудника - рутинные операции, которые можно отдать ИИ-ассистентам и агентам, высвободив сотрудникам время на рефлексию и творчество. Уже сейчас одной из самых востребованных функций становится интеллектуальный семантический поиск документов внутри индивидуального рабочего пространства сотрудника, в разных каналах рабочей коммуникации: только это может освобождать до 10% рабочего времени и напрямую конвертироваться в экономию денег".
Голосом традиционной российской ИТ-школы стал Алексей Лукацкий, бизнес-консультант по информационной безопасности Positive Technologies. По его словам, в нынешнем цифровом ландшафте у большинства компаний есть именно ассистенты, а по-настоящему автономных агентов, принимающих решения без участия человека, пока немного, хотя их доля будет расти.
Лукацкий резко возражает против демонизации безопасников как "жрецов-старообрядцев", которые все только запрещают. "Настоящая задача безопасности — встроить технологию, в том числе ИИ-агентов, в контур компании так, чтобы она не нанесла ущерба и вписывалась в согласованные уровни риска", — подчеркивает он.
Парадокс в том, отмечает эксперт, что ИИ уже глубоко проник в критическую инфраструктуру, включая военные применения. Без раскрытия деталей Лукацкий привел пример одной организации, перед которой стояла задача взломать боевую торпеду с ИИ, чтобы показать доступные противнику векторы атаки.
С юридической точки зрения, напоминает он, любая ИИ-функция, реализованная в финансовой организации или госкорпорации, автоматически оказывается в контуре критической инфраструктуры, даже если формально не задействует критические процессы. В этом случае зона ответственности разработчика агентов и архитектора безопасности не может ограничиваться удобством: сначала нужно навести порядок в правах и доступах людей, и только потом — строить безопасную "агентскую" архитектуру.
Директор департамента машинного обучения MWS AI (входит в МТС Web Services) Даниил Киреев описал риски некритичного увлечения агентами и no-code-программированием. На конкретных примерах он показал, насколько опасно отдавать разработку полностью на откуп ИИ. Во многом это связано с проблемой ИИ-галлюцинаций и "неизвестных неизвестных".
Для критических контуров необходима многоуровневая архитектура: отдельные модели-цензоры, расширяемые бенчмарки оценки результатов, автоматическое тестирование и постоянная работа над безопасностью и интерпретируемостью поведения агентов", — уверен эксперт.
Подводя итоги сессии, участники сошлись в одном: участие ИИ-агентов в бизнес-процессах уже стало фактом. Ключевой навык ИТ-специалистов ближайших лет — не знание того, "на какие кнопки нажимать", а умение формулировать цели, ограничения и критерии качества для искусственного интеллекта и брать на себя ответственность за результат совместной работы человека и ИИ. На фоне того, что даже в крупных корпорациях доля сотрудников, регулярно использующих новые инструменты, пока далека от 100%, именно способность ставить задачи и управлять агентами может стать главной компетенцией менеджера в эпоху сотрудничества человека и "кремниевого ассистента".