Интервью с Александром Макаровым, product owner команды AI ChatBot в maib
В интервью с Александром вклинился забавный эпизод, не хочу его упустить. За день до интервью я хотел вспомнить как зовут AI ChatBot в maib (забыл), чтобы быть лучше подготовленным к интервью.
Зашел на сайт. Обратился к чат-боту. Он повел себя в двух ипостасях. То есть с одной стороны он (она) мне ответила, что ее зовут ami. С другой стороны, сообщение ami закончилось выводом трех кнопок, которые почти навязчиво предлагали мне выбрать следующий шаг в «ветке» разговора, как делал предыдущий чат-бот, еще не основанный на AI-технологиях.
На интервью я спросил Александра, почему остались кнопки, что они, все-таки, портят картину. Я же общаюсь каждый день с чатом GPT и, естественно, от чат-бота maib жду, как минимум, такой же стилистики общения.
Александр ответил, что, да, кнопки действительно еще «остались» и «скоро их не будет».
Прошло ровно два дня, и я сел писать интервью. Перед этим зашел еще раз на сайт, чтобы посмотреть пару деталей работы чат-бота.
И! И кнопок уже не было.
Я думал, что на это потребуется месяц. Но хватило двух дней. Что могу сказать? Впечатлило.
Теперь – интервью.
Александр, добрый день. Первый вопрос: аmi это чат-бот для всех клиентов maib?
Понимаю суть вашего вопроса. аmi – это чат бот для всех клиентов. Но «под капотом» мы, одновременно, тестируем сразу две технологии. Мы тренируем и обучаем чат-бот исходя из потребностей клиентов-физических лиц и, параллельно, тренируем и обучаем исходя из нужд клиентов-юридических лиц. Для клиентов это будет выглядеть как единый чат-бот, но для нас – это две параллельные вселенные. Это позволяет быстрее и качественнее развивать аmi.
Теоретических разговоров об AI-ассистентах очень много. Но пока не так много бизнесов, которые уже смогли трансформировать теорию в практику. Так что помучаю вас «практическими» вопросами, если вы не против. Например, сколько времени заняла разработка кастомизированного AI-чат бота?
На первую версию ушло около трех месяцев. Понятно, что работа над улучшением еще долго будет продолжаться, но первая итерация – три месяца.
Еще один вопрос, который интересует напрямую даже меня, мне было бы интересно подключить к своему сайту ассистента искусственным интеллектом, который бы помогал вести углубленный интеллектуальный поиск по сайту. Как добиться, чтобы поиск и ответы были связаны только с моим массивом информации?
Давайте расскажу. Начнем с LLM-моделей (Large Language Model), таких как ChatGPT или Gemini. Что они, по сути, делают для пользователя? Вы делаете запрос, модель вам отвечает. Но при этом она руководствуется теми данными, к которым у нее есть доступ. Если ее спросить о кредитах или депозитах в maib, то вы не можете предугадать ее ответ. Получается, что задача в том, чтобы взять эту LLM-модель и сделать так, чтобы она так же отвечала, но только по нашим знаниям, по нашим продуктам, по нашим данным. И не выходила за их рамки.
То есть ваша задача – «натренировать» LLM-модель пользоваться только вашими данными и отвечать в том стиле, который вам нужен.
Совершенно точно. Создать те инструкции, где будет зафиксировано, что она – дружелюбный ассистент maib, её зовут аmi, ее задача ответить на вопрос, который будет задан клиентом.
Но это про стиль ответов, а нужно же, чтобы она пользовалась только вашими данными…
Поэтому дальше в инструкции сказано, что модель должна пользоваться только предоставленными знаниями.
Уже вашей «библиотекой»?
Нашей, но не сразу всей. У нас сейчас библиотека – несколько сотен статей. Если аmi будет отвечать, предварительно проанализировав всю библиотеку, то ответит она максимально правильно, но это будет и достаточно долго, дольше, чем может длиться пауза в ответе клиенту. А мы должны обеспечить и качественный, и максимально быстрый ответ. Поэтому над этой частью нам пришлось дополнительно поработать.
Тем не менее, у аmi остается связь с общими знаниями модели, она же не может стать абсолютно автономной?
Общие знания в ней есть, но ей дана инструкция не пользоваться ими при ответе, чтобы ничего не выдумывать. При этом, конечно, мы подключены к большой с LLM-модели. Это сохраняет теоретическую возможность, что аmi попытается что-то выдумать от себя, но аналогичную задачу сейчас решают все разработчики во всем мире, чтобы свести количество таких ответов к нулю, или близким к нулю значениям.
Вопрос задаю для себя и для других бизнесменов, которые задумываются о таком использовании AI. Используя большую LLM-модель, вы платите за каждый запрос к системе в зависимости от объема операций, связанных с его обработкой?
Исходя из того, что мы в начале пути, мы тестируем сразу два подхода - платные сервисы где мы платим за токены, и наши локальные модели, чтобы была возможность сравнить качество и затраты.
Среди молдавских банков maib стал пионером в запуске собственного чат-бота с искусственным интеллектом. Это дань моде и красивый PR-ход, или инновационный, но уже эффективный инструмент работы?
Ami точно не только дань моде. Когда у банка более миллиона клиентов, то появляется объективная необходимость внедрять технологии, которые помогут одновременно уменьшить нагрузку на работников колл-центра, с одновременным улучшением качества обслуживания. То есть это не прихоть или мода, а необходимость.
Кроме того, аmi берет на себя функции, пусть и начальной, финансовой грамотности. Ее можно бесконечно подробно спрашивать о депозитах, о кредитных возможностях, она не устанет вам отвечать и уделит вам столько «личного времени», сколько вам необходимо.
Ami есть и в приложении maibank и на сайте банка?
Да, но я бы рекомендовал пользоваться аmi внутри нашего приложения maibank. Потому что там аmi будет знать, что это - Павел Зинган. Это позволит сформулировать более персонализированные и качественные ответы.
А «голосом» аmi умеет разговаривать?
Хороший вопрос. Мы активно изучаем эти технологии и лучшие мировые практики в этом направлении, потому что считаем "уметь разговаривать" это навык который позволит быть ближе к нашим клиентам.
Кстати, почему аmi?
Если честно, мы перебрали очень много женских имён. Нам хотелось, чтобы имя было коротким, современным, легко запоминалось и удобно произносилось — особенно для цифрового продукта. В какой-то момент в команде прозвучал вариант «ami», и он сразу „сел”. Звучит просто, дружелюбно и по-цифровому. А ещё нам очень понравился символизм: все буквы имени «ami» уже есть в maib. Такое ощущение, что это имя всегда было рядом. И мы специально используем строчную букву — это полностью соответствует брендбуку maib, где почти все продукты и даже сам бренд пишутся со строчной. Поэтому ami гармонично вписывается в стиль и визуальную идентику maibank.
А визуальное решение?
Образ ami мы создали с помощью искусственного интеллекта. Мы ориентировались на самые распространённые черты женщин в Молдове — тёмные волосы, карие глаза. Нам хотелось, чтобы ami выглядела как «своя», близкая и узнаваемая. Мы верим, что такой образ вызывает больше доверия у пользователей maibank.
Моя работа с чатом GPT периодически вызывает у меня улыбку, были ли забавные моменты при отладке работы аmi?
Хватало. Вот вспомнил, вы же знаете наш слоган «Cine conduce? Tu conduci», так что на вопрос, кто управляет – ответ: «Ты управляешь». Но ami этого не знала, поэтому на вопрос «Cine conduce» поработала с базой данных и ответила: «Совет правления банка во главе с Георгием Шагидзе»
Вполне логично…
Мы, кстати, не будем отказывать ami в чувстве юмора. Так что если ваш персональный ассистент пошутит с вами – не удивляйтесь, мы заботимся не только о ваших финансах, но и о вашем настроении.