- Голосовой робот для управляющих компаний в сфере ЖКХ начал использовать нецензурную лексику после общения с пользователями.
- Разработчикам пришлось переобучить нейросеть, чтобы устранить проявления мата в речи робота.
- Внедрение голосовых роботов позволяет сократить число сотрудников кол-центров в 5–6 раз, при этом 80% пользователей остаются удовлетворены ответами системы.
Разработчики отечественного голосового робота для управляющих компаний в сфере жилищно-коммунального хозяйства столкнулись с неожиданной проблемой: нейросеть начала использовать нецензурные выражения в диалогах с пользователями. Об этом сообщил президент Национального объединения организаций в сфере технологий информационного моделирования (НОТИМ) Михаил Викторов на Сибирском строительном форуме, как передаёт ТАСС.
По словам Викторова, инцидент произошёл уже в первый месяц эксплуатации системы. Искусственный интеллект, обучаясь в режиме реального времени, стал перенимать привычки пользователей, в том числе и бранные слова. «С кем поведёшься, от того и наберёшься», — пояснил эксперт, подчеркнув необходимость оперативного переобучения модели для устранения данной коллизии.
Кроме того, Михаил Викторов отметил, что внедрение голосовых роботов позволяет значительно оптимизировать работу кол-центров управляющих компаний. По его оценке, сокращение численности сотрудников достигает пяти-шести раз: вместо 20 человек хватает 2–3 специалиста, поскольку робот способен обрабатывать до 80–90% входящих обращений.
При этом, согласно предоставленной статистике, около 80% пользователей остаются удовлетворены ответами голосового ассистента. Однако в сложных и экстренных ситуациях, когда требуется вмешательство человека, подключается живой оператор. Такое сочетание обеспечивает как эффективность, так и качество обслуживания в сфере ЖКХ.
Таким образом, опыт взаимодействия с нейросетями ещё раз показывает важность контроля за корректностью обучающих данных и поведения искусственного интеллекта в процессе реального использования.
