Сервисные роботы, являясь интеллектуальными устройствами, напрямую взаимодействующими с пользователями, должны справляться с задачами восприятия, принятия решений и управления в сложных сценариях, что предъявляет строгие требования к их возможностям обработки данных в режиме реального времени. Благодаря интеграции больших моделей ИИ на конечном устройстве сервисные роботы могут обрабатывать данные локально, значительно сокращая задержку передачи данных и повышая скорость отклика, обеспечивая пользователям более плавный, интеллектуальный и эффективный процесс обслуживания.

Quectel Communications, являясь ведущим мировым поставщиком комплексных решений для Интернета вещей, продолжает изучать применение технологии больших моделей. Её решение для больших моделей на конечном устройстве интегрирует передовые технологии LLM (Large Language Model), RAG (Retrieval Enhanced Generation) и Agent (Intelligent Body), а также другие ведущие технологии отрасли, которые могут помочь реализовать «понимание сценария, объединение знаний, интеллектуальное взаимодействие, автономное принятие решений, выполнение задач» и другие функции. Эта технология получила ускоренное развитие в сервисных роботах и других областях.

Решение основано на интеллектуальном модуле периферийных вычислений Quectel SG885G-WF, оснащенном платформой Qualcomm QCS8550 с вычислительной мощностью до 48 TOPS, что обеспечивает достаточную вычислительную мощность для реализации функций решения. Благодаря решению Quectel для крупных моделей сервисный робот может распознавать намерения пользователя в течение 1 секунды и обеспечивать скорость декодирования более 15 токенов/с, обеспечивая пользователям более естественное голосовое взаимодействие и более персонализированный сервис.

От голосового пробуждения KWS до распознавания человеческого голоса VAD, распознавания голоса ASR и, наконец, голосовой трансляции TTS, решение Quectel для крупных моделей обеспечивает бесперебойное соединение и эффективную работу на всем протяжении голосового канала. Независимо от того, подает ли пользователь команду, задает вопрос или обращается за помощью, сервисный робот может быстро реагировать, точно понимать намерения пользователя и предоставлять обратную связь четким и естественным голосом, предоставляя пользователям высокотехнологичный интерактивный опыт.

Решение Quectel для больших моделей позволяет реализовать терминальное развертывание моделей ИИ, что не только повышает скорость реагирования в режиме реального времени, но и обеспечивает конфиденциальность и безопасность, а также может работать в бессетевой среде, значительно снижая стоимость вывода. Благодаря превосходной производительности и таким преимуществам, как высокая гибкость, высокий уровень безопасности и высокая экономическая эффективность, это решение продемонстрировало высокую ценность для применения в различных типах сервисных роботов и позволяет проводить интеллектуальные модернизации в различных практических сценариях, таких как:

Медицинская помощь: роботы, оснащенные большими моделями, могут выполнять повседневные задачи, такие как прием пациентов и консультации, снижая нагрузку на медицинский персонал. В то же время, оно может обеспечивать эмоциональную поддержку и сочувствие пациентам, помогая им снизить тревожность и стресс;

Интеллектуальное обслуживание клиентов: опираясь на возможности обработки и понимания естественного языка, предоставляемые большой моделью, интеллектуальный робот для обслуживания клиентов может быстро и точно понимать проблемы и потребности пользователя, эффективно обрабатывать различные консультации, жалобы и сценарии послепродажного обслуживания, а также значительно повышать эффективность и качество услуг;

Робот-ресепшн и экскурсовод: Робот-ресепшн и экскурсовод, глубоко интегрирующие возможности большой модели, могут не только реализовывать функции интеллектуальной регистрации, интеллектуального сопровождения, интеллектуальных вопросов и ответов, дистанционного управления и т. д., но и предоставлять индивидуальные маршруты экскурсий и пояснительный контент в соответствии с интересами и потребностями пользователя. Он широко используется в корпоративных выставочных залах, музеях, туристических достопримечательностях, медицинских учреждениях и других местах.

Руководство по розничным покупкам: Благодаря поддержке технологии большой модели робот-руководство по розничным покупкам может не только отвечать на вопросы покупателей о товарах, ценах, акциях и т. д., но и предоставлять персонализированные рекомендации и предложения по подбору товаров на основе истории покупок и анализа предпочтений пользователя, а также предоставлять удобную навигацию по магазину, помогая покупателям быстро находить товары, делая покупки проще и приятнее.

Стоит отметить, что решение Quectel для больших моделей также включает в себя полный спектр инженерных услуг, которые позволяют комплексно решать различные инженерные задачи в проектах клиентов, начиная с этапа восприятия, планирования, принятия решений и заканчивая реализацией. Среди них — точная настройка модели для конкретных сценариев применения и рациональное планирование нескольких моделей, что позволяет применять решение для больших моделей быстрее, с меньшими затратами и более полным обслуживанием.

В настоящее время технологии больших моделей меняются с каждым днем. Решение Quectel для больших моделей идет в ногу с технологическим развитием и итерациями моделей, успешно интегрируя такие популярные в отрасли большие модели, как Tongyi Qianwen и DeepSeek, что придает мощный импульс развитию интеллектуальных технологий в таких областях, как сервисная робототехника. Заглядывая в будущее, Quectel продолжит сотрудничество со своими партнерами для совместного продвижения широкомасштабного коммерческого использования конечного ИИ и повышения ценности интеллектуальных процессов в тысячах отраслей.