3月13日，人工智能（AI）公司賽輪思（Cerence AI）宣布推出代理式AI助手平臺Cerence xUI?，可在邊緣和云端運行，以推進下一代LLM賦能的車載用戶體驗。

圖片來源：賽輪思

憑借其在AI創新和汽車UX獨特要求的深厚專業知識，Cerence AI已與全球汽車制造商簽署了多項戰略性長期合作協議以及概念驗證計劃，以部署Cerence xUI作為其未來車內體驗的基礎。

隨著技術的快速進步和LLM賦能下助手平臺的用戶參與度日益增長，汽車制造商急需研究如何快速且經濟高效地將擴展的AI功能引入汽車。Cerence xUI可滿足上述需求，提供汽車專用的語音助手平臺。該平臺可充分利用與英偉達和微軟合作開發和優化的CaLLM?系列云和嵌入式LLM和SLM、第三方LLM、實時數據源，以及來自汽車的上下文數據，以創建一個引人入勝的對話界面，可以完成多項任務、回答問題和娛樂用戶。該平臺還提供增強的個性化，記住個人偏好并根據用戶模式和上下文信息定制其響應和主動建議。

Cerence xUI的混合架構既可以在云端運行，也可以在車載上運行，適用于不同的行業解決方案，并首先在英偉達DRIVE AGX Orin上進行優化。這使汽車制造商能夠以最適合自己的方式部署該平臺：作為現有嵌入式信息娛樂系統的云端附加組件；作為現有混合系統的補充；或作為完全集成的云端和嵌入式系統的基礎。這使得OEM可以輕松利用Cerence AI在汽車系統集成和AI賦能用戶體驗方面的獨特專業知識，輕松為現有和未來的車輛提供升級的、由LLM賦能的功能，具體包括：

對話線程：簡化、連貫的交互，可以跨越復雜的多步驟查詢，既可以在單個應用程序內，也可以在不同的云和嵌入式應用程序中使用，所有這些都使用自然的對話語言

針對車載環境定制對話式用戶體驗：無縫、直觀、引人入勝的交互體驗——簡潔且適合車內使用，通過專有的并行多用戶交互技術最大限度地減少駕駛員和乘客的認知負荷

一般和特定領域的知識：跨旅游、音樂、體育和新聞等各個領域的綜合知識，利用內容提供商合作伙伴和實時數據源，使OEM能夠向用戶提供靜態和動態信息流

作為Cerence xUI的基礎，CaLLM系列語言模型基于開源基礎模型，并根據Cerence AI的汽車數據集進行了微調。利用英偉達AI Enterprise（一種針對推理性能進行了優化的端到端云原生軟件平臺，包括NVIDIA TensorRT-LLM和NVIDIA NeMo?），Cerence AI優化了CaLLM，使其作為中央代理協調器，促進將邊緣和云集成在一起的豐富駕駛體驗。此外，CaLLM Edge提供一系列模型，包括Meta的Llama系列和微軟的Phi系列，這些模型根據Cerence AI廣泛的汽車數據集進行了微調，以提供針對汽車用例的專用AI。因此，CaLLM系列語言模型旨在通過智能護欄提供高級性能、降低延遲、增強隱私和安全性以及針對惡意或不必要的交互的強大保護，同時為汽車制造商提高成本效益。

Cerence AI首席執行官Brian Krzanich表示：“汽車制造商和交通運輸OEM正在迅速將AI和LLM引入其汽車，并將Cerence AI作為值得信賴的SOC中立合作伙伴，助力開發和部署讓駕駛員滿意的代理式對話式用戶體驗。Cerence xUI將生成式AI的強大功能與我們數據集的智能和精細度相結合，使OEM能夠通過智能、集成的云嵌入式方法快速流暢地創建代理式車載用戶體驗。這意味著他們不僅可以將新的和先進的功能部署到新車上，還可以部署到已經上路的汽車上——即使在購買車輛后也能為駕駛員帶來附加價值。”