3月13日，人工智能（AI）公司賽輪思（Cerence AI）宣布推出代理式AI助手平臺(tái)Cerence xUI?，可在邊緣和云端運(yùn)行，以推進(jìn)下一代LLM賦能的車載用戶體驗(yàn)。

圖片來源：賽輪思

憑借其在AI創(chuàng)新和汽車UX獨(dú)特要求的深厚專業(yè)知識(shí)，Cerence AI已與全球汽車制造商簽署了多項(xiàng)戰(zhàn)略性長期合作協(xié)議以及概念驗(yàn)證計(jì)劃，以部署Cerence xUI作為其未來車內(nèi)體驗(yàn)的基礎(chǔ)。

隨著技術(shù)的快速進(jìn)步和LLM賦能下助手平臺(tái)的用戶參與度日益增長，汽車制造商急需研究如何快速且經(jīng)濟(jì)高效地將擴(kuò)展的AI功能引入汽車。Cerence xUI可滿足上述需求，提供汽車專用的語音助手平臺(tái)。該平臺(tái)可充分利用與英偉達(dá)和微軟合作開發(fā)和優(yōu)化的CaLLM?系列云和嵌入式LLM和SLM、第三方LLM、實(shí)時(shí)數(shù)據(jù)源，以及來自汽車的上下文數(shù)據(jù)，以創(chuàng)建一個(gè)引人入勝的對(duì)話界面，可以完成多項(xiàng)任務(wù)、回答問題和娛樂用戶。該平臺(tái)還提供增強(qiáng)的個(gè)性化，記住個(gè)人偏好并根據(jù)用戶模式和上下文信息定制其響應(yīng)和主動(dòng)建議。

Cerence xUI的混合架構(gòu)既可以在云端運(yùn)行，也可以在車載上運(yùn)行，適用于不同的行業(yè)解決方案，并首先在英偉達(dá)DRIVE AGX Orin上進(jìn)行優(yōu)化。這使汽車制造商能夠以最適合自己的方式部署該平臺(tái)：作為現(xiàn)有嵌入式信息娛樂系統(tǒng)的云端附加組件；作為現(xiàn)有混合系統(tǒng)的補(bǔ)充；或作為完全集成的云端和嵌入式系統(tǒng)的基礎(chǔ)。這使得OEM可以輕松利用Cerence AI在汽車系統(tǒng)集成和AI賦能用戶體驗(yàn)方面的獨(dú)特專業(yè)知識(shí)，輕松為現(xiàn)有和未來的車輛提供升級(jí)的、由LLM賦能的功能，具體包括：

對(duì)話線程：簡化、連貫的交互，可以跨越復(fù)雜的多步驟查詢，既可以在單個(gè)應(yīng)用程序內(nèi)，也可以在不同的云和嵌入式應(yīng)用程序中使用，所有這些都使用自然的對(duì)話語言

針對(duì)車載環(huán)境定制對(duì)話式用戶體驗(yàn)：無縫、直觀、引人入勝的交互體驗(yàn)——簡潔且適合車內(nèi)使用，通過專有的并行多用戶交互技術(shù)最大限度地減少駕駛員和乘客的認(rèn)知負(fù)荷

一般和特定領(lǐng)域的知識(shí)：跨旅游、音樂、體育和新聞等各個(gè)領(lǐng)域的綜合知識(shí)，利用內(nèi)容提供商合作伙伴和實(shí)時(shí)數(shù)據(jù)源，使OEM能夠向用戶提供靜態(tài)和動(dòng)態(tài)信息流

作為Cerence xUI的基礎(chǔ)，CaLLM系列語言模型基于開源基礎(chǔ)模型，并根據(jù)Cerence AI的汽車數(shù)據(jù)集進(jìn)行了微調(diào)。利用英偉達(dá)AI Enterprise（一種針對(duì)推理性能進(jìn)行了優(yōu)化的端到端云原生軟件平臺(tái)，包括NVIDIA TensorRT-LLM和NVIDIA NeMo?），Cerence AI優(yōu)化了CaLLM，使其作為中央代理協(xié)調(diào)器，促進(jìn)將邊緣和云集成在一起的豐富駕駛體驗(yàn)。此外，CaLLM Edge提供一系列模型，包括Meta的Llama系列和微軟的Phi系列，這些模型根據(jù)Cerence AI廣泛的汽車數(shù)據(jù)集進(jìn)行了微調(diào)，以提供針對(duì)汽車用例的專用AI。因此，CaLLM系列語言模型旨在通過智能護(hù)欄提供高級(jí)性能、降低延遲、增強(qiáng)隱私和安全性以及針對(duì)惡意或不必要的交互的強(qiáng)大保護(hù)，同時(shí)為汽車制造商提高成本效益。

Cerence AI首席執(zhí)行官Brian Krzanich表示：“汽車制造商和交通運(yùn)輸OEM正在迅速將AI和LLM引入其汽車，并將Cerence AI作為值得信賴的SOC中立合作伙伴，助力開發(fā)和部署讓駕駛員滿意的代理式對(duì)話式用戶體驗(yàn)。Cerence xUI將生成式AI的強(qiáng)大功能與我們數(shù)據(jù)集的智能和精細(xì)度相結(jié)合，使OEM能夠通過智能、集成的云嵌入式方法快速流暢地創(chuàng)建代理式車載用戶體驗(yàn)。這意味著他們不僅可以將新的和先進(jìn)的功能部署到新車上，還可以部署到已經(jīng)上路的汽車上——即使在購買車輛后也能為駕駛員帶來附加價(jià)值。”