市場動態 2024-03-22

電商推理中心項目交付，日均處理數十億次對話

公司為某頭部電商平台交付的大規模AI推理中心項目正式投入運營，日均處理數十億次客服對話。

項目基於公司推理加速平台，替換了40%的GPU節點，推理成本降低65%，高峰期響應穩定在120毫秒以內。客服自動化率從68%提升至91%，大幅降低了人工客服壓力。

該項目是公司在電商行業的標桿案例，驗證了推理加速平台在超大規模場景下的穩定性與成本優勢。

算力基建行業應用技術創新

新闻详情