案例｜大型語言模型工程化落地，關鍵在於足夠細分且高品質的數據

自今年上半年起，無論全球或台灣與中國市場，越來越多技術團隊都投入基礎大型語言模型的研發。Gartner《中國企業人工智慧趨勢浪潮 3.0》指出，企業正逐步把 AI 專案從概念驗證推向真正的生產環境。

到了下半年，大型語言模型的工業化量產與工程化落地趨勢愈加明確。產業端與企業客戶也更加聚焦：如何挑選合適的大模型，並透過微調（fine-tuning）讓模型真正貼近自家業務情境，讓 AI 為組織帶來可衡量的生產力提升。

在眾多落地應用中，問答式客服機器人被視為最容易取得成效的場景之一。這類產品以自然語言對話為核心，而許多大模型的對話介面也與客服互動極為相似——因此成為企業快速導入的首選。

但如何在現有客服產品上真正「升級」大模型？如何用足夠多、足夠細分、且與業務密切相關的高品質數據，重塑產品能力與使用者體驗？

在機會之後，新的挑戰也接踵而來。

本期案例中，Appen 的企業客戶正是透過整合 高品質、多領域的訓練數據集，加速推動大型語言模型在真實業務場景中的落地，讓客服系統更準確、更懂語境、也更貼近使用者需求。

挑戰

對於銷售訂單來說，使用者的聊天意願與對話時長往往直接影響成交率，這一點在客服機器人的情境中同樣適用。如果機器人無法提供準確、相關又有品質的回覆，不僅會讓使用者體驗大幅下降，短期會牽動銷售成效，長期更可能影響品牌信任度。

真正的挑戰在於：

如何在短時間內，大規模且高品質地為模型提供橫跨多領域、多場景的訓練數據？

並且同時兼顧 資料安全、合規性與隱私保護？

這些都是大型語言模型在企業落地時，能否提升性能並穩定運行的關鍵問題。

在面對上述需求時，客戶選擇與 Appen 合作，依靠 Appen 在大型語言模型部署上的專業經驗、全球化資源與可擴展的創新型數據解決方案，為其打造可信、安全且高效的訓練資料管線。

解決方案

客戶的客服機器人涵蓋多個專業領域，而要讓不同領域的機器人都能持續提升回覆品質，就必須仰賴大量且高度相關的優質訓練數據。為此，Appen 針對該專案提供了跨領域、可擴展的大型語言模型資料服務，目前已支援 35+ 個細分領域，包含金融、保險、英文等多種專業類別，並覆蓋 SFT、RM、BELLE、RL 等多種模型訓練類型，細分子任務超過 100 項。

目前 Appen 已協助的大型語言模型數據領域橫跨：

美食、遊戲、娛樂、音樂、歷史、文化、旅遊、運動、金融、科技、園藝、校園、笑話、節慶、社會議題、文學、育兒、健康、世界知識、心理、法律、生活、教育、美妝、明星、植物、建築、材料、清潔、服飾、交通、科學、情感、玄學、星座、翻譯、推理等多種類別。

面對如此龐雜且多變的任務需求，Appen 的強項在於：

• 高素質標註團隊：能快速理解不同領域的需求，提供一致且高品質的數據標註。
• 敏捷的專案管理能力：可因應模型更新、規則調整，做到 最快半天即可切換專案方向，大幅提升資料產出效率。

資料安全的嚴格把關

針對客戶提出的高強度資料安全要求，Appen 在專案啟動初期就設立專屬的高規格資料安全場域，並採取多項防護措施，包括：

• 獨立門禁管理
• 360° 無死角監控
• 專屬獨立 IP
• UPS 不斷電設備
• 高保密安全協議（NDA / Content Security Agreement）

這些措施確保客戶資料在整個處理與傳輸流程中都能得到最高等級的保護。

成果

Appen 團隊在大型語言模型（LLM）專案上的豐富實戰經驗，協助客戶的大模型從 0 到 1 快速啟動與部署。在專案早期階段，團隊協助客戶進行標注規範量化、標註效率評估與預算規劃，順利完成專案啟動與過渡，加速在「百模競賽」中的部署與落地進程。

Appen 的交付品質穩定，返工率長期維持在 1% 以下，高標註效率與準確度也為整體專案帶來更佳的成本效益。

憑藉大量大型語言模型相關專案經驗，Appen 已在多個專業領域深耕並累積近百個落地案例，協助客戶大幅縮短模型調適與上線時間。

高素質的標注團隊與精實的專案管理流程，使 Appen 能快速因應多變的資料需求與規則調整，靈活支撐模型迭代。

同時，Appen 始終以高標準維護資料安全，從場域管理、流程控管到資訊安全多層防護，全方位為客戶的數據資產提供可靠保障。

Appen 大型語言模型智能開發平台

身為企業 AI 的高品質數據策略合作夥伴，Appen 推出的大型語言模型智能開發平台，提供面向各行業的完整 AI 開發能力。平台整合了 大型語言模型資料準備、模型訓練、推理服務與部署應用，並涵蓋：

• 資料集管理
• 數據標註
• 計算資源調度
• 模型評估
• 模型微調（Fine-tuning）

透過一站式全鏈路能力，協助企業更輕鬆地導入大型語言模型，加速打造生成式 AI 應用，為終端使用者創造更具變革性的產品體驗。

在 2023 浦東新區人工智慧創新應用大賽 中，Appen 的大型語言模型智能開發平台備受肯定，榮獲 TOP30 卓越創意獎。