企業 AI 全面解析：從生成式 AI 到 RAG 技術的應用與挑戰

專欄發布日期：2024.10.10

「我們投入了大量資源研究導入企業生成式 AI，但成效卻遠不如預期…」這是最近經常聽到的企業心聲。

2022 年 ChatGPT 掀起的 AI 浪潮中，許多企業躍躍欲試，卻在實際應用時遭遇重重障礙。究竟企業該如何突破這些瓶頸，真正發揮企業 AI 的價值？讓我們先理解 AI 的本質開始，再來談企業該如何將 AI 帶入工作中。

AI 的發展：從早期技術到生成式 AI 的突破

人工智慧（ Artificial Intelligence，縮寫 AI ）一詞並非現在才出現的，早在 1950 年代就誕生了！它經過了超過 60 年的發展，可以分成四次浪潮：

1. 破解遊戲（1950’s）
   AI能夠按照指示破解遊戲，但現實問題還無法解決。
2. 專家系統（1980’s）
   好比一本專業工具書，裡面包含專家知識，但需要人去看和操作。
3. 機器學習和深度學習（2010’s）
   就像一位快速學習者，可以通過觀察大量數據來自己歸納規則。加上雲端科技的普及，讓大量數據可以隨時隨地被處理，這帶動了AI普及。
4. 生成式 AI（2020’s）
   比方說現在的 ChatGPT，就像一個隨時可以聊天、幫你回答問題的夥伴，能輕鬆理解你的需求。

從一開始只能控制簡單程序的傳統 AI，到解決智力測驗、遊戲，再到機器學習，最後發展到現在的深度學習，讓 AI 在不需要人為指導下，從複雜的數據中自動抓取特徵並生成結果。可以說，AI 的發展史也就是我們逐漸讓電腦「更懂人心」的過程。

近年生成式 AI 炙手可熱，導致大家常以為「AI 只有一種」，其實 AI 有不同分支，導入企業 AI 之前要先釐清需求，才能選對 AI 技術！以下是三大類型的簡單說明：

• 生成式 AI（Generative AI）：生成類似訓練數據的內容（如文字、圖片等），例如：自動生成報告、設計草圖、圖片或文章。
• 分辨式 AI（Discriminative AI）：分析數據以分類或預測結果，例如：檢測是否有異常資料（如財務異常）、分類客戶或產品。
• 大型語言模型（LLMs）：能理解大量文本間的語言關係，回答問題或生成文本。

儘管這些 AI 功能強大，企業在導入時卻常面臨現實挑戰：大量數據、資金和時間，對於尚未做好準備的企業來說可能負擔過大。因此，首次嘗試企業 AI 建議從「低成本、較少數據需求」的 RAG AI 開始。

RAG 技術應用於企業 AI：高效提升知識管理與資訊檢索效率

現在，許多工作都開始依賴聊天機器人，如 Gemini 和 ChatGPT，這些機器人不僅能檢索網路上的資料，還能像人類一樣進行對話。這樣的變化改變了我們搜尋資料的方式：從傳統的搜尋引擎（如Google、Yahoo）查詢關鍵字，轉變為直接向 AI 提問。甚至不只是查詢資料，連工作需要的郵件草稿、會議記錄整理、簡報製作，都開始借助 AI 技術，來加速我們的工作效率、激發創意。

但 ChatGPT 這樣的聊天機器人，背後使用的是網路上公開、人人皆可查詢的資料，企業若想查詢內部資訊則無法辦到。外加企業資料安全的考量，不能隨意將公司的機密資料放到開放式的聊天機器人應用程式內，讓這些外部模型學習企業的資料。若想擁有專屬的企業 AI，難道只能從頭開發？如果您擁有充沛的資金及專業的技術團隊，並已規劃時間及人力資源在研究及開發，那麼您可以自己來。但若您沒有這樣的環境，則可以選擇利用 RAG 技術來實現。

RAG 是指檢索增強生成（Retrieval-Augmented Generation）的技術，它同時具備檢索和生成的功能：在特定的資料來源中檢索，再透過大型語言模型（LLMs）生成答案，因此企業可以在非開放式的環境內上傳、檢索企業文件。因為 AI 的學習來源限縮在特定的資料，大幅降低了「亂回答」的窘境，讓企業能獲得精準可靠的回答。

【延伸閱讀】RAG 是什麼？2024 企業必知的 AI 關鍵技術：檢索增強生成

企業 AI 應用案例：內部知識管理

以企業內部諮詢台來解釋 RAG 的運作原理，可以幫助您更好理解。您可以用標準作業程序、產品文件和過往案例等文件，讓 AI 在有限的範圍內檢索資訊，透過應用程式（例如：Google Chat、Line、網站等）向 AI 提出問題。此時 AI 會進入資料庫檢索相關資料，再透過自然語言組織答案回傳到應用程式，幾秒內您就能獲得需要的資訊。

想像一下，如果您在工作中有一個內部諮詢台，您只需輸入問題，AI 便會在資料庫中迅速找到相關資訊，並用自然的語言回應您。幾秒鐘內，您就能獲得所需的答案，而無需中斷工作去尋找資料。下面是企業生成式 AI（GenAI）的應用範例介紹：

• AI 智能客服：客服總是忙不過來？讓 AI 擔任第一道關卡
• 企業 AI 助理：與時俱進的工作環境，推動企業成長
• 專屬 AI 知識庫：無需再浪費時間找資料，AI 讓一切快又準
• AI 網站智慧搜尋：更懂訪客需求，打造精準互動體驗

企業 AI 推動的五大挑戰

AI 就像無底洞，讓人愈挖愈深，原以為一切盡在掌握，卻發現 AI 如脫韁野馬般難以掌控。以下是企業在推動 AI 過程中常見的挑戰：

1. 無法確定投資報酬：部署 AI 需要大量資源投入，但其效益難以量化，導致決策者在推動 AI 專案時猶豫不決。多數企業對 AI 的資訊來源是網路或外部分享，缺少企業內部的第一手資料，進一步增加了資源配置、成本估算及效益預測的難度。
2. 缺乏技術人才：AI 專才稀缺且成本高昂，企業在導入初期難以確保投資回報，自然難以大手筆投入人力資源。然而，技術人才的不足意味著 AI 專案容易因技術問題停滯不前。
3. 應用場景不明確：很多企業不確定 AI 可以應用在哪些工作場景，也不清楚 AI 的具體運作方式及其是否能滿足需求，這讓企業難以判斷應該將 AI 應用於何處。
4. 訓練資料不足：資料是 AI 訓練的基礎，數據不足或品質不佳都會直接影響 AI 的學習效果和準確性。
5. 優化瓶頸：在概念驗證（Proof of Concept，縮寫 PoC）階段，企業可能會發現即便使用內部資料，AI 回應也不夠精確，甚至會出現「幻覺」（hallucination）現象，生成看似合理但實則錯誤的內容。由於缺乏 AI 專業人員，企業無法有效優化資料和模型，導致難以提升 AI 的精準度。

這些挑戰在推動 AI 的企業頭上澆了一盆冷水，甚至有人提出「第四波 AI 浪潮即將結束」。若您的企業正面臨這些挑戰，Google Cloud 提供的 AI 平台或許能協助您突破難關，推動 AI 成為企業創新成長的加速器。

【延伸閱讀】迎接智能曙光：企業從零開始的 8 步驟導入指南
【延伸閱讀】The state of AI in 2023: Generative AI’s breakout year

Google Cloud 如何簡化企業 AI 導入流程？

Google Cloud 提供了易用、經濟、穩定的 AI 開發環境和工具，幫助中小企業降低技術門檻與成本，讓 AI 應用快速部署，進而提升業務效率與競爭力。平台上的 Vertex AI 整合多種工具與預建 AI 模型，包括 RAG 技術，使企業能更輕鬆地開發 AI。以下是 Google Cloud 的優勢：

• 預建 AI 模型：Google Cloud 提供多種已訓練好的 AI 模型，如影像辨識、語音識別等，企業無需從零開始訓練模型，能直接應用，大幅減少成本和時間，適合中小企業快速上手。
• 低門檻的機器學習工具：Google Cloud 提供 AutoML 等低代碼工具，讓非技術人員也能操作，快速完成 AI 模型的訓練和調整。即使沒有深入的技術背景，團隊成員也能參與 AI 開發，降低對技術人才的需求。
• 彈性費用模式：Google Cloud 採取按使用量付費的方式，企業可以根據實際需求靈活調整成本，避免不必要的資金壓力，特別適合需要控制預算的中小企業。
• 穩定的雲端基礎設施：Google Cloud 提供穩定的計算資源、存儲和數據庫等雲端服務，企業能在可靠的環境中運行 AI 應用，無需擔心基礎設施的技術負擔，能更專注於業務應用。
• 數據整合的無縫支援：Google Cloud 的數據工具（如 BigQuery）幫助企業有效管理和處理數據，並與 AI 模型互動，將數據資產轉化為洞見和決策依據。

Google Cloud 提供的一系列解決方案，降低了企業導入 AI 的技術門檻和資金負擔，讓中小企業也能以合理的投入享受 AI 帶來的業務提升。

相關服務：Google Cloud（GCP）開發票費用代繳服務介紹

讓企業 AI 導入更輕鬆，Google Cloud 合作夥伴幫您快速上手

如果您想開始實施企業 AI 的導入計畫，但又因為「缺乏 AI 技術人員」、「沒有時間研究」或「想先了解 AI 的實際運作」而感到猶豫不決，別擔心！田中系統身為 Google Cloud 的菁英合作夥伴，能夠為您提供一整套 RAG 生成式 AI 服務，涵蓋從概念驗證（PoC）、資料優化到正式環境導入及後續維護的所有步驟，協助您縮短導入時程，搭上第四波 AI 革新的首班車，迅速提升企業的競爭力與營運效率！立即填寫表單，讓我們幫助您 💪