generative-ai-application-builder-on-aws
Generative AI Application Builder on AWS 可協助開發、快速實驗和部署生成式人工智慧(AI)應用程式。
generative-ai-application-builder-on-aws 是什麼?
Generative AI Application Builder on AWS 可協助開發、快速實驗和部署生成式人工智慧(AI)應用程式,無需深厚的 AI 經驗。此解決方案包括與 Amazon Bedrock 及其內含的大型語言模型(如 Amazon Titan)的整合,以及第三方大型語言模型的預建連接器。
generative-ai-application-builder-on-aws 概覽
這是什麼
Generative AI Application Builder on AWS (GAAB) 是一個開源解決方案,提供基於網頁的管理儀表板,用於部署可自訂的生成式 AI 使用案例。它讓使用者無需深厚的 AI 專業知識,即可部署、實驗並比較不同的大型語言模型 (LLM) 使用案例。此解決方案使用 LangChain 來設定與各種 LLM 的連線,包括 Amazon Bedrock 和 Amazon SageMaker AI。它採用 Apache-2.0 授權,目標對象為想要實驗並將 Gen AI 使用案例推向生產環境的新手到經驗豐富的使用者。第一個版本支援聊天使用案例,能夠以聊天機器人風格的 UI 查詢企業資料,並提供 API 供自訂實作。
主要功能
- 快速實驗,並能大規模推向生產環境 - 使用巢狀 Amazon CloudFormation 堆疊的可擴展且模組化架構 - 適合企業用於處理真實商業問題的專屬資料 - 整合 Amazon Bedrock 和 Amazon SageMaker AI 作為 LLM 提供者 - 透過 Amazon CloudWatch 儀表板進行多 LLM 比較與實驗,並追蹤指標 - 持續增加模型提供者與 Gen AI 使用案例
使用情境
- 部署與管理可查詢企業知識庫的聊天式生成式 AI 應用程式 - 實驗不同的 LLM(例如 Amazon Titan、第三方模型)以比較效能與輸出結果 - 在儀表板中成功設定與最佳化後,將生成式 AI 使用案例推向生產環境 - 透過提供的 API 將 Gen AI 功能整合到自訂的終端使用者應用程式中
快速開始
請參閱儲存庫的 README 檔案以取得部署說明。您可以使用 README 註記中的連結,從 AWS 主控台進行一鍵部署。
授權與價格
採用 Apache-2.0 授權(開源)。價格依 AWS 服務使用費用而定。
內容整理自該專案公開的 README 與儲存庫資訊。