原型實驗室

How Retrieval-Augmented Generation Transforms Knowledge Management

檢索增強生成如何改變知識管理(第 1 部分)

1. 簡介 每個公司都有無數的文件——產品指南、員工資訊、合約、內部政策等等。在分散的文件中快速找到答案既費時又低效。 想像一下由大型語言模型驅動的代理,您可以用簡單易懂的語言進行查閱,並立即從您的內部文檔中提取準確的答案。它可以提高生產力、降低成本並簡化繁瑣的流程。 為了實際展示這一點,我們為一家名為Insurellm的虛構保險公司建立了一個原型。透過模擬真實場景(從保單到索賠文件),我們的檢索增強聊天機器人可以快速、準確地處理各種查詢。 2.以使用者為中心的方法 1. 探索問題 用戶痛點: 員工很難在數千份文件中找到他們需要的資訊。有時他們需要查看公司政策,或者可能需要產品和服務詳細資訊。即使他們找到了正確的文檔,它並不總是最新的,並且搜尋它會花費很長時間。 目標:建立一個快速、準確的聊天機器人,可以根據公司最新的內部文件回答問題。 2.用戶研究 訪談:我們發現人們希望透過自然語言進行互動並立即獲得最新、正確的資訊。 功能期望:基於對話的介面讓他們可以輕鬆查看有關政策、產品等的重要細節,同時保持最新狀態。 3. 原型 我們的團隊透過整合 LangChain、Chroma、OpenAIEmbeddings 和 Gradio 介面創建了一個原型: 使用者輸入他們的問題,系統尋找文件中最相關的部分,LLM 根據找到的內容給出答案。 4. 測試與回饋 使用者互動: 我們與 Gradio 建立了一個網路介面,以便測試人員只需用自然語言輸入問題即可。 回饋:...

檢索增強生成如何改變知識管理(第 1 部分)

1. 簡介 每個公司都有無數的文件——產品指南、員工資訊、合約、內部政策等等。在分散的文件中快速找到答案既費時又低效。 想像一下由大型語言模型驅動的代理,您可以用簡單易懂的語言進行查閱,並立即從您的內部文檔中提取準確的答案。它可以提高生產力、降低成本並簡化繁瑣的流程。 為了實際展示這一點,我們為一家名為Insurellm的虛構保險公司建立了一個原型。透過模擬真實場景(從保單到索賠文件),我們的檢索增強聊天機器人可以快速、準確地處理各種查詢。 2.以使用者為中心的方法 1. 探索問題 用戶痛點: 員工很難在數千份文件中找到他們需要的資訊。有時他們需要查看公司政策,或者可能需要產品和服務詳細資訊。即使他們找到了正確的文檔,它並不總是最新的,並且搜尋它會花費很長時間。 目標:建立一個快速、準確的聊天機器人,可以根據公司最新的內部文件回答問題。 2.用戶研究 訪談:我們發現人們希望透過自然語言進行互動並立即獲得最新、正確的資訊。 功能期望:基於對話的介面讓他們可以輕鬆查看有關政策、產品等的重要細節,同時保持最新狀態。 3. 原型 我們的團隊透過整合 LangChain、Chroma、OpenAIEmbeddings 和 Gradio 介面創建了一個原型: 使用者輸入他們的問題,系統尋找文件中最相關的部分,LLM 根據找到的內容給出答案。 4. 測試與回饋 使用者互動: 我們與 Gradio 建立了一個網路介面,以便測試人員只需用自然語言輸入問題即可。 回饋:...

LLM-Enhanced E-commerce Agentic Assistant Part 2 (Multi-Modal Audio-Enabled)

LLM-Enhanced E-commerce Agentic Assistant Part ...

Building on our text-based prototype, we’re excited to introduce a multi-modal upgrade. In this phase, we’ve integrated OpenAI’s speech model to add an audio response feature, making our assistant even more...

LLM-Enhanced E-commerce Agentic Assistant Part ...

Building on our text-based prototype, we’re excited to introduce a multi-modal upgrade. In this phase, we’ve integrated OpenAI’s speech model to add an audio response feature, making our assistant even more...

LLM-Enhanced E-commerce Agentic Assistant Part 1 (Text-Based)

LLM-Enhanced E-commerce Agentic Assistant Part ...

In the fast-paced world of e-commerce, customers care about three key things: getting the best price, discovering the latest products, and receiving orders quickly. During our daily operations, we encountered...

LLM-Enhanced E-commerce Agentic Assistant Part ...

In the fast-paced world of e-commerce, customers care about three key things: getting the best price, discovering the latest products, and receiving orders quickly. During our daily operations, we encountered...

LLM-Enhanced Meeting Minutes Generator with Open Source LLM Model

利用開源多模式 AI 徹底改變會議紀要:我們使用 LLM 增強型產生器的歷程

LLM 增強型會議紀要產生器 1. 使用者研究與原型設計之旅 在我們的日常業務中,我們面臨著手動轉錄和總結會議記錄的挑戰——這個過程不僅耗時而且容易出錯。在對人工智慧的好奇心和改進工作流程的渴望的驅使下,我們開始進行使用者研究,以探索可以簡化此任務的解決方案。 訪談與觀察:我們與會議組織者、行政人員和抄寫員進行了交談,以了解他們的痛點。他們的回饋證實,手動筆記效率低下,確實需要自動化解決方案。 調查: 我們的調查顯示,使用者重視速度、準確性和簡單性。他們需要一種無需技術專業知識即可快速將音訊轉換為結構良好的會議記錄的工具。 使用 Gradio 進行原型設計:我們使用 Gradio 建立了一個早期原型,讓使用者上傳 MP3 檔案、觸發轉錄並查看生成的會議記錄。我們收到的即時回饋幫助我們改進介面,改善錯誤處理,並提高整體可用性。這個迭代過程讓我們確信,我們的解決方案確實能夠解決日常工作中的常見挑戰。 2. 專案簡介 項目名稱 LLM 增強型會議紀要產生器 概述 我們的應用程式將會議的 MP3 錄音轉換為 markdown 格式的詳細、結構化的會議記錄。透過將先進的音訊轉錄與強大的語言處理相結合,我們開發了一種可自動創建清晰、可操作的會議記錄的解決方案。 目標 自動化文件:消除記錄會議記錄的繁瑣手動流程。 提高效率:會議結束後快速產生高品質的會議總結。 增強清晰度:提供易於閱讀的輸出,包括帶有關鍵細節、討論要點、要點和指定所有者的可操作項目的摘要。...

利用開源多模式 AI 徹底改變會議紀要:我們使用 LLM 增強型產生器的歷程

LLM 增強型會議紀要產生器 1. 使用者研究與原型設計之旅 在我們的日常業務中,我們面臨著手動轉錄和總結會議記錄的挑戰——這個過程不僅耗時而且容易出錯。在對人工智慧的好奇心和改進工作流程的渴望的驅使下,我們開始進行使用者研究,以探索可以簡化此任務的解決方案。 訪談與觀察:我們與會議組織者、行政人員和抄寫員進行了交談,以了解他們的痛點。他們的回饋證實,手動筆記效率低下,確實需要自動化解決方案。 調查: 我們的調查顯示,使用者重視速度、準確性和簡單性。他們需要一種無需技術專業知識即可快速將音訊轉換為結構良好的會議記錄的工具。 使用 Gradio 進行原型設計:我們使用 Gradio 建立了一個早期原型,讓使用者上傳 MP3 檔案、觸發轉錄並查看生成的會議記錄。我們收到的即時回饋幫助我們改進介面,改善錯誤處理,並提高整體可用性。這個迭代過程讓我們確信,我們的解決方案確實能夠解決日常工作中的常見挑戰。 2. 專案簡介 項目名稱 LLM 增強型會議紀要產生器 概述 我們的應用程式將會議的 MP3 錄音轉換為 markdown 格式的詳細、結構化的會議記錄。透過將先進的音訊轉錄與強大的語言處理相結合,我們開發了一種可自動創建清晰、可操作的會議記錄的解決方案。 目標 自動化文件:消除記錄會議記錄的繁瑣手動流程。 提高效率:會議結束後快速產生高品質的會議總結。 增強清晰度:提供易於閱讀的輸出,包括帶有關鍵細節、討論要點、要點和指定所有者的可操作項目的摘要。...

Cooking Inspiration Made Easy with Llama 90B Multi-Modal

Llama 90B MultiModal 讓烹飪靈感變得簡單

1. 探索步驟:與利害關係人接觸並定義問題 決定做什麼菜有時候感覺像是永無止境的難題——尤其是當你打開冰箱卻只看到一堆隨機的食材時。在與朋友、家人和其他烹飪愛好者聊天后,我們注意到一個反覆出現的主題:人們常常缺乏靈感或對同樣的老食譜感到厭倦。 生成式人工智慧可以增加價值嗎?我們想,“如果人工智慧可以拍下冰箱裡的東西並當場提出膳食建議,那會怎樣?”這將: 節省時間:不再無止盡地爭論做什麼菜。 增加多樣性:推出用戶可能自己都想不到的有趣的新菜餚。 激發創造力:為那些「心情不太好」的日子提供新鮮、出乎意料的菜單創意。 我們的目標只是探索是否可以製作一個輕鬆、好奇心驅動的應用程式來激發廚房的創造力。 2. 設計步驟:解決方案與 Gradio UI 原型 為什麼選擇 Llama 3.2 90B (多模)? 我們使用了 Llama 3.2 90B,這是一個能夠處理文字和圖像的多模式模型。該模型的大量參數和圖像識別能力對於識別冰箱物品和提出食譜至關重要。 建構 Gradio 介面 我們把事情弄得非常簡單: 上傳照片:使用者拍攝冰箱或食品儲藏室物品的照片並上傳。 自動辨識:人工智慧分析影像以偵測常見成分。 菜單建議:幾秒鐘內,用戶就可以看到根據識別出的菜餚量身定制的膳食建議。 透過利用...

Llama 90B MultiModal 讓烹飪靈感變得簡單

1. 探索步驟:與利害關係人接觸並定義問題 決定做什麼菜有時候感覺像是永無止境的難題——尤其是當你打開冰箱卻只看到一堆隨機的食材時。在與朋友、家人和其他烹飪愛好者聊天后,我們注意到一個反覆出現的主題:人們常常缺乏靈感或對同樣的老食譜感到厭倦。 生成式人工智慧可以增加價值嗎?我們想,“如果人工智慧可以拍下冰箱裡的東西並當場提出膳食建議,那會怎樣?”這將: 節省時間:不再無止盡地爭論做什麼菜。 增加多樣性:推出用戶可能自己都想不到的有趣的新菜餚。 激發創造力:為那些「心情不太好」的日子提供新鮮、出乎意料的菜單創意。 我們的目標只是探索是否可以製作一個輕鬆、好奇心驅動的應用程式來激發廚房的創造力。 2. 設計步驟:解決方案與 Gradio UI 原型 為什麼選擇 Llama 3.2 90B (多模)? 我們使用了 Llama 3.2 90B,這是一個能夠處理文字和圖像的多模式模型。該模型的大量參數和圖像識別能力對於識別冰箱物品和提出食譜至關重要。 建構 Gradio 介面 我們把事情弄得非常簡單: 上傳照片:使用者拍攝冰箱或食品儲藏室物品的照片並上傳。 自動辨識:人工智慧分析影像以偵測常見成分。 菜單建議:幾秒鐘內,用戶就可以看到根據識別出的菜餚量身定制的膳食建議。 透過利用...

Building Apps with the Llama 8B Model

使用 Llama 8B 模型建立應用程式

嘿大家!我們最近完成了一個有趣的小項目,我認為與其他喜歡嘗試生成式人工智慧的人分享它會很棒。它是一個原型應用程序,可以幫助您自動產生 Midjourney 提示。可以將其視為激發創造力的簡單方法,無需過多考慮細節。 以下是我如何建造它以及在此過程中我發現的內容的簡要概述! 問題:提示需要時間 當我第一次開始使用 Midjourney 時,我意識到創建提示有時可能會很耗時 — — 特別是在嘗試不同的風格時。我還注意到,我認識的一些人(朋友、同事,甚至是疲憊一天時的自己)在想出「正確」的提示詞時會感到困惑。 因此,我開始思考: 我可以讓提示產生得更快一些嗎? 我可以讓剛接觸 Midjourney 的人更容易嗎? 這些問題成為我的專案的基礎。 建造過程 為了建立該應用程序,我專注於兩個目標: 讓使用者可以輕鬆輸入一個想法(例如“狗”)並快速獲得有用的提示。 確保應用程式快速且易於訪問,即使對於初學者也是如此。 我探索了不同的 AI 模型,測試了 8B 和 405B 版本的 Llama 3.1。雖然...

使用 Llama 8B 模型建立應用程式

嘿大家!我們最近完成了一個有趣的小項目,我認為與其他喜歡嘗試生成式人工智慧的人分享它會很棒。它是一個原型應用程序,可以幫助您自動產生 Midjourney 提示。可以將其視為激發創造力的簡單方法,無需過多考慮細節。 以下是我如何建造它以及在此過程中我發現的內容的簡要概述! 問題:提示需要時間 當我第一次開始使用 Midjourney 時,我意識到創建提示有時可能會很耗時 — — 特別是在嘗試不同的風格時。我還注意到,我認識的一些人(朋友、同事,甚至是疲憊一天時的自己)在想出「正確」的提示詞時會感到困惑。 因此,我開始思考: 我可以讓提示產生得更快一些嗎? 我可以讓剛接觸 Midjourney 的人更容易嗎? 這些問題成為我的專案的基礎。 建造過程 為了建立該應用程序,我專注於兩個目標: 讓使用者可以輕鬆輸入一個想法(例如“狗”)並快速獲得有用的提示。 確保應用程式快速且易於訪問,即使對於初學者也是如此。 我探索了不同的 AI 模型,測試了 8B 和 405B 版本的 Llama 3.1。雖然...