Tech

Unify有助開發人員找到最適合工作的LLM模型

當開發人員有特定的工作可以通過AI解決時,通常並不像只是將LLM對準數據那麼簡單。還有其他考慮因素,如成本、速度和精確度,找到平衡所有這些因素一直是一個特別具有挑戰性的任務,尤其是隨著不斷有新模型上線。

這就是Unify的作用,這是一家來自英國的初創公司,創始人是倫敦帝國學院的校友,他們開發了一個路由器工具,讓開發人員輸入參數,找到最適合其獨特需求的LLM模型。該公司在周三宣布了800萬美元的投資。

公司創始人兼首席執行官丹尼爾·倫頓告訴TechCrunch說:“Unify的主要目標是通過客觀基準和儀表板來確定哪些提供商的模型最適合您的任務,讓您可以進行比較。”

“這個路由器實際上在很大程度上是這個過程的自然延伸,尤其是當公司開始大規模部署時,速度和成本變得更加重要。因此,我們真正想做的是讓人們對其LLM應用的質量、成本和速度進行更多控制,”倫頓說。

不出所料,Unify使用AI運行核心路由器應用程序。“我們的路由器本身是一個學習的神經網絡。因此,它學會了哪些模型最適合執行哪些任務,”他說。該公司通過在每個新模型上對所有這些任務進行詳盡的基準測試來實現這一點,並使用GPT Pro作為評判。從中,系統學習了這個模型在其訓練集中完成某些任務時的表現如何。

倫頓表示,他們如何建立了一個獨特的模型來訓練路由器的方式,以及他們是如何防止自己的初創公司被更大的競爭對手侵蝕的。此外,他們是中立的,而且超大規模的公司可能不是。

他說,通常客戶只是在嘗試不同的模型,而沒有工具來追踪哪一個是最好的。

“有些人有著火燒頭的問題,他們願意嘗試現有的解決方案。因此,我認為這是我們成功引入市場的原因,”他說。

儘管像Martian Router、OpenRouter和Portkey等競爭對手存在,倫頓表示,他的公司是唯一一家為質量、成本和速度共同優化的公司。

目前該公司規模較小,有七名員工,他有意保持精簡,同時努力將一個完全商業化的產品推向市場。計劃今年再增加三名員工。

迄今為止,他們報告約有3000個註冊用戶,其中幾百名是常規用戶。他們希望通過向公司收費建立他們自己的定製基準來賺錢。每家公司可以使用50美元的信用額度開始使用這個工具。

這筆800萬美元的投資來自一系列投資者,包括SignalFire、M12、J12、Essence VC、A. Capital、Lunar VC、Y Combinator以及一些知名的行業天使投資人。

Related Articles

Back to top button