速度與激情
為什麼混合人工智慧優於代幣銷毀

我們顯然生活在一個充滿變數、瞬息萬變的時代。我最近與執行長德里克·霍爾特進行了一次深入的交談。 Digital.ai在他的播客節目即將播出的一集中， Released：《軟體背後的故事》，探討人工智慧對軟體開發的影響。在我們對話後的幾天內，各個組織就迷上了一個新的愛好：收集代幣！

發生什麼事了嗎？ 越來越多的供應商正在轉向基於消費量的授權模式。

這感覺很像十多年前雲端運算熱潮初期的情況。還記得嗎？當時感覺一切皆有可能，直到收到超大規模雲端服務供應商的第一張帳單。這次的價格上漲我們也不該感到驚訝。如果你關注了近幾個月人工智慧公司的新聞，你會發現，這些公司背後的巨額投資最終都會轉嫁到我們用戶身上。僅在過去12個月裡，人工智慧公司就透過債券發行籌集了超過225億美元的資金，投資者希望盡快看到回報。

那麼，還有出路嗎？ 我們本應從過去吸取教訓。但身為人類，當人工智慧這樣具有突破性的事物出現時，我們總是熱衷於嘗試和探索，盡可能地去體驗它。這似乎是一種貫穿人類歷史的模式。

答案其實很簡單：考慮一下混合模式！

那是什麼意思？ 過去十年，我們可以自由選擇軟體開發工具的部署方式，例如SaaS或自建部署。但人工智慧的出現，讓許多供應商失去了這種自由。如果需要人工智慧功能，SaaS往往是唯一選擇，而且許多供應商也不再允許使用者選擇LLM（生命週期管理模型）。關鍵問題在於，我們是否真的需要功能最強大的LLM來完成目前任務。你多久會產生一次程式碼？多久會將中世紀詩歌翻譯成另一種語言？大型LLM可以同時完成這兩項任務，但價格遠高於你選擇的、更強大、更優化的LLM模型。後者可以產生程式碼、處理拉取請求，或改進任務描述和需求結構。

過去12個月裡，我們都目睹了AI伺服器價格的飆升。即便如此，您或許會驚訝於自託管甚至物理隔離模式下，在您自己的硬體上運行的方案，其成本回收速度之快。模擬結果顯示，即使算上購買和運行必要硬體的成本，純SaaS解決方案三年的總成本也可能比自託管方案高出六到七倍，而且自託管方案有時還能帶來更快的周轉速度。此外，由於您的資料始終保留在您的本地，因此安全性也得到了提升。

在用於軟體開發的智慧體人工智慧領域，混合模式包含兩個維度：部署模型和生命週期管理模型（LLM）。我認為，未來軟體開發中將會出現大型和專用生命週期管理模型的混合模式，大型模型以軟體即服務（SaaS）的形式應用於處理PB級數據，而專用模型則用於處理日常任務​​。

最後，我想再補充一點。我們現在看到的許多工具都源自於人工智慧時代之前，並且已經使用了多年，有的甚至長達數十年。現在是時候考慮將它們現代化了。許多組織對人工智慧專案的成果並不滿意，或正面臨新的安全問題和基礎設施瓶頸。其中一個原因是缺乏上下文信息，這是由於數據孤島分散在基於最佳實踐構建的工具棧中造成的。要充分利用這些上下文訊息，關鍵在於如何透過智慧體人工智慧最大限度地發揮令牌的作用。同時，升級工具基礎架構以避免持續整合/持續交付 (CI/CD) 流程中的瓶頸也同樣重要。這裡的關鍵字是自動化。如果你的工具難以自動化，那麼是時候考慮做出改變了。

對於那些準備重新思考其部署模式、生命週期管理選擇以及整個軟體開發生命週期自動化的組織而言，這正是他們所需要的。 Digital.ai 而「知行合一」的心態或許能有所幫助。我和德里克將在即將播出的播客節目中深入探討所有這些內容。 銷毀代幣：人工智慧出錯的隱性成本從人工智慧的真實成本到人類為何需要保持控制權，我們都將一一探討。隨著我們合作關係的進一步拓展，現在正是最佳時機。

請關注未來幾天的完整對話。