
就在芯片製造商Tenstorrent籌集了將近7億美元的資金數周後,開發人員現在可以在Koyeb上嘗試Tenstorrent的AI加速器。Tenstorrent銷售圍繞RISC-V指令集架構構建的AI處理器,並已開發了自己的開源神經網絡庫TT-NN和開源低級編程模型TT-Metalium。
Tenstorrent是一組公司中的一員,試圖構建替代Nvidia GPU和該公司的CUDA庫。它與Axelera、Etched、Groq等公司競爭。
Koyeb是由前Scaleway高管創立的,專注於為尋求在雲基礎架構層面上提供抽象層的開發人員開發無服務器雲平台。它與Fly.io、Railway和Render等公司競爭。
Koyeb允許開發人員使用命令行界面或在集成代碼庫之後通過git push部署應用程序跨多個虛擬機。它支持Docker容器和許多流行的語言。
Koyeb的一個主要功能是,如果需要,它可以自動將應用程序擴展到數百個服務器,以及當流量較少時,可以自動縮減服務器基礎架構。
近幾個月來,Koyeb一直專注於AI應用程序。由於其平台的無服務器性質,它可以為AI工作負載提供低延遲的體驗。
開發人員將在Koyeb的文檔和管理面板中找到兩種新型實例:
- TT-N300S實例具有24GB的GDDR6內存,192MB的SRAM,並提供高達466 FP8 TFLOPS。它配有64GB的內存和4個vCPU。
- TT-Loudbox實例具有四個N300S。開發人員獲得96GB的GDDR6內存,768MB的SRAM,並高達1,864 FP8 TFLOPS。它具有256GB的內存和16個vCPU。
通過此版本,Koyeb試圖將自己定位為硬件不可知的雲平台。Koyeb的聯合創始人兼CEO Yann Leger告訴TechCrunch:“這讓我們想起ARM在高性能芯片上市場上的首次亮相。”
“自2013-2014年我們在Scaleway推出ARM以來,提供完全自定義的服務器時,我們就有了部署各種架構和操作各種硬件的經驗,”他補充道。