Lemony AI: Yerinde AI'yı İşletmenize Getiriyor
Uptime Industries, işletmelere yerinde yapay zeka yetenekleri sağlamak için tasarlanmış kompakt bir "kutu içi AI" çözümü olan Lemony AI'yı sunar.
Bir sandviç büyüklüğündeki Lemony AI, büyük dil modellerini (LLM'ler), AI aracılarını ve karmaşık AI iş akışlarını tek bir düğümde çalıştırabilir. Bir dizüstü bilgisayar şarj etmekle eşdeğer olan yalnızca 65 watt güç gerektiren birden fazla Lemony cihazı, daha fazla işlem gücü için istiflenebilir ve daha büyük AI kümeleri oluşturmak üzere bağlanabilir.
Güçlü ve Ölçeklenebilir Yerinde AI
Her Lemony düğümü, 75 milyara kadar parametreye sahip LLM'leri destekleyebilir ve hem açık kaynaklı hem de güçlendirilmiş kapalı modelleri barındırabilir. Bir küme içinde, her Lemony cihazı farklı bir model çalıştırarak esneklik ve özelleştirme sağlar.
Uptime Industries, müşterileri için IBM'in kapalı modelleri de dahil olmak üzere AI modellerine erişimi basitleştirmek için IBM ve JetBrains ile ortaklık kurmuştur.
Veri Gizliliğine Öncelik Vermek
Raspberry Pi mikrobilgisayarlarda dağıtılmış dil modellerini araştıran bir yan projeden doğan Lemony AI, AI benimsenmesinde artan veri gizliliği ihtiyacını ele almaktadır.
“Ekiplere kolayca girebilecek ve kurum genelinde karar alma gerektirmeyen, yerinde üretken AI çözümlerini iş ekiplerine getiren küçük bir şey inşa etmemiz gerekiyor” diyor Uptime'ın kurucu ortağı ve CEO'su Sascha Buehrle.
Yerinde işlemeye odaklanılması, hassas verilerin kuruluşun kontrolünde kalmasını sağlar; bu, Uptime'ın zaten güçlü bir talep gördüğü finans, sağlık ve hukuk gibi sektörler için kritik bir endişedir.
“Her şey kutunuzda kalır. Yani belgeleriniz, dosyalarınız, e-postalarınız - modeller kutuda barındırılır, aracılar kutuda yerel olarak çalışır ve hiçbir şey kutudan çıkmaz,” diye vurguluyor Buehrle.
Finansman ve Gelecek Geliştirme
Uptime Industries, Alumni Ventures, JetBrains ve melek yatırımcıların katılımıyla True Ventures liderliğinde 2 milyon dolarlık tohum finansmanı sağladı. Bu finansman, Lemony AI'nın ve altında yatan yazılımı Lemony OS'nin daha da geliştirilmesini destekleyecektir.
Şirket, Lemony OS uyumluluğunu Nvidia DGX Spark gibi diğer donanımlara genişletmeyi ve işlevselliğini tek kullanıcı erişiminden ekip tabanlı iş birliğine geliştirmeyi planlıyor.
Lemony AI şu anda aylık 499 ABD doları karşılığında beş kullanıcıya kadar erişim sağlayarak kullanılabilir.
