Merkezi Chennai’de bulunan küresel bir teknoloji şirketi olan Zoho Corporation, bugün büyük dil modellerini (LLM’LER) SaaS uygulamalarında oluşturmak ve dağıtmak için NVIDIA AI Kurumsal yazılımının bir parçası olan NVIDIA NEMO’YU içeren NVIDIA AI hızlandırılmış bilgi işlem platformundan yararlanacağını duyurdu.
LLM’LER oluşturulduktan ve dağıtıldıktan sonra, Zoho Corporation’ın manageengine’deki 700.000’den fazla müşterisine sunulacak ve Zoho.com küresel olarak. Geçtiğimiz yıl NVİDİA’NIN yapay zeka teknolojisine ve Gpu’larına 10 milyon dolardan fazla yatırım yapan şirket, önümüzdeki yıl 10 milyon ABD Doları daha yatırım yapmayı planlıyor. Duyuru, Mumbai’deki NVIDIA AI Zirvesi sırasında yapıldı.
Zoho Corporation’ın Yapay Zeka Direktörü Ramprakash Ramamoorthy, “Bugün piyasadaki birçok LLM, işletmeler için sınırlı değer sunan tüketici kullanımı için tasarlandı. Zoho’da misyonumuz, çok çeşitli iş kullanım durumları için özel olarak tasarlanmış llm’ler geliştirmektir. Çeşitli iş işlevlerini kapsayan ürünlerle tüm teknoloji yığınımıza sahip olmak, yapay zekayı gerçekten etkili kılan temel unsuru entegre etmemize olanak tanır: bağlam.”
Zoho, daha sonra uyarlamak yerine, baştan itibaren gizlilik düzenlemelerine uygun modeller oluşturmak için kullanıcı gizliliğine öncelik verir. Amacı, iş hacmini artırmak ve gecikmeyi azaltmak için NVIDIA AI yazılımının tüm yığınından ve hızlandırılmış hesaplamadan yararlanarak işletmelerin yatırım getirisini hızlı ve etkili bir şekilde gerçekleştirmelerine yardımcı olmaktır.
Zoho, on yılı aşkın bir süredir kendi yapay zeka teknolojisini geliştiriyor ve ManageEngine ve Zoho bölümlerinde 100’den fazla üründen oluşan geniş portföyüne bağlamsal olarak ekliyor. Yapay zekaya yaklaşımı, kullanıcıların iş kararları vermelerine yardımcı olabilecek bağlamsal zeka türetmeye yönelik çok modellidir. Şirket, llm’lerden farklı dar, küçük ve orta ölçekli dil modelleri geliştiriyor. Bu, çeşitli kullanım durumlarında daha iyi sonuçlar elde etmek için farklı boyutta modeller kullanma seçenekleri sunar. Birden fazla modele güvenmek, aynı zamanda büyük miktarda veriye sahip olmayan işletmelerin yapay zekadan hala yararlanabileceği anlamına gelir. Gizlilik aynı zamanda Zoho’nun yapay zeka stratejisinde temel bir ilkedir ve LLM modelleri müşteri verileri konusunda eğitilmeyecektir.
nvidia’nın Asia South Genel Müdürü Vishal Dhupar, ”Bir dizi yapay zeka modeli boyutu arasından seçim yapabilme yeteneği, işletmelerin yapay zeka çözümlerini tam olarak ihtiyaçlarına göre uyarlamalarını ve performansı maliyet etkinliğiyle dengelemelerini sağlıyor” dedi. “NVIDIA’nın yapay zeka yazılımı ve hızlandırılmış bilgi işlem platformu ile Zoho, ticari müşterilerinin farklı ihtiyaçlarına hizmet etmeye yardımcı olmak için geniş bir model yelpazesi oluşturuyor.”
Bu işbirliği sayesinde Zoho, llm’leri, multimodal, vizyon ve konuşma yapay zekası dahil olmak üzere özel üretken yapay zeka geliştirmek için NVIDIA NeMo uçtan uca platformunu kullanarak NVIDIA Hopper GPU’ları ile NVIDIA hızlandırılmış bilgi işlem platformunda llm’lerini hızlandıracak. Ek olarak Zoho, llm’lerini dağıtım için optimize etmek için NVIDIA TensorRT-llm’yi test ediyor ve daha önce kullanılan açık kaynaklı bir çerçeveye kıyasla verimde% 60 artış ve gecikmede% 35 azalma gördü. Şirket ayrıca NVİDİA hızlandırılmış bilgi işlem altyapısında konuşmadan metne gibi diğer iş yüklerini de hızlandırıyor.
