DeepSeek Releases Open-Source Tool To Cut AI Operating Costs

Business Standard · technology

Chinese AI company DeepSeek has unveiled DeepInfer, an open-source software designed to reduce the cost of running artificial intelligence models. This production stack allows AI to run faster and use computing resources more efficiently, aiming to make AI more affordable for businesses. DeepInfer currently supports DeepSeek's V4.1-Flash model, with future system support planned. The release offers insights into AI inference cost reduction techniques typically kept private by companies. It enables cloud providers and enterprises to deploy these cost-saving methods, potentially lowering prices for end-users.

DeepSeek ने AI चलाने की लागत कम करने के लिए ओपन-सोर्स टूल जारी किया

चीनी AI कंपनी DeepSeek ने DeepInfer नाम का एक ओपन-सोर्स सॉफ्टवेयर लॉन्च किया है, जो आर्टिफिशियल इंटेलिजेंस मॉडल चलाने की लागत को कम करने के लिए बनाया गया है। यह प्रोडक्शन स्टैक AI को तेज़ चलाने और कंप्यूटिंग संसाधनों का ज़्यादा कुशलता से इस्तेमाल करने में मदद करता है, ताकि AI व्यवसायों के लिए ज़्यादा किफ़ायती हो सके। DeepInfer फिलहाल DeepSeek के V4.1-Flash मॉडल को सपोर्ट करता है, और भविष्य में सिस्टम सपोर्ट की योजना है। यह रिलीज़ AI इन्फेरेंस लागत कम करने की उन तकनीकों के बारे में जानकारी देता है जिन्हें आमतौर पर कंपनियां गुप्त रखती हैं।