рдЖрдЬрдХрд▓ рдЖрд░реНрдЯрд┐рдлрд┐рд╢рд┐рдпрд▓ рдЗрдВрдЯреЗрд▓рд┐рдЬреЗрдВрд╕ (AI) рдХреА рджреБрдирд┐рдпрд╛ рдореЗрдВ рдХрд╛рдо рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдорд╣рдВрдЧреЗ рдХрдВрдкреНрдпреВрдЯрд░ рдФрд░ рдЦрд╛рд╕ GPU рдЪрд┐рдкреНрд╕ рдХреА рдЬрд░реВрд░рдд рд╣реЛрддреА рд╣реИ, рдЬреЛ рд╣рд░ рдХрд┐рд╕реА рдХреЗ рдмрд╕ рдХреА рдмрд╛рдд рдирд╣реАрдВ рд╣реИред рд▓реЗрдХрд┐рди рдЕрдм рдПрдХ рднрд╛рд░рддреАрдп рд╕реНрдЯрд╛рд░реНрдЯрдЕрдк рдиреЗ рдЗрд╕ рд╕реЛрдЪ рдХреЛ рдмрджрд▓рдиреЗ рдХреА рд╢реБрд░реБрдЖрдд рдХрд░ рджреА рд╣реИред рдЗрд╕ рд╕реНрдЯрд╛рд░реНрдЯрдЕрдк рдиреЗ IIT рдорджреНрд░рд╛рд╕ рдХреЗ рд╕рд╛рде рдорд┐рд▓рдХрд░ рдПрдХ рдРрд╕реА рдЯреЗрдХреНрдиреЛрд▓реЙрдЬреА рдмрдирд╛рдИ рд╣реИ рдЬрд┐рд╕рд╕реЗ AI рдореЙрдбрд▓ рдЕрдм рдЖрдо рдХрдВрдкреНрдпреВрдЯрд░ рдФрд░ рд▓реИрдкрдЯреЙрдк рдкрд░ рднреА рдЪрд▓рд╛рдП рдЬрд╛ рд╕рдХрддреЗ рд╣реИрдВред рдЬрд╛рдиреЗрдВ рдЗрд╕ рдЯреЗрдХреНрдиреЛрд▓реЙрдЬреА рдХрд╛ рдХреНрдпрд╛ рдирд╛рдо рд╣реИ рдФрд░ рдХреНрдпрд╛ рдпрд╣ рддрдХрдиреАрдХ рдЖрдиреЗ рд╡рд╛рд▓реЗ рд╕рдордп рдореЗрдВ рднрд╛рд░рдд рдХреЛ AI рдХреА рджреМрдбрд╝ рдореЗрдВ рдЖрдЧреЗ рд▓реЗ рдЬрд╛рдиреЗ рдХрд╛ рджрдо рд░рдЦрддреА рд╣реИред
рдмрдбрд╝реА AI рдЯреЗрдХреНрдиреЛрд▓реЙрдЬреА рдЕрдм рдЖрдо рдХрдВрдкреНрдпреВрдЯрд░реЛрдВ рдкрд░ рднреА
рднрд╛рд░рддреАрдп рд╕реНрдЯрд╛рд░реНрдЯрдЕрдк Ziroh Labs рдиреЗ IIT рдорджреНрд░рд╛рд╕ рдХреЗ рд╢реЛрдзрдХрд░реНрддрд╛рдУрдВ рдХреЗ рд╕рд╛рде рдорд┐рд▓рдХрд░ рдПрдХ рдРрд╕реА рдЯреЗрдХреНрдиреЛрд▓реЙрдЬреА рд╡рд┐рдХрд╕рд┐рдд рдХреА рд╣реИ, рдЬрд┐рд╕рд╕реЗ рдмрдбрд╝реЗ рдЖрд░реНрдЯрд┐рдлрд┐рд╢рд┐рдпрд▓ рдЗрдВрдЯреЗрд▓рд┐рдЬреЗрдВрд╕ (AI) рдореЙрдбрд▓реНрд╕ рдХреЛ рдЖрдо рдХрдВрдкреНрдпреВрдЯрд░реЛрдВ рдкрд░ рднреА рдЪрд▓рд╛рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИред рдЗрд╕ рдЯреЗрдХреНрдиреЛрд▓реЙрдЬреА рдХрд╛ рдирд╛рдо Kompact AI рд╣реИред Ziroh Labs рдХрд╛ рджрд╛рд╡рд╛ рд╣реИ рдХрд┐ рдпрд╣ рдЯреЗрдХреНрдиреЛрд▓реЙрдЬреА рдЙрди рдорд╣рдВрдЧреЗ GPU рдЪрд┐рдкреНрд╕ рдХреА рдЬрд░реВрд░рдд рдХреЛ рдЦрддреНрдо рдХрд░ рджреЗрддреА рд╣реИ, рдЬрд┐рдирдХреА рдорджрдж рд╕реЗ рдЖрдорддреМрд░ рдкрд░ AI рдореЙрдбрд▓реНрд╕ рдХреЛ рдЪрд▓рд╛рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред рдЕрдм рдпрд╣ рдХрд╛рдо рд╕рд╛рдорд╛рдиреНрдп CPU рдЪрд┐рдкреНрд╕ рд╕реЗ рднреА рд╕рдВрднрд╡ рд╣реЛ рдкрд╛рдПрдЧрд╛, рдЬреЛ рдЬреНрдпрд╛рджрд╛рддрд░ рд▓реИрдкрдЯреЙрдк рдФрд░ рдбреЗрд╕реНрдХрдЯреЙрдк рдореЗрдВ рдкрд╛рдП рдЬрд╛рддреЗ рд╣реИрдВред
ЁЯЗоЁЯЗ│INDIAтАЩS KOMPACT AI RUNS LLAMA ON A LAPTOP
Ziroh Labs and the Indian Institute of Technology Madras have built Kompact AI тАФ a framework that ditches expensive Nvidia GPUs and runs large models on everyday CPUs.
---рд╡рд┐рдЬреНрдЮрд╛рдкрди---At a live demo, MetaтАЩs Llama 2 and AlibabaтАЩs Qwen2.5 were queriedтАж https://t.co/xRMHY1VFbO pic.twitter.com/61q3yj8a1p
тАФ Mario Nawfal (@MarioNawfal) April 10, 2025
рд╕рд╛рдзрд╛рд░рдг рд▓реИрдкрдЯреЙрдк рдкрд░ рд╣реБрдЖ рд╕рдлрд▓ рдбреЗрдореЛ
Ziroh Labs рдиреЗ рдПрдХ рдбреЗрдореЛ рдХрд╛рд░реНрдпрдХреНрд░рдо рдореЗрдВ рджрд┐рдЦрд╛рдпрд╛ рдХрд┐ рдЙрдирдХрд╛ рд╕рд┐рд╕реНрдЯрдо рдПрдХ рд╕рд╛рдорд╛рдиреНрдп Intel Xeon рдкреНрд░реЛрд╕реЗрд╕рд░ рд╡рд╛рд▓реЗ рд▓реИрдкрдЯреЙрдк рдкрд░ рднреА рдХрд╛рдо рдХрд░ рд╕рдХрддрд╛ рд╣реИред рдЗрд╕ рджреМрд░рд╛рди рдЙрдиреНрд╣реЛрдВрдиреЗ рджрд┐рдЦрд╛рдпрд╛ рдХрд┐ рдЙрдирдХреЗ рд╕рд┐рд╕реНрдЯрдо рд╕реЗ рдореЗрдЯрд╛ рдХрд╛ Llama 2 рдФрд░ рдЕрд▓реАрдмрд╛рдмрд╛ рдХрд╛ Qwen 2.5 рдЬреИрд╕реЗ рдПрдбрд╡рд╛рдВрд╕ AI рдореЙрдбрд▓ рднреА рдЪрд▓рд╛рдП рдЬрд╛ рд╕рдХрддреЗ рд╣реИрдВред рдХрдВрдкрдиреА рдХрд╛ рдХрд╣рдирд╛ рд╣реИ рдХрд┐ рдЗрд╕ рдЯреЗрдХреНрдиреЛрд▓реЙрдЬреА рд╕реЗ AI рдореЙрдбрд▓ рдХреЛ рдЯреНрд░реЗрди рдХрд░рдиреЗ рдХреЗ рдмрд╛рдж рдЙрд╕реЗ рдЗрд╕реНрддреЗрдорд╛рд▓ (inference) рдХрд░рдиреЗ рдХреА рдкреНрд░рдХреНрд░рд┐рдпрд╛ рдмрд╣реБрдд рдЖрд╕рд╛рди рдФрд░ рд╕рд╕реНрддреА рд╣реЛ рдЬрд╛рдПрдЧреАред рдЕрдореЗрд░рд┐рдХрд╛ рдХреА рджреЛ рдмрдбрд╝реА рдЪрд┐рдк рдХрдВрдкрдирд┐рдпреЛрдВ Intel рдФрд░ AMD рдиреЗ рднреА рдЗрд╕ рдЯреЗрдХреНрдиреЛрд▓реЙрдЬреА рдХрд╛ рдкрд░реАрдХреНрд╖рдг рдХрд┐рдпрд╛ рд╣реИред
рдЕрдм GPU рдХреА рдЬрд░реВрд░рдд рдирд╣реАрдВ
AI рдореЙрдбрд▓ рдХреЛ CPU рд╕реЗ рдЪрд▓рд╛рдиреЗ рдХреА рдпрд╣ рдкрд╣рд▓ рдЗрд╕рд▓рд┐рдП рднреА рдЕрд╣рдо рдорд╛рдиреА рдЬрд╛ рд░рд╣реА рд╣реИ рдХреНрдпреЛрдВрдХрд┐ GPU рдЪрд┐рдкреНрд╕ рдмрд╣реБрдд рдорд╣рдВрдЧреЗ рдФрд░ рд╕реАрдорд┐рдд рдорд╛рддреНрд░рд╛ рдореЗрдВ рдЙрдкрд▓рдмреНрдз рд╣реИрдВред рдЗрд╕рд╕реЗ рднрд╛рд░рдд рд╕рдореЗрдд рдХрдИ рджреЗрд╢реЛрдВ рдХреЗ рд╕реНрдЯрд╛рд░реНрдЯрдЕрдкреНрд╕ рдФрд░ рд░рд┐рд╕рд░реНрдЪрд░реНрд╕ рдХреЗ рд▓рд┐рдП AI рдкрд░ рдХрд╛рдо рдХрд░рдирд╛ рдореБрд╢реНрдХрд┐рд▓ рд╣реЛ рдЬрд╛рддрд╛ рд╣реИред рдЕрдм Ziroh Labs рдХреА рдЯреЗрдХреНрдиреЛрд▓реЙрдЬреА рд╕реЗ рдпрд╣ рдХрд╛рдо рд╕рд╕реНрддреЗ рдФрд░ рдЖрд╕рд╛рдиреА рд╕реЗ рдЙрдкрд▓рдмреНрдз CPU рдЪрд┐рдкреНрд╕ рд╕реЗ рднреА рд╣реЛ рд╕рдХреЗрдЧрд╛ред рдЗрд╕рд╕реЗ рдЫреЛрдЯреЗ рд╢рд╣рд░реЛрдВ, рдХреЙрд▓реЗрдЬреЛрдВ рдФрд░ рд░рд┐рд╕рд░реНрдЪ рд╕рдВрд╕реНрдерд╛рдиреЛрдВ рдХреЛ рднреА AI рдЯреЗрдХреНрдиреЛрд▓реЙрдЬреА рддрдХ рдкрд╣реБрдВрдЪ рдорд┐рд▓реЗрдЧреА, рдЬреЛ рдЕрдм рддрдХ рдХреЗрд╡рд▓ рдмрдбрд╝реА рдХрдВрдкрдирд┐рдпреЛрдВ рддрдХ рд╕реАрдорд┐рдд рдереАред
рд╕рд╕реНрддреА AI рдЯреЗрдХреНрдиреЛрд▓реЙрдЬреА рдХреА рдУрд░ рдмрдбрд╝рд╛ рдХрджрдо
IIT рдорджреНрд░рд╛рд╕ рдХреЗ рдирд┐рджреЗрд╢рдХ рд╡реА. рдХрд╛рдордХреЛрдЯреА рдиреЗ рдЗрд╕ рдЯреЗрдХреНрдиреЛрд▓реЙрдЬреА рдХреЛ рдЧреЗрдордЪреЗрдВрдЬрд░ рдмрддрд╛рдпрд╛ред рдЙрдиреНрд╣реЛрдВрдиреЗ рдХрд╣рд╛ тАЬAI рдХреА рджреБрдирд┐рдпрд╛ рдореЗрдВ рдЕрднреА рддрдХ рд╡рд╣реА рд▓реЛрдЧ рдЖрдЧреЗ рдмрдврд╝ рдкрд╛рдП рд╣реИрдВ, рдЬрд┐рдирдХреЗ рдкрд╛рд╕ рдорд╣рдВрдЧреЗ GPU рд╕рдВрд╕рд╛рдзрди рд╣реИрдВред рд▓реЗрдХрд┐рди рд╣рдо рдпрд╣ рджрд┐рдЦрд╛ рд░рд╣реЗ рд╣реИрдВ рдХрд┐ рдордЪреНрдЫрд░ рдорд╛рд░рдиреЗ рдХреЗ рд▓рд┐рдП рдмрдВрджреВрдХ рдХреА рдЬрд░реВрд░рдд рдирд╣реАрдВ рд╣реЛрддреАредтАЭ рдЗрд╕ рдХрд╛рд░реНрдпрдХреНрд░рдо рдореЗрдВ рд╕реБрди рдорд╛рдЗрдХреНрд░реЛрд╕рд┐рд╕реНрдЯрдореНрд╕ рдХреЗ рдкреВрд░реНрд╡ рдЕрдзрд┐рдХрд╛рд░реА рдФрд░ рдЯреЗрдХреНрдиреЛрд▓реЙрдЬреА рд╕рд▓рд╛рд╣рдХрд╛рд░ рд╡рд┐рд▓рд┐рдпрдо рд░рд╛рдбреБрдЪреЗрд▓ рдиреЗ рднреА рд╡рд░реНрдЪреБрдЕрд▓реА рд╣рд┐рд╕реНрд╕рд╛ рд▓рд┐рдпрд╛ рдФрд░ рдХрд╣рд╛ рдХрд┐ рдпрд╣ рдЯреЗрдХреНрдиреЛрд▓реЙрдЬреА рдЖрдиреЗ рд╡рд╛рд▓реЗ рд╡рд░реНрд╖реЛрдВ рдореЗрдВ AI рдмрд╛рдЬрд╛рд░ рдХреА рджрд┐рд╢рд╛ рдмрджрд▓ рд╕рдХрддреА рд╣реИред









