bitnet

초기에는 성능 저하가 컸으나, 최근에는 OPTQ, QuaRot과 같이 중요한 가중치를 효과적으로 보존하거나, 심지어 1비트 수준까지 낮추는 극단적인 양자화(BitNet 등) 기술이 등장하며 비약적인 발전을 이루었다....

임 센터장은 "마이크로소프트의 '비트넷'(BitNet) 알고리즘은 부동소수점 연산을 최소화해 AI 모델의 경량화와 에너지 소비 50~90% 절감을 가능하게 했다"면서 "IBM과 구글의 AI 칩은 기존 GPU 대비 2~5배 효율을 보여 데이터센터...

and BitNet, a large-scale model technique that improves efficiency through low-precision, bit-based computation. Also at the event, poster and demonstration sessions were held to present Korean...

둘째, 엔비디아가 장악한 고성능 연산 시장을 우회해, BitNet b1.58과 같은 초경량 AI 모델에 최적화된 맞춤형 반도체(ASIC)를 개발하여 엣지 디바이스와 같은 새로운 시장을 선점하는 전략이다. 그러나 김 교수는 이 모든...

비트넷(BitNet) b1.58 (마이크로소프트 리서치): CPU 기반에서 작동 가능한 1비트 모델로, 코드 생성 성능도 준수해 인프라 비용을 크게 절감할 수 있다. 큐원(Qwen)3-235B-A22B (알리바바): 클로드급 추론력을 가진 아파치 2.0...

MS와 중국 과학원이 공동 발표한 BitNet 모델은 가중치를 1.58비트로 줄여 메모리 소비를 약 10배 낮추었고, 이어 저비트에 최적화된 비GPU 가속기가 속속 등장하고 있다. 이 정도면 개인 휴대전화에서 대형언어모델이...

As a comparison, Microsoft’s BitNet b1.58 2B4T recorded around 80,000 downloads over the past month while Alibaba’s Qwen3 models ranged from 200,000 to 500,000 downloads depending on size....

마이크로소프트(MS)가 지난달 12일 공개한 경량 오픈소스 모델 '비트넷(BitNet) b1.58 2B4T'는 지난 한 달간 약 8만건의 다운로드를 기록하고 있다. 중국 알리바바의 최신 모델 '큐원3'는 네이버와 비슷한 시기에 나왔는데...

1일 업계에 따르면 MS는 최근 AI모델 공유 플랫폼 허깅페이스(Hugging Face) 등을 통해 20억 파라미터(매개변수)를 보유한 '비트넷 b1.58 2B4T(BitNet b1.58 2B4T)' AI 모델을 공개했다. MS는 비트넷이 메모리 용량과 필요 에너지...