'이젠 CPU로도 AI 돌린다'…마이크로소프트, 초경량 AI 모델 '비트넷' 공개

고사양 GPU 없이도 메타·구글·알리바바 AI 성능 능가…호환성은 해결 과제마이크로소프트(MS)가 소형 중앙처리장치(CPU)로 구동되는 고효율 인공지능(AI) 모델을 공개해 주목받고 있다.

17일 테크크런치에 따르면 MS 연구원들은 경량형 AI 모델 '비트넷 b1.58 2B4T'를 개발했다.

 MS가 CPU로 구동할 수 있는 AI 모델 '비트넷'을 개발했다. (사진=미국 지디넷닷컴)
비트넷은 AI 구동에 필요한 대용량 그래픽처리장치(GPU) 자원이 아닌 소형 CPU에서 실행할 수 있도록 설계된 압축 모델이다. 애플의 M2와 같은 상용 CPU에서 작동 가능한 것으로 알려졌다.

비트넷은 기존의 거대 AI 모델 대비 메모리 연산 효율을 높인 것이 특징이다. 모델의 내부 구조를 정의하는 값인 가중치를 -1, 0, 1의 세 가지 값으로 양자화하는 방식을 도입해 컴퓨터가 처리할 수 있는 비트 수를 줄여 연산 속도를 높였다.

MS 연구진은 "비트넷이 20억 개의 매개변수를 지닌 기존의 AI 모델들보다 성능이 우수하다"고 주장했다.

앞서 MS는 비트넷에 대해 초등학교 수준의 수학 문제를 푸는 'GSM8K'와 물리적 상식 추론 능력을 테스트하는 'PIQA' 등의 자체 벤치마크 테스트를 수행했다.

MS는 "자체 테스트에서 비트넷이 메타의 '라마3.2 1B'와 구글의 '젬마3 1B', 알리바바의 '큐원2.5 1.5B'를 능가했다"며 "비트넷은 같은 크기의 다른 모델보다 훨씬 빠르고 메모리 사용량은 더 적다"고 밝혔다.