Edge0-120B 관련 소식
모두 1건, 최신순입니다.
Edge0, 145B 모델을 오픈소스로 공개해 노트북 로컬 구동
Edge0가 Edge0-145B와 Edge0-120B를 추론 프레임워크, 배포 도구와 함께 오픈소스로 공개했다. 가중치와 Edge0 App을 받을 수 있다. 노트북에서 Edge0-145B는 최대 메모리 29GB, prefill 1,100+ 토큰/초, decode 80+ 토큰/초, 전력 약 120W로 보고됐다.
지금 사용 가능