본문으로 건너뛰기
devbrief
.
오늘
AI
개발 뉴스
행사
발표 영상
오픈소스
저장
개발 글 검색
Ctrl K
어떤 기술이 궁금하세요?
두 글자 이상 입력하면 전체 개발 글에서 찾아드려요.
한국어
원문
개발 뉴스
개발자의 시야를 넓히는 새로운 이야기.
전체
7110
안 본 글
100
검색 결과
2
개발 이야기
dev.to
vLLM 내부: API에서 GPU 실행까지의 단일 요청 따르기
3개 중 1조 · vLLM 내부 이 영어판은 Zhihu에 게시된 중국어 기사를 각색한 것입니다.
AI
·
dev.to
·
3시간 전
#vllm
#llm
#inference
AMD GPU 기반 vLLM의 추측 디코딩
핵심요약: 추측적 디코딩을 통해 vLLM은 단일 대상 모델 패스에서 여러 초안 토큰을 확인할 수 있습니다.
Infra
·
Hacker News
·
7시간 전
이전 글 더 불러오기
최근 100건 로드됨 · 전체 7110건
