AI 모델이 5년 안에 100조개 파라미터 규모로 커지고 하루 처리하는 토큰도 100경개에 이를 것으로 예상된다. 화웨이는 개별 칩 성능을 높이거나 서버를 단순히 늘리는 방식으로는 이 같은 폭발적인 컴퓨팅 수요를 감당하기 어렵다고 보고, 수천~수만개의 가속기와 CPU, 메모리, 스토리지를 ...
자세한 내용은 원문에서 확인하세요.

AI 모델이 5년 안에 100조개 파라미터 규모로 커지고 하루 처리하는 토큰도 100경개에 이를 것으로 예상된다. 화웨이는 개별 칩 성능을 높이거나 서버를 단순히 늘리는 방식으로는 이 같은 폭발적인 컴퓨팅 수요를 감당하기 어렵다고 보고, 수천~수만개의 가속기와 CPU, 메모리, 스토리지를 ...
자세한 내용은 원문에서 확인하세요.
아직 댓글이 없습니다.