| NVIDIA empowers enterprises to simplify the deployment of generative AI, anywhere. |
https://build.nvidia.com/meta/llama3-70b
NVIDIA NIM for Llama 3 Available Now
We’re excited to share that starting today, you can access NIM inference microservices for 8B and 70B parameter Meta Llama 3 models for self-hosted deployment on your choice of NVIDIA accelerated infrastructure.
Part of NVIDIA AI Enterprise, NVIDIA NIM enables organizations to:
Deploy anywhere and maintain control of generative AI applications and data.
Streamline AI application development with industry-standard APIs and tools tailored for enterprise environments.
Leverage prebuilt containers for the latest generative AI models, offering a diverse range of options and flexibility right out of the gate.
Achieve industry-leading latency and throughput for cost-effective scaling.
Support custom models out of the box so models can be trained on domain-specific data.
Access enterprise-grade software with dedicated feature branches, rigorous validation processes, and robust support structures.
Learn how to accelerate and optimize the deployment of generative AI applications across any infrastructure, while still maintaining full control of your IP and AI applications. Watch this video to learn more about NVIDIA NIM.
빠른 AI 배포
NVIDIA는 기업들이 어디서든 생성형 AI를 간편하게 배포할 수 있도록 지원합니다.
NVIDIA NIM for Llama 3 사용 가능
오늘부터 NVIDIA NIM 추론 마이크로서비스를 8B 및 70B 파라미터 Meta Llama 3 모델을 이용해 자체 호스팅 방식으로 NVIDIA 가속 인프라에서 사용할 수 있습니다.
NVIDIA AI Enterprise의 일부인 NVIDIA NIM은 조직이 다음을 가능하게 합니다:
- 생성형 AI 애플리케이션 및 데이터를 어디서나 배포하고 제어 유지
- 산업 표준 API 및 툴을 사용하여 AI 애플리케이션 개발 간소화
- 최신 생성형 AI 모델을 위한 사전 빌드된 컨테이너를 활용하여 다양한 옵션 및 유연성을 제공
- 비용 효율적인 확장을 위한 업계 최고의 지연 시간 및 처리량 달성
- 도메인 특정 데이터로 학습할 수 있는 커스텀 모델 지원
- 전용 기능 분기, 엄격한 검증 절차 및 강력한 지원 구조를 갖춘 엔터프라이즈급 소프트웨어 접근
Learn how to accelerate and optimize the deployment of generative AI applications across any infrastructure, while still maintaining full control of your IP and AI applications.
기반 시설에 관계없이 생성형 AI 애플리케이션의 배포를 가속화하고 최적화하는 방법을 배우고, 여전히 IP 및 AI 애플리케이션에 대한 완전한 제어를 유지하십시오. 더 알아보기 위해 이 비디오를 시청하십시오.
