Llama 4, 이제 설치 없이 바로 사용! Vertex AI에서 API로 호출하는 법

Llama 4, 이제 Vertex AI에서 완전한 관리형 서비스로 사용 가능해졌다

 

Google Cloud X Meta

 

Llama 4를 활용하고 싶어도 직접 모델을 배포하고 관리하는 건 여전히 부담스러운 일이었다. 복잡한 인프라 세팅, GPU 자원 확보, 확장성 고민, 유지보수까지 하나하나 신경 써야 할 게 너무 많다. 그런데 이제 이런 고민 없이, 바로 API 호출만으로 Llama 4를 쓸 수 있게 됐다. 바로 Vertex AI를 통해서다.

2025년 4월 29일, 구글 클라우드는 Meta의 최신 오픈 LLM인 Llama 4를 Vertex AI에서 Model-as-a-Service(MaaS) 형태로 정식 출시했다고 발표했다. Llama 4 뿐만 아니라, 이전 모델인 Llama 3.3 70B 모델도 함께 GA(General Availability) 상태로 제공된다.

---

Llama 4, 그 성능은 어느 정도일까?

Llama 4는 이전 세대보다 훨씬 더 강력한 성능을 보여준다. 특히 멀티모달 처리 능력과 효율적인 Mixture-of-Experts(MoE) 아키텍처 덕분에, 텍스트와 이미지를 함께 다루는 작업에 최적화되어 있다.

• Llama 4 Scout: 이전 모델들보다 훨씬 뛰어난 성능을 보이며, 특히 멀티모달 작업에서 효율적이다. 단일 GPU 환경에서도 잘 돌아가도록 설계됐다.
• Llama 4 Maverick: 현재 Meta가 제공하는 모델 중 가장 지능적인 버전. 복잡한 추론, 이미지 이해, 생성형 작업에서 우수한 성능을 낸다.

이제 Vertex AI를 통해 이 Llama 4 모델들을 API 엔드포인트로 바로 호출할 수 있게 되면서, 애플리케이션 개발에만 집중할 수 있는 환경이 마련됐다.

---

Vertex AI Model Garden에서 Llama 4 찾기

Vertex AI Model Garden Llama

Vertex AI Model Garden은 Google Cloud에서 제공하는 모델 허브 같은 곳이다. Gemini 같은 구글 자체 모델뿐 아니라 오픈소스, 서드파티 모델까지 함께 제공된다.

여기에 이제 Llama 4까지 정식으로 추가되면서 선택의 폭이 훨씬 넓어졌다. Llama 4 MaaS를 사용하는 장점은 다음과 같다.

1. 인프라 걱정 끝
   GPU 세팅, 라이브러리 설치, 패치 관리 같은 인프라 관련 작업은 모두 Google Cloud가 대신해준다.
2. 예측 가능한 고성능
   모델에 할당된 처리 용량이 보장되기 때문에, 안정적인 성능을 기대할 수 있다.
3. 기업 수준의 보안 및 컴플라이언스
   데이터 암호화, 접근 제어, 각종 보안 인증을 기본으로 제공한다.

---

어떻게 시작할까?

1. Model Garden에서 Llama 4 모델 카드 확인
   먼저 Vertex AI Model Garden에서 원하는 Llama 4 모델(예: Llama 4 17B Instruct MaaS)을 찾는다. 이때 모델 ID(meta/llama-4-scout-17b-16e-instruct-maas)도 함께 확인해야 한다.
2. 라이선스 동의
   API를 호출하려면 반드시 Llama Community License Agreement에 동의해야 한다. 동의하지 않으면 사용 불가다.
3. API 호출
   동의 후에는 별도 배포 과정 없이 바로 API로 호출할 수 있다. 아래는 Python 코드 예시다.

Code

 

이런 식으로 간단히 호출할 수 있으며, 추가적인 옵션이나 파라미터는 모델 카드에서 확인하면 된다. 특히 입출력 스키마, 지원 파라미터의 범위, 멀티모달 입력의 포맷 등은 꼭 참고해야 한다.

---

비용 및 쿼터 정책은?

Llama 4 MaaS는 예측 기반 과금 체계를 따른다. 즉, 실제 예측 요청을 보낸 만큼만 비용이 발생하며, 인프라 비용은 API 단가에 포함되어 있다.

• 과금 방식: 사용한 만큼(pay-as-you-go) 지불
• 쿼터 정책: 분당 요청 수(RPM) 등 사용량 제한 존재

스케일을 고려한 비용 관리가 필요하다면, 반드시 Vertex AI 요금제와 쿼터 문서를 확인하는 것이 좋다.

---

마무리: 이제 진짜 실전이다

Vertex AI에서 Llama 4를 MaaS 형태로 쓸 수 있게 되면서, 개발자들은 이제 모델 배포나 관리에 신경 쓸 필요 없이 고성능 오픈 LLM을 바로 활용할 수 있게 됐다.

애플리케이션에 필요한 고급 추론, 코드 생성, 멀티모달 작업까지 손쉽게 구현이 가능하다. Model Garden에서 모델을 찾아보고, 문서를 읽고, 비용과 쿼터 확인만 하면 바로 시작할 수 있다.

이제 남은 건 당신의 아이디어를 현실로 만드는 것뿐. 어떤 멋진 프로젝트가 나올지 기대된다.