Gemma Open Source LLM

구글이 최근 공개한 Gemma는 가벼운 생성형 인공지능(AI) Open Source LLM입니다. 

Gemma 모델은 애플리케이션, 하드웨어, 휴대기기, 호스팅된 서비스 등 다양한 환경에서 실행할 수 있으며, 

개발자와 사용자에게 중요한 Task를 수행할 때 뛰어난 성능을 발휘하도록 Fine-Tuning을 제공합니다.

이 모델은 Gemini 모델을 기반으로 하며, AI 개발 커뮤니티가 이를 확장하고 발전시킬 수 있도록 고안되었습니다.

Gemma 모델은 텍스트 생성에 사용할 수 있으며, 

특정 태스크에 맞게 조정하여 성능을 개선할 수 있습니다. 

Gemma 모델은 Vertex AI, Google Kubernetes Engine, Dataflow, Colab 등 다양한 Google Cloud 제품과 함께 사용할 수 있어서 GCP 환경에서 사용하시는 것을 추천드려요.

Gemma는 컴퓨팅 리소스, 사용목적 등에 따라, Gemma 2B와 Gemma 7B 모델을 선택해서 사용할 수 있습니다.
 

매개변수 크기가 작을수록 리소스 요구사항이 적고 배포 유연성이 높습니다. 

Gemma는 Google의 특화된 v5e TPU 하드웨어와 NVIDIA의 L4, A100, H100 GPU 하드웨어를 사용하여 Training 되었다고 합니다