IT_Amazon Bedrock Marketplace

Amazon Bedrock Marketplace: 혁신적인 AI 모델 접근의 새로운 장

Amazon Bedrock Marketplace는 생성 AI 개발자들에게 100개 이상의 공개 및 독점 기반 모델(Foundation Models, FMs)에 접근할 수 있는 기회를 제공합니다. 이 플랫폼은 사용자가 다양한 산업에 최적화된 모델을 쉽게 탐색하고 테스트할 수 있도록 설계되었습니다. 이러한 모델들은 Amazon SageMaker 엔드포인트에 배포되어 사용자의 필요에 맞게 조정할 수 있습니다.

***Amazon Bedrock Marketplace의 주요 기능

• 모델 선택의 다양성: Amazon Bedrock Marketplace는 재무, 의료, 언어 번역 등 특정 도메인에 최적화된 모델을 포함하여 다양한 모델을 제공합니다. 이는 사용자가 자신의 요구에 맞는 모델을 선택하고 신속하게 시장에 출시할 수 있도록 돕습니다.
• 통합된 API 접근: 모든 모델은 Amazon Bedrock의 통합 API를 통해 접근 가능하며, Converse API와 호환되는 모델은 Amazon Bedrock의 다양한 도구와 함께 사용할 수 있습니다. 이를 통해 개발자는 더 나은 사용자 경험을 제공할 수 있습니다.
• 구성 가능한 확장성: 사용자는 원하는 인스턴스 수와 유형을 선택하고, 자동 확장 정책을 정의하여 워크로드 변화에 따라 인스턴스 수를 조정할 수 있습니다. 이는 비용 최적화와 성능 유지를 동시에 달성하는 데 도움이 됩니다.

***모델 제공자 및 사례

Amazon Bedrock Marketplace는 IBM, NVIDIA와 같은 기업의 모델을 포함하여 다양한 제공자의 모델을 지원합니다. 예를 들어, NVIDIA의 Nemotron-4 모델은 다국어 처리 및 코딩 능력을 갖춘 강력한 언어 모델로, Amazon Bedrock Marketplace에서 구독 및 배포할 수 있습니다.

또한, Upstage의 Solar Pro와 같은 한국어 처리 전문 모델도 제공되어, 특정 언어와 도메인에 최적화된 솔루션을 찾는 사용자에게 유용합니다.

***모델 탐색 및 배포 과정

Amazon Bedrock Marketplace에서 모델을 탐색하고 배포하는 과정은 간단합니다:

1. 모델 카탈로그 선택: Amazon Bedrock 콘솔에서 '모델 카탈로그'를 선택합니다.
2. 필터 사용: 제공자나 모달리티(텍스트, 이미지 등)별로 필터링하여 원하는 모델을 찾습니다.
3. 모델 구독: 원하는 모델을 선택한 후 구독 옵션을 검토하고 구독합니다.
4. 배포 설정: 배포 옵션을 구성하고 인스턴스 유형과 자동 확장 정책을 설정합니다.
5. 배포 완료: 몇 분 후 배포가 완료되면, '서비스 중' 상태로 전환되어 사용할 준비가 됩니다.

***결론

Amazon Bedrock Marketplace는 생성 AI 개발자에게 필요한 다양한 도구와 리소스를 제공합니다. 이 플랫폼은 사용자가 복잡한 보안 및 거버넌스 레이어를 구축하지 않고도 고급 AI 기능에 접근할 수 있도록 하여, 기업이 혁신적인 AI 솔루션을 신속하게 구현할 수 있게 합니다.

AI 기술이 발전함에 따라, Amazon Bedrock Marketplace는 이러한 변화에 발맞춰 고객들이 필요로 하는 전문화된 모델을 쉽게 찾고 사용할 수 있는 기회를 제공합니다.

 

Citations: [1] https://aws.amazon.com/jp/about-aws/whats-new/2024/12/amazon-bedrock-marketplace-100-models-bedrock/ [2] https://aws.amazon.com/bedrock/marketplace/ [3] https://aws.amazon.com/blogs/machine-learning/amazon-bedrock-marketplace-now-includes-nvidia-models-introducing-nvidia-nemotron-4-nim-microservices/ [4] https://aws.amazon.com/jp/blogs/aws/amazon-bedrock-marketplace-access-over-100-foundation-models-in-one-place/ [5] https://aws.amazon.com/bedrock/?trk=31e62e51-7237-4d84-a473-261a0e290e11&sc_channel=display+ads