DataRobot、NVIDIAと連携しAIソリューションを提供 LLMモデルの導入・更新・監視の高速化などを可能に
DataRobotは、NVIDIAのテクノロジーを活用して、パフォーマンス・セキュリティ・効率性を強化したエンタープライズ向けAIソリューションを提供すると発表した。
NVIDIAとの新たな連携により、以下のことが可能になるとのことだ。
AIの運用
NVIDIA AI Enterpriseに含まれる、クラウド、データセンター、およびワークステーション全体で生成AIの展開を加速するように設計されている「NVIDIA NIMマイクロサービス」の使用により、完全に構成された生成AIモデルを展開。
DataRobot AI Platform内に事前構築されたモデル・コンテナ・マイクロサービスを活用して、NVIDIAデバイス上で実行するために最適化され、ピークパフォーマンス、セキュリティ、拡張性を実現するという。
また、GPU搭載インフラをビジネスニーズに合った環境に導入することで、あらゆるクラウドまたはオンプレミス環境でのディープラーニングとLLMモデルの導入・更新・監視を高速化するとのことだ。
さらに、NVIDIA Triton Inference Server上での商用およびオープンソースのLLMのネイティブな統合を実行し、GPUインフラストラクチャのパフォーマンスを最適化しながら、完全なオプションを維持するとしている。
AIのガバナンス
同社のカスタムメトリクスとNVIDIA NeMo Guardrails使用によるLLMの監視および管理を実施。
AIの構築
NVIDIA Nemotron-3-8B LLMなど、本番環境でのLLMブループリント戦略の比較が可能に。組織に特化した生成AIアプリケーションを構築するために、クラス最高のLLMを活用して、顧客に最適なソリューションを提供するために必要な可視性とパフォーマンスを備えたという。
また、同社ノートブック内のNVIDIA RAPIDSライブラリを活用し、GPUで高速化されたデータサイエンスおよびAIライブラリのスイートを使用して、あらゆるユースケースに向けたエンドツーエンドのAIおよびデータ処理パイプラインを強化し、開発を促進するとのことだ。