AI

機密情報を社外に出さずに、生成AIを業務で使いたい

顧客情報や設計情報など、社外に出せない情報を扱う業務では、クラウド型の生成AIを使えず、AIを活用できる範囲が限られます。ジェイズ・テクノロジー(JST)は、自社環境内にLLMを置くオンプレミス型を含めて構成を比較し、選定から設計・構築まで支援します。

オンプレミスLLM閉域接続生成AI基盤
こんな方に社外に出せない情報を扱う業務でも、生成AIを使いたい企業の情報システム部門

課題

社外に出せない情報を扱う業務が、生成AIの対象外になっている

生成AIの業務利用が広がる一方で、顧客情報や設計情報など社外に出せない情報を扱う業務は、クラウド型の生成AIの対象から外されています。クラウド型は初期費用を抑えられますが、使い続けるかぎり従量課金が発生し、利用者や対象業務が増えるほど費用は積み上がります。コストとセキュリティの両面から、自社環境内にモデルを置くオンプレミス型を検討する企業が増えています。

  • 社外に出せない情報を扱う業務でも、生成AIを使えるようにしたい。
  • 利用の拡大とともに増え続けるクラウド型の従量課金を抑えたい。
  • クラウド型・閉域接続型・オンプレミス型のどれが自社に合うかを判断したい。

解決アプローチ

扱う情報に合わせて構成を選び、自社環境で使えるAI基盤を整える

対象業務と扱う情報を整理したうえで、クラウド型・閉域接続型・オンプレミス型を比較し、選定から設計・構築まで支援します。

扱う情報と構成の整理

  • 社外に出せる情報と出せない情報を、業務ごとに分ける
  • 3つの構成を、初期費用・ランニングコスト・データの置き場所で比較する
  • 実機を使った検証で、想定業務での動作を確認する

設計・構築

  • 計算資源(GPU)を含むサーバを構築し、利用するモデルを選ぶ
  • 社内のネットワーク・認証と接続し、アクセス権限とログを設計する

業務への展開

  • ハンズオンと利用ルールの雛形を用意する
  • 対象業務を段階的に広げる準備を支援する

期待できる効果

社外に出せない情報を扱う業務でも、生成AIを使える

  • 社外に出せない情報を扱う業務でも、自社環境内で生成AIを使えるようになる。
  • 業務ごとにクラウド型とオンプレミス型を使い分け、費用とデータの置き場所の両方に合った構成にできる。
  • 計算資源を自社の資産として持つことで、利用が広がってもランニングコストを抑えやすくなる。
  • 導入前に実機で動作を確かめたうえで、構成を判断できる。

現状構成と検討テーマの整理から、ご相談ください

商談前の情報収集、現状構成の整理、製品比較、概算相談まで、情報システム部門の検討段階に合わせて対応します。

内容を確認のうえ、必要に応じて担当者よりご連絡いたします。