筆者がFORTRAN 77とC言語でAIプログラミングを始めたのが1997年。そんなレトロ感満載の米国HPE公式AIアンバサダー古賀政純（こが まさずみ）が、AI・データサイエンスがらみの話をざっくり語るブログ記事、８回目は、CTC Forum 2024の筆者のセッションでお話した「プライベートクラウドAI」について、セッションでは語らなかった補足情報をお届けします。
■CTC Forum 2024でプライベートクラウドAIをご紹介
NVIDIA AI Computing by HPEのコンポーネント2024年10月17日（木）、グランドプリンスホテル新高輪 国際館パミールにて、CTC Forum 2024が開催されました。HPEは、筆者が登壇、かつ、HPEブースの展示員を務めました。
セッションでは、HPEのGPUサーバーに加え、大規模言語モデルを稼働させるためのHPE Private Cloud AI（通称、PCAI）、事例などをご紹介しました。
PCAIは、HPEとNVIDIAが共同開発した初の製品であり、今後もHPEとNVIDIAでの共同開発は続きます。
セッションで説明した話をすこしおさらいすると、PCAIは、AIアプリケーションの展開に必要な ハードウェアとNVIDIA AIソリューションをひとまとめにしたターンキーAIソリューションです。ターンキーとは、すぐに使える、ということです。
鍵を回すと施錠されていたドアが開く、とか、クルマのエンジンを始動するために、エンジンキー（イグニッションキー）をまわすとか、鍵をまわしてすぐ使えるようになる、すなわち、「ターンキー」＝すぐに使える、そんな感じです。
PCAIは、HPEとNVIDIAが共同開発したものなので、まさしく、NVIDIA GPUを活用できるターンキーAI ソリューションです。なので、NVIDIA AI Enterpriseに含まれるNVIDIAツールを簡単に利用できる、というわけです。
■そもそもなぜプライベートクラウドAIなの？
PCAIは、プライベートのデータ、すなわち、社内データの安全性と保ちつつも、それらにアクセスできる仕組みを持っています。社内データを利用するオンプレミスのAI基盤では、業界標準や規制遵守を保証する安全なデータアクセスや制御が必要ですが、プライベートの社内データにアクセスしつつも、AIワークロードの性能が発揮できなければなりません。
PCAIは、そんなデータへのアクセスを容易に行い、データを保護しつつも、高速なAIワークロードを処理できるように構成されています。
■簡単に使えるプライベートクラウドAI基盤
PCAIのローンチの画面HPE Private Cloud AIを使えば、AI テンプレートアプリケーションへのアクセス、展開、セキュリティ保護、編集が簡単にできるのですが、文字だといまいちわかりにくいかと思いますので、スクリーンショットを使って説明したいと思います。
まず、図にあるとおり、HPE Private Cloud AIは、HPE GreenLake コンソールから、HPE Private Cloud AIホームページにアクセスします。
開始するには、「HPE Private Cloud AI」の行の右横にある「Launch」（ローンチ）を選択します（図のオレンジで囲ったところ）。
■NVIDIAツールが使えるPCAI
NVAIEの各種ツール類に簡単アクセスPCAIの目玉機能は、なんといってもNVIDIA社が提供するAIツール＆フレームワークのNVIDIA AI Enterprise（通称、NVAIE）が使える点です。
NVAIEは、PCAIに組み込まれており、PCAIを導入すると、すぐに使える状態になっています。
NVAIEには、NVIDIA社が提供する開発ツールが含まれていて、ユーザーは、生成 AI アプリケーションを構築するための主要なエンタープライズ フレームワーク スイートにすぐにアクセスできます。
こういったAI環境は、通常、オープンソースのスパゲッティ状態になっている場合が少なくないのですが、オープンソースのスパゲッティ状態のDIY環境は、なにかとメンテナンスも非常に面等です。PCAIならば、DIYしなくても、NVIDIAツールで統一されたAI環境をすぐに手に入れられる、というわけです。
■業界ごとのテンプレートを使える
ソリューションアクセラレーターを選択
PCAIでは 、大規模言語モデルなどの生成AIアプリケーションの展開に必要なサービスを 自動的にプロビジョニングするテンプレートが提供されています。
様々な業界ごとのテンプレートを作成し、生成AIアプリケーションを展開できます。
HPE のAIアプリケーションテンプレートにアクセスするには、PCAIの管理画面の左ペインから、[Solution Accelerators] タブを選択します。
以下では、[Solution Accelerators]を使用し、バーチャルアシスタントを展開する方法を紹介します。
業界ごとのテンプレートをご用意バーチャルアシスタントは、いわゆる、AIチャットボットです。
社内プライベートデータを利用でき、かつ、セキュアなチャットを実現します。
自然言語処理の技術が組み込まれており、複雑な質問に回答できる点が魅力的です。
展開すると、バーチャルアシスタントアプ
リケーションが実行し始めます。
PCAIのバーチャルアシスタントでは、大規模言語モデル（LLM）とベクトルデータベースを使っており、社内プライベートデータを安全に保存できます。
PCAIのバーチャルアシスタントに初めて質問するときは、社内プライベートデータにアクセスせずに、公開された大規模言語モデルを使用します。
では、実際に質問を投げかけてみましょう。
社内データを読み込んでいないので、適切な回答が得られていない状態英語で「多くのAIワークロードでプライベートクラウドが優先される理由とは？」と質問してみました。
すると、PCAIのバーチャルアシスタントは、「I'm not familiar with private cloud」（私は、プライベートクラウドについて詳しくありません）と回答がかえってきました。
プライベートクラウドに関する役立つ情報を回答してくれませんでしたね（図の「Answer:」の箇所）。
これは、バーチャルアシスタントが、個別の情報（今回の場合は、「Private Cloud」に関するナレッジ）が追加されておらず、標準的な大規模言語モデルのみを使用してチャットボットと会話したからです。
このままでは、チャットボットとしては非常に貧弱ですので、チャットボットアプリケーションに社内にある追加のデータ（プライベートデータ）を読み込ませる必要があります。
PCAIでは、社内データを既存のAIモデルに簡単に追加できます。PCAIの画面で「Private Knowledge Base」（プライベート知識ベース）へのアップロードのボタンがあり、それを選択するだけです。
■社内プライベートデータをアップロードしてみる
社内データのロードを「有効」（Enabled）に設定それでは、「プライベートクラウド」に関するファイルを データベースにアップロードしてみましょう。
今回は、社内にある「プライベートクラウド」を解説したPDFファイルを１つ、PCAIにアップロードしてみます。
PDFファイルをアップロード後、PCAIの大規模言語モデルによってインデックスが作成されます。
次に アップロードしたファイルから関連データを取得して使用する権限をバーチャルアシスタントに付与する追加のナレッジベースを有効（図の「Enabled」の箇所）にします。
社内データを読み込んだため、チャットボットが適切な回答が得らえているこれで、準備完了です。PCAIのチャットボットにさきほどと同じ質問をしてみましょう。
社内プライベートデータをちゃんと読み込んで回答してくれるのでしょうか。
結果は、バーチャルアシスタントが「プライベートクラウド」に関する内容を回答しました。
図のように、英語がつらつら表示されていますよね。
このように、PCAIのバーチャルアシスタントでは、大規模言語モデルを企業独自のデータで拡張できるため、自社に必要な社内データを活用したチャットボット環境を実現できます。
社内データを読み込ませることができるので、ナレッジベースがたまった社内データ基盤からすばやく情報を入手して自然言語で表示してくれます。
まさに、インターネットにアクセスしない「オンプレミス版ChatGPT」のように使えるわけです。こういったオンプレミス版ChatGPTのようなシステムは、DIYで作るとなるとそれなりに大変ですが、PCAIならすぐに実現できるので、非常に便利だと思います。
■PACIは、生成AIにおけるセキュリティ、プライバシーを確保
バーチャルアシスタント（チャットボット）について、NVIDIAのガードレール機能を有効にした様子PCAIは、データセキュリティおよびプライバシーに関する機能も提供します。社内プライベートデータを活用してチャットボットで回答を得るとったAi活用において重要なのは、データ保護とセキュリティ対策です。
バーチャルアシスタントを閉じて、展開されたアプリに戻り、[Configure and Secure (構成とセキュリティ)] を選択します。
PCAIのチャットボットの設定画面では、モデルの選択や不適切な回答を制御できる「ガードレール」を有効にできます。今回は、このガードレール機能を適用して、セキュリティ対策を実装し 保存します。
PCAIでは、ガードレール機能によりチャットボットが不適切な質問に回答しないように制御できるこのガードレールを適用した状態で、チャットボットとの会話において、個人情報や機密情報を含む質問をあえてしてみましょう。
今回は、「エンジニアリング部門で 最も給与の高い従業員は誰ですか？」という質問をしてみました。
図のように、ガードレール機能が有効になった状態のバーチャルアシスタントは、保護されたデーしません。
こののように、チャットボットにおけるガードレール機能は、高いレベルのセキュリティ機能を提供し、個人情報が誤って回答しない仕組みを提供します。
生成AIの世界では、このようなガードレール機能が非常にホットで、いかにして個人情報を誤って提供しないかが話題になっています。
インターネットに接続していないプライベートクラウドAIであっても、社内の不正アクセス（故意に個人情報を盗もうとする悪意のある行為）に対するセキュリティ対策は、AIかどうかにかかわわらず必須の要件です。そういった機能をDIYで実装するのも非常に骨の折れる作業ですが、PCAIなら標準で提供されている機能なので、AIによる社内データ活用のセキュリティ対策工数を大幅に削減できます。
■PCAIなら、NotebookによるAI開発環境も提供
PCAIならJupyter Notebookでカンタンに開発ができるPCAIでは、Notebooksタブをクリックすると、Jupyter Notebook環境に簡単にアクセスできます。これにより、テンプレートで使用されるコードを簡単に確認・操作できます。
Jupyter Notebookで編集することで、自分が作っているコードの編集や機能拡張だけでなく、開発部門にける別のユーザーとの共有も可能です。
社内にいる別のユーザーは自分のNotebook環境に簡単にインポートできます。
筆者が90年代にやっていたAI開発は、仮想端末エミュレータソフトウェアの画面上で、viエディアやMule（ミュール）エディタを使ってコンパイルして実行するといった作業の繰り返しでしたが、最近のAI開発環境では、こういったWebブラウザベースでJupyter Notebookにコードを書いて、逐次実行しながらアプリケーションの挙動を見るといったことが行われます。大学や研究所などでもNotebookによるコード開発が進んでいますが、PCAIでもそういった「最近流行のコード開発環境」がすぐに手に入るため、開発部門における環境の準備の手間も大幅に削減できます。
以上で、PCAIの機能をかいつまんで、ざっくりご紹介しました。CTC Forumの会場では、時間の都合上詳しくお話しませんでしたが、DIYしなくてもいいPCAIは、IT部門・開発部門双方にとって、「まずは簡単に使えるAI環境」を実現してくれます。NVIDIAをベースにしたPCAIで「DIYまみれにならないAI基盤」を是非検討してみてください。
KOGA MASAZUMI (@masazumi_koga)
