1.はじめに
Dataikuに新たにLLMメッシュという新機能が追加されました。
LLM とは大規模自然言語処理モデルを意味し、話題のOpenAI社のGPTなどが代表的なモデルです。
LLMメッシュは様々なLLMを利用してアプリケーションを大規模で効率的に構築することができるという機能です。
今回のブログでは様々なLLMを網羅的に搭載した機能LLMメッシュの実装の仕方や適用例について簡単に書いていこうと思います。
2.LLMメッシュの導入の仕方
まずLLMメッシュの導入の仕方について説明します。
Administrationをクリックします。
画面にConnectionsという項目がでるのでここをクリックします
ConnectionsをクリックしたらNEW CONNECTIONというバーがあるので、ここから使用したいサービスを選択します。
今回はOpenAIを選択します。他にもAzure OpenAI、Vertex AI 、AWS Bedrock、Hugging Faceなど様々なLLMが利用できます。
OpenAIを選択すると次のような画面に遷移します。
ここでNew connection nameで作成したいconnectionの名前を入力します。
そしてOpenAIのAPI Keyを入力し、使いたいGPTモデルを選択します。
今回はGPT3.5を選択しました。
必要に応じて、モデルを追加してください
3.適用例
このLLM Meshを使って実際にレビュー分析を行ってみたいと思います。
今回使用するレビューは架空の炊飯器のダミーデータになります
このレビューに対してテキスト分析を行い、ポジティブなレビューかネガティブなレビューかをGPTに判別してもらいます。
まずLLM Recipesから Prompt レシピを選択します
Promptレシピを選択してモデル、プロンプト、インプットするカラム、出力の例を入力します。
今回のプロンプトはポジティブなレビューかネガティブなレビューかを判別してもらうプロンプトです。
Examplesとして出力の例も入力します
結果として出力は次のようになりました。
例えばおいしく炊けたというレビューに対してはポジティブ判定、個人的に好みではないというレビューにはネガティブ判定とレビューに対してポジティブかネガティブかを判別してくれました。
ポジティブなコメントを自社製品の強みとしてマーケティング戦略に活かしたり、ネガティブなコメントは製品改善につなげられそうです。
今回使用したダミーデータはとてもシンプルなものでしたが、実際のビジネスの現場では大量かつ複雑なレビューコメントを分析する必要があり、人手で処理するには限界があります。
DataikuのLLMメッシュを使用することで、大量のレビューコメントを自動的に分析する仕組みが複雑な設定やコードを書くことなくノーコードで実現でき、だれでもレビュー分析が可能になります。
4.終わりに
新しく追加された機能であるLLMメッシュについて適用例を交えて紹介させていただきました。
今回はお試しでPromptレシピを選択しましたが、今後は他のレシピ(Classify text,Summarize text,Embed)も使ってみたいと思います。
例えば、Embedレシピで文章をベクトル化して文章検索もできるのではないのでしょうか？
この記事の著者：K.H
