Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

RAGチャットを有効化しても Bedrock ナレッジベースが作成されない #661

Open
tak-ickw opened this issue Sep 20, 2024 · 4 comments

Comments

@tak-ickw
Copy link

ナレッジベースのRAGチャットを検証用に使っていたのですが、精度を上げるためにEmbeddingモデルの変更をしようとして
デプロイをやり直そうとした所ナレッジベースが作成されない状況になってしまいました。

手順に関しては以下のような流れだったと思います。
(記憶違いで少し異なるかもしれません。)

  1. RAG 無効化
    "ragKnowledgeBaseEnabled": false にしてデプロイ

  2. モデル変更
    "embeddingModelId": を変更
    ("amazon.titan-embed-text-v1" -> "amazon.titan-embed-text-v2:0")
    "ragKnowledgeBaseEnabled": true に変更してデプロイ、エラーが発生

  3. 元の状態に戻そうとする
    オープンサーチのコレクションが残っていたため手動で削除
    "embeddingModelId": を v1 に戻す
    "ragKnowledgeBaseEnabled": false に変更してデプロイ
    再度、"ragKnowledgeBaseEnabled": true に変更してデプロイ → デプロイのエラーは出ない

デプロイのエラーは出ていないのですが、Bedrockのナレッジベースが作成されず、RAGチャットができない状況です。

復旧手順を教えて頂きたく、よろしくお願いいたします。

@tbrand
Copy link
Contributor

tbrand commented Sep 24, 2024

CloudFormation に RagKnowledgeBaseStack は存在するでしょうか?する場合、そちらを手動削除していただくことは可能でしょうか?

@tak-ickw
Copy link
Author

ご回答ありがとうございます。

RagKnowledgeBaseStack を削除しようとしているのですが、
以下のようなエラーが出ています。どの様に対応すればよいでしょうか。
image

@tbrand
Copy link
Contributor

tbrand commented Sep 27, 2024

現状 ragKnowledgeBaseEnabled は true でしょうか?以下の手順を試していただくことは可能ですか?

  • ragKnowledgeBaseEnabled を false にしてデプロイ (これで RagKnowledgeBaseStack と GenerativeAiUseCasesStack の依存関係が切れる)
  • RagKnowledgeBaseStack を手動削除
  • ragKnowledgeBaseEnabled を true にして再度デプロイ

@tak-ickw
Copy link
Author

tak-ickw commented Oct 1, 2024

ご回答有難うございます。
RAG を false にしてデプロイ後、再度スタック RagKnowledgeBaseStack を手動で削除しようとしたところ、
以下のエラーが発生しています。
(OSS の Index が削除できないというエラーの様です。)
OpenSearch のマネジメントコンソール内にインデックスの管理らしきメニューが見当たらず、削除できない状況です。
削除方法ご教授頂けますでしょうか。

image

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants