BOS‐06 明日からすぐに使える自分で作る生成 AI アプリケーション 〜Chat with your document〜 - novel-suzukikeisuke/study GitHub Wiki

生成 AI を便利に使う

生成 AI (Generative AI) とは

• 会話、ストーリー、画像、動画、音楽など、新しいコンテンツやアイデアを創造できる AI の手法

生成AIが今苦手なところ

• 最新情報への対応 : 最新の時事ネタを含む質問への回答
• 出力の制御 : この入力をしたら必ずこの出力をしてほしい、への対応
• 妥当性の保証 : 出力した内容が正しいかどうかの評価

ハルシネーション(幻覚)

• 生成 AI が事実とは異なる回答をしてしまうこと
  • 基盤モデルは学習データに含まれていないような情報は回答できない
  • 場合によっては文章としては正しくても内容が不正確な回答をしてしまう
  • 大規模言語モデルが確率で文章を生成する仕組みのため、必然的に発生する

ハルシネーション(幻覚)への対応

• 質問内容に対応するドキュメントを質問と一緒に生成 AI に読み込ませる
• 質問に対する回答を自然言語で回答(⻑い文章もまとめてくれる)

RAG(検索拡張生成)

RAG(Retrieval-Augmented Generation:検索拡張生成)

• 質問に対応するドキュメントと質問文を生成 AI に 読み込ませて、わかりやすい回答文を生成する手法
• ハルシネーションを抑制する効果がある
• 流れ : 1質問する(ユーザー), 2文書の検索（アプリ）, 3検索結果の回答（データソース）, 4元質問+検索結果をインプット（アプリ）, 5回答（生成AI）, 6回答を表示（アプリ）

RAG の利用用途

• ルール・規程集などに対する Q&A
• 製品マニュアルを活用した検索システム
• 各種ナレッジ検索システム

拡張検索生成(RAG)をAmazon Bedrockで実現

• AmazonKendra等のエンタープライズ検索システムと組み合わせる
• 検索用のデータベース(ベクトルDB)と組み合わせる
• KnowledgebasesforAmazonBedrockを使う

Knowledge bases for Amazon Bedrock

• 検索拡張生成 (RAG) のネイティブサポート
  • 基盤モデルと自社データソースを組み合わせた RAG (検索拡張生成)をフルマネージドに実現可能になる

Chat with your document

• Knowledge base for Amazon Bedrockの新機能
• データベースを作成することなく、RAG の仕組みを 簡単に利用することができる

デモ動画を視聴

生成 AI をデータと使う

• 生成 AI をデータと組み合わせることによって、より有効に活用することができるようになる。