AIの暴走を食い止めろ！Amazon Bedrockの「Automated Reasoning」が進化！ソースドキュメント参照でAIの根拠を可視化

AWSは、Amazon BedrockのAutomated Reasoningポリシーにおいて、ソースドキュメントへの参照機能を追加しました。これにより、Automated Reasoningポリシーのレビューと改善が容易になります。この機能は、LLMからの応答の正確性を99%まで高め、AIのハルシネーションを検出し、曖昧さを解消します。

Automated Reasoningのソースドキュメント参照機能、これは非常に実用的ですね。これまで、Automated Reasoningポリシーを作成する際、ルールが元のドキュメントと本当に整合性が取れているか、確認に手間がかかっていました。この機能があれば、生成されたルールと元のドキュメントを参照しながら、より確実にポリシーを洗練できます。

**日本での可用性についてですが、**最新のリージョン状況を確認したところ、米国リージョンでのみ提供されているようです。AWS公式の裏取りも同様の結果でした。東京（ap-northeast-1）および大阪（ap-northeast-3）リージョンでの利用については、マネジメントコンソールでの確認、またはAWSサポートへの問い合わせが必要となります。

**実務的なアドバイスとしては、**Automated Reasoningは、特にコンプライアンスが重要な分野（人事、金融など）で効果を発揮します。導入コストは、Bedrockの利用料金に加えて、ポリシー作成のためのドキュメント整備コストがかかりますが、AIによる誤った応答によるリスクを軽減できることを考えると、十分に見合う投資と言えるでしょう。セキュリティ面では、機密性の高いドキュメントをアップロードする際には、適切なアクセス制御を設定することが重要です。

**最初に試すべきこととしては、**まずは既存のドキュメント（社内規定など）をアップロードして、Automated Reasoningポリシーを生成し、その結果を検証することをお勧めします。生成されたポリシーが、期待通りの動作をするか、実際にLLMに質問を投げかけて確認してみてください。

参考資料：

• Amazon Bedrock Automated Reasoning checks concepts: https://docs.aws.amazon.com/bedrock/latest/userguide/automated-reasoning-checks-concepts.html#ar-concept-fidelity-report
• AWS AI Blog: https://aws.amazon.com/blogs/machine-learning/build-reliable-ai-systems-with-automated-reasoning-on-amazon-bedrock-part-1/
• Bedrock Guardrails webpage: https://aws.amazon.com/bedrock/guardrails/