Windows PC内の規程・仕様書・議事録PDFを、クラウドへ送らず検索して根拠ページ付きで答えるローカル文書アプリの作り方です。
対応PCでNVIDIA Personal AI Routerを導入し、Ollamaまたはllama.cppで推論エンジンとモデルを用意。PDFをページ情報付きで分割して索引化し、OpenAI互換APIへ接続、出典表示まで再現します。最後にネットワーク遮断試験で外部APIへ送らず動くか確認し、モデル未配置・ポート競合・OCR不良・再索引漏れも点検します。
【主な参考資料】
・Getting Started with NVIDIA Personal AI Router
https://docs.nvidia.com/local-ai/nvpair/getting-started
・NVIDIA Personal AI Router Release Notes
https://docs.nvidia.com/local-ai/nvpair/release-notes/
・Managing Engines in NVIDIA Personal AI Router
https://docs.nvidia.com/local-ai/nvpair/engine-lifecycle/
このチャンネルでは、AI・ロボット・半導体などの技術を「現場でどう使われるか」まで図解します。
チャンネル登録: https://www.youtube.com/@jisso-tech?sub_confirmation=1
#Shorts #ローカルAI #PDF検索 #Windows #RAG
![]()