【続編】完全ローカルの限界を超えて。「記憶」を持つAIへの再設計

DX推進チームがお届けする、業務改善レポートです。

9月のレポートでは、セキュリティを最優先した「完全ローカル環境」でのAI構築についてお話ししました。

「社内のPCだけで完結する」という構成は、安全性において最強でした。しかし、実際に運用してみると、私たちは新たな「壁」にぶつかりました。それは、「AIが、使っている私のことを何も覚えてくれない」という、実用面での大きなストレスでした。

今回のレポートでは、一度完成させたローカルシステムをあえて解体し、モダンなクラウド技術である「Supabase」と「GPT-4o API」を採用して、より実用的で賢い相棒へと進化させた過程をお伝えします。

「完全ローカル」の落とし穴：AIが育たない

前回のシステム（ローカルRAG）は、社内マニュアルなどの「資料」を探すのは得意でした。しかし、個人のPCの中に閉じてしまっているため、以下のような問題が起きました。

1. 毎回「初めまして」の状態

昨日、「私は広報担当です」と教えても、翌日には忘れています。毎回ゼロから指示をする必要があり、非常に手間でした。

1. 知識が共有されない（サイロ化）

AさんがAIに教えた業務ルールが、BさんのAIには共有されません。「個人の便利ツール」止まりで、組織としての効率化が進みませんでした。

方針転換：「資料検索」から「文脈理解」へ

そこで私たちは、システムの大幅な刷新を行いました。

目指したのは、AIに「ユーザー専用の手帳（Core Memory）」を持たせることです。

新しい仕組みのポイント

これまでは、毎回膨大な資料の山から答えを探させていました。

新しいシステムでは、「絶対に覚えていてほしいこと」を、クラウド上の高速なデータベース（Supabase）に記録させます。

• ユーザーの役割: 「私は広報担当。プレスリリース作成がメイン」
• 好みのスタイル: 「メールは『ます調』で、結論から書くのが好き」
• 現在の状況: 「今はプロジェクトAの予算策定中」

これらをAIが会話の中で自然に覚え、次からは「言わなくても分かっている」状態でサポートしてくれます。

技術構成の刷新：実用性重視の「GPT-4o + Supabase」へ

ここからは少し技術的な話になりますが、エンジニア向けに今回の構成変更をまとめます。

「ロマン（完全ローカル）」よりも「実利（精度と共有）」を優先し、現在世界最高峰の技術スタックへ移行しました。

なぜ「GPT-4o」なのか？

以前のローカルAIも優秀でしたが、複雑な文脈を読み取る「察する能力」においては、やはりGPT-4oが圧倒的でした。このエージェントを本当の意味で「賢い相棒」にするには、この頭脳が必要不可欠でした。

クラウド利用のセキュリティはどうする？

「社外のAIを使うのは心配」という声もありましたが、私たちは運用ルールでカバーしています。

「個人情報や機密データはAIに入力しない」というルールを徹底し、システム側でも特定のワードを自動で伏せ字にする仕組みを入れることで、クラウドの利便性と安全性を両立させています。

学び：完璧な城より、使える道具を

前回の「完全ローカル」への挑戦は、技術的には非常に面白い実験でした。しかし、日々の業務で本当に必要だったのは、軽快に動き、自分のことをよく理解してくれる「使い慣れた道具」でした。

今回の移行により、私たちのAIアシスタントは単なる「検索係」から、ユーザーの好みを熟知した「専属秘書」へと進化しました。

• Supabaseのおかげで、スマホからでもPCからでも、常に同じ「記憶」を持ったAIにアクセスできる。
• GPT-4oのおかげで、曖昧な指示でも意図を汲み取ってくれる。

「業務を楽にする」。

この原点に立ち返り、私たちのAI開発は次のフェーズへと進んでいます。

この記事が、皆さんの会社の業務改善、そしてAI活用のヒントになれば幸いです