ISSUES
こんな課題はありませんか
生成AIを使っているが、個人情報・企業情報・意思決定前の文書は入力できず、使える業務が限られている。
業務システムのデータ(申請・問い合わせ・帳票など)をAIで自動処理したいが外部に出せない。ローカルLLMで何ができ、何が必要か分からない。
OVERVIEW
ローカルLLMとは
自治体のネットワーク内の機器でAI(大規模言語モデル)を動かし、入力した情報を外部に送信せずに使うしくみです。
| 方式 | データの流れ | 向いている業務 |
|---|---|---|
| クラウド型の生成AI | 職員PC → インターネット → 外部サービスで処理 | 機密情報を含まない一般的な文書作成(機密情報は原則入力不可) |
| LGWAN-ASP型の生成AI | 職員PC → LGWAN → 事業者のサービスで処理 | 一般的な文書作成・要約(入力制限はサービスごとに異なる) |
| ローカルLLM | 職員PC → 自治体のローカルネットワーク内の機器で処理(外部へ送信しない) | 個人情報・企業情報・秘匿性の高い文書、業務システムのデータの自動処理 |
WHY
なぜ手元の機器で動くの?
「AIを一から育てるのですか?」――いいえ、その必要はありません。
学習させる必要はありません
企業や研究機関が公開している学習済みモデル(無償で利用可能)を導入して使います。
機器は1台で足ります
学習には大規模な設備が必要ですが、できあがったモデルを動かすだけなら、高性能な機器1台で足ります(モデルを小さくする量子化技術もあります)。
入力した情報で学習されません
庁内の規程等は、質問のたびに参照させる方式(RAG)で使います。入力した情報でAIが学習されることはありません。
WHAT
できること
検証で確認していきます。
-
1
文書づくりのお手伝い
文書の要約、文案作成、問い合わせへの回答案の作成。
-
2
庁内の規程・マニュアルの検索
庁内の規程・マニュアルを検索して回答します。回答の根拠も表示します。
-
3
業務システムの自動化の試作
分類・項目抽出・帳票の下書きなど。人が確認して確定します(システムへの自動書き込みは行いません)。
STEPS
進め方:初年度は小さく検証
| 規模・期間 | 10名程度・2〜3業務。調査・構築で2〜3か月、検証は6か月。 |
|---|---|
| 機器・ソフト | 機器は1台(自治体の資産として調達)。モデル・ソフトウェアは無償のオープンソース。 |
| 設置場所 | 既存のサーバー室や委託先環境も含めて協議。 |
| 検証後 | 結果をもとに、全庁利用の規模と費用を整理します。 |
| 費用 | 初年度(検証)の概算は、提案書でご案内します。 |
PROPOSAL
提案書のご案内
詳しい資料「ローカルLLMの提案書(17ページ)」をご用意しています。
-
1
まずは概要をご覧ください
このページ、または概要PDF(1ページ)で全体像をご確認いただけます。
-
2
ご希望の方はご連絡ください
お問い合わせフォームから「提案書希望」とお知らせください。
-
3
提案書をお送りします
費用や機器構成などをまとめた提案書をお送りし、内容を一緒に検討します。