ローカルLLM、
外に出さずに生成AIを。

個人情報・秘匿性の高い文書も、外に情報を出さずに生成AIで。まずは小さく検証するところから、はじめてみませんか。

概要をPDFで見る(1ページ)

ISSUES

こんな課題はありませんか

生成AIを使っているが、個人情報・企業情報・意思決定前の文書は入力できず、使える業務が限られている。

業務システムのデータ(申請・問い合わせ・帳票など)をAIで自動処理したいが外部に出せない。ローカルLLMで何ができ、何が必要か分からない。

OVERVIEW

ローカルLLMとは

自治体のネットワーク内の機器でAI(大規模言語モデル)を動かし、入力した情報を外部に送信せずに使うしくみです。

方式データの流れ向いている業務
クラウド型の生成AI 職員PC → インターネット → 外部サービスで処理 機密情報を含まない一般的な文書作成(機密情報は原則入力不可)
LGWAN-ASP型の生成AI 職員PC → LGWAN → 事業者のサービスで処理 一般的な文書作成・要約(入力制限はサービスごとに異なる)
ローカルLLM 職員PC → 自治体のローカルネットワーク内の機器で処理(外部へ送信しない) 個人情報・企業情報・秘匿性の高い文書、業務システムのデータの自動処理
WHY

なぜ手元の機器で動くの?

「AIを一から育てるのですか?」――いいえ、その必要はありません。

学習させる必要はありません

企業や研究機関が公開している学習済みモデル(無償で利用可能)を導入して使います。

機器は1台で足ります

学習には大規模な設備が必要ですが、できあがったモデルを動かすだけなら、高性能な機器1台で足ります(モデルを小さくする量子化技術もあります)。

入力した情報で学習されません

庁内の規程等は、質問のたびに参照させる方式(RAG)で使います。入力した情報でAIが学習されることはありません。

WHAT

できること

検証で確認していきます。

  1. 1

    文書づくりのお手伝い

    文書の要約、文案作成、問い合わせへの回答案の作成。

  2. 2

    庁内の規程・マニュアルの検索

    庁内の規程・マニュアルを検索して回答します。回答の根拠も表示します。

  3. 3

    業務システムの自動化の試作

    分類・項目抽出・帳票の下書きなど。人が確認して確定します(システムへの自動書き込みは行いません)。

STEPS

進め方:初年度は小さく検証

規模・期間10名程度・2〜3業務。調査・構築で2〜3か月、検証は6か月。
機器・ソフト機器は1台(自治体の資産として調達)。モデル・ソフトウェアは無償のオープンソース。
設置場所既存のサーバー室や委託先環境も含めて協議。
検証後結果をもとに、全庁利用の規模と費用を整理します。
費用初年度(検証)の概算は、提案書でご案内します。
PROPOSAL

提案書のご案内

詳しい資料「ローカルLLMの提案書(17ページ)」をご用意しています。

  1. 1

    まずは概要をご覧ください

    このページ、または概要PDF(1ページ)で全体像をご確認いただけます。

  2. 2

    ご希望の方はご連絡ください

    お問い合わせフォームから「提案書希望」とお知らせください。

  3. 3

    提案書をお送りします

    費用や機器構成などをまとめた提案書をお送りし、内容を一緒に検討します。