チャットGPTショック ～業務の効率化？ 試験導入の横須賀市。鎌倉市の現状は？

人間の指示に応じて文章などを作り出す対話型「生成AI」の一種であるチャットGPT(マイクロソフトが出資する米国「オープンAI」社が開発)を巡っては、不適切な個人情報収集などが懸念されるとして欧米では規制導入の議論がされています（前掲記事参照）。
日本では、4月25日開催の「新しい資本主義実現会議」において、日本語対応アプリの開発の促進とともに、自前で生成AIの開発に取り組む必要性について言及されたとのことです。

チャットGPTを全国で初めて試験導入した横須賀市
横須賀市は、全国の自治体で初めて業務におけるチャットGPTの試験運用を始めました。
https://www.city.yokosuka.kanagawa.jp/0835/nagekomi/20230418_chatgpt.html

その概要は、
●4月20日から約4000人の職員を対象に1カ月程度を試験導入期間と位置付け、業務での活用を開始。当面、文章の要約やあいさつ文の作成、政策のアイデア出しなどで活用。議会の答弁書作成などには活用しない方針。

●1カ月をめどに、何人が活用したかを把握。また、活用方法について全職員を対象にアンケート・ヒアリングを実施し、使用事例集としてまとめ、他の自治体の参考にもなるよう、公表する。

●（株）トラストバンク（注１）が提供する自治体専用ビジネスチャットツール「LoGoチャット」(注２) にチャットGPTのAPI機能(注3) を連携させることにより、普段業務で使用しているチャットツールにおいて、文章作成・文章の要約・誤字脱字のチェックやアイデア創出などに活用できるようにする。

●チャットGPTへの入力情報が二次利用されない方式（LoGoチャットを介して入力した情報はチャットGPTの学習に利用されない）で使用し、また機密情報や個人情報は取り扱わない運用とし、情報の安全な取扱いを徹底する。
― というもので、テクノロジーの活用で、業務の効率的、効果的な実施を図るとしています。

神奈川新聞の報道によれば、横須賀市長は25日の定例会見で「AIは公平な視点を持つ相談相手」と語られたとのことです。

大規模言語モデルのAIの開発では、訓練データは多いほど良いと考えられているのではないでしょうか。
AIは学習したデータから回答を生成するので、データの中にバイアスがかかった情報が多く含まれれば、回答は公平ではなくバイアスがかかったものになってしまいます。
それを見破れるのかどうか、公平とは何なのか、AIに学習させるデータをどのように設定するのが適切なのか…など様々なことが問われると思います。

※注１）(株)トラストバンク： ふるさと納税総合サイト「ふるさとチョイス」を企画・運営するIT企業。地域通貨のプラットフォーム事業 chiica も手掛ける。鎌倉市の「縁むすびカード」も chiica だった。パブリテック事業としてLoGoチャット、LoGoフォームを運営。

※注２）LoGoチャット： 自治体の業務環境であるLGWAN環境に特化したクラウド型ビジネスチャット。民間企業で使われている多くのチャットツールはインターネット環境のみでの利用に限られるが、LoGoチャットはLGWANとインターネットの両方の環境から特別な設定なしで使え、全国の約1200自治体が利用。（LGWAN Local Government Wide Area Networkは自治体の組織内ネットワーク（庁内LAN）を相互に接続する、行政専用のネットワーク。LoGoチャットは、LGWAN環境にだけ対応していればよいと思うのだが…）

※注３）API機能：2つのアプリケーションやソフトウェア同士が情報をやり取りする際に使用される、プログラミング上の窓口機能

鎌倉市では…？
鳥取県の平井知事は、職員が政策策定と予算編成、議会答弁資料作成の業務にチャットGPTを使用することを禁止すると発表しました（4月20日）。
神奈川県の黒岩知事はチャットGPTを県として導入する場合の利点と課題を整理していると述べたとのことです（4月25日）。

鎌倉市では、横須賀市が導入を公表する前からチャットGPTについての情報収集をしていますが、対話型「生成AIの技術」を導入するとしてもチャットGPTありきで考えるのではなく、今後他社が提供を始めるサービスも含めて検討する姿勢のようです。行政による利用が、無制限なインターネット環境につながるシステムでよいのか、という問題意識は有しているのかもしれません。

なお、全国の自治体の約半数が庁内連絡等のチャットツールに前出のLoGoチャットを使っていますが、デジタル戦略課に問合わせたところ、鎌倉市は横浜市に本社のある(株)ネオジャパンのグループウェア『desknet’s NEO』やビジネスチャット『ChatLuck』を使っているとのことでした。

 

生成AIの導入自体を目的にしない
AIやRPA（Robotic Process Automation 事務系の定型作業を自動化・代行するソフトウェア型ロボット）などによる業務のデジタル化は方法であって目的ではありません。
しかし、市議会においては、業務の効率化や職員の負担軽減といったメリットが十分に大きいのかどうか、市民サービスの質という視点で適切であるかどうかということはあまり問題にせず、デジタル化自体があたかも目的であるかのように推進が提唱される傾向があります。
対話型「生成AI」の技術についても、早期の導入が提唱されることが予想されるので、本稿を書いた次第です。

少なくとも、▽使える業務は限定的だと考えるべきであり、▽個人情報・プライバシーの保護、データ漏洩の防止策、生成された成果物の正確さの担保といった点において信頼できるサービスが選べるようになるまでは導入は控えるべきです。
そして、何よりも、本当に業務改善につながるのかを、目的と方法を取り違えることなしにじっくりと考えることが必要だと思います。