豊島区議会 一般質問 生成AIに関する一般質問を行いました。
「今日の小林弘明」#小林弘明豊島区議会 #豊島区議会
本日の豊島区議会は、一般質問2日目です。
今回は、チャットGPTの自治体業務および行政サービス利活用についての一般質問を行いました。
チャットGPTをはじめとする生成AIを自治体で利活用する流れが広がっています。
それと同時に、情報漏洩や著作権侵害といった事例を防ぐためにどのような体制を行っているか、先行自治体の例をふまえ、導入のメリット・デメリット、今後の利活用の見通しについて質疑を行いました。
原稿は以下の通りです。
豊島区無所属元気の会小林弘明です。
今回は、「区民が安心でき、安全な生成AI利活用ガイドラインの策定・推進で、区民サービスの向上と職員の業務負担削減、効率化の両立を!」との題名で、質問いたします。
理事者の皆様の前向きなご答弁をお願いいたします。
まずは、「チャットGPTをはじめとする、生成AIの利活用について」質問します。
各種報道でもあります通り、自治体においてもチャット
GPTをはじめとした、生成AIと呼ばれる新しい情報技術の業務利用・導入が急速に進んでいます。
生成AIとは、厳密な定義はなされていないものの、野村総研が定義した要件によれば、「さまざまなコンテンツを生成できるAI」のことであり、また、「そのために必要な学習能力を有するAI」のことを指します。
従来型のAIでも、データの整理・分類を学習し、その結果に基づいて予測を行い、結果を出力することはできましたが、決められたルールに則った(のっとった)自動化が主な目的であり、生成AIのようにパターンにとらわれずに独自にコンテンツを生成することはできませんでした。
生成AIが生まれたことによって、ルールやパターンが構造化されていないデータも学習し、生成することができるので、例えばインターネット検索エンジンでは調べるのに手間がかかる情報や調べものの補助、文章の作成、議事録の要約、アイディアの創出といった分野で特に威力を発揮します。
そこで質問いたします。
豊島区でも、すでに複数の業務や区民サービスで従来型
AIの利活用を行っておりますが、その現状について改めてお知らせください。
また、生成AIについても、一部の職員を対象にトライアルを行っていると伺っておりますが、そちらの状況についても併せてお知らせください。
冒頭にも述べた通り、庁内業務や区民サービスへ生成AIを利用する流れは全国的で、もはや避けられないものとなっています。
実際に、23区では、江戸川区、千代田区、目黒区、練馬区、葛飾区が庁内業務への導入を決定しているほか、全国でも今年の夏を境に多くの自治体が導入に踏み切っており、今後さらに多くの自治体で予算面・人材面で同種の手当が行われる見込みです。
そこで質問いたします。
庁内業務への生成AIの導入について、現在はトライアル導入を行っているものと思いますが、今後の本格導入にあたって、予算面・人材面でどのようなリソースを割いていくのか、区の方針についてお知らせください。
また、庁内業務のみならず、生成AIを利活用し、従来型のAIチャットボットのように定型文から選ばせる形ではなく、自由入力、会話形式の自然な言葉で案内や相談ができるようになるなど、区民サービス向上にも応用できると考えられます。
以上のように、単なる業務効率化にとどまらず、新しい技術によって区民サービスが向上したり、あるいは業務効率化によって空いた時間を区民サービスに還元することが重要であると考えます。
そこで質問いたします。
生成AI導入によってどのように区民還元を行っていくか、また、将来的にどのような分野に応用していくつもりであるか、現時点での区長の見解をお知らせください。
次に、「豊島区の生成AI利活用ガイドラインについて」質問します。
チャットGPT導入にあたって最も重要なことは、個人情報、機密情報の漏洩防止です。
チャットGPTは、入力されたデータがチャットGPTに保存され、学習データとして取り込まれるほか、場合によっては一部または全部が別の質問によって出力されてしまう可能性があります。
これらの防止をどのように行っていくかが、導入にあたって非常に重要なカギとなります。
そこでまずは、公式ホームページや豊島区関連のウェブサイト、公式ラインやフェイスブック、エックス等SNSにおいて、情報漏洩の防止の取り組み、また、それらで発生した情報漏洩事案がありましたらお知らせください。
チャットGPTを導入した先行自治体の中でも、その点について特に意識をもって取り組んでいる事例をご紹介します。
兵庫県神戸市は、今年の5月24日にチャットGPTの使用に関し、個人情報の入力や非公開の機密情報の入力を禁止する条例を制定した全国発の自治体です。
神戸市は、情報漏洩の対策のために、
① 条例の制定
② データ履歴の保存がされない民間サービス経由のチャットGPT独自システムの構築
③ 職員利用のガイドラインの策定・周知
と、三重の漏洩防止策を実行しています。
埼玉県戸田市では、チャットGPT導入の利活用や情報漏洩防止アイディアの洗い出しのため、今年の5月からほぼ毎月ペースで、職員、市民、協力企業が参加するハッカソンを実施しました。
ハッカソンでは、自治体職員、市民団体、企業合計9チーム約50人が参加し、チャットGPTによる市役所職員応対体験をゲーム感覚で体験できるアプリ「戸田クエスト」など、アイディアを実際にアプリケーションとして試作したほか、実際に取り組みを通じてできること、難しいことなど、公民連携で確認をする場となったそうです。
その結果、戸田市では他の自治体にも公開できるほど完成度の高い「チャットGPTの自治体ガイドブック」を完成させ、実際に他の自治体へ配布を進めているほか、自ら策定したガイドラインに沿って、生成AI活用準備を進めています。
戸田市の活用分野について担当者に伺ったところ、ハッカソンを通じて得た知識を利用し、今後は庁内業務はもちろん、特に教育分野への生成AIの利活用に力を入れていると伺いました。
具体的には、生成AIを利用した授業アイディア案、校務の補助、生成AIの利用方法についての生徒理解促進で利活用する予定で、職員の個人情報・機密情報の漏洩防止のためのガイドライン策定はもちろん、教育分野ならではのものとして、有害情報へのアクセスや著作権侵害の防止といった部分で利活用を進める予定とのことです。
また、先ほどの神戸市の事例でも取り上げましたが、チャットGPTを直接導入するのではなく、民間企業が提供するサービスを利用することで、法的問題や入力情報の保存、履歴の消去といったセキュリティ面でのリスク軽減も可能です。
そこで質問します。
豊島区のチャットGPTのトライアルにあたって、情報漏洩等のリスク課題について、どのような対策を講じたのか、また今後の本格導入にあたって、豊島区のガイドライン策定をはじめとする運用環境の整備についてどのように考えているか、区長の見解をお知らせください。
以上で私の一般質問を終了いたしますが、今回の一般質問には、質問内容、文章の一部を実際にチャットGPTを活用・参考にしました。
具体的には、
「あなたは豊島区議会の議員です。
豊島区議会議員として、チャットGPTの導入に関する一般質問を行いたいと考えています。
自治体がチャットGPTを導入することによるメリットとデメリット、議会用一般質問案を作成してください。」とチャットGPTに入力した結果、数秒で答えがでました。
私が想定していた内容とほぼ同一の文章もあり、確かに業務効率化に資する部分があると実感しましたが、それをそのまま利用することはやはりできず、その内容が真実であるのか、記載内容や外部に出してはいけない情報が含まれていないか、しっかり検証する必要があるとも感じました。
神戸市長は、職員に対するチャットGPTの説明会において、「チャットGPTは優秀なアシスタントとなることは間違いない。しかしながら、その情報をどう活用するか、その最終判断と責任は職員と市がとらなければならないことを認識してほしい。」といった旨の説明を行ったそうです。
豊島区においても、安全・安心な利活用体制を万全にしながらも、ぜひ導入に向けて創意工夫、研究を行い、職員の負担軽減と区民サービスの向上に努めていただければと思います。
ご清聴ありがとうございました。
原稿以上