生成ＡＩの急速な普及で、社会のあらゆる分野が「AIをどう使うか」という問いに直面しています。下水道も例外ではない。画像解析、流量予測、異常検知、運転支援、報告書作成――。すでにAIを活用した技術開発は進み、一部では実装も始まっています。しかし、現場からは「まだほとんど使われていない」という声も聞こえてきます。
なぜ、このギャップが生まれるのか。何が現場への適用を阻んでいるのか。どうすれば適用が進むのか。中央大学の山村寛氏、埼玉県下水道公社の若狭公一氏、NJSの竹田功氏、日立製作所の山野井一郎氏を招き、「AIは下水道を変えるのか？」をテーマに、研究、現場、コンサルティング、技術・ベンダーという異なる立場から、AIの現在地と下水道の未来を議論していただきました。
（全３回：企画・進行・記事 奥田早希子氏 一般社団法人Water-n代表理事 ・Webジャーナル「Mizu Design」編集長）
「環境新聞」に掲載された記事をご厚意により転載させていただいています。
#1 問われるのは「技術」ではなく「思想」
#2 AIがもたらす業界再編と新規参入
#3 AIにより変化する未来と変化しない未来←今ここ
ＡＩの失敗にどう向き合うか
若狭氏 何を人に残し、何をＡＩに任せるかの思想を持つ
山村氏 公共事業では「精度」より「説明可能性」も重視
――ここで避けて通れないのが責任の問題です。
ＡＩが出した答えに従って事故が起きた場合、誰が責任を負うのでしょうか。
山村氏 それはＡＩの使用者の責任になりますね。
山野井氏 そうですね。ですのでメーカーとしては、使用者に対して「ＡＩが出した答えをそのまま使ってください」とは言えません。
だから最初は、熟練者の判断を再現するところから始めます。あるいは、ＡＩはあくまで支援にとどめ、最終判断は人が行うようにします。
しかし、ＡＩの性能が上がれば、その境界は変わっていくでしょう。重要なのは、なぜその答えを出したのか検証できることだと思います。判断過程が完全なブラックボックスでは、説明責任を果たせません。
竹田氏 現場感覚で言えば、「ＡＩが判断したから」という言い訳が出てくるのが一番怖いです。失敗した時に、「ＡＩがそう言ったので」ということがあってはなりません。
――ただ、人間も間違えますよね。
竹田氏 そうなんです。そこが難しい。
人間の判断ミスは今もあります。それなのに、ＡＩだけに１００％の正確性を求めるのかという問題もあります。
山村氏 その議論は必要だと思います。
ＡＩの精度が人間より高くなった時、それでも「ＡＩだから使わない」と言えるのか。
逆に、人間が最終判断をしたという形式だけ残して、実際にはＡＩの答えを追認するだけになったら、それは本当に人間が責任を持っていると言えるのか。
責任の所在を単純に「最後にボタンを押した人」に置くのではなく、システム全体として考えなければならないと思います。
――もう一つ伺います。
精度は非常に高い。しかし、なぜその答えになったのか説明できない。そういうブラックボックスＡＩは、公共インフラで許されるのでしょうか。
山野井氏 少なくとも、検証できる余地は必要だと思います。
答えだけが出てきて、「なぜかは分かりません」では、実際の現場で使うのは難しいでしょう。特に公共インフラでは、何か起きた時に説明できる必要がありますからね。
山村氏 公共性という観点では、単純な精度だけでは評価できないと思います。
例えば、非常に高精度だけれど説明できないＡＩと、精度は少し落ちるけれど説明できるＡＩがあった時、どちらを選ぶのか。
民間サービスなら、精度を優先する判断もあるでしょう。
しかし公共インフラでは、説明可能性そのものが価値になる場合があります。
――精度が高いＡＩが、必ずしも公共インフラにとって最良とは限らないわけですか。
山村氏 そうです。何をもって「良いＡＩ」とするのか。そこに、公共インフラとしての思想が必要になります。
――よく「最後は人間が判断すればいい」と言います。それで本当に解決するのでしょうか。
山野井氏 人間を残せば解決するとは限らないと思います。
自動化が進み、人が普段ほとんど操作しなくなった状態で、異常時だけ突然「人間が判断してください」と言われても難しいですよね。
日常的に運転していない人が、最も難しい瞬間だけ判断できるのでしょうか。
これは他分野でも問題になっています。
若狭氏 現場では、普段から設備を見ているから分かることがあります。先ほど話した音や匂いもそうです。
日常を知らなければ、異常は分かりません。だから、どこまでＡＩに任せ、どこを人に残すのかは慎重に考えなければならないと思います。
――「人を残す」だけではなく、「人が判断できる状態をどう残すか」が必要なのですね。
何のためのＡＩなのか
山野井氏 自治体間格差の是正に期待
竹田氏 費用削減だけではない効果がある
――もう一つ伺いたいのが自治体間格差です。現在も、技術力、財政力、老朽化の状況などに大きな差があります。
ＡＩはその格差を縮めることができるのでしょうか。それとも、ＡＩを使える自治体と使えない自治体に分かれ、さらに格差を広げてしまうのでしょうか。
山村氏 両方あり得ると思います。
理想的には、ＡＩによって小規模自治体でも高度な技術支援を受けられるようになりますし、熟練職員がいなくても過去の知見や他自治体のデータを活用できるようになります。そうなれば格差は縮まるはずです。
しかし現実には、ＡＩを導入できる自治体は、もともと人材や財源がある自治体かもしれません。なぜならデータを整備し、システムを導入し、運用できる人材が必要だからです。今のままの進め方では格差が広がる可能性もあると思います。
山野井氏 だから共通基盤が重要だと思います。
自治体ごとに一からＡＩを作るのは非効率です。データ形式もシステムもバラバラなままでは、小規模自治体ほど不利になります。
一定の共通基盤を整え、その上で各自治体が利用できるようにする。そうしなければ、ＡＩは格差是正の道具になりません。逆に言うと、共通基盤が整えることで、格差是正につなげられると思います。
竹田氏 広域化の議論との関連性も深いと思います。
自治体単独で全てを持つのではなく、複数自治体でデータやシステム、人材を共有する。ＡＩは、そういう仕組みと組み合わせた方が効果を発揮するでしょう。
――ＡＩ導入を個別自治体の問題として考えること自体に限界がありそうですね。
山村氏 そう思います。
――ここまでのお聞きしてきて、改めて伺いたいと思います。
そもそも、下水道は何のためにＡＩを導入するのでしょうか。人手不足の解消でしょうか。コスト削減でしょうか。安全確保でしょうか。それとも、市民サービスの向上でしょうか。
山村氏 私は、人口減少社会の中で下水道サービスを持続させることが大きな目的になると思います。
人が減る。財源も厳しくなる。一方で、施設は老朽化する。今までと同じやり方を続けることは難しい。その中でＡＩをどう使うかが重要ではないでしょうか。
若狭氏 現場からすると、人が減っていく中で、今のサービスをどう維持するかという問題があります。
ＡＩが人がやっていることを全部置き換えられるとは思いません。でも、人がやらなくてもいい仕事、人よりＡＩの方が得意な仕事は任せていく必要があると思います。
山野井氏 技術側としても、ＡＩを導入すること自体が目的ではありません。
ＡＩを使うことで、今までできなかったことができる。あるいは、人がより重要な判断に集中できる。そういう形が望ましいと思います。
竹田氏 経営の視点では、費用対効果は避けられません。ただ、単純に人件費が何人分減るという話だけにすると、現場の抵抗が生まれます。
安全性が上がる、技術継承ができる、サービスを維持できる。そういう価値も含めて考えなければならないと思います。
――ここまでの議論を聞くと、ＡＩ導入の効果を「何人減らせたか」「いくら削減できたか」だけで測ることは適切ではなさそうです。
下水道は、生活者が日々ほとんど意識しないまま利用している公共インフラです。だからこそ、ＡＩによって何が便利になるのか、何が安全になるのか、何を次世代に残せるのかを、生活者の言葉で説明する必要があるように感じます。
ＡＩが現場の負担を減らし、老朽化への対応を早め、事故のリスクを下げるのであれば、それは生活者にとって大きな価値になります。一方で、判断の根拠が分からないまま使われたり、責任の所在が曖昧なまま導入されたりすれば、公共インフラへの信頼を損なう恐れもあります。
つまり重要なのは、ＡＩを「入れること」ではなく、ＡＩによって下水道をどのような社会基盤に変えていくのか。その目的を、技術を開発する側、運営する側だけでなく、社会全体で共有できるかどうかが重要だと感じます。
ＡＩ時代の下水道の未来
若狭氏 ＡＩで子供たちの目を「キラキラ」させたい
山村氏 ＡＩ制作のゲームで住民と未来を考える
――最後に伺います。ＡＩによって、未来の下水道はどのような姿になっているでしょうか。「こういう未来ならいい」というイメージはありますか。
若狭氏 今日、午前中に子どもたち向けの下水道教室をやってきました。子どもたちのキラキラした目を見ていると、例えば「未来はＡＩの知能を持ったロボットが下水道を管理しています」と話したら、すごく喜ぶだろうなと思ったんです。
ＡＩでもロボットでもいい。大切なのは、下水道で何をやっているのか知ってもらうことです。下水道は見えない仕事です。でも、見えないままでいいわけではない。
ＡＩが導入されても、ロボットが導入されても、下水道の仕事をきちんと見せ、知ってもらい、その価値を理解していただく。そして、必要なお金を負担していただく。そこは忘れてはいけないと思います。
――技術が変わっても、下水道の価値を社会に伝えることはやめてはいけないということですね。
若狭氏 そうです。
山村氏 ＡＩでゲームを作ってみようと思っています。それを住民の人に遊んでもらうことで、このまま放っておくと、何年後に道路が何カ所で陥没するとか、そういう未来像を分かりやすく伝えられる可能性があると思います。
――そういうＡＩの使い方もあるんですね。
本日の議論を聞いていて、ＡＩは下水道の課題を解決してくれる魔法の杖ではないということが良く分かりました。
問われているのは「ＡＩで何ができるか」だけではない。ＡＩに何を任せ、人間に何を残すのか。そして、何よりも大事なことは、そのＡＩを使って、どのような下水道をつくるのか、という思想だと感じました。
だからこそ必要なのは、「ＡＩか人か」という二者択一ではありません。どこまでＡＩに任せるのか。どこに人間の判断を残すのか。誰がその境界線を決めるのか。そして、その選択が生活者にどのような価値をもたらすのか。
技術の進歩だけでは決められない問いに向き合うことこそ、公共インフラにＡＩを導入するということなのかもしれません。そして、その答えを出すのは、ＡＩではないということですね。今日はありがとうございました。
（完）