豪政府、アルゴリズムとAI利用で「ロボデット再来」の恐れと警告

オーストラリアのシンクタンク Centre for Public Integrity が報告書を出しました。政府機関が行政の判断にアルゴリズムや AI を使うなら、すべての自動意思決定に監査を義務づけ、公的な登録簿をつくるべきだという内容です。The Guardian は、同国の政府が「ロボデット」の再来を招きかねないという警告として伝えています。

報告書は何を求めているのか

報告書の提案は二つです。一つは、自動化された意思決定すべてを対象にした監査の義務化です。もう一つは、そうした仕組みを一覧できる公的な登録簿の整備です。

対象は一部の高リスクな仕組みに限られていません。「すべて」と書かれている点が、この提案の特徴です。

「ロボデット」という言葉は何を指すのか

見出しの「ロボデット」は、過去に起きた出来事を思い出させる呼び名として使われています。ただ、私が確認できた原文の範囲には、その経緯を説明する本文がありませんでした。詳しい内容は、この記事では述べません。

警告の根拠となる具体的な事例、報告書が名指しする省庁、調査の方法についても、確認できた範囲では分かりません。

なぜ登録簿と監査なのか

どこで、どんな自動判断が使われているかが外から見えなければ、誤りがあっても気づくのが遅れます。登録簿は、その見通しを市民や研究者にも開くための道具と考えられます。監査は、導入後も継続的に確かめる仕組みです。これは報告書の提案から読み取れる狙いについての私の解釈で、原文に明記されたものではありません。

これから何が焦点になるか

政府が提案を受け入れるのか、受け入れるならどの範囲に適用するのかは、確認できた原文からは分かりません。一般に、全件を対象にすると行政の負担が大きくなります。一方で、対象を絞ると見落としが生じます。この二つのバランスをどうとるかが、議論の中心になりそうです。

行政の自動判断は、どこまで市民が確認できる状態であるべきだろうか。