AIの失敗には、型がある

手順書にある設定が、どこにも無い

あるサイトのサーバー環境を見直す作業で、セキュリティの設定を変えることになりました。手順書は、AI に整理してもらったものです。その中に「セキュリティレベルを中から高へ変更する」という一行がありました。

さっそく管理画面を開いて、その設定を探します。ところが、どこにも見当たりません。

ありゃ

メニューをじーっくり眺め、検索窓に入れ、英語でも試しました。いやいや、そんなはずは。手順書には、あんなに堂々と書いてあるのです。それでも、出てきません。

まさか、賢い人にしか見えない設定では

もしかしてこれは、あの童話の服のように、賢い人にしか見えない設定項目なのか！？　だとすると、見えない私は……。

……はて。

いえいえ、管理画面にそんな仕掛けはありません。王様も、仕立て屋もいません。

なぜ、無いものが手順に書かれていたのか

そこで、公式のドキュメントにあたってみました。すると、その設定はすでに完全に自動化され、常に保護される状態が既定になった、と書かれていました。判定に使われていた数値に頼るルールも、予告どおりに廃止されていたのです。

あいたた

つまり、やろうとしていた作業は、そもそも要らなかったわけです。AI が学んだ情報のほうが古く、数年前の記事や画面を前提に、もっともらしい手順を組み立ててくれていたのだと思います。書かれていたこと自体は、当時としては正しかったのでしょう。

古い地図のカーナビ

これは、古い地図のまま走っているカーナビに似ていると思います。もう通れない道でも、カーナビは迷わず「この先、右です」と案内してくれますよね。地図が何年前のものかは、こちらが聞かないかぎり、教えてくれません。

並べてみると、ほかの失敗も同じ形をしていました。問いの前提がずれたまま相談を重ねると、AI はそれまでの答えを土台に、ずれたまま積み上げていきます。対話の場が二つ三つに分かれても、どれが最新かの知らせは来ません。どれも嘘ではありません。AI もまた、覚えている古い記録を元に話していて、間違っていることに、気づいていなかっただけなのです。

しかも AI は、良かれと思って手間を省きます。こちらがはっきり頼まないかぎり、わざわざ調べにいくより、覚えていることで答えてくれるのです。