AIに任せたあと、私たちはどこに立つのか

仕事でのAIの議論は、たいてい関係のない数字の話になります。コードの何割をモデルが書いたか。それで何かが決まるわけではありません。

もっと役に立つ問いは、人がどこに立っているのか、そしてその成果物が社外に出たとき、誰が責任を負うのかです。

私たちはこれに近いことを、すでにシステム運用保守のサービスページに短く書いています。定型的な部分、つまり一次対応、定常チェック、レポート作成、コンテンツやデータの処理はAIが担い、判断は人が持つ。この記事は、その一文を長く書き直したものです。

速くなったのは、どこか

作るのは速くなりました。決めるのは速くなっていません。

マイグレーション、レポート、画面ひとつを、モデルは人が正しく説明し終わるより早く書いてきます。できないのは、それが間違っていたときの結果を引き受けることです。 それはプルリクエストに名前が載っている人と、翌朝に電話を受ける会社のところに残ります。

だからボトルネックは移動しました。以前は書くところにありました。いまは確かめるところです。確認は遅く、しかも簡単にごまかせます。

立つ位置は動く

AIを使うワークフローの中に、人が立つべき唯一正しい場所はありません。それを探そうとすると、誰も守らないルールができあがります。

内部の小さなヘルパー関数の補完に、私はほとんど何も求めません。間違っていればテストが落ちるか、同僚が指摘します。稼働中のデータベースへのスキーマ変更は、差分が小さくても別の仕事です。

だから私たちは、ツール単位ではなく作業単位で決めます。

• 取り消しが安く、見る人が少ない場合。 モデルが下書きし、人がざっと目を通し、実際のレビュアーはテストです。
• 取り消しが高い場合、または顧客の目に触れる場合。 出す前に人が読み、自分で動かします。繰り返しの作業では、一件ずつではなく手順を人が確認し、外れたものを人が見ます。
• 取り消せない場合。 作業そのものは人がやり、モデルはセカンドオピニオンまでです。

道具は三行とも同じです。変わるのは、人がどこまで担当するかだけです。

これは手続きのための手続きではありません。誤字の修正と、お金の流れを変える修正が、同じ量の注意しか受けない状態をやめるためのものです。

間違いの代償は下がっていません。下がったのは、間違ったものを作る側のコストだけです。

この差が問題の中心です。「AIが書いたので」が二度目には通らない理由でもあります。量は増えました。それを判断できる人の数は増えていません。

自分が書いていないものを読む

自分が書いていないコードを読むことは、書くこととは別の技能です。そして、いま値段がつくのはそちらです。

モデルの出力は流暢で、流暢さは正しさのように読めます。コンパイルが通り、自信のあるコメントが付いた間違った関数は、同僚が書いた雑な関数より疑われません。これはモデルの問題ではなく、私たちの問題です。心がけではなく手順で受け止めます。

私たちの側では、具体的にはこうしています。

• ルールは、モデルが読む場所に書く。 普段使っているのがClaudeなので、私たちの場合は CLAUDE.md です。チャットで伝えたルールは、翌日には消えます。
• 差分の前に、計画を出させる。 計画は反論できる長さです。差分は、うなずいて終われる長さです。
• 別のモデルにレビューさせる。 一つ目の成果物を渡し、粗を探すよう指示してから、両方を読みます。食い違った箇所が、人の見る場所です。
• テストとカバレッジに重きを置く。 書くコストは下がりました。テストのコストは下がっていません。
• 前提にせず、再現する。 動かし、わざと壊し、落ちるところを見ます。

安い工程はいくらでも積めます。最後のプッシュだけは、量では片づきません。

そして仕様は人の言葉で持ちます。何が正しいかを誰も言えない状態では、レビュアーも間違いを見つけられません。

学ぶ部分を飛ばしてしまう

もう一つのコストは、見えにくいところにあります。不具合は直ったのに、こちらには何も残っていない。これを一年続けると、あとでできることを、今日の速さと交換したことになります。

道具のほうから止めてくれることはありません。そこは人の側から出すしかありません。

だから私たちは、出すものを読み、なぜ動くのかを聞き、いちばん新しいメンバーが半日かけて何かに詰まる余地を残しておきます。

私たちが立つところ

私たちの仕事では、次の三か所は人が引き受けます。着手の前に、どこを人が持つのかを決めておきます。

• 仕様のところ。 モデルは、顧客の代わりに結果を望むことができません。
• 顧客の目に触れるものの責任。 そこに載っているのは道具の名前ではなく、私たちの名前です。
• 取り消せないものすべて。 この三つの中で、取り消せることだけが本当の安全網です。

真ん中の一つが、一件ずつ読むことなのか、手順を人が確認しておくことなのかは、案件によって違います。そこは着手の前に決めます。

それ以外は相談しながら決め、道具が良くなるたびにまた相談します。これは逃げ道ではありません。道具を本気で扱うと、実際にこういう形になります。

AIが変えたのは、誰が作るかです。誰が答えるかは、変えていません。