AIに任せて落ちる技術力は、「AIのせい」と言える技術だけだ
夜中に本番障害が起きた。原因はAIに書かせたコードにあった。私はそのコードを一行も書いていないのに、画面の前で何時間もそれを読み、直し、翌朝には報告書を書いていた。痛みは全部、私に届いた。
同じ週に、レビューでAIが書いた実装の細部をざっと眺めて「まあ動くだろう」と通した自分もいた。あの障害の痛みは私のものだったのに、この読み飛ばしは誰の記録にも残っていない。この違いがこの記事のテーマだ。
AIに書かせたコードでも、障害の痛みは自分に届く
AIに実装を任せても、届かなくなる痛みと届き続ける痛みがある。届き続ける側から見る。
設計を間違えたときの痛みは届く。AIの出した案を採用しても、採用したのは自分だ。本番で壊れればアラートは自分に飛ぶし、手戻りを説明するのも自分だ。「AIの案だった」という言い訳は、私の知るどの組織でも通用しない。採用の判断が人間の側に残っているからだ。要件を誤読したときも同じ構造で、作り間違いの請求書は必ず発注者のもとに返ってくる。
だから私は、設計判断や障害の一次対応の技術がAI時代に落ちるとは考えない。痛みが届く限り、その技術は使われ続ける。それどころか私の見た範囲では、任せられる部分を任せたぶん、判断を要する場面に遭遇する頻度はむしろ上がっている。
「AIのせい」にできる失敗だけが腐る
問題は逆側だ。失敗を「AIのせい」と言える技術は、痛みが「自分の技術の不足」として記録されない。
レビューの場面に戻る。AIが書いたコードの実装の細部、境界条件の扱い、エラーの握り方、命名の癖を読み飛ばしたとする。後でそこにミスが見つかっても、それは「AIの品質の問題」として処理される。自分の読みが甘かったとは、誰の帳簿にも載らない。痛みは発生したのに、自分の技術の欠損としては記録されない。
技術は、失敗を自分のせいとして記録することでしか維持されない、というのがこの記事の主張だ。そして責任の帰属が外れる場所はAIの登場で構造的に増えた。実装の細部、手続きの記憶、白紙からコードを書き出す力。これらは「AIが書いた方が速い」という一言で、失敗も含めて丸ごと道具に押し付けられる。押し付けた側から痛みが届かなくなり、届かなくなった側から腐っていく。
「練習量が減るから落ちる」は半分正しい
ここまでの説明に対して、まっとうな反対がある。帰属ではなく練習量の問題だという立場だ。ピアノを弾かなければ指が動かなくなるように、書かなければ書けなくなる。反復が人間側からAI側へ移った時点で、痛みの有無に関係なく劣化は全領域で始まる。これがその立場の最強の形だと思う。
この反対は半分正しい。委譲すれば書く反復は確かに減る。だが反復量説だけでは説明できない非対称がある。同じだけAIに任せていても、設計判断は鈍りにくいのに、実装の細部と白紙から書き出す力は先に鈍る。少なくとも私の観察ではその差は一貫している。
差を作っているのは反復の量ではなく、失敗の痛みが届くかどうかだと私は考える。痛みが届く領域では、人は考える反復を止めない。AIに書かせる前に設計を自分で考えるし、壊れれば追いかける。反復は形を変えて残っている。一方、痛みが届かない領域では、確認の反復を「無駄」と判断して止める。「どうせAIが書く」は反復を止める合理的な言い訳として機能する。つまり帰属線は反復停止の先行指標になる。痛みの届かない場所では、練習量説の言う通り腐る。ただし腐る場所は、帰属線が先に教えてくれる。
退化が見えるのはAIがいない日だけ
帰属が外れた退化は、鳴らない。痛みが届いていないのだから内部警告も出ない。退化を検査する機会は、AIが使えない環境に置かれた日にしか来ない。職場が変わる、ツールが止まる、白紙から書いて説明する場面に立たされる。そこで初めて、届いていなかった領域が痩せていたと分かる。
同じ構造が、これからエンジニアになる人にも起きる。帰属対象となる自分の技術がまだ無い人には、痛みが届く前にAIが書いてしまう。退化ではなく、そもそも形成されない。こちらは退化より始末が悪い。
ならば全部自分で書くべきかというと、私はそうは考えない。やるべきことは帰属線を自分で引き直すことだ。失敗したときに「AIのせい」と言うのをやめる。任せる前に自分の案を持ち、出力と突き合わせる。そうすれば、少なくとも「自分のせい」として記録される経路は生き残る。
この主張が外れる条件
この主張が外れる条件はある。まず、「AIのせい」を許さない文化があれば境界は動く。生成物も自分のコードと同じ責任でレビューし、障害時に書き手を問わず担当者が原因を説明する組織では、帰属は失われない。退化は個人の宿命ではなく、設計できる変数だということだ。
次に、AIの出力が実質的に失敗しなくなる未来では、痛みが届かないのではなく痛み自体が消える。実装技術が退化しても問題にならない世界はありうる。ただしドキュメントの薄い領域、独自のドメイン、ツールが壊れた瞬間といった、AIの届かない場所が残る限り、退化した技能が要求される日は来る。
そして帰属線だけですべてを説明できるとは思っていない。反復量説が握っている半分の真実は残るし、退化には速度の個人差もあるはずだ。それでも私は、境界が能力の種類ではなく責任の帰属で引かれる、という説明が一番筋が通っていると考える。
夜中の障害の痛みは私のものだった。それが届く限り、その技術は残る。怖いのは痛みが届かなくなった場所で、届いていないことは届いた日にしか分からない。この失敗をAIのせいと言えるか。その問いを自分に向けることは、今日からできる。