AI 오케스트레이터라는 환상
“이제 코딩은 AI 가 한다. 사람은 오케스트레이터이다”라는 환상?
‘감독의 역설’이라는 말이 있다. AI 를 감독하려면 코딩을 할 줄 알아야 한다. Anthropic 이 직접 발표한 자체 연구 내용이다.
코딩 에이전트를 효과적으로 관리하는 데 필요한 바로 그 비판적 사고 능력이, 코딩 에이전트 사용 때문에 잠식되고 있다는 것.
인지 부채와 기술 퇴화는 이미 측정되고 있다.
AI 가 만들어 주는 생산성으로 당신은 더 똑똑해지고 있다고 느끼는가?
- Anthropic 자체 연구: 개발자 디버깅 능력 47% 급락
- 30년차 시니어 Simon Willison: “애플리케이션의 멘탈 모델이 사라지고 있다”
- LinkedIn 엔지니어링 50명 총괄 디렉터 Sandor Nyako 의 팀 지시: “비판적 사고가 필요한 작업에는 AI 툴을 사용하지 말라”
C++ 에서 Java 로 옮길 때 뇌 안개를 호소한 사람은 없었다. 시스템 관리자가 AWS 로 가도 네트워킹 이해를 잃지 않았다.
오케스트레이터, 더 높은 추상화, 개발자의 감독 역할 — 모두 환상이다.
코드를 못 읽으면 CTO 일 수 없고, 직접 짜보지 않으면 아키텍처를 설계할 수 없다.
(CTO 로 있으면서 코드를 보지 않았던 기간이 있었고 나는 개발자들에게 CTO 를 뽑아달라는 얘기를 들었다.)
스펙 주도 개발도 환상에 가깝다.
스펙은 개발의 시작점이지 도착점이 아니다. 코드 구현과 아키텍처는 복리 구조다. 누적된 컨텍스트에서, 즉 코드를 짜는 중간에 정해질 수밖에 없다.
AI 가 코드를 작성하는 걸 잘 지켜보라. 스펙과 결과물은 절대 100% 동일하지 않다.
언어는 당신의 생각을 부분적으로만 표현하는 표상이다. 그 불완전한 정보의 빈틈을 AI 는 확률 모델로 레버를 당겨 메운다. 어쩌다 내 생각과 맞으면 가챠 성공, 아니면 계속 확률 레버를 돌린다. 그게 지금 우리가 하고 있는 일의 실상이다.
더 높은 수준의 모호성은 더 높은 수준의 추상화가 아니다.
“지금 AI 에이전트에 올인하는 사람들은 스스로 퇴물이 되는 길을 보장하는 것이다. 생각을 컴퓨터에 아웃소싱하면, 기술 향상, 학습, 더 유능해지는 것을 멈추게 된다.”
— Jeremy Howard, fast.ai 창설자
관련 글