Go back
🥜 Nugget

에이전트 코딩은 함정이다 (Agentic Coding is a Trap)

“AI가 코딩하고 사람은 오케스트레이터”라는 산업 내러티브에 대한 정면 반박 — 인지 부채와 기술 퇴화는 이미 측정되고 있다

  • 15년차 개발자 Lars Faye가 쓴 글. SDD(Spec Driven Development) / 오케스트레이션 워크플로우가 미래라는 현재의 과대 선전이 이미 측정 가능한 트레이드오프를 만들고 있다는 주장
  • 글의 핵심 명제: 코딩 에이전트를 효과적으로 관리하는 데 필요한 바로 그 비판적 사고 능력이 AI 툴링 자체에 의해 잠식되고 있다는 것이 이미 증명되었다. 이는 자기 모순적 시스템이다
  • 저자가 제시하는 정량 가능한 4가지 트레이드오프: ① AI 비결정성을 완화하려는 주변 시스템 복잡도 증가, ② 광범위한 인구의 기술 퇴화, ③ 개인·팀 단위 벤더 종속(Claude 장애 시 팀 마비 사례 다수), ④ 토큰 비용 변동성(고정된 인건비 대비 끊임없이 움직이는 타겟)

“또 다른 추상화일 뿐”이라는 반론에 대한 반박 — 이번엔 데이터가 있다

  • 커뮤니티에서 자주 듣는 변호: “프로그래머들이 스택 위로 이동하며 더 높은 추상화로 진입하고 있을 뿐”. 저자 반박: 더 높은 수준의 모호성은 더 높은 수준의 추상화가 아니다
  • FORTRAN 출시 시 비판(“어셈블리가 더 효율적”), 컴파일러 도입 시 비판(“마법 과다”) 모두 추측적·이론적 두려움이었음. 반면 오늘의 AI 비판은 불과 몇 년 만에 측정 가능한 영향이 데이터로 나오고 있다
  • C++ → Java 전환자가 뇌 안개를 호소하지 않았고, 시스템 관리자가 AWS 가서 네트워킹 이해를 잃지 않았다. 코드 마찰을 거치지 않은 사람이 시니어 워크플로우로 점프하는 트렌드는 역사적으로 처음
  • Simon Willison — 약 30년 경력의 시니어 — 도 자기 고백: “애플리케이션이 무엇을 할 수 있고 어떻게 작동하는지에 대한 확고한 멘탈 모델이 사라지고 있으며, 그로 인해 추가적인 기능을 추론하기가 점점 더 어려워지고 있다”

Anthropic 의 “감독의 역설”(Supervision Paradox) — 모델 제공자 본인이 인정한 모순

  • 최근 Anthropic 연구 인용: “코딩 기술 퇴화가 우려되는 한 가지 이유는 ‘감독의 역설’이다. Claude를 효과적으로 사용하려면 감독이 필요하고, Claude를 감독하려면 AI 과다 사용으로 인해 퇴화할 수 있는 바로 그 코딩 기술이 필요하다.”
  • 50명을 총괄하는 LinkedIn 엔지니어링 디렉터 Sandor Nyako가 팀에 내린 지시: “비판적 사고나 문제 해결이 필요한 작업에는 AI 툴을 사용하지 말라.” 이유: “AI가 정확하지 않을 경우 어떻게 의문을 가질 수 있겠는가, 비판적 사고 능력이 없다면?”
  • 별도 Anthropic 연구: 디버깅 능력이 47% 급락했다는 측정 결과. “개발자들은 중요한 기술, 특히 문제가 생겼을 때 디버그하는 능력을 키우는 것보다 빠른 결과를 제공하기 위해 AI에 의존할 수 있다.”
  • 무엇이 “과다 사용”인지의 임계점은 아직 불명확하지만, 이런 기술들이 몇 달 안에 퇴화할 수 있다는 일화적·데이터 기반 증거가 이미 누적 중

LLM은 잘못된 부분을 가속한다 — 우선순위 목록이 뒤집힌다

  • AI 이전 (좋은) 개발자의 우선순위 ① 코드와 코드베이스와의 이해 → ② 문서화된 효율적 기준 부합 → ③ 가독성 유지하며 최소 코드 줄 수 → ④ 처리 시간
  • 에이전트 코딩은 이 순서를 정반대로 뒤집어, 지정된 시간 내에 생성할 수 있는 코드의 양(속도)에 집중시킨다
  • 저자의 핵심 통찰: 속도는 높은 적성의 자연스러운 부산물이다. 강제될 때 그것은 항상 낮은 정확도로 이어진다. 깊은 이해나 간결함에는 통합이 집중하지 않는다
  • 가능한가? 결단력이 있다면 가능. 현재 그렇게 사용되는가? 아니다 — 조직 전반의 강제적 토큰 소비 의무화와 과대 선전이 정반대 방향을 가리키고 있다

“코딩 === 계획 수립” — 코드로 사고하는 사람의 입장

  • 모든 사람이 스펙을 먼저 쓰고 코드를 나중에 쓰는 게 아니다. 일부 개발자에게 코드 작성 자체가 사고 과정이다. OpenCode 창작자 Dax 인터뷰 인용:

    “새롭거나 도전적인 것을 작업할 때, 내가 코드를 타이핑하는 것 자체가 우리가 무엇을 해야 할지 파악하는 과정이다. (…) 나는 타입을 작성하는 것을 좋아한다. 일부 함수들이 어떻게 함께 작동할지 적어보는 것을 좋아한다. (…) 그게 내가 무엇을 해야 할지 파악하는 방식이기 때문이다.”

  • 코드 작성은 보안·성능·UX·유지보수 모두를 동시에 강제로 고민하게 만든다. SDD는 이 사고 통로를 외부화·생략한다
  • LLM의 비결정성 문제: “당신이 말하는 것이 항상 당신이 의미하는 것과 일치하지 않으며, LLM은 모호성을 가정(또는 환각)으로 채운다.” 더 많은 검토 → 더 많은 에이전트 수정 → 더 많은 토큰 → 결과물로부터의 더 큰 단절
  • 핵심: “결정론적 시스템을 확률론적 시스템으로 대체하고 모호성이 제로가 되기를 기대할 수는 없다.” LLM은 컴파일러가 아니라 다음 토큰 예측 엔진

벤더 종속과 토큰 비용 — 키보드 한 대로 가능했던 일이 구독 의존으로

  • Claude 장애 직후 LinkedIn에 “팀이 완전히 정지됐다”는 게시물 다수. 키보드와 텍스트 에디터만으로 실행할 수 있었던 기술이 갑자기 AI 모델 제공업체 구독을 필요로 하게 된 상태
  • 모델 제공업체는 막대한 보조금을 받고 있으며, 모델 자체도 불안정. 새 모델 릴리스 패턴: 높은 벤치마크 → 과대 선전 → 실사용에서 “너프됐다”는 불평 → 같은 작업에 2~3배 토큰 소모
  • 직원 비용은 알 수 있지만, 토큰 비용이 하루·달·해 단위로 얼마가 될지는 전혀 알 수 없다. ThePrimeagen: “이런 완전한 에이전트 워크플로우를 사용할 때, 모델 제공업체들이 사실상 당신을 소유하게 된다”
  • 시나리오: 업계 전체의 기술셋이 벤더에 종속되어, 과거 자신의 비판적 사고와 문제 해결로 달성했던 것을 이제는 토큰 소비로 사야 하는 구조. 금전적·지적 러그풀은 언제든 가능하고, 로컬 LLM은 그 수준의 사용을 아직 흡수 불가

저자의 처방: AI를 강등시켜라 — 함선의 컴퓨터처럼 쓰지, Data처럼이 아니라

  • 저자는 수동 타이핑을 옹호하지 않음. Emmet, 자동완성, 스니펫, jQuery “write less, do more”, COBOL의 “영어 같은” 명령어 모두 코드 작성을 줄이려는 역사적 시도. LLM은 그 도구 배열의 새 멤버
  • 그러나 LLM을 보조 프로세스로 두고 인간이 구현에 적극 참여하는 워크플로우의 역전이 필요. 위임 가능한 부분만 위임하고, 이해 부채를 적극 차단
  • 저자의 일상 워크플로우:
    • 스펙·계획 생성은 LLM 활용, 구현은 직접 진행. 작업에 따라 직접 코딩 비율 20~100%
    • 모델 협업 시 의사 코드(pseudo-code)를 작성해 요청과 생성 코드 사이 거리를 좁힘
    • 모델을 즉석 코드 생성·인터랙티브 문서화 위임 유틸, 그리고 자기 접근에 대해 끊임없이 질문·반복·리팩토링·명확화하는 연구 도구로 사용
    • 한 자리에서 검토할 수 있는 양보다 더 많이 생성하지 않는다. 너무 많으면 속도를 줄이고 분할
    • 자기가 직접 해본 적 없거나 혼자서 할 수 없는 것을 LLM에 구현시키지 않는다 (순수 교육·튜토리얼 목적은 예외, 나중에 버림)
  • 한 줄 요약: “함선의 컴퓨터처럼 사용하라, Data처럼이 아니라” (스타 트렉 레퍼런스 — 명령에 응답하는 도구 vs 자율적 동료)

결론: 우리는 더 위험한 실험을 하고 있다

  • 코딩 민주화 시도가 반복적으로 실패한 이유: 코드와 참여하지 않고서는 코드를 이해할 수 없다는 현실. 코드를 계속 참여하지 않으면 이해와의 접촉이 끊긴다. 끊기면 처음부터 덜 유능한 오케스트레이터가 된다
  • 소셜 미디어 도입 시 장기 영향을 이해하지 못한 채 도입했고, 이제 광범위한 주의력 결핍에 직면. 이번엔 더 위험한 것을 도박 중
  • 마무리 인용 — fast.ai 창설자 Jeremy Howard:

    “지금 AI 에이전트에 올인하는 사람들은 스스로 퇴물이 되는 길을 보장하는 것이다. 생각을 컴퓨터에 아웃소싱하면, 기술 향상, 학습, 더 유능해지는 것을 멈추게 된다.”

🔗 메타데이터

반응 불러오는 중…