I Quit My GitHub Job Because AI Breaks Software - https://www.youtube.com/watch?v=aEL384kTznk

오늘 저는 거의 4년을 다닌 GitHub을 퇴사했습니다. 시니어 엔지니어까지 성장한 곳이었죠. AI 안전성 개선에 기여하기 위해 떠났습니다. 현재 AI 코딩 에이전트가 배포되는 방식에 위험한 추세가 있고, 이것이 여러분 개인에게도 영향을 미칠 것이기 때문입니다. 제가 관찰한 것, 왜 그것이 저를 떠나게 했는지, 그리고 이 문제에 대해 무엇을 하고 있는지 설명하겠습니다. 먼저, 저는 일이 싫어서 GitHub을 떠난 게 아닙니다. 지금까지 중에 가장 좋은 직장이었습니다. 팀과 함께 초기 AI 지원 시스템을 구축했고, 조직 전반의 엔지니어들이 성숙한 LLM 솔루션을 구축하도록 도왔으며, 그 경험들이 오늘날 제 엔지니어로서의 모습을 만들어줬습니다. 또한 전통적인 AI 자동완성에서 Claude Code, GitHub Copilot 등 새로운 에이전틱 시스템으로 발전하는 에이전틱 코딩의 탄생도 경험했습니다. 이제 우리 프로그래머와 비프로그래머 모두 에이전트 코딩의 혜택을 매일 경험하고 있고, 이는 엄청난 생산성 향상을 가져왔습니다. 하지만 지난 1년간 저는 더 넓은 업계에서 무시할 수 없는 매우 위험한 추세를 발견하기 시작했습니다. 기업들은 단순히 코드 생성에 AI를 사용하는 것이 아니라, 저도 여러분처럼 그것은 환영하지만, 이제 소프트웨어 개발 생명주기의 전체 부분을 AI 에이전트로 대체하고 있습니다. 리뷰, 테스트, 배포 결정, 심지어 아키텍처 선택까지 점점 줄어드는 인간 감독 아래 에이전트에 맡겨지고 있습니다. 이것은 이런 위험을 감수할 수 있는 작은 스타트업 이야기만이 아닙니다. 업계 압력이 너무 높아져서 수백만 명의 사용자를 보유한 기업들이 인간이 거의 손대지 않은 코드를 프로덕션에 출시하고 있습니다. 오해하지 마세요, GitHub에서는 여전히 매일 고품질 소프트웨어에 대한 높은 존중이 있었습니다. 다만 전체적인 업계 추세가 소프트웨어 품질을 빠르게 떨어뜨리고 있습니다. 이미 코딩 에이전트로 모든 것을 자동화하는 한계를 시험하려는 프로젝트와 플랫폼들이 있습니다. 방향은 명확합니다. 일부 조직은 풀 리퀘스트를 AI 생성 결과물을 늦추는 성가신 병목으로 지목하기 시작했습니다. 잠깐 생각해보세요. 코드가 사용자에게 닿기 전에 인간이 검토하는 마지막 체크포인트인데, 업계는 그것을 병목이라 부르고 있습니다. 궁극적인 목표는 인간 리뷰를 완전히 없애는 것처럼 보입니다. 그렇다면 왜 이 문제가 저를 GitHub의 좋은 직장에서 떠나게 했을까요? 최고의 직장 중 하나였음을 쉽게 인정하면서도, 업무에서 사용한 AI는 종종 저보다 더 좋은 코드를 작성하고, 저보다 더 빠르게 코드를 출력합니다. 이것이 기술 업계 경영진을 흥분시킨 이유 중 하나는 모든 개발자가 10배, 심지어 100배 개발자가 될 수 있다는 약속 때문입니다. 10배는 더 이상 충분하지 않으니까요. 너무 흥분하기 전에, 그것이 실제로 무엇을 의미하는지 생각해보세요. 한 개발자가 100배의 코드를 생성할 수 있다면, 그는 더 이상 생산된 내용을 의미 있게 검토할 수 없습니다. 저도 엔지니어로 일하면서 매일 이것을 느끼고 있습니다. 업계가 이것을 문제로 보는 대신, 집단적 반응은 에이전트가 코드 리뷰도 처리하면 된다는 것입니다. 핵심 문제는, AI가 종종 더 좋은 코드를 작성한다고 했지만, 항상 더 좋은 코드를 작성하는 것은 아닙니다. 계속 환각이 발생하고, 계속 실수를 하며, 작업이 충분히 길고 복잡할 때 불완전한 솔루션을 만들 것입니다. 하지만 항상 저보다 더 많은 코드를 작성합니다. 훨씬, 훨씬 더 많이. 과거 보통 하루 업무에서 저는 수백 줄의 코드를 작성했지만, 이제는 한 세션에 수천 줄을 쉽게 작성할 수 있습니다. 그렇다면 불완전한 시스템이 거의 완벽에 가까운 엄청난 양의 코드를 생성하면 어떻게 될까요? 시스템에 버그가 존재할 것이라는 통계적 보장이 생기고, 당신은 인간으로서 그것을 더 이상 확인할 능력이 없습니다. 이것은 직감이 아니라 수학적 사실입니다. 그리고 업계의 현재 대응은 더 많은 에이전트를 투입하는 것입니다. 약간 다른 시스템 프롬프트를 가진 더 많은 에이전트로 에이전트 출력을 평가하고, 에이전트로 자동화 테스트를 작성하고, 에이전트가 소프트웨어를 엔드투엔드로 테스트하게 하고, 약간 다른 프롬프트로 AI 호출을 더 쌓아서 그냥 최선을 바라는 것입니다. 솔직히 말하면, 이것은 소프트웨어 업계가 인형 놀이를 하며 문제에 해결책이 있는 척하는 것과 같습니다. 현재 우리는 실수를 만들어내는 같은 유형의 기술이 자신의 실수를 잡아낼 것이라고 신뢰하고 있습니다. 불완전한 시스템 위에 쌓인 불완전한 시스템은 완벽으로 수렴하지 않습니다. 업계는 지금 다른 모든 것보다 순수한 코드 출력을 의도적으로 우선시하고 있습니다. 생성되는 코드의 양은 더 이상 인간이 막을 수 없고, 이것은 공상과학 소설에서 읽을 법한 가상의 반란 AI 때문이 아닙니다. 아니요, 이것은 단순히 업계가 전략적 결정의 일환으로 의도적으로 이것을 허용하고 있기 때문입니다. AI 분야에서 이루어지는 많은 발언들이 종종 과대광고나 숨은 동기에 기반하는 것과 달리, 저는 다음을 확신을 갖고 말할 수 있습니다. 완전 자율 AI 소프트웨어 개발 생명주기의 미래 배포는 깨진 소프트웨어의 절대적인 증가로 이어질 것입니다. 명확히 하고 싶은 게 있습니다. 여러분은 이렇게 생각할 수 있으니까요. AI 코딩을 완전히 멈춰야 한다고 생각하는 건가요? 아니요, 저는 코딩 에이전트를 중단해야 한다고 말하는 게 아닙니다. 그것은 매우 비현실적이고, 저는 꽤 진보적이며, 솔직히 다시는 모든 코드를 직접 수동으로 작성하고 싶지 않습니다. 그리고 사실 어느 정도의 품질 저하는 받아들일 수 있습니다. 일부 버그는 그다지 중요하지 않으니까요. 전문적인 환경에서도 모든 것이 완벽할 필요는 없습니다. 지원 포털 버튼이 엣지 케이스 조건에서 깨진다고 해서 아무도 다치지 않습니다. 전반적으로, 훨씬 더 많이 출시하고 그 과정에서 작은 것들을 몇 개 깨뜨리는 것은 대부분의 소프트웨어에서 전체적으로 이득입니다. 바이브 코딩이 멋지다는 것도 이해합니다. 어린 시절 좋아하던 게임을 한 번에 만들어내는 것은 정말 멋지고, 비프로그래머도 요즘 소프트웨어에 더 쉽게 접근할 수 있는 것은 좋은 일입니다. 문제는 이 에이전트 사용 압력이 모든 산업에 너무 광범위하게 퍼져 있어서 버그는 불가피하게 나타날 것이라는 점입니다. 그리고 우리가 감당할 수 없는 소프트웨어, 즉 의료 시스템, 금융 플랫폼, 수백만 명이 매일 의존하는 인프라에서도 그럴 것입니다. 근본적으로 새로운 형태의 모니터링 없이는 AI 코딩 에이전트가 이러한 중요 시스템에서 득보다 해를 더 많이 끼칠 것입니다. 큰 문제이지만, 저는 무엇을 하고 있을까요? 옆에서 불평하기는 쉽죠, 그렇죠? 그것이 바로 제가 GitHub을 퇴사하게 만든 것입니다. AI가 일으키는 문제에 대해 불평하기는 쉽습니다. 하지만 실제로 해결책에 기여할 기회가 생긴다면, 어렵더라도 시도하는 것이 맞습니다. 저는 바로 이 문제를 연구하는 연구소에서 기회를 찾았습니다. AI 코딩 에이전트를 위해 특별히 설계된 모니터링 시스템을 구축하는 새로운 역할입니다. 다음 주에 LinkedIn에서 이 새로운 역할의 전체 내용을 공유할 예정입니다. 가장 먼저 알고 싶으시다면, 아래 설명의 링크로 저와 연결하세요. 이 이야기를 공유하는 또 다른 이유는, 4년 전 저는 주니어로 시작했고 이제 더 넓은 업계에 진정으로 중요하다고 생각하는 문제를 연구할 기회를 얻었기 때문입니다. 이것은 긍정적인 변화를 만들면서도 고수익 커리어를 얻는 것이 여전히 가능하다는 것을 보여줍니다. 적어도 시도하면서, 그리고 진심으로 자신의 일을 사랑하면서요. 이것이 제가 다른 사람들을 자신만의 이상적인 AI 커리어로 이끌고 돕는 이유이기도 합니다. 보답의 방법으로요. 여기까지 오게 된 과정에 대한 질문이 있으시면 기꺼이 답변해 드리겠습니다. 아래에 댓글을 남기고 LinkedIn에서 저와 연결하세요.