WEBVTT

00:00.320 --> 00:04.040
오늘 저는 거의 4년을 다닌 GitHub을 퇴사했습니다.

00:04.540 --> 00:08.400
시니어 엔지니어까지 성장한 곳이었죠. AI 안전성 개선에 기여하기 위해 떠났습니다.

00:08.900 --> 00:12.320
현재 AI 코딩 에이전트가 배포되는 방식에 위험한 추세가 있고,

00:12.820 --> 00:16.440
이것이 여러분 개인에게도 영향을 미칠 것이기 때문입니다.

00:16.940 --> 00:20.920
제가 관찰한 것, 왜 그것이 저를 떠나게 했는지,

00:21.420 --> 00:24.760
그리고 이 문제에 대해 무엇을 하고 있는지 설명하겠습니다.

00:25.260 --> 00:28.620
먼저, 저는 일이 싫어서 GitHub을 떠난 게 아닙니다.

00:29.120 --> 00:32.860
지금까지 중에 가장 좋은 직장이었습니다. 팀과 함께 초기 AI 지원 시스템을 구축했고,

00:33.360 --> 00:36.460
조직 전반의 엔지니어들이 성숙한 LLM 솔루션을 구축하도록 도왔으며,

00:36.960 --> 00:40.660
그 경험들이 오늘날 제 엔지니어로서의 모습을 만들어줬습니다.

00:41.160 --> 00:45.180
또한 전통적인 AI 자동완성에서 Claude Code, GitHub Copilot 등

00:45.680 --> 00:49.260
새로운 에이전틱 시스템으로 발전하는 에이전틱 코딩의 탄생도 경험했습니다.

00:49.760 --> 00:52.980

00:53.840 --> 00:57.640
이제 우리 프로그래머와 비프로그래머 모두 에이전트 코딩의 혜택을 매일 경험하고 있고,

00:58.140 --> 01:01.600
이는 엄청난 생산성 향상을 가져왔습니다.

01:02.080 --> 01:06.120
하지만 지난 1년간 저는 더 넓은 업계에서 무시할 수 없는

01:06.620 --> 01:09.920
매우 위험한 추세를 발견하기 시작했습니다.

01:10.420 --> 01:13.560
기업들은 단순히 코드 생성에 AI를 사용하는 것이 아니라,

01:14.060 --> 01:17.400
저도 여러분처럼 그것은 환영하지만, 이제 소프트웨어 개발 생명주기의

01:17.900 --> 01:21.620
전체 부분을 AI 에이전트로 대체하고 있습니다.

01:22.120 --> 01:25.660
리뷰, 테스트, 배포 결정, 심지어 아키텍처 선택까지

01:26.160 --> 01:29.620
점점 줄어드는 인간 감독 아래 에이전트에 맡겨지고 있습니다.

01:30.120 --> 01:33.660
이것은 이런 위험을 감수할 수 있는 작은 스타트업 이야기만이 아닙니다.

01:34.160 --> 01:37.660

01:38.160 --> 01:42.060
업계 압력이 너무 높아져서 수백만 명의 사용자를 보유한

01:42.560 --> 01:45.820
기업들이 인간이 거의 손대지 않은 코드를

01:46.320 --> 01:48.660
프로덕션에 출시하고 있습니다.

01:49.710 --> 01:53.110
오해하지 마세요, GitHub에서는 여전히 매일 고품질 소프트웨어에 대한

01:53.610 --> 01:56.750
높은 존중이 있었습니다.

01:56.990 --> 02:00.710
다만 전체적인 업계 추세가 소프트웨어 품질을 빠르게 떨어뜨리고 있습니다.

02:01.210 --> 02:04.350

02:04.590 --> 02:08.430
이미 코딩 에이전트로 모든 것을 자동화하는 한계를

02:08.930 --> 02:11.790
시험하려는 프로젝트와 플랫폼들이 있습니다.

02:12.350 --> 02:15.910
방향은 명확합니다. 일부 조직은 풀 리퀘스트를

02:16.410 --> 02:19.950
AI 생성 결과물을 늦추는 성가신 병목으로

02:20.450 --> 02:23.950
지목하기 시작했습니다. 잠깐 생각해보세요.

02:24.450 --> 02:28.350
코드가 사용자에게 닿기 전에 인간이 검토하는 마지막 체크포인트인데,

02:28.850 --> 02:32.510
업계는 그것을 병목이라 부르고 있습니다.

02:33.010 --> 02:36.670
궁극적인 목표는 인간 리뷰를 완전히 없애는 것처럼 보입니다.

02:37.170 --> 02:40.830

02:41.330 --> 02:45.160
그렇다면 왜 이 문제가 저를 GitHub의 좋은 직장에서 떠나게 했을까요?

02:45.310 --> 02:49.030
최고의 직장 중 하나였음을 쉽게 인정하면서도,

02:49.530 --> 02:53.150
업무에서 사용한 AI는 종종 저보다 더 좋은 코드를 작성하고,

02:53.230 --> 02:56.790

02:57.290 --> 03:01.349
저보다 더 빠르게 코드를 출력합니다. 이것이 기술 업계 경영진을 흥분시킨 이유 중 하나는

03:01.849 --> 03:05.990
모든 개발자가 10배, 심지어 100배 개발자가 될 수 있다는

03:06.490 --> 03:09.150
약속 때문입니다. 10배는 더 이상 충분하지 않으니까요.

03:09.390 --> 03:12.810
너무 흥분하기 전에, 그것이 실제로 무엇을 의미하는지 생각해보세요.

03:13.310 --> 03:16.970
한 개발자가 100배의 코드를 생성할 수 있다면,

03:17.470 --> 03:21.570
그는 더 이상 생산된 내용을 의미 있게 검토할 수 없습니다.

03:22.070 --> 03:25.610
저도 엔지니어로 일하면서 매일 이것을 느끼고 있습니다.

03:26.110 --> 03:29.650
업계가 이것을 문제로 보는 대신,

03:29.970 --> 03:33.970
집단적 반응은 에이전트가 코드 리뷰도 처리하면 된다는 것입니다.

03:34.470 --> 03:38.090
핵심 문제는, AI가 종종 더 좋은 코드를 작성한다고 했지만,

03:38.590 --> 03:41.930
항상 더 좋은 코드를 작성하는 것은 아닙니다.

03:42.430 --> 03:46.130
계속 환각이 발생하고, 계속 실수를 하며, 작업이 충분히 길고 복잡할 때

03:46.630 --> 03:50.010

03:50.510 --> 03:53.850
불완전한 솔루션을 만들 것입니다.

03:54.570 --> 03:58.090
하지만 항상 저보다 더 많은 코드를 작성합니다. 훨씬, 훨씬 더 많이.

03:58.410 --> 04:01.770
과거 보통 하루 업무에서 저는 수백 줄의 코드를 작성했지만,

04:01.930 --> 04:04.650

04:05.090 --> 04:08.530
이제는 한 세션에 수천 줄을 쉽게 작성할 수 있습니다.

04:09.330 --> 04:13.490
그렇다면 불완전한 시스템이 거의 완벽에 가까운

04:13.990 --> 04:16.370
엄청난 양의 코드를 생성하면 어떻게 될까요?

04:16.930 --> 04:20.809
시스템에 버그가 존재할 것이라는 통계적 보장이 생기고,

04:21.309 --> 04:25.130
당신은 인간으로서 그것을 더 이상 확인할 능력이 없습니다.

04:25.630 --> 04:28.850
이것은 직감이 아니라 수학적 사실입니다.

04:29.010 --> 04:32.410

04:32.910 --> 04:36.810
그리고 업계의 현재 대응은 더 많은 에이전트를 투입하는 것입니다.

04:37.310 --> 04:41.250
약간 다른 시스템 프롬프트를 가진 더 많은 에이전트로 에이전트 출력을 평가하고,

04:41.410 --> 04:44.530
에이전트로 자동화 테스트를 작성하고, 에이전트가 소프트웨어를 엔드투엔드로 테스트하게 하고,

04:45.030 --> 04:48.450

04:48.950 --> 04:52.490
약간 다른 프롬프트로 AI 호출을 더 쌓아서 그냥 최선을 바라는 것입니다.

04:52.990 --> 04:56.330
솔직히 말하면, 이것은 소프트웨어 업계가 인형 놀이를 하며

04:56.830 --> 05:00.390

05:00.890 --> 05:04.350
문제에 해결책이 있는 척하는 것과 같습니다. 현재 우리는 실수를 만들어내는

05:04.590 --> 05:08.190
같은 유형의 기술이 자신의 실수를 잡아낼 것이라고 신뢰하고 있습니다.

05:08.690 --> 05:12.670
불완전한 시스템 위에 쌓인 불완전한 시스템은 완벽으로 수렴하지 않습니다.

05:13.170 --> 05:16.270

05:16.830 --> 05:19.910
업계는 지금 다른 모든 것보다 순수한 코드 출력을

05:20.410 --> 05:24.280
의도적으로 우선시하고 있습니다. 생성되는 코드의 양은 더 이상 인간이 막을 수 없고,

05:24.780 --> 05:28.000

05:28.500 --> 05:32.600
이것은 공상과학 소설에서 읽을 법한 가상의 반란 AI 때문이 아닙니다.

05:33.100 --> 05:36.920
아니요, 이것은 단순히 업계가 전략적 결정의 일환으로

05:37.420 --> 05:40.920
의도적으로 이것을 허용하고 있기 때문입니다.

05:41.420 --> 05:45.480
AI 분야에서 이루어지는 많은 발언들이 종종 과대광고나 숨은 동기에 기반하는 것과 달리,

05:45.720 --> 05:49.040
저는 다음을 확신을 갖고 말할 수 있습니다.

05:49.540 --> 05:53.470
완전 자율 AI 소프트웨어 개발 생명주기의 미래 배포는

05:53.970 --> 05:57.230
깨진 소프트웨어의 절대적인 증가로 이어질 것입니다.

05:58.270 --> 06:01.230
명확히 하고 싶은 게 있습니다. 여러분은 이렇게 생각할 수 있으니까요.

06:01.730 --> 06:05.230
AI 코딩을 완전히 멈춰야 한다고 생각하는 건가요? 아니요,

06:05.730 --> 06:08.870
저는 코딩 에이전트를 중단해야 한다고 말하는 게 아닙니다.

06:09.370 --> 06:12.790
그것은 매우 비현실적이고, 저는 꽤 진보적이며, 솔직히 다시는

06:13.290 --> 06:16.590
모든 코드를 직접 수동으로 작성하고 싶지 않습니다. 그리고 사실

06:17.090 --> 06:20.510
어느 정도의 품질 저하는 받아들일 수 있습니다. 일부 버그는 그다지 중요하지 않으니까요.

06:21.010 --> 06:24.190
전문적인 환경에서도 모든 것이 완벽할 필요는 없습니다.

06:24.350 --> 06:28.130
지원 포털 버튼이 엣지 케이스 조건에서 깨진다고 해서 아무도 다치지 않습니다.

06:28.630 --> 06:32.130
전반적으로, 훨씬 더 많이 출시하고 그 과정에서 작은 것들을 몇 개 깨뜨리는 것은

06:32.630 --> 06:35.930
대부분의 소프트웨어에서 전체적으로 이득입니다.

06:36.430 --> 06:40.490
바이브 코딩이 멋지다는 것도 이해합니다.

06:40.990 --> 06:44.290
어린 시절 좋아하던 게임을 한 번에 만들어내는 것은 정말 멋지고, 비프로그래머도

06:44.790 --> 06:48.170
요즘 소프트웨어에 더 쉽게 접근할 수 있는 것은 좋은 일입니다.

06:48.730 --> 06:52.250
문제는 이 에이전트 사용 압력이 모든 산업에 너무 광범위하게 퍼져 있어서

06:52.750 --> 06:56.230
버그는 불가피하게 나타날 것이라는 점입니다. 그리고

06:56.730 --> 07:00.110
우리가 감당할 수 없는 소프트웨어, 즉 의료 시스템,

07:00.190 --> 07:03.470
금융 플랫폼, 수백만 명이

07:03.970 --> 07:07.990
매일 의존하는 인프라에서도 그럴 것입니다.

07:08.490 --> 07:12.270
근본적으로 새로운 형태의 모니터링 없이는 AI 코딩 에이전트가

07:12.770 --> 07:15.390
이러한 중요 시스템에서 득보다 해를 더 많이 끼칠 것입니다.

07:16.510 --> 07:19.830
큰 문제이지만, 저는 무엇을 하고 있을까요?

07:20.330 --> 07:24.200
옆에서 불평하기는 쉽죠, 그렇죠? 그것이 바로 제가 GitHub을 퇴사하게 만든 것입니다.

07:24.700 --> 07:28.360
AI가 일으키는 문제에 대해 불평하기는 쉽습니다. 하지만 실제로 해결책에

07:28.860 --> 07:32.000
기여할 기회가 생긴다면, 어렵더라도 시도하는 것이 맞습니다.

07:32.500 --> 07:35.960

07:36.460 --> 07:39.840
저는 바로 이 문제를 연구하는 연구소에서 기회를 찾았습니다.

07:40.340 --> 07:43.440
AI 코딩 에이전트를 위해 특별히 설계된

07:43.520 --> 07:47.600
모니터링 시스템을 구축하는 새로운 역할입니다.

07:48.580 --> 07:51.940
다음 주에 LinkedIn에서 이 새로운 역할의 전체 내용을 공유할 예정입니다.

07:52.100 --> 07:54.820
가장 먼저 알고 싶으시다면,

07:54.980 --> 07:57.700
아래 설명의 링크로 저와 연결하세요.

07:58.500 --> 08:02.380
이 이야기를 공유하는 또 다른 이유는, 4년 전 저는 주니어로 시작했고

08:02.880 --> 08:05.380
이제 더 넓은 업계에 진정으로 중요하다고 생각하는

08:05.880 --> 08:09.500
문제를 연구할 기회를 얻었기 때문입니다.

08:10.000 --> 08:13.300
이것은 긍정적인 변화를 만들면서도 고수익 커리어를

08:13.800 --> 08:18.000
얻는 것이 여전히 가능하다는 것을 보여줍니다. 적어도 시도하면서, 그리고 진심으로

08:18.500 --> 08:22.120
자신의 일을 사랑하면서요. 이것이 제가 다른 사람들을 자신만의 이상적인

08:22.620 --> 08:25.920
AI 커리어로 이끌고 돕는 이유이기도 합니다. 보답의 방법으로요.

08:26.420 --> 08:29.920
여기까지 오게 된 과정에 대한 질문이 있으시면 기꺼이 답변해 드리겠습니다.

08:30.420 --> 08:33.280
아래에 댓글을 남기고 LinkedIn에서 저와 연결하세요.