안녕하세요, 청취자 여러분. No Priors에 다시 오신 것을 환영합니다. 오늘은 소개가 필요 없는
Andre Karpathy와 함께합니다. Andre는 유명한 연구원이자
사랑받는 AI 교육자이며 큐버입니다. OpenAI의 초기 팀원이었고,
테슬라의 오토파일럿 책임자였으며, 현재는
교육을 위한 AI 분야에서 일하고 있습니다. 우리는 그와 함께 연구 현황,
그의 새로운 회사, 그리고 AI에서 기대할 수 있는 것에 대해 이야기를 나눌 것입니다.
오늘 참여해 주셔서 감사합니다. 이렇게 모시게 되어 기쁩니다. 감사합니다.
여기 오게 되어 기쁩니다. 테슬라에서 오토파일럿을 이끌었는데, 지금은
실제로 완전 자율주행 차량, 승용차들이
도로 위에 있습니다. 현재 우리가 어디까지 왔는지, 얼마나 빨리
능력이 향상될지, 승용차에 얼마나 보편적으로 적용될지에 대해 어떻게 생각하시나요?
네, 저는 자율주행 분야에서 약 5년을 보냈습니다. 매우 흥미로운 분야라고 생각합니다. 현재 이 분야에서
일어나고 있는 일은, 제가 자율주행에서 AGI로
많은 유사점을 끌어내고 있다고 생각합니다. 아마도 제가 이 분야에 익숙해서 그럴 수도 있지만,
자율주행에서 우리가 어느 정도 AGI에 도달했다고 느낍니다. 왜냐하면
오늘날 시스템들은 기본적으로 어디든 갈 수 있고, 고객으로서 여기저기
다닐 수 있기 때문입니다. 샌프란시스코의 Waymo는 물론 매우 흔합니다. 아마 여러분도
Waymo를 타보셨을 겁니다. 저도 여러 번 타봤는데 정말 놀랍습니다. 어디든
Waymo를 처음 타본 건 실제로 10년 전이었어요,
거의 정확히 2014년 즈음이었죠. 그곳에서 일하는 제 친구가
데모를 보여줬는데, 10년 전에 저를 한 블록 주변으로 운전해 주었어요.
그리고 10년 전에 이미 거의 완벽한 주행이었습니다.
그리고 제가 경험한 데모에서부터 실제로 돈을 내고 이용할 수 있는
도시 규모의 확장 중인 제품이 되기까지 10년이 걸렸죠.
이게 규제 때문인지 기술 때문인지 어떻게 생각하세요?
기술이 언제쯤 준비됐다고 보세요? 저는 기술 문제라고 봅니다.
30분짜리 단일 데모 주행에서는 보이지 않는 게 많아요. 그들이 10년 동안
다뤄야 했던 모든 문제를 접하지 않거든요.
데모와 제품 사이에는 엄청난 차이가 있고, 규제 등
많은 부분이 관여한다고 봐요. 하지만 어떤 면에서 자율주행 분야에서
AGI를 조금은 달성했다고 생각합니다. 그런데 흥미로운 점은
세계화가 전혀 이루어지지 않았다는 거예요.
데모를 보고 경험할 수는 있지만, 세상은 아직 변하지 않았죠.
데모에서 실제 세계화까지는 오랜 시간이 걸릴 겁니다.
거기에는 큰 격차가 있어요. 이게 AGI와 연관된다고 봅니다.
AGI도 비슷한 과정을 거칠 것 같아요. 우리가 AGI를 얻게 되면
자율주행 분야와 유사한 방식으로 진행될 거예요.
자율주행 얘기를 좀 더 해보자면, 사람들은
Waymo가 Tesla보다 앞섰다고 생각하죠. 개인적으로는 Tesla가 앞섰다고 봅니다.
그리고 자율주행 프로그램에 대해. 제 생각에 테슬라는 소프트웨어 문제가 있고,
웨이모는 하드웨어 문제가 있다고 봅니다.
그리고 소프트웨어 문제가 훨씬 쉽죠. 테슬라는 전 세계에
대규모로 차량을 배치했습니다. 웨이모는
그 수준에 도달해야 합니다. 테슬라가
실제로 이를 배포하고 작동시킬 수 있는 단계에 이르면
정말 놀라운 일이 될 것 같습니다.
어제 최신 버전을 운전해봤는데, 이제 저를 여기저기로
데려다 줍니다. 최근에 정말 좋은 개선이 있었다고 봅니다.
네, 저도 최근에 많이 사용해봤는데 실제로 꽤 잘 작동합니다.
어제는 기적적인 주행을 보여줬어요. 팀이 하고 있는 일에
매우 감명받았습니다. 여전히 테슬라는
주로 소프트웨어 문제, 웨이모는 주로 하드웨어 문제라고 봅니다.
그래서 지금은 웨이모가 앞서나가는 것처럼 보이지만,
10년 후 누가 실제로 규모를 갖추고
수익의 대부분을 창출하고 있을지 보면, 테슬라가 여전히 앞설 거라고 봅니다.
소프트웨어 문제가 전환점을 맞이하고 어느 정도 동등해지는 데
얼마나 걸릴 것 같나요? 말씀하신 대로
웨이모 차를 보면 매우 비싼 라이다와
다른 종류의 센서들이 많이 장착되어 있어서
소프트웨어 시스템을 지원합니다. 그래서
테슬라처럼 카메라만 사용할 수 있다면 사실상
엄청난 비용과 복잡성을 제거할 수 있고, 다양한 종류의 차에서
사용할 수 있습니다. 이러한 전환이 언제 일어날 것 같나요?
제 말은, 앞으로 몇 년 안에요? 저는 그렇게 되길 바라는데,
사실 정말 흥미로운 점은 사람들이 이를 제대로
인식하지 못하고 있다는 거예요. 테슬라는 실제로 많은 고가의 센서를 사용합니다. 다만
훈련 단계에서만 그렇죠. 라이다를 장착한 차들이 여러 대 돌아다니면서
확장성 없는 일들을 하고, 추가 센서들을 달고
매핑 등을 합니다. 이건 훈련 단계에서 하는 일이고,
그 결과를 실제 배포되는 차량에는 비전만 사용하는 패키지로 압축해서 넣습니다.
이는 센서와 비용의 일종의 차익거래라고 볼 수 있죠.
저는 이것이 정말 훌륭한 전략이라고 생각하는데, 아직 제대로 평가받지 못하고 있어요.
잘 될 거라고 봅니다. 왜냐하면 픽셀에 정보가 있고,
네트워크가 그걸 처리할 수 있을 거라고 봐요. 훈련 단계에서는 이런 센서들이 정말 유용하지만,
실제 사용 단계에서는 그렇게 유용하지 않다고 봅니다. 그리고 당신은 할 수 있습니다.
다른 하나의 전환이 일어난 것 같은데, 기본적으로
많은 엣지 케이스 설계 휴리스틱에서
엔드투엔드 딥러닝으로
이동한 거죠. 이게 최근에 일어난 또 다른 변화입니다. 이에 대해
좀 더 이야기해 주시겠어요? 네, 제 생각에 그것이
테슬라의 처음부터의 계획이었다고 봅니다. 제가 말씀드렸듯이
제가 합류했을 때는 C 코드가 엄청나게 많았는데, 지금은 훨씬 적어졌습니다
차량에서 실행되는 테스트 타임 패키지의 C 코드가 많이 줄었죠
물론 백엔드에는 여전히 많은 코드가 있지만
그건 우리가 지금 얘기하는 주제는 아닙니다. 신경망이 시스템을 통과합니다.
먼저 이미지 수준에서 감지를 하고, 그 다음 여러
이미지로 예측을 하고, 시간에 따른 여러 이미지로 예측을 하면서
C 코드를 버리고 결국에는 조향 명령만 내리게 됩니다.
테슬라가 이런 식으로 스택을 점진적으로 처리하고 있다고 봅니다. 제가 알기로는
현재 웨이모는 그렇지 않지만, 시도는 해봤다가
결국 채택하지 않은 것으로 알고 있습니다. 하지만 확실치는 않습니다. 그들이
이에 대해 말하지 않기 때문이죠. 하지만 저는 이 접근 방식을 근본적으로 믿습니다.
그리고 이것이 마지막으로 해결될 부분이라고 생각합니다
그렇게 보시면 될 것 같아요. 그리고 10년 후 테슬라의 엔드투엔드
시스템은 그저 신경망일 것이라고 추측합니다.
즉, 비디오 스트림이 신경망으로 들어가고 명령이 나오는 식이죠.
점진적으로 구축해 나가야 하고
조금씩 해나가야 합니다. 우리가 했던 모든 중간 예측들과 이런 것들이
개발을 잘못 이끌었다고 생각하지 않습니다. 이것들도 개발의 일부라고 봅니다,
왜냐하면 이에 대한 여러 타당한 이유가 있기 때문입니다.
실제로 엔드투엔드 주행에서 인간을 모방할 때는
거대한 신경망을 훈련시
수많은 매개변수들이 있습니다. 이러한 중간 표현들은
모든 특징과 탐지기를 개발하는 데 도움을 줍니다. 그리고 나서
end-to-end 부분에 대해 문제를 훨씬 더 쉽게 만듭니다.
제가 팀의 일원이 아니라서 확실히는 모르지만 추측컨대,
end-to-end 미세 조정을 할 수 있도록
엄청난 사전 훈련이 이루어지고 있을 것입니다. 기본적으로 점진적으로
진행해 나가는 것이 필요했다고 봅니다. 테슬라가 취한 접근 방식이
올바른 것 같고, 효과가 있어 보입니다. 정말 기대됩니다. 만약
처음부터 end-to-end로 시작했다면 데이터도 없었을 겁니다. 이해가 되네요.
네. 당신은 테슬라를 떠나기 전에 휴머노이드
로봇 프로젝트에서 일했습니다. 궁금한 점이 많은데, 하나는
이렇습니다. 무엇이 전이되나요? 기본적으로 모든 것이 전이되는데,
사람들이 이를 잘 인식하지 못하는 것 같습니다. 알겠습니다. 그건 큰 주장이네요.
매우 다른 문제라고 생각합니다. 기본적으로 로봇입니다. 실제로 보면
자동차는 로봇입니다. 테슬라는 자동차 회사가 아니라고 봅니다.
이는 오해의 소지가 있습니다. 이는 로보틱스 회사입니다. 대규모 로보틱스
회사죠. 대규모라는 것도 완전히 별개의 변수라고 말하고 싶습니다.
그들은 단일 제품을 만드는 게 아닙니다. 제품을 만드는 기계를 만들고 있죠.
이는 완전히 별개의 일입니다. 그래서 테슬라는
대규모 로보틱스 회사라고 생각합니다.
자동차에서
옵티머스 로봇에 대해 말하자면, 그것은 자신을 자동차라고 생각했습니다
왜냐하면 정확히 같은 컴퓨터와 같은 카메라를 가지고 있었기 때문입니다
로봇에서 자동차 네트워크를 실행하니 정말 재미있었죠. 사무실을 걸어다니는데
주행 가능한 공간을 인식하려고 했어요. 오, 멋집니다. 그리고
이제는 모든 것이 걸을 수 있는 공간이죠
하지만 약간 일반화되었고, 약간의 미세 조정이 필요했습니다
주행한다고 생각했지만 사실 환경을 통과하는 것이라고 보는 게 합리적이에요
실제로는 로봇이니까요. 많은 것들이 전이되지만
예를 들어 작동과 행동 데이터가 빠져있죠. 네, 확실히 몇 가지
구성 요소가 빠져있습니다. 그리고 다른 한편으로는 많은 것이 전이된다고 봅니다
옵티머스가 시작된 속도는 제가 보기에 매우 인상적이었어요
일론이 이걸 하겠다고 말한 순간, 사람들이 바로
모든 적절한 도구를 가지고 나타났고, 모든 것이 매우 빠르게 준비되었죠
모든 CAD 모델과 공급망 관련 것들이 준비되었고, 저는 그저
와, 테슬라에는 로봇 공학을 구축하기 위한 전문성이 정말 많다고 느꼈어요
그리고 모든 도구가 동일하고, 단지 자동차에서 재구성된 거죠
영화 트랜스포머처럼 재구성되고 재배열되었지만 본질적으로는 같은 거예요
같은 구성 요소가 필요하고 하드웨어 측면에서든
규모 측면에서든 두뇌 측면에서든 같은 종류의 것들을 고려해야 해요
두뇌에 관해서도 특정 네트워크뿐만 아니라
전체적인 접근 방식과 레이블링 팀, 그리고 모든 것이 어떻게 조율되는지,
사람들이 취하는 접근 방식에 대해. 많은 전이학습이 있다고 생각합니다.
휴머노이드 로봇이나 인간형 로봇의 첫 번째 응용 분야는 무엇이라고 생각하십니까?
많은 사람들이 빨래를 하는 것과 같은 비전을 가지고 있습니다.
하지만 그건 나중에 올 거라고 봅니다. B2C가 시작점이 되어서는 안 된다고 생각합니다.
왜냐하면 할머니를 다치게 할 수 있는 로봇은 안 된다고 봅니다.
법적 책임이 너무 크죠. 그건 마치,
매우 어색한 포옹 같은 거예요.
그냥 넘어질 수도 있고요. 이런 것들은 아직 완벽하지 않고
어느 정도 작업이 필요합니다. 그래서 최고의 고객은
먼저 자기 자신이라고 봅니다. 테슬라가 이렇게 할 것 같아요. 저는
테슬라에 대해 매우 낙관적입니다. 첫 고객이 자신이라는 걸 알 수 있죠.
공장에서 인큐베이팅하며 아마도 많은 자재 처리 등을 하겠죠.
이렇게 하면 제3자와 계약을 맺을 필요가 없고, 모든 게
무거운 일이 됩니다. 변호사가 개입하고 등등. 인큐베이팅 후
B2B로 가서 대규모 창고가 있는 다른 회사로 갑니다.
자재 처리를 할 수 있고, 이 모든 일을 할 수 있습니다.
계약서 작성, 울타리 설치, 이런 모든 종류의
일들을 합니다. 그리고 여러 회사에서 인큐베이팅한 후에야
B2C 애플리케이션으로 진출하기 시작한다고 봅니다. B2C 로봇도 볼 수 있을 것 같아요.
원해요. 하나 있어요. 그래요? 네. 좋아요. 네. G1이요.
네. 그래서 저도 아마 그 중 하나를 살 것 같아요. 그리고 아마도
그 플랫폼들을 기반으로 개발하는 생태계가 생길 거예요. 하지만 대규모로
성공하는 것은 그런 접근 방식일 것 같아요.
하지만 초기에는 많은 물건 취급이 필요하고, 점점 더
구체적인 HKC 작업으로 나아갈 거예요.
제가 정말 기대하는 것은 넷 프리드먼의
낙엽 청소기 도전이에요. 옵티머스가 거리를 살금살금 걸어다니며
낙엽을 하나씩 주워 청소기가 필요 없게 되면 좋겠어요. 이게 가능할 거고
놀라운 작업이 될 거예요. 그래서 이것이 첫 번째 응용 중 하나가 되길 바라요.
저는 그냥. 심지어 갈퀴질도요. 네, 그것도 될 거예요. 아주 조용히요. 네,
조용한 갈퀴질이요. 귀엽네요. 사실 실제로 작동하는 기계가 있긴 해요.
다만 휴머노이드가 아니죠. 휴머노이드 이론에 대해 잠깐 얘기해볼까요?
가장 간단한 버전은 이렇죠. 세상은 인간을 위해 만들어졌고, 하나의 하드웨어 세트를 만듭니다.
올바른 방법은 이 하드웨어 세트에서 점점 더 많은 작업을
수행할 수 있는 모델을 만드는 거죠.
또 다른 진영은 인간이 어떤 작업에도 최적화되어 있지 않다고 생각해요.
더 강하게, 크게, 작게 만들 수 있고, 초인적인 일을 왜 하면 안 되냐고요.
이에 대해 어떻게 생각하세요? 사람들이 과소평가하고 있는 것 같아요
어떤 작업에 대해서든요
단일 플랫폼에 들어가는 고정 비용의 복잡성에 대해 말씀드리겠습니다.
단일 플랫폼에 대해 큰 고정 비용을 지불하고 있다고 생각합니다. 그래서
이를 중앙화하고 모든 기능을 수행할 수 있는 단일
플랫폼을 갖는 것이 매우 합리적이라고 봅니다. 휴머노이드 측면도
매력적인데, 사람들이 쉽게 조작할 수 있기 때문입니다. 이는 데이터
수집에 매우 도움이 됩니다. 사람들이 쉽게
조작할 수 있기 때문입니다. 이 점은 종종 간과됩니다. 물론
말씀하신 것처럼 인간을 위해 설계된 세계 등의 측면도 있습니다.
그것도 중요하다고 봅니다. 휴머노이드 플랫폼에 약간의 변형이 있겠지만,
큰 고정 비용 훈련 플랫폼이 있다고 봅니다.
그리고 마지막으로 한 가지 더 말씀드리면
다양한 작업 간의 전이 학습에서 엄청난 이점을 얻을 수 있습니다.
AI에서는 정말로 여러 작업을 수행하는 단일 신경망이 필요합니다.
그것이 모든 지능과 능력을 얻는 방법입니다.
이것이 또한 언어 모델이 매우 흥미로운 이유입니다. 단일
영역, 즉 텍스트 도메인에서 다양한 문제를 다중 작업으로 처리하고,
서로 지식을 공유하며, 모두 단일 신경망에 결합되어 있기 때문입니다.
이런 종류의 플랫폼이 필요하고, 잎 따기를 위해 수집한
모든 데이터가 다른 모든 작업에 도움이 되기를 원합니다.
특정 목적을 위한 것을 만든다면, 다른 모든 작업 간의
전이로부터 많은 혜택을 받지 못할 것입니다
G1은 3만 달러지만, 특정 가격 이하로
매우 우수한 휴머노이드 로봇을 만들기는 어려워 보입니다.
만약 바퀴 달린 팔을 만들어 여러 작업을 수행하게 한다면,
초기에는 더 저렴한 범용 플랫폼 접근법이 있을 수 있습니다.
이해가 되시나요? 하드웨어 관점에서 더 저렴한 범용 플랫폼 접근법이요?
네, 이해가 됩니다. 발 대신 바퀴를 달거나 하는 식으로요.
하지만 저는 이것이 약간 지역 최솟값에 빠지는 것 같습니다.
장기적으로는 하나의 플랫폼을 선택해 완벽하게 만드는 것이
좋은 방법이라고 생각합니다. 또 다른 점은
사람들에게 친숙할 것이고, 사람들이 로봇과 대화하고 싶어 할 수 있다는
점을 이해할 것 같습니다. 그리고 심리적 측면에서도
인간형 플랫폼이 유리할 것 같습니다.
물론 사람들이 두려워하지 않는다면 말이죠.
오히려 더 추상적인 플랫폼을 선호할 수도 있겠지만,
그게 실제로 일을 하는 괴물 같은 존재라면 어떨지 모르겠습니다.
흥미로운 점은 Unitree의 다른 형태가 개라는 거죠.
그건 더 친근하고 익숙한 형태일 겁니다.
하지만 사람들이 블랙 미러를 보면 갑자기 개가 무서운 존재로 바뀌죠.
그래서 이를 고려하기는 어렵습니다. 심리적으로
사람들이 무슨 일이 일어나는지 이해하기 쉬울 것 같아요.
그냥 심리적으로 사람들이 이해하기 쉬울 거라고 봅니다.
기술적 이정표 측면에서 무엇이 부족하
로봇공학의 이런 미래를 입증하는 것과 관련해서 진전을 위해
로봇공학이나 인간형 로봇 또는 다른 인간 형태에 대해서요.
네, 저는 그것에 대해 정말 잘 알지는 못합니다. 하지만 인간형 형태에서
예를 들어 하체의 경우 흥미로운 점이 있다고 생각합니다.
하체의 경우에는 모방 학습이나 시연을 통한 학습을 하고 싶지 않을 것 같아요.
하체는 대부분 역진자 제어 같은 것들이기 때문입니다. 상체가
원격 조작과 데이터 수집, 종단간 학습 등이 많이 필요한 부분이죠.
그래서 모든 것이 그런 의미에서 매우 하이브리드하게 될 것 같습니다.
그리고 그런 시스템들이 어떻게 상호작용하는지는 잘 모르겠어요.
이 분야에서 일하는 사람들과 얘기해보면 대부분 구동과 조작에 집중하고 있더라고요.
디지털 조작이나 그런 것들에 말이죠.
네, 초기에는 원격 조작이 많이 사용될 것 같아요.
기본적인 것을 구현하고 모방하는 데에요. 95% 정도 작동하는 것을 만들고 나서
인간 대 로봇 비율에 대해 이야기하게 될 겁니다. 그리고 점차
사람들이 로봇의 감독자가 되어갈 거예요. 직접 작업하는 대신에 말이죠.
이런 일들이 시간이 지나면서 점진적으로 일어날 겁니다.
제가 알기로는 특별히 큰 장애물은 없어요. 그냥 많은 노력이 필요할 뿐이죠.
많은 도구들이 이미 사용 가능합니다. 트랜스포머는 아주 멋진
블롭 구조예요. 임의의 작업에 그냥 사용할 수 있죠.
필요한 데이터를 올바른 형식으로 넣기만 하면 됩니다
반복하고 개선하는 것입니다. 많은 기초 작업이 필요합니다. 기술적으로
우리를 가로막는 단일한 요소는 없는 것 같습니다. 현재 우리는 어디에 있을까요?
대규모 블롭 연구의 상태에서. 대규모 블롭 연구,
네, 우리는 매우 좋은 상태에 있습니다. 제 생각에는
완전히 인식되지 않은 것 같습니다. 하지만 트랜스포머는 훨씬 더 놀랍습니다.
단순히 또 다른 신경망이 아닙니다. 정말 놀라운 신경망이며,
매우 일반적입니다. 예를 들어, 신경망의 스케일링 법칙에 대해
이야기할 때. 스케일링 법칙은 실제로 상당 부분
트랜스포머의 특성입니다. 트랜스포머 이전에는,
사람들이 LSTM을 가지고 놀고 쌓아올리는 등의 작업을 했죠. 실제로는
깔끔한 스케일링 법칙을 얻지 못합니다. 그리고 이것은 실제로 훈련되지 않고 작동하지 않습니다.
트랜스포머가 실제로 확장되는 첫 번째 모델이었고
스케일링 법칙을 얻을 수 있고 모든 것이 이치에 맞습니다. 그래서 일반적인 목적의
훈련 컴퓨터라고 생각합니다. 일종의 컴퓨터로 생각하지만,
차별화 가능한 컴퓨터이고 입력과 출력을 수십억 개 줄 수 있으며,
역전파로 훈련할 수 있습니다. 실제로 그것은
작업을 수행하는 것으로 자체 정렬됩니다. 그래서 저는 이것이
알고리즘 공간에서 우리가 우연히 발견한 일종의 마법 같은 것이라고 생각합니다.
그리고 거기에는 몇 가지 개별적인 혁신이 있었다고 생각합니다. 먼저
잔차 연결이 있었고, 그것은
그런 것들이 존재합니다. 이런 것들은 트랜스포머에는 없는데, 그레이디언트 신호를 없애기 때문입니다.
그래서 4-5가지 혁신이 있었고 이들이 모두 존재했으며
트랜스포머에 통합되었습니다. 구글이 그들의 논문에서 한 일이 바로 이것입니다.
그리고 이것이 실제로 훈련되면서 갑자기 스케일링이 가능해지고
손실이 줄어들면서 갑자기 매우 큰 규모로 훈련할 수 있는
조직이 생기게 됩니다. 그래서 이는 큰 돌파구였습니다. 우리가 아직
그 돌파구의 한계에 가까워지지 않았다고 생각하시나요? 물론 데이터 벽과
다음 세대의 스케일이 얼마나 비쌀지에 대한 논의가 있습니다.
이에 대해 어떻게 생각하시나요? 여기서부터 시작해서
신경망 아키텍처가 더 이상 근본적으로 우리를
제한하지 않는다고 생각합니다. 더 이상 병목이 아닙니다. 트랜스포머 이전에는
병목이었지만, 이제는 아닙니다.
이제 우리는 손실 함수가 무엇인지, 데이터셋은 어디에 있는지에 대해 더 많이 이야기합니다.
이런 것들이 거의 병목이 되었습니다.
원하는 대로 재구성되는 일반적인 조직이 아닙니다.
그래서 많은 활동이 이쪽으로 옮겨갔다고 생각하고,
이 기술을 적용하는 많은 기업들이
트랜스포머의 발전이나 아키텍처에 대해 생각하지 않는 이유입니다.
llama 출시에서도 트랜스포머는
크게 변하지 않았습니다. RoPE 위치 인코딩과
RoPE 루트, 위치 인코딩이 주요 변화입니다. 다른 것들은
하지만 사실 로프만 적용되었고, 그게 바로
지난 5년간 변화된 트랜스포머입니다. 그래서
그다지 많은 혁신이 없었습니다. 모두가 당연하게 여기고 훈련시키죠.
그리고 대부분 데이터셋과
손실 함수 세부사항에 대해 혁신하고 있습니다.
모든 활동이 그쪽으로 집중되었죠. 맞아요. 하지만 그 분야에서
인터넷 데이터를 사용할 때는 더 쉬웠지만 이제 인터넷 데이터가 고갈되었다는
주장에 대해서는 어떻게 생각하나요? 그래서 이제는
합성 데이터나 더 비싼 데이터 수집에 대한 질문이 나오고 있죠?
좋은 지적입니다. 지금 LLM에서 많은 활동이
거기에 집중되어 있습니다. 인터넷 데이터는 트랜스포머에
원하는 데이터가 아닙니다. 놀랍게도 꽤 멀리 갈 수 있는 가장 가까운 이웃이죠.
하지만 인터넷 데이터는 웹페이지 모음일 뿐이에요.
우리가 원하는 건 당신 뇌의 내면의 독백이죠.
네, 그게 바로 아이디어입니다. 당신 뇌의 궤적이요. 문제를 해결할 때
당신 뇌의 궤적 말이에요. 그런 게 10억 개 있다면, AGI가
여기 있는 거나 마찬가지죠. 대체로 말이에요. 하지만 우리는
그런 게 없어요. 그래서 지금 많은 활동이 집중된 곳은, 우리가 가진
인터넷 데이터인데, 이게 실제로 아주 근접하게 해줍니다. 우연히도
인터넷에 충분한 추론 흔적과 지식이 있고,
트랜스포머가 그걸 작동하게 만들기 때문이죠. 그래서 지금
데이터셋을 이러한 내적 독백 형식으로 변환합니다.
그리고 이를 위해 유용한 합성 데이터 생성이 많이 있다고 생각합니다.
그것에 대해 흥미로운 점은 현재 모델들이
다음 세대 모델을 만드는 데 도움을 주고 있다는 것입니다. 그래서 일종의
계단과 같은데, 합성 데이터가 얼마나 중요하다고 생각하시나요? 또는 얼마나 멀리
갈 수 있을까요? 당신의 말씀처럼, 각 데이터에서,
각 모델은 후속 모델을 더 잘 훈련시키거나 최소한
도구를 만드는 데 도움을 줍니다. 데이터 라벨링, 그 일부가 합성 데이터일 수 있습니다.
합성 데이터가 얼마나 중요하다고 생각하시나요? 사람들과 이야기할 때,
이것이 우리가 진전할 수 있는 유일한 방법이라고 생각합니다. 우리는
그것이 작동하도록 해야 합니다. 합성 데이터에 대해서는 주의해야 합니다.
이 모델들이 조용히 축소되는 것이 주요 문제 중 하나이기 때문입니다.
ChatGPT에 농담을 요청하면,
세 가지 농담만 알고 있다는 것을 알 수 있습니다. 그게 전부입니다. 대부분의 경우
한 가지 농담만 제공하고, 때로는
세 가지 농담을 제공하는데, 이는 모델들이 축소되고 조용하기 때문입니다.
개별 출력을 볼 때는 단일 예시만 보게 됩니다.
하지만 실제 분포를 보면 매우
다양하지 않다는 것을 알 수 있습니다. 조용히 축소됩니다. 합성 데이터 생성 시
이것이 문제가 됩니다. 엔트로피가 필요하기 때문입니다. 데이터셋의 다양성과
풍부함이 필요합니다. 그렇
엔트로피와 풍부함을 많이 잃었고, 그래서
조용히 악화됩니다. 그래서 매우 주의해야 하고,
데이터셋의 엔트로피를 유지해야 합니다.
이를 위한 많은 기술들이 있죠. 예를 들어,
누군가 이 페르소나 데이터셋을 공개했습니다. 페르소나
데이터셋은 10억 개의 성격을 담고 있습니다.
인간과 같은 배경들이죠. 네, 봤습니다. 저는 교사입니다
또는 저는 예술가입니다. 여기 살고 이런 일을 합니다 등등,
가상의 인간 배경에 대한 짧은 단락들이죠.
합성 데이터를 생성할 때는 이 작업을 완료하고
이런 방식으로 하는 것뿐만 아니라, 이 사람에게 설명하는 것을 상상하고
이 정보를 넣습니다. 그러면 더 많은 공간을 탐색하도록 강제하고 엔트로피를 얻게 됩니다.
그래서 엔트로피를 주입하고 분포를 유지하는 데 매우 주의해야 합니다. 그것이
어려운 부분이고, 사람들이 일반적으로 충분히 인식하지 못하는 것 같습니다.
그래서 기본적으로 합성 데이터는 절대적입니다. 미래에는
데이터가 부족하지 않을 것 같습니다. 단지 주의해야 한다고 생각합니다.
이 연구에서 우리가 인간 인지에 대해 무엇을 배우고 있다고 생각하시나요?
우리가 배우고 있는지 모르겠습니다. 우리가 원하는 추론 흔적의 형태를 파악하는 것이
실제로 뇌가 작동하는 방식을 이해하는 데 도움이 된다고 주장할 수 있습니다.
그런 유사성에 대해서는 조심스러울 것 같습니다.
하지만 일반적으로 매우 다른 종류의
같은 것이죠. 하지만 몇 가지 유사점을 찾을 수 있다고 봅니다.
예를 들어, 트랜스포머가 여러 면에서 인간 두뇌보다 실제로 더 뛰어납니다. 훨씬 더 효율적인
시스템이라고 생각합니다. 인간 두뇌만큼 잘 작동하지 않는 이유는 주로
데이터 문제 때문입니다. 대략적으로 말하자면 이것이 첫 번째 근사치라고 할 수 있겠죠.
실제로 예를 들어, 트랜스포머는 순서를 기억하는 데 있어
인간보다 훨씬 뛰어납니다. 순서를 주고 단일 순방향 및 역방향
패스를 수행하면, 처음 몇 개 요소만 주어도
나머지 순서를 완성할 수 있습니다. 그 순서를 기억했고,
매우 잘합니다. 인간에게 순서를 한 번만 보여주면
그걸 기억할 수 있는 방법이 없죠. 그래서 트랜스포머는
실제로 경사도 기반 최적화, 즉 신경망 훈련을 위해 항상 수행하는
순방향 및 역방향 업데이트가 어떤 면에서는 두뇌보다 더 효율적일 가능성이 높다고 봅니다. 이 모델들은
더 뛰어납니다. 아직 빛을 발할 준비가 되지 않았을 뿐이죠. 하지만
많은 인지적 측면에서, 적절한 입력만 주어진다면
더 나을 것 같습니다. 이는 모든 종류의 응용 프로그램에서
컴퓨터에 대해 일반적으로 사실입니다. 맞죠? 당신이 말한 메모리 부분에 대해서요. 네, 정확히 그렇습니다. 그리고
인간의 두뇌에는 많은 제약이 있다고 생각합니다. 작업 기억이 매우 작죠.
트랜스포머는 훨씬 더 큰 작업 기억을 가지고 있고, 앞으로도
계속 그럴 것입니다.
인간 범위는 역전파입니다. 그게 어떻게 작동할지는 명확하지 않죠.
매우 확률적이고 동적인 시스템이에요. 많은 제약 조건들이 있습니다.
다양한 주변 조건에서 작동하고 등등이죠. 그래서 저는
우리가 가진 것이 실제로 뇌보다 잠재적으로 더 나을 수 있다고 생각합니다,
아직 그 정도는 아니지만요. 시간이 지남에 따라 다양한 AI 시스템으로
인간을 증강하는 것에 대해 어떻게 생각하세요? 그게 가능한 방향이라고 보나요?
아니면 가능성이 낮다고 보시나요? 증강, AI 모델로 사람을 증강하는 거요?
오, 물론이죠. 하지만 어떤 의미에서요? 아마도.
일반적으로는 절대적으로 그렇습니다. 왜냐하면, 그것을 도구로 사용하는
추상적인 버전이 있죠. 그게 외부 버전입니다. 그리고 융합
시나리오가 있어요. 많은 사람들이 결국 그것에 대해 이야기하게 되죠.
우리는 이미 일종의 융합을 하고 있어요. 문제는 I/O
병목 현상이 있지만, 대부분 손끝에서 이루어집니다.
이런 모델들 중 하나라도 있다면 말이에요. 네, 하지만 그건 조금 다르죠,
왜냐하면 사람들은 40, 50년 동안 그런 주장을 해왔거든요.
기술적 도구가 단순히 인간 능력의 확장이라는 거죠.
맞아요. 네. 컴퓨터는 인간 마음의 자전거라는 식으로요. 정확해요.
하지만 AI 커뮤니티의 일부는 이렇게 생각합니다.
예를 들어, 미래의 AI나 다른 것들과의 잠재적 갈등을
해소하는 방법은 어떤 형태의... 네.
뉴럴링크 같
도구 사용으로 발전했습니다. 저는 이것을 우리의 신피질 위에 구축된
일종의 외피질로 봅니다. 그리고 이는 단지 다음 단계일 뿐이며,
우연히 클라우드에 있게 된 것입니다. 하지만 이것은
뇌의 다음 층입니다. 네. 2000년대 초반의 Accelerondo 책에는
이와 유사한 버전이 있는데, 기본적으로 모든 것이 당신의 뇌에
계산적으로 연결된 고글 세트에 구현되어 있습니다.
그리고 그것을 잃어버리면 자신의 인격이나 기억의
일부를 잃은 것 같은 느낌이 들 것입니다. 그럴 것 같아요. 오늘날 휴대폰은
이미 거의 그 수준에 와 있고, 더 심해질 것 같습니다. 당신이
기술 장비를 멀리 두면, 당신은 그저 자연 속의 벌거벗은 인간일 뿐입니다. 음,
당신은 지능의 일부를 잃게 됩니다. 이는 매우 불안을 유발합니다.
아주 간단한 예로 지도가 있습니다. 많은 사람들이
이제 자신의 도시를 잘 탐색하지 못하는 것을 알아챘습니다. 왜냐하면
항상 턴바이턴 내비게이션을 사용하기 때문입니다. 예를 들어 우리가
범용 번역기를 가지고 있다면, 그리 멀지 않은 미래의 일인데, 당신의 장비를
치워버리면 영어를 하지 않는 사람들과 대화할 수 있는 능력을 잃게 될 것입니다.
저는 제 두뇌의 그 부분을 추가 연구에 활용하는 것에 매우 편안합니다.
잡지를 스와이프하려고 하는 아이의 영상을 보셨나요? 네. 제가 보기에
흥미로운 점은 이 아이가 자연에서 오는 것과
자연 위에 있는 기술을 구분하지 못한다는 것입니
그리고 그것들을 없애면 깨닫게 돼요. 사람들이
무엇이 기술이고 무엇이 아닌지 모른다는 걸요. 항상 모든 것을 번역해주는 기기를 착용하고 있다면,
또는 그런 일을 대신 해준다면, 아마도
사람들은 기본적인 인지 능력을 잃게 될 수도 있어요. 본질적으로 존재하지 않을 수도 있죠.
우리는 전문화될 거예요. 스페인어를 하는 사람들을 이해할 수 없게 되는 거죠.
말도 안 되는 일이에요. 또는
디즈니의 물건들처럼, 모든 물건이 살아있는 거예요. 그리고
우리는 잠재적으로 그런 세상이 올 수 있다고 봐요. 왜 내가
물건들과 대화할 수 없을까요? 이미 오늘날에도 알렉사와 대화할 수 있고
그녀에게 뭔가를 요청할 수 있잖아요. 네, 맞아요. 저는 일부 장난감 회사들이
LLM을 장난감에 내장해서 아이와 상호작용할 수 있게 하는 걸 봤어요.
네. 문 앞에 가서 그냥 "열어"라고 말할 수 없다는 게 이상하지 않나요?
말도 안 되는 일이죠.
그것에 대한 또 다른 좋아하는 예가 있어요. 당신이 데몰리션 맨이나
아이로봇을 봤는지 모르겠지만. 사람들은 단순히
물건들과 대화할 수 없다는 아이디어를 비웃죠. 말도 안 되는 일이에요. 우리는
외부 대뇌피질에 대해 이야기하고 있어요. 그것은 꽤나 근본적으로
중요한 것을 민주화하는 것 같아요. 현재 LLM 연구의 시장 구조에 대해
어떻게 생각하시나요?
소수의 대형 연구소들만이 실제로 다음 세대 진보 훈련에
당신이 암시하는 것은 생태계의 상태일 수 있겠죠. 우리는
소수의 폐쇄형 플랫폼의 과점 상태와 함께
뒤처진 오픈 플랫폼을 가지고 있습니다. 메타 LLaMA 등과 같이 말이죠.
이는 오픈소스 생태계를 어느 정도 반영하고 있습니다.
이것들이 시작될 때, 우리가 이를
외부 피질로 생각하기 시작할 때, 암호화폐에서 이런 말이 있죠.
'당신의 키가 아니면 당신 것이 아니다'라고요. 그렇다면
'당신의 가중치가 아니면 당신의 뇌가 아니다'라는 것도 흥미롭네요. 기업이
effectively 당신의 외부 피질을 통제하고 있어서, 그것의 큰 부분이
침해적으로 느껴지기 시작합니다. 이것이 내 외부 피질이라면, 사람들은 소유권에 대해
훨씬 더 신경 쓸 거예요. 네, 당신은 자신의 뇌를 빌리고 있다는 걸 깨닫게 되죠.
뇌를 빌리는 것 같아 보입니다. 그 사고 실험은
'더 나은 뇌를 빌리기 위해 소유권과 통제권을 포기할 의향이 있는가?'였죠.
저는 그럴 의향이 있어요. 그게 trade-off인 것 같아요. 우리는
어떻게 작동할지 지켜봐야 할 것 같습니다. 하지만 아마도 기본적으로는 놀라운
폐쇄형 버전을 사용하되, 다양한 시나리오에서 대안을 가질 수 있을 겁니다.
그리고 그것이 오늘날 상황이 형성되는 방식인 것 같아요.
심지어 일부 폐쇄형 제공업체의 API가 중단될 때,
사람들은 자신들이 완전히 통제할 수 있는 오픈 생태계로의 대안을 구현하기 시작하고,
그것으로 인해 힘을
일어납니다. 하지만 대부분의 경우 실제로는... 그래서 오픈
소스가 계속 발전하는 것이 매우 중요합니다. 저는 100% 동의하며, 이는 당연한
말이 아니고 사람들이 지금 동의할 수도 있는 부분은 아닙니다만, 저는 100% 그렇게 생각합니다.
제가 조금 궁금했던 점은 어떤 의미에서
가장 작으면서도 성능 좋은 모델이 무엇인지,
매개변수 크기나 다른 방식으로 생각해볼 수 있을 것 같은데, 이에 대한
당신의 견해가 궁금합니다. 증류나 작은 모델에 대해 많이 생각해보셨나요?
놀라울 정도로 작을 수 있다고 생각합니다.
그리고 현재 모델들이 중요하지 않은 것들을 기억하는 데 많은 용량을 낭비하고 있다고 봅니다.
SHA 해시를 기억하고, 데이터셋이 잘 정제되지 않아서
고대의 것들을 기억하고 있죠.
맞습니다. 이런 것들은 없어질 거예요. 우리는 단지
인지적 핵심에 도달해야 합니다. 그 인지적 핵심은
매우 작을 수 있고, 단지 생각하는 것이며, 정보를 찾아야 할 때
다양한 도구를 사용할 줄 아는 것입니다. 그게 30억
매개변수일까요? 아니면 200억 매개변수? 심지어 10억, 10억으로도
충분할 것 같습니다. 우리는 아마 그 지점에 도달할 겁니다. 모델은 매우
매우 작아질 수 있습니다. 그 이유는 근본적으로
증류가 작동하는 것과 같다고 봅니다. 증류가 놀라울 정도로 잘 작동한다고 말할 수 있겠네요.
증류는 매우 큰 모델이나 엄청난 양의 컴퓨팅 파워를 사용해
아주 작은
매우 작은 곳에 많은 기능을 넣었습니다. 이에 대한 어떤 종류의
수학적 표현이나 정보이론적 공식이 있나요?
거의 계산할 수 있을 것 같은 느낌이 듭니다
무엇이 있는지 측면에서.
네, 아마도 이렇게 생각해볼 수 있겠죠. 우리가
다시 인터넷 데이터셋으로 돌아가보면, 그건 우리가 다루는 것인데, 인터넷은
0.001%의 인지와 99.99%의
정보로 이루어져 있습니다. 대부분 쓰레기죠. 네, 대부분이
사고하는 부분에는 유용하지 않습니다. 그래서 아마도
질문을 다르게 표현하자면, 모델 크기에 대한 인지 능력의 수학적 표현이 있나요?
아니면 달성하려는 목표에 대한 최소 또는 최대치 관점에서
인지를 어떻게 포착하나요?
아마도 이를 표현할 좋은 방법은 없을 수도 있습니다. 10억 개의 매개변수로
좋은 인지 핵심을 얻을 수 있다고 생각합니다. 아마도 맞을 거예요.
10억도 너무 많다고 봅니다. 모르겠네요. 두고 봐야겠죠.
엣지 디바이스와 클라우드를 고려하면 매우 흥미롭습니다.
모델 사용의 순수 비용 등도 고려해야 하고요.
네, 매우 흥미롭습니다. 10억 개 미만의 매개변수로
로컬 기기에서도 외피질을 가질 수 있죠. 그리고 아마 단일 모델은
아닐 겁니다. 이것이 어떻게 전개될지 생각하면 흥미롭습니다.
병렬화의 이점을 취하고 싶을 것 같아요.
흥미로운 점은 이것이 실제로 어떻게 전개될 것인가 하는 겁니다.
순차적 프로세스가 아니라 병렬 프로세스가 필요합니다. 그리고
어느 정도 기업들도 일의 병렬화와 비슷하다고 생각합니다
하지만 기업에는 계층구조가 있습니다
왜냐하면 그것이 정보 처리와
조직 내 정보 축소를 위한 한 가지 방법이기 때문입니다. 그래서
LLM을 위한 기업들이 생길 것 같습니다. 제 생각에는
다양한 능력을 가진 모델들이 특정 도메인에 특화되어
존재할 가능성이 높습니다. 아마도 프로그래머 등이 있을 것이고,
실제로 기업과 매우 유사한 형태를 띌 것입니다. 그래서
프로그래머와 프로그램 관리자, 그리고 비슷한 종류의
LLM 역할들이 병렬로 작업하고 모여서 당신을 위해
연산을 조율할 것입니다. 그래서 아마도 그렇게 생각하는 게 맞지 않을 수도 있습니다. 이는
더 군집에 가깝습니다. 생태계라고 하긴 어렵습니다. 생물학적
생태계와 비슷하죠. 특화된 역할과 틈새가 있고, 그런 모습을 띄게 될 것 같습니다.
문제의 난이도에 따라 군집의 다른 부분으로 자동 확대됩니다.
그래서 아마도 CEO는 정말 뛰어난
클라우드 모델일 것이고, 하지만 직원들은 훨씬 저렴할 수 있죠, 심지어
오픈소스 모델일 수도 있고요. 그리고 내 비용 함수는 당신의 비용 함수와 다릅니다.
네. 그래서 그건 흥미로울 수 있겠네요. 당신은 OpenAI를 떠나 교육 분야에서
일하고 있습니다. 항상 교육자였죠. 왜 이 일을 하시나요?
저는 항상 교육자였고, 배우는 것과
오랫동안 열정을 가져온 주제입니다. 그리고 또 다른 것은, 제가 생각하기에
큰 그림에서 저를 이끄는 것은 AI 분야에 많은
활동이 있다는 것입니다. 그리고 대부분이
사람을 대체하거나 밀어내는 것이라고 봅니다. 이는
사람을 밀어내는 주제라고 할 수 있죠. 하지만 저는 항상
사람들에게 힘을 실어주는 것에 더 관심이 있습니다. 저는 높은 수준의
팀 휴먼에 있다고 느끼고, AI가 사람들에게 힘을 실어줄 수 있는 것에 관심이 있습니다.
저는 사람들이 자동화의 옆에 있는 미래를 원하지 않습니다. 저는 사람들이 매우
힘을 가진 상태이기를 원하고, 그들이 놀라워지기를,
오늘보다 훨씬 더 놀라워지기를 원합니다. 그리고 제가 매우 흥미롭게 생각하는 다른 측면은
만약 모든 과목에 대해 완벽한 튜터가 있다면 한 사람이 얼마나 멀리 갈 수 있을까 하는 것입니다.
그리고 어떤 것이든 완벽한 커리큘럼이 있다면 사람들이 정말 멀리 갈 수 있다고 생각합니다.
우리는 그것을 부자들이 튜터를 가지고 실제로 매우 멀리 가는 것에서 볼 수 있죠.
그래서 저는 우리가 AI로 그것에 접근하거나 심지어 그것을 뛰어넘을 수 있다고 생각합니다.
실제로 일대일 튜터링이 사람들을 한 표준편차만큼 향상시킨다는
80년대의 매우 명확한 문헌이 있습니다.
블룸의 연구죠. 맞아요, 정확히 그겁니다.
그것에 대해 많은 흥미로운 선례들이 있습니다. 당신은
AI의 렌즈를 통해 그것을 어떻게 실체화할 수 있다고
'다이아몬드 시대'에서 언급하는 젊은 숙녀의 삽화 입문서와 같은
내용들에서 영감을 받았습니다. 그래서 확실히 그 측면에서 영향을 받았죠.
실제로 제가 하고 있는 것은 현재 단일 과정을 만들려고 하는 것입니다.
AI를 배우고 싶은 사람들이 들을 수 있는 그런 과정을 만들고 싶습니다.
기본적으로 문제는 제가 이미 강의를 했다는 점입니다. 스탠포드에서 231n을 가르쳤고,
그것이 첫 번째 딥러닝 수업이었으며 꽤 성공적이었습니다. 하지만 질문은,
이런 수업들을 어떻게 실제로 확장할 수 있을까요? 어떻게 하면 목표 청중이
지구상의 80억 인구가 되고, 그들이 모두 다른 언어를 사용하며,
모두 다른 능력 수준을 가지고 있는 상황에서 수업을 만들 수 있을까요?
단일 교사로는 그 청중에 맞출 수 없습니다.
질문은, 우수한 교사의 확장을 위해 AI를 어떻게 사용할 수 있을까요?
제가 생각하는 방식은 교사가 많은 부분의 과정 제작과 커리큘럼을 담당하는 것입니다.
현재 AI 능력으로는 모델이 좋은 과정을 만들기에 충분하지 않다고 생각하지만,
학생들과의 인터페이스 역할을 하고 과정을 해석하는 데는 충분하다고 봅니다.
그래서 기본적으로 교사가 직접 사람들에게 가지 않고, 교사가 더 이상 프론트엔드가 아닙니다.
교사는 백엔드에서 과정 자료를 설계하고,
AI가 프론트엔드가 되어 모든 다양한 언어를 구사하며,
과정을 안내합니다. AI가 여러분을 과정을 통해 안내하는 거죠.
그것을 조교 경험 유형으로 생각해야 할까요? 아니면 그
이것을 학생들을 위한 프론트엔드로 만들어요. 실제로 학생들과
상호작용하며 수업을 진행하는 것이죠. 이는 오늘날 실현 가능하지만
아직 존재하지 않습니다. 정말 좋게 만들 수 있다고 생각해요.
그리고 시간이 지나 능력이 향상되면 잠재적으로
설정을 다양한 방식으로 리팩토링할 수 있겠죠. 저는 오늘날의 AI 능력과
그에 대한 좋은 모델을 찾는 것을 좋아합니다. 많은 기업들이
직관적으로 오늘날의 능력을 이해하지 못해서
결국 가능한 것보다 너무 앞서가거나
충분히 야심차지 않은 것들을 만들게 되죠. 그래서 저는 이것이
가능하면서도 정말 흥미롭고 흥분되는 달콤한 지점이라고 생각합니다.
가능성과 흥미로움이 공존하는 달콤한 지점이라고 봅니다.
당신이 말한 것 중 매우 영감을 주는 부분으로 돌아가고 싶습니다.
특히 당신의 배경과 연구의 현 위치에 대한 이해를 고려하면,
우리는 더 나은 도구가 주어졌을 때 학습 측면에서
인간 성능의 한계가 어디인지 모른다는 것입니다. 쉬운 비유로,
한 달 전에 올림픽이 있었죠? 달리기 선수를 예로 들면,
오늘날 최고의 마일 기록이나 어떤 종목이든
성능 향상 약물을 제외하고도 10년 전보다
훨씬 좋아졌습니다. 더 일찍 훈련을 시작하고, 매우 다른 프로그램을 가지고 있기 때문이죠.
우리는 과학적 이해, 기술, 장비가 훨씬 좋아졌습니다.
당신이 믿는 것처럼, 우리 인간이 더 나아질 수 있다는 사실은
우리는 도구와 커리큘럼으로 시작하고 있는데, 정말 놀랍습니다.
네, 우리는 가능성의 표면도 긁지 못했다고 생각합니다. 두 가지 측면이 있죠.
첫째는 세계화 차원에서 모든 사람이 좋은 교육을 받도록 하는 것이고,
둘째는 한 개인이 얼마나 멀리 갈 수 있는가 하는 겁니다. 둘 다 매우 흥미롭고
흥분되는 주제입니다. 보통 101 학습에 대해 이야기할 때, 사람들은 적응적 측면을 언급하는데,
이는 개인의 수준에 맞춰 도전하는 것을 말합니다. 오늘날 AI로 그것이 가능하다고 보시나요,
아니면 미래의 일인가요?
오늘날은 도달 범위와 다국어 지원에 관한 것인가요?
글로벌 측면에서 보면, 예를 들어 다양한 언어 지원이 손쉽게 얻을 수 있는 성과입니다.
현재 모델들은 번역에 실제로 매우 뛰어나서
자료를 타겟팅하고 즉석에서 번역할 수 있습니다.
많은 것들이 손쉽게 얻을 수 있는 성과라고 봅니다. 개인의 배경에 맞춘 적응성은
쉽게 얻을 수 있는 성과는 아니지만, 너무 멀리 있지도 않다고 봅니다.
그것은 분명히 필요한 것인데, 모든 사람이 같은 배경을 가지고 있지 않기 때문입니다.
또한 정말 도움이 되는 것은 다른 분야에 익숙하다면,
아는 것들과 유추를 만드는 것이 매우 유용하다는 점입니다. 이는 교육에서
굉장히 강력한 도구입니다. 그래서 그것은 분명 활용하고 싶은 임무입니다.
하지만 그 지점부터는 명확하지 않고 어딘가 필요해지기 시작한다고 봅니다.
쉬운 버전은 그리 멀지
물리학이나 이런 것들은 알고 있고, 아마 뭔가를 얻을 수 있겠죠. 하지만 제가
말하는 건 실제로 작동하는 것입니다. 데모로 보여주거나
가끔 작동하는 게 아니라요. 정말로 작동하는 걸 말하는 거죠. 그것도
사람처럼 말이에요. 그래서 적응성에 대해 물었던 겁니다.
사람들은 학습 속도가 다르고 어떤 이는 어려워하는 게 다른 이에겐 쉬울 수 있으니까요.
그래서 그런 맥락에 맞춰 어떻게 조절하느냐가 중요합니다.
시간이 지나면서 그 사람이 잘하거나 못하는 것을 모델에 다시 반영할 수 있겠죠.
AI 데모와 관련해서는 이런 문제가 있어요. 많은 기능들이 그저
프롬프트 하나로 가능한 것 같아 보이죠.
그래서 항상 데모는 보여주지만, 실제 제품은 어떤가요?
무슨 말인지 아시겠죠? 이런 의미에서
데모는 가깝지만 제품은 멀다고 할 수 있어요. 우리가 앞서 얘기했던
정말 흥미로운 점 중 하나는 연구 커뮤니티에서 일어나는 계보 같은 거예요.
특정 연구실 출신들이 있고, 모두가 서로의 연구실에 대해 이야기하죠.
노벨상 수상자들의 상당수가 이전 노벨상 수상자의 연구실에서 일했다고 해요.
그래서 뭔가 전파되는 게 있어요. 문화인지, 지식인지, 브랜딩인지는 모르겠지만요.
AI 교육 중심 세계에서는
이런 계보를 어떻게 유지할까요? 아니면 중요하지 않을까요?
네트워크와 지식의 전파 측면에서 어떻게 생각하시나요?
사실 저는 계보가 너무 중요한 세상에서 살고 싶지 않아요
마치 어떤 한정된 희소 자원에 의한 일종의 게이트키핑 같은 느낌이 듭니다.
마치 이런 계보를 가진 사람들의 수가 한정되어 있다는 것처럼 말이죠.
그래서 저는 그런 측면이 약간 있다고 느낍니다. 그래서 저는 이것이
그것을 무너뜨릴 수 있기를 바랍니다. 실제 학습과 명성, 두 가지 요소가 확실히 있죠.
맞아요. 또한 그것은 집합체이기도 합니다.
클러스터 효과죠, 그렇죠? 왜 모든 AI 커뮤니티가,
또는 대부분의 AI 커뮤니티가 베이 에리어에 있을까요? 또는 왜 대부분의
핀테크 커뮤니티가 뉴욕에 있을까요? 저는 그것의 많은 부분이
공통의 관심사와 믿음을 가진 정말 똑똑한 사람들이 모여서, 그들이
그 공통의 핵심에서 발전하고, 흥미로운 방식으로 지식을 공유하기 때문이라고 생각합니다.
그런 행동의 많은 부분이 어느 정도 온라인으로 옮겨갔죠,
특히 젊은 사람들의 경우에요. 한 가지 측면은 교육적인 부분인데,
오늘날 커뮤니티의 일원이 되면 많은 교육과 견습 기회를 얻게 되고,
이는 매우 도움이 되며 그 분야에서 역량을 갖추게 해줍니다.
다른 한 가지 측면은 무엇에 동기부여를 받고 무엇을 하고 싶어 하는지와 관련된
문화적 측면입니다. 그 문화가 무엇을 높이 평가하고 무엇을
pedestall에 올리고 무엇을 숭배하는지 말이죠. 예를 들어, 학계에서는
h 지수가 있습니다. 모든 사람이 h 지수, 발표한 논문의 수 등을 중요하게 여깁니다.
저는 그 커뮤니티의 일원이었고
사람들의 동기 부여와 사회적 지위, 그들에게 중요한 것에 엄청난 영향을 미칩니다.
저 또한 다른 커뮤니티의 일원이었다고 생각합니다. 슬로바키아에서 자랐고,
또 매우 다른 환경인 캐나다에 있었습니다. 거기서 중요한 것은
하키였죠. 죄송합니다. 감사합니다. 네, 하키였습니다.
예를 들어, 캐나다에서 저는 토론토 대학교에 있었는데
토론토는 기업가 정신이 강한 환경은 아닙니다.
회사를 시작해야 한다는 생각 자체가 들지 않습니다.
사람들이 그렇게 하고 있지 않거든요. 그런 일을 하는
친구들도 모르고, 그것을 추구해야 한다는 것도 모릅니다.
사람들은 창업자들에 대한 책을 읽거나 그들에 대해 이야기하지 않아요.
그냥 열망하거나 신경 쓰는 대상이 아닙니다.
모두가 이야기하는 것은 "어디서 인턴십을 하고 있어?" "졸업 후 어디서 일할 거야?" 같은 것들입니다.
그리고 선택할 수 있는 회사들의 고정된 집합이 있다고
받아들여집니다. 그 중 하나와 자신을 일치시키는 거죠.
그게 바로 사람들이 동경하는 것입니다.
이런 문화적 측면들은 매우 강력하고 아마도 지배적인 변수일 것입니다.
오늘날 교육적 측면은 이미 더 쉬운 부분이 되었다고 느낍니다.
많은 자료들이 이미 사용 가능하니까요. 그래서 대부분은
당신이 속한 문화적 측면이라고 생각합니다. 이 점에 대해,
몇 주 전 우리가 이야기했던 것 중 하나는,
당신이 온라인에도 게시했던 것 같은데, 학습과
즐거움이며, 학습은 사실 어려워야 합니다.
그리고 이는 지위와 같은 문제와 관련이 있다고 생각합니다.
알다시피, 지위는 훌륭한 동기부여 요소입니다.
우상이 누구인지처럼 말이죠. 이런 시스템을 통해 동기부여 측면에서
얼마나 많은 변화를 줄 수 있다고 생각하시나요?
만약 그것이 방해 요소라면, 사람들에게 자원을 제공하여
그들의 능력 안에서 가능한 한 멀리 갈 수 있도록 하는 데
집중하고 계신가요? 역사상 어느 때보다도
더 멀리 갈 수 있다는 것 자체가 이미 영감을 주는 것 아닐까요?
아니면 실제로 더 많은 사람들이 배우고 싶어하게 만들거나
최소한 그 길을 가도록 하고 싶으신가요? '원하다'는 loaded word네요. 저는 이렇게 말하고 싶습니다.
학습을 훨씬 쉽게 만들고 싶다고요. 그러면 아마도 사람들이
배우기를 원하지 않을 수도 있겠죠. 오늘날을 예로 들면, 사람들은 실용적인 이유로 배우길 원합니다.
직업을 얻기 위해서죠. 이는 완전히 이해할 만합니다.
AGI 이전 사회에서 교육은 유용하고, 사람들은 그것에 동기부여 될 것입니다.
경제적으로 사다리를 오르고 있기 때문이죠.
하지만 AGI 이후 사회에서는,
우리 모두가 사회의 일부가 됩니다. 교육은 더 큰 범위에서
즐거움이 될 것이라고 생각합니다.
성공적인 교육 결과를 포함해서 말이죠.
단순히 콘텐츠를 흘려보내는 것이 아닙니다. 맞습니다.
결과란 이해, 학습, 새로운
당신이 정의하는 방식으로요. 200년, 300년 전으로 돌아가면
과학을 하던 사람들이 귀족이나 부유층이었던 것은 우연이 아니라고 생각합니다.
우리 모두가 귀족이 될 것입니다. 안드레와 함께 배우기.
네, 저는 그것이 당신이 앞서 인용한 말과 매우 동등하다고 봅니다.
뭔가를 배우는 것은 두뇌를 위한 헬스장에 가는 것과 같다고 느낍니다.
맞죠? 헬스장에 가는 것 같아요. 헬스장에 가는 것은
재미있어요. 사람들은 웨이트를 좋아하죠. 일부 사람들은
헬스장에 가지 않아요. 아니요, 일부는 가지만, 노력이 필요합니다.
네, 노력이 필요하지만 어느 정도 재미있기도 해요.
그리고 보상도 있죠, 여러 면에서 자신에 대해 좋은 기분을 느낍니다.
맞아요. 교육도 기본적으로 그와 같다고 생각합니다. 그래서 제가
교육이 재미있어서는 안 된다고 말할 때, 어느 정도 재미있지만
특별한 종류의 재미라고 할 수 있겠죠.
AGI 이후의 세상에서는 사람들이 실제로
신체적으로뿐만 아니라 정신적으로도 많이 '헬스장에 간다'고 희망합니다.
그리고 우리가 높이 평가하는 것은 고학력이며,
또한 단순히... 네.
유레카에 대해 마지막 질문 하나 해도 될까요?
첫 번째 코스의 대상 청중이 누구인지 사람들이 궁금해할 것 같아서요.
첫 번째 코스의 대상은 주로 학부생 수준의 코스로 생각하고 있습니다.
기술 분야 학부생이라면 이상적인 대상이 될 것 같아요. 하지만
저는
우리가 지금 보고 있는 것은 구식 교육 개념입니다
학교를 다니고 졸업한 후 일을 하는 식이죠. 맞습니다.
분명히 이는 완전히 무너질 것입니다. 특히 빠르게 변화하는 사회에서
사람들은 기술이 매우 빠르게 변화함에 따라
더 자주 학교로 돌아오게 될 것입니다. 그래서 학부 수준이긴 하지만,
저는 그 수준의 모든 연령대가
대상이 될 것이라고 봅니다. 연령대가 매우 다양할 것 같습니다. 예를 들어,
대부분 기술적인 배경을 가진 사람들이고 주로
상당히 깊이 이해하고 싶어 하는 사람들일 것입니다.
언제 수강할 수 있나요? 올해 말을 희망했지만
방해 요소들이 쌓이고 있어서 아마도
내년 초가 될 것 같습니다. 네, 저는
정말 좋은 강의를 만들려고 노력 중입니다. 시간이 좀 걸리네요
마지막으로 관련된 질문이 하나 있습니다.
오늘날 어린 아이들이 있다면, 유용한 미래를 위해 무엇을 공부해야 할까요?
제 마음속에 정답이 있는데요,
정답은 주로 수학, 물리학, 컴퓨터 과학 같은 분야입니다.
그 이유는 사고 능력 향상에 도움이 된다고 생각하기 때문입니다.
제 의견으로는 이것이 최고의 사고 능력 핵심입니다.
물론 제가 특정 배경을 가지고 있어서 이렇게 생각할 수 있겠지만,
이것이 제 견해입니다. 제가 물리학을 공부한 것이
제 생각에는
수업들과 다른 모든 수업들이 제가 생각하는 방식을 형성했습니다. 그리고 저는
이것이 일반적인 문제 해결에 매우 유용하다고 생각합니다. 그래서 만약 우리가 AGI 이전의 세상에 있다면,
이것은 유용할 것이고, AGI 이후에도,
여전히 어떤 임의의 상황에서도 기능할 수 있는 능력 있는 인간이 필요할 것입니다.
그래서 저는 이것이 사람들에게 올바른 답이라고 생각합니다.
그들이 해야 할 일과 배워야 할 것에 대해서요. 이는 유용하거나 좋습니다.
그래서 저는 이것이 올바른 답이라고 생각합니다. 다른 많은 것들은
나중에 조금씩 추가할 수 있지만, 사람들이 많은 시간과
관심, 그리고 시간을 가지고 있는 중요한 시기에는
이런 종류의 단순한 조작과
힘든 과제와 작업에 대부분의 시간을 보내야 한다고 생각합니다.
암기 위주의 과제와 작업이 아니라요. 네,
저는 수학 학위를 했는데, 마치 제 뇌에 새로운 홈이 파이는 듯한
느낌이 들었고, 이는 나중에 만들기 더 어려운 홈입니다.
물론 저는 다른 많은 것들도 포함시킬 것입니다.
다른 모든 분야들을 반대하는 것은 아닙니다. 실제로 다양한 것들이
있는 것이 아름답다고 생각하지만, 80%는
이런 식이어야 한다고 생각합니다. 우리는 도구들에 비해 효율적인 암기자가 아닙니다.
이런 대화를 나눠 주셔서 감사합니다. 정말 재미있었어요. 네. 맞아요.
여기 있을 수 있어 좋았습니다. 트위터에서 우리를 찾아주세요.
opryerspod입니다. 우리 얼굴
또는 여러분이 듣는 곳 어디에서나요. 그러면 매주 새 에피소드를 받을 수 있습니다. 그리고
이메일을 신청하거나 Know-priors.com에서 모든 에피소드의 대본을 찾아보세요.