Today’s LLMs and Chatbots: A Maker’s Vision - https://www.youtube.com/watch?v=PvW3ePVCJwc
OpenAI has been around for seven years now, so it's not, it's not a very old organization, but it's also not a very new organization either. The culture of OpenAI has changed over time as we got more and more clarity about how to make progress. In the first year, our culture was a little bit more exploratory. We were trying to understand what it is that we want to do and hone in on the big ideas that we wanted to pursue. And then as time went on, our culture started to adopt more aspects of large scale engineering projects. Because our goal is not just to invent something, our goal is also to build it. And building requires a really strong engineering culture where large teams are working together to produce sophisticated engineering artifacts. I think all of computing has just one goal right now, which is to actually build artificial intelligence which loves humanity or some variant thereof. All the AI that exists today is based on top of deep learning, which is a relatively narrow set of ideas compared to the broader computer science. So in the past five years or seven years or so, there's been, or maybe more 10 years, there's been this contraction where previously there's been lots of activity all over in computer science research and now it's all concentrated in AI on deep learning specifically. So people go really deep and people understand those techniques. Deep learning, which is basically ways of building digital brains which live inside large computers. That's what deep learning is. Literally we build digital brains with artificial neurons inside big computers and there's a certain set of ideas that come with it. There are certain ways of thinking which are more forward looking. And when people work together and they internalize these forward looking ideas, very substantial and productive progress is possible. What I hope will happen is that as we keep on, as the field keeps on making progress and artificial intelligence gets smarter and smarter, it is eventually built and it's used to solve a huge number of problems that society has a lot of problems that have been intractable for a long time around. From small things like global warming, to international relationships, to massive scale mega cheap autonomous healthcare, to curing lots of diseases and extending life and living on other planets. I think all of this could happen. It'd be rather nice. In a nutshell, AI is going to be incredibly, unbelievably powerful, incredibly unbelievably impactful. And with such tremendous power comes the possibility that perhaps things won't go quite the way we want. Will we be able to manage such powerful tools? And also the technical challenges of making those technical tools well behaved. I think These are all very significant risks, and it is my wish that basically none of this happens. Here's what a predict will happen. I think AI will continue to make progress. I think we will see AI becoming the single most discussed subject in society. I think we will see a whole lot of people starting to think about the questions that are posed by AIs, and starting to come up with creative and unexpected solutions that we haven't thought of yet. I think that we will see a huge number of incredible applications and incredible uses of AI, and we'll see lots of existing problems, indeed starting to be solved. We'll see a huge amount of economic growth, and we'll also see new problems that are caused by AI that we've never seen before. I think all of these things will happen in the same time. The precise proportions are unpredictable. But yeah, it will be not boring.
Today’s LLMs and Chatbots: A Maker’s Vision - https://www.youtube.com/watch?v=PvW3ePVCJwc
OpenAI는 7년간 존재해왔기 때문에, 매우 오래된 조직은 아니지만, 매우 새로운 조직도 아닙니다. OpenAI의 문화는 시간이 지나면서 변화해왔습니다. 어떻게 발전을 이룰지에 대해 점점 더 명확해지면서 말이죠. 첫 번째 해에는 우리 문화가 좀 더 탐험적이었습니다. 우리가 무엇을 하고 싶은지 이해하고 추구하고자 하는 큰 아이디어들에 집중하려고 노력했습니다. 그리고 시간이 지나면서 우리 문화는 대규모 엔지니어링 프로젝트의 측면들을 더 많이 받아들이기 시작했습니다. 왜냐하면 우리의 목표는 단지 뭔가를 발명하는 것이 아니라, 그것을 구축하는 것이기도 하기 때문입니다. 그리고 구축하려면 정말 강력한 엔지니어링 문화가 필요합니다. 대규모 팀들이 함께 작업하여 정교한 엔지니어링 산출물을 만들어내는 문화 말입니다. 모든 컴퓨팅은 지금 단 하나의 목표만 가지고 있다고 생각합니다. 실제로 인류를 사랑하는 인공지능이나 그와 유사한 것을 구축하는 것입니다. 오늘날 존재하는 모든 AI는 딥러닝을 기반으로 하고 있습니다. 딥러닝은 더 넓은 컴퓨터 과학과 비교했을 때 상대적으로 좁은 아이디어 집합입니다. 지난 5년, 7년, 또는 어쩌면 10년 정도 동안 수축이 있었습니다.이전에는 컴퓨터 과학 전반에 걸쳐 많은 활동이 있었지만 지금은 모든 것이 AI, 특히 딥러닝에 집중되어 있습니다. 그래서 사람들이 정말 깊이 들어가고 그 기술들을 이해하게 됩니다. 딥러닝은 기본적으로 대형 컴퓨터 안에서 살아가는 디지털 뇌를 구축하는 방법입니다. 그것이 딥러닝입니다. 문자 그대로 우리는 큰 컴퓨터 안에 인공 뉴런을 가진 디지털 뇌를 구축하고 있고 이와 함께 따라오는 특정한 아이디어들이 있습니다. 더 미래지향적인 사고방식들이 있습니다. 그리고 사람들이 함께 일하며 이러한 미래지향적 아이디어들을 내재화할 때, 매우 실질적이고 생산적인 진보가 가능합니다. 제가 바라는 것은 우리가 계속 진행하면서, 이 분야가 계속 진보하고 인공지능이 점점 더 스마트해지면서, 결국 구축되어 사회가 가진 수많은 문제들을 해결하는 데 사용되는 것입니다. 오랫동안 해결하기 어려웠던 많은 문제들 말입니다. 지구온난화 같은 작은 것들부터, 국제 관계, 대규모의 저렴한 자율 의료시스템, 많은 질병을 치료하고 수명을 연장하고 다른 행성에서 사는 것까지. 저는 이 모든 것이 일어날 수 있다고 생각합니다. 정말 멋질 것 같습니다.간단히 말해서, AI는 믿을 수 없을 정도로 강력하고, 믿을 수 없을 정도로 영향력이 클 것입니다. 그리고 이러한 엄청난 힘과 함께 아마도 상황이 우리가 원하는 대로 되지 않을 가능성이 있습니다. 우리가 이렇게 강력한 도구들을 관리할 수 있을까요? 그리고 또한 이러한 기술적 도구들을 올바르게 작동하게 만드는 기술적 도전들도 있습니다. 저는 이러한 것들이 모두 매우 중대한 위험들이라고 생각하며, 제 바람은 기본적으로 이런 일들이 전혀 일어나지 않는 것입니다. 제가 예측하는 것은 다음과 같습니다. AI가 계속해서 발전할 것이라고 생각합니다. 우리는 AI가 사회에서 가장 많이 논의되는 단일 주제가 되는 것을 보게 될 것이라고 생각합니다. 우리는 많은 사람들이 AI가 제기하는 질문들에 대해 생각하기 시작하고, 우리가 아직 생각하지 못한 창의적이고 예상치 못한 해결책들을 제시하기 시작하는 것을 보게 될 것이라고 생각합니다. 우리는 엄청나게 많은 수의 놀라운 AI 응용 프로그램과 사용 사례들을 보게 될 것이고, 기존의 많은 문제들이 실제로 해결되기 시작하는 것을 보게 될 것입니다. 우리는 엄청난 경제 성장을 보게 될 것이고, 또한 우리가 전에 본 적이 없는 AI로 인한 새로운 문제들도 보게 될 것입니다. 저는 모든이런 일들이 동시에 일어날 것입니다. 정확한 비율은 예측할 수 없습니다. 하지만 네, 그것은 지루하지 않을 것입니다.