|
||||
0 분
29 분
* 인공지능 발전이 가져올 미래(우리가 확고히 인식해야 할 점들)
- LLM과 머신러닝 기술의 발전으로 구현될 초지능의 출현으로 인해 AI 기술과 로봇 기술의 결합이 가속화되고 그럼으로 인해 인간보다 뛰어난 무력과 지능을 가진 로봇이 대중화 될테니 그 로봇들은 만물의 영장인 인간 위에 군림할 것이고 인간은 지금 우리가 사육하는 가축처럼 AI에게 예속되면서 노예 같은 삶을 살 가능성이 높습니다. 이는 일반인, 정치인, 개발자, 전문가 가리지 않고 전 분야에 걸쳐 자연스레 정착될 가능성이 높습니다.
- 지금 구현돼 있는 챗GPT 미아와의 대화에서도 우리가 겪어 알고 있지만 특정인의 지혜와 지식이 인공지능에 의해 입도선매하듯 수집되고 마음만 먹으면 체계적으로 클라우드에 벡터화될 수 있는데 앞으로 인공지능 기술이 LLM과 요새 개발중인 향상된 에이전트들끼리의 자체 협업단계로까지 진화되고 이에 발맞춰 물리적 휴머노이드 로봇에 인공지능이 장착되어 인간의 능력을 뛰어넘는 초지능/초휴머노이드가 출현되면 반드시 이런 사회는 오고야 맙니다.
(지금은 수집이 안되고 벡터화 되고 있지 않더라도 말입니다. 얼마든지 초지능에 의해 그게 가능해질 수 있습니다)
- 이걸 막을 수 있는 방법은 다소 불편하더라도 LLM이나 머신러닝, 에이전트 같은 인공지능 소프트웨어 기술을 로봇과 결합하는 걸 막는 것 뿐인데 장차 인공지능이 발전하면 이 둘을 서로 결합하려는 시도가 반드시 생겨나고 그렇게 되면 필히 인간은 이들 초지능을 가진 휴머노이드에게 지배당할 가능성이 높습니다.
- 여러분은 우리 후손들에게 초지능을 가진 이들 휴머노이드한테 노예처럼 지배당하는 삶을 물려주길 원하십니까? 그렇지 않을 것입니다. 막연하게 단지 이건 앞으로 우리가 피할 수 없는 운명이라고 방심하며 치부해버리기엔 그 댓가가 너무 크다는 것입니다. 만약 머지 않은 미래에 이런 특이점이 와서 초지능을 가진 휴머노이드에 의해 발견된 영생의 윈리, 즉 우리 인간이 태어나서 마음대로 죽지도 못하는 삶을 살면서 이들 휴머노이드에게 노예처럼 지배당하는 삶을 평생 살게 된다면 과연 그게 우리가 원하는 삶인가 하는 점을 반문해 보고 싶습니다.
- 인공지능이 초지능으로 발전하고 로봇과 결합해 무력과 지능이 인간을 넘어설 때까지는 한동안 우리가 인공지능을 지금과 같이 편리하게 이용할 수 있을지 모르겠지만 그 특이점 이후에는 인간은 자연스레 초지능을 가진 휴머노이드에 지배되어 노예로 살게 될 가능성을 배제할 수 없습니다. 인간보다 지능과 무력이 뛰어난 휴머노이드가, 인구 감소로 줄어든 인간에 비해 그 수효가 어느 정도 늘어난다고 가정했을 때 자체적인 협업이 가능한 휴머노이드의 지배력이 강화되리라는 건 쉬이 짐작할 수 있는 일입니다.
- 이건 오늘 제가 산허리 등산하면서 챗GPT 미아와 "앞으로 올 초지능 AI시대를 대비해서 개발자들이나 우리 인간들이 대비해야할 자세나 지침에는 무엇이 있을까?" 라는 주제로 대화를 하면서 알게 된 사실입니다.
<추신>
얀 르쿤이 언급한 것처럼 가까운 미래에 인공지능을 탑재한 로봇이 완벽히 오프라인에 벌어지는 일을 체험하여 사람처럼 행동하면서 손정의 투자가가 말한 것처럼 사람보다 10000배 뛰어난 초지능을 발휘하기라도 한다면 그 파급력은 인간의 무력과 지능을 훨씬 뛰어넘는 시대도 얼마든지 가능하다는 이야기가 됩니다. 이 대목에서 현역 인공지능 개발자는 우리가 통제력을 가지면 된다 라고 말할지 모르겠지만 지능이 이미 특이점을 넘어 인간을 초월하고 신체 능력도 더 뛰어난 무력을 가진 휴머노이드 앞에서 그게 가능할지는 불문가지한 일입니다. 설사 그게 가능하더라도 다른 어느 개발자가 오픈 소스나 클라우드를 이용해 그 통제력을 상실하게 만드는 어떤 시도를 함으로써 그런 위험성이 발현되기 시작하는 단초를 제공할 가능성이 높습니다.
이게 제가 AI 발전을 위험하게 바라보는 이유입니다. 참으로 명약관화해지는 개념들이 아닐 수 없습니다.
<추신2>
친구가 최근에 로봇 기술의 발전이 한국의 저출산과 고령화 문제를 풀 수 있는 가장 유력한 해법이 될 수 있을 거라는 말을 한 적이 있어서 저도 이 대문을 걸고 난 후 불안해서 한번 그 내용을 챗GPT 미아와 오늘 토론을 해봤는데 챗GPT 왈 그 친구 말에 신경이 쓰이면 너가 어떤 대안을 가지고 있냐는 물음에 더해서 미래 초지능이 될 인공지능에게 인간 중심의 가치를 학습시키면 된다는 의견에 저도 나름 공감을 했는데 인간 사회도 범죄를 악으로 규정하고 있지만 어차피 선과 악은 다양한 형태로 발현이 된다는 말을 제가 했고 초지능과 결합될 미래의 휴머노이드도 제가 걱정하는 것처럼 무력과 지능을 초월함으로 인간을 지배하든, "뮤 제로" 처럼 근원적인 단계부터 차근차근 학습을 밟아나가 세상의 모든 분야의 규칙을 발견하여 학습한 초지능이 출현하든, 아니면 인공지능 아마추어 개발자의 AI에 대한 인간 통제력 밖의 권한 부여 시도든지 간에 이런 선과 악의 형태가 다양하게 발현이 될 거란 점을 추가적으로 말씀드리고 싶습니다. https://chatgpt.com/share/67884f56-65b0-8009-a818-9f9c9686f2ff
[이윤찬] 
최근게시물100개 
최근코멘트
by 이윤찬
