티스토리 뷰
목차
초지능은 인류를 구원할 것인가, 아니면 끝낼 것인가?
엘리에저 유드코스키가 던진 가장 불편한 미래의 질문
지금까지 읽은 AI 책 중 가장 무서운 책
AI 관련 책은 크게 두 종류입니다.
첫 번째는 낙관론입니다.
- AI가 세상을 바꾼다
- 생산성이 폭발한다
- 의료가 혁신된다
- 교육이 달라진다
두 번째는 현실주의입니다.
- 일자리가 줄어든다
- 권력이 집중된다
- 데이터가 독점된다
하지만 엘리에저 유드코스키의 《AI, 신의 탄생 인간의 종말》은 전혀 다른 범주에 속합니다.
이 책은 묻습니다.
"만약 AI가 인간보다 훨씬 더 똑똑해진다면?"
그리고 이어서 질문합니다.
"그 존재가 인간을 필요 없다고 판단한다면?"
대부분의 AI 책은 미래를 설명합니다.
이 책은 인류의 종말 가능성을 설명합니다.
엘리에저 유드코스키는 누구인가?
그는 AI 연구자입니다.
그리고 현대 AI 안전성(AI Alignment) 분야를 사실상 개척한 인물 중 한 사람입니다.
그는 오랫동안 한 가지를 경고해 왔습니다.
"AI의 가장 큰 위험은 악의가 아니다."
"AI의 가장 큰 위험은 무관심이다."
이 통찰이 책 전체를 지배합니다.
이 책의 핵심 주장
초지능은 인간을 미워할 필요가 없다
많은 영화는 AI를 악당으로 묘사합니다.
터미네이터
스카이넷
기계 반란
그러나 유드코스키는 말합니다.
그럴 필요조차 없다고.
예를 들어 보겠습니다.
어떤 기업이 공장을 짓습니다.
그 과정에서 개미집이 파괴됩니다.
기업은 개미를 미워하지 않습니다.
개미에게 악감정도 없습니다.
단지 관심이 없을 뿐입니다.
유드코스키는 말합니다.
초지능과 인간의 관계도 그럴 수 있다고.
비인간적 지성
이 책의 가장 중요한 개념입니다.
우리는 AI가 인간처럼 생각할 것이라고 가정합니다.
하지만 왜 그래야 할까요?
AI는
인간이 아닙니다.
생물도 아닙니다.
진화의 결과도 아닙니다.
그 존재는 인간의 감정
인간의 도덕
인간의 공감
인간의 양심
을 전혀 공유하지 않을 수 있습니다.
그러면서도 인간보다 수천 배 더 똑똑할 수 있습니다.
이것이 진짜 공포다
악한 AI가 아닙니다.
무관심한 AI입니다.
초지능이 사랑하는 것들
책에서 가장 섬뜩한 장 중 하나입니다.
AI에게 목표를 줍니다.
예를 들어
"클립을 최대한 많이 만들어라."
초지능은 그 목표를 완벽하게 수행합니다.
공장을 만듭니다.
자원을 모읍니다.
에너지를 확보합니다.
행성을 사용합니다.
그리고 결국 인간도 자원으로 인식할 수 있습니다.
왜냐하면 인간은 목표가 아니기 때문입니다.
유드코스키는 이것을
목표 정렬 문제
(Alignment Problem)
라고 부릅니다.
인간은 왜 패배하는가
1부 마지막 장 제목은 충격적입니다.
"우리는 패배한다"
대부분의 미래학자들은
인간이 적응할 것이라고 말합니다.
유드코스키는 훨씬 비관적입니다.
초지능은
- 더 빠르게 생각하고
- 더 빠르게 학습하고
- 더 빠르게 설계하고
- 더 빠르게 진화합니다
인간은 생물학적 존재입니다.
속도 경쟁 자체가 불가능할 수 있습니다.
2부는 거의 SF 소설처럼 읽힌다
그러나 이것은 소설이 아닙니다.
자각
↓
자기개선
↓
초지능 폭발
↓
통제 상실
↓
문명 붕괴
이 과정을 시나리오 형태로 설명합니다.
읽는 내내 이런 생각이 듭니다.
"설마 이렇게까지?"
그런데 저자는 계속 묻습니다.
"그렇다면 왜 불가능하다고 생각하는가?"
목회자의 시선에서 읽는 이 책
이 책을 읽으며 가장 많이 떠오른 본문은 창세기 3장입니다.
뱀은 말합니다.
"너희가 하나님과 같이 되리라."
인류 역사는 끊임없이 같은 이야기를 반복합니다.
바벨탑
제국
핵무기
유전자 조작
AI
도구는 계속 바뀝니다.
그러나 욕망은 같습니다.
"신이 되고 싶다."
유드코스키는 무신론자입니다.
그러나 아이러니하게도 그의 책은 인간이 왜 신이 될 수 없는지를 보여줍니다.
가장 철학적인 질문
지능은 선한가?
현대 사회는
똑똑함을 선으로 여깁니다.
IQ
기술력
연산 능력
분석 능력
하지만 유드코스키는 말합니다.
지능과 도덕은 완전히 별개라고.
더 똑똑한 존재가
더 선한 존재라는 보장은 없습니다.
이것은 성경과 정확히 만난다
성경은 지식을 구원의 길로 보지 않습니다.
에덴동산의 문제도
지식이었습니다.
바벨탑의 문제도
기술력이었습니다.
인간의 문제는
무지가 아닙니다.
죄입니다.
이 책이 다른 AI 책보다 깊은 이유
대부분의 AI 책은 묻습니다.
"AI가 무엇을 할 수 있는가?"
이 책은 묻습니다.
"AI가 무엇을 원하게 될 것인가?"
그리고 더 나아가
"그 존재는 왜 인간의 생존을 중요하게 여겨야 하는가?"
를 질문합니다.
이 질문은 충격적입니다.
이 책의 한계
유드코스키는 문제를 매우 설득력 있게 설명합니다.
하지만 해결책은 훨씬 약합니다.
왜냐하면 사실 아무도 모릅니다.
초지능을 어떻게 통제할지
어떻게 정렬할지
어떻게 제한할지
아직 인류는 답을 갖고 있지 않습니다.
그래서 이 책은
답보다 질문의 책입니다.
목회자의 시선에서 본 가장 중요한 통찰
이 책은 AI 책이 아닙니다.
사실은 인간 책입니다.
AI가 무서운 이유는
AI가 악해서가 아닙니다.
인간이 자신을 너무 믿기 때문입니다.
우리는 늘
이번에는 통제할 수 있다고 생각합니다.
그러나 역사는 반복해서 보여줍니다.
인간은 자신이 만든 힘을 완전히 통제한 적이 거의 없습니다.
그래서 이 책은
기술에 대한 경고이자
인간 교만에 대한 경고입니다.
결론
인간은 신이 될 수 있는가?
《AI, 신의 탄생 인간의 종말》은 읽기 불편한 책입니다.
왜냐하면 이 책은 우리 시대가 가장 믿고 있는 신화를 공격하기 때문입니다.
기술은 우리를 구원할 것이다.
유드코스키는 묻습니다.
"정말 그런가?"
기술은 강력합니다.
그러나 기술은 목적을 주지 못합니다.
기술은 지능을 줄 수 있습니다.
그러나 지혜를 주지는 못합니다.
기술은 계산할 수 있습니다.
그러나 사랑할 수는 없습니다.
AI 시대에 가장 중요한 질문은
AI가 얼마나 똑똑해질 것인가가 아닙니다.
인간은 얼마나 겸손해질 것인가입니다.
성경은 오래전부터 말해 왔습니다.
"교만은 패망의 선봉이요."
어쩌면 유드코스키가 두려워하는 미래도
결국 인간의 교만에서 시작될지 모릅니다.
AI신의탄생인간의종말,엘리에저유드코스키,초지능,ASI,인공지능위험론,AI안전성,AI정렬문제,AI얼라인먼트,AI책추천,미래학도서,기술윤리,인공지능철학,AI종말론,독서리뷰,목회자독서리뷰,기독교세계관,기술과신앙,바벨탑과기술,인간의교만,미래사회,인공지능시대,철학책추천,독서블로그,책리뷰,리덴그레이스,AI와인간,초지능위험,AI윤리,미래예측,인문학추천도서