AI 이후의 세계

★★★

 

책을 읽게 된 계기

기계가 사람보다 똑똑한 세상에서 인간으로 산다는 것은 무엇을 의미하는가? 

 

세상에 이미 있는 것을 구별하고 알아보는 인식형 AI 를 뛰어넘는 '생성형 AI'의 시대가 이제 막 시작된 것이다.

 

이제 서서히 끝나가는 호모사피엔스의 시대, 우리보다 더 똑똑하고 뛰어난 기계의 시대가 시작될 가능성을 탐색한다.

 

명심하라, 지금 일어나는 혁신은 인공지능이 이룰 성취의 첫걸음에 불과하다. 

AI는 우리가 미처 알아차리기도 전에 오늘날 문제가 되는 모든 한계를 돌파해버릴 것이다.

---

책 내용 요약

p24

자라나는 아이들이 세상의 지식을 습득할 때는 대부분 설명을 듣기보다는 스스로 학습하는 방식으로 해낸다는 사실 말이다.

 

p42

계몽시대의 과학이 분명한 지식을 축적한 반면, 새로운 AI는 모호한 지식을 누적한다.

계몽시대의 과학은 미스터리를 해소하면서 점점 넓어지는 지식과 이해의 한계선을 명확히 그렸다.

지식과 이해가 나란히 움직였다. 가설을 통해 이해가 지식으로, 귀납을 통해 지식이 이해로 발전했다.

그러나 AI 시대에는 우리가 알지 못하는 프로세스로 수수께끼가 해소된다. 이 혼란스럽고 모순적인 기제로 미스터리는, 더 이상 미스터리가 아니지만 설명할 수는 없는 현상이 된다. 따라서 복잡다단한 AI는 인간의 지식을 확장하지만 이해를 확장하진 않는다. 그럼에도 이성과 연합한 AI는 홀로 작용하는 이성보다 강력한 탐구와 발견의 수단이 된다.

 

p58

우리는 생성형 AI의 편향과 결함을 그대로 인지할 수 있는가? 모델이 내놓은 답을 미리 알 수 없을 때조차도 그 답의 진실성과 한계를 의심하는 조사자의 자세를 기를 수 있는가?

 

p61

인간이 뇌를 덜 사용하고 기계를 더 사용한다면 사라지는 능력이 있을 것이다. 예를 들어 비판적 사고력, 작문력, 묘사력(텍스트를 이미지로 변환하는 달리나 스태빌리티 AI 같은 프로그램을 이용한다면) 이 위축된다.

 

p62

인간은 AI 시스템의 출력물에 당당히 이의를 제기하는 능력을 길러야 한다.

 

p63

어떻게 하면 인간이 전략의 핵심 요소를 기계에 이양하지 않고 AI를 이용할 수 있을까?

 

p75

이제 기술과 공생하는 인간, 호모테크니쿠스(Homo Technicus) 가 된 우리에게는 인류의 목적을 정의할 책무가 있다. 진정한 답을 제시하는 것은 언제나 우리의 몫이다.

 

p100

컴퓨터과학자와 엔지니어들은 '심층신경망(deep neural network)' 을 이용하는 머신러닝 기법을 중심으로 그간 인간이 깨닫지 못한 것을 깨닫고 혁신하지 못한 것을 혁신하는 기술과, 마치 인간이 만든 것 같은 글, 이미지, 영상을 만들어 내는 기술을 꾸준히 개발 중이다.

 

p136

'올바른' 신앙을 갖고 지혜에 이르는 길을 따르는 사람들에게 약속된 보상은 내세의 입장권으로, 이 내세야말로 현세에서 보이는 현실보다 진실하고 의미 있는 영역이었다. 이 중세시대는 5세기에 로마가 몰락하고 15세기에 튀르키예의 오스만제국이 콘스탄티노플을 점령할 때까지 이어졌는데, 이 시기에 적어도 서양에서는 세상보다 신에 관한 지식이 우선시됐다.

 

p140

지식 권력과 정치 권력이 교리 분쟁으로 분열되는 와중에 예술계와 과학계에서는 왕성한 탐구가 일어났으니, 그 원동력 중 하나는 부활한 고전고대의 문학, 학습 양식, 논증이었다.

르네상스라 불리던 이 고전고대 문화의 부흥기에 인간의 성취를 기리며 더 많은 성취에 박차를 가하는 예술품, 건축물, 철학이 활발히 등장했다. 당대의 시대정인인 인문주의는 개개인이 이성으로 주변 환경을 이해하고 개선할 수 있다는 사상이었다.

 

p150

칸트에 따르면 인간의 이성은 현실을 깊이 이해할 능력이 있으나 필연적으로는 불완전하다.

인간의 인지와 경험은 우리가 아는 모든 것을 여과하고, 체계화하고, 왜곡한다. 이는 우리가 "순수하게" 논리로만 사유하려 할 때도 마찬가지다.

 

p166

지금껏 인류는 집단 기억의 한계를 극복하기 위해 무수한 개념을 만들었지만, 디지털 네이티브들은 그럴 필요성을 아예 못 느끼거나 적어도 시급하게 느끼진 않는다. 그들은 사소하든 중요하든 궁금한 것이 그냥 검색엔진에 물어본다. 그러면 검색엔진은 AI를 이용해 질문에 답한다. 그 과정에서 인간은 생각의 많은 부분을 AI 에게 위임한다. 하지만 정보는 그 자체로 설명되지 않는다. 어떤 정보가 유용하게 쓰이려면, 적어도 의미가 있으려면 문화와 역사라는 렌즈를 거쳐 이해돼야 한다.

 

p166

정보에 맥락이 더해질 때 지식이 된다. 그리고 지식에 소신이 더해지면 지혜가 된다.

 

p167

디지털 세상에는 지혜가 생길 여유가 없다.

디지털 세상에서 중시되는 덕목은 자아성찰이 아니라 타인의 인정이다.

 

p168

AI가 삶에 점점 더 넓게 영향을 미치면서, 우리의 정신이 홀로 선택과 행동을 하고, 체계화하고, 평가하던 시대가 저물고 있다.

 

p192

강화학습에서는 AI가 데이터 내에 존재하는 관계를 규명하는 수동적 위치에 머물지 않는다.

AI는 통제된 환경에서 '주체'가 되어 제 행동에 대한 반응을 관찰하고 기록한다.

 

p193

보통은 AI 에게 인공적인 환경에서 스스로 훈련하라고 지시만 해서는 수행 능력을 극대화할 수 없다. 피드백이 필수다.

AI는 디지털 프로세서로 구동되면서 단 몇 시간 혹은 며칠 만에 수백,수만,수억 번 스스로 훈련하기 때문에 인간이 일일이 피드백을 주기란 사실상 불가능하다. 그래서 프로그래머들은 보상함수를 자동화하고 그 함수가 작동하는 방식과 시뮬레이터가 현실을 모사하는 방식을 정밀하게 설정한다.

p201

생성형 AI 를 만들 때 주로 사용되는 훈련 기법은 상호 보완적인 학습 목적을 가진 두 신경망을 경쟁시키는 것이다. 이를 '생성형 적대 신경망 GAN, Generative Adversarial Networks' 이라고 부른다.

p202

잠재적 출력을 생성하는 '생성망'과 조악한 출력의 생성을 막는 '판별망'으로 구성된다.

비유하자면 생성망은 브레인스토밍을 하고, 판별망은 유의미하며 현실적인 아이디어를 선별한다. 

훈련은 생성망과 판별망을 번갈아가며 진행된다.

 

p198

연구자들은 공들여 번역된 텍스트로만 AI를 훈련하지 않고 단일한 주제에 관해 다양한 언어로 쓰인 각종 텍스트(예: 신문 기사)를 AI 에게 제공했다.

 

p200

일반적 신경망은 인간의 얼굴 사진을 인식할 수 있지만 '생성형' 신경망은 진짜처럼 '보이는' 인간의 얼굴 사진을 만든다. 서로 개념 자체가 다르다.

 

p403

끊임없이 범람하는 콘텐츠 때문에 사유의 비용이 증가함에 따라 사유의 빈도는 감소한다.

 

 

 

 

 

 

---

느낀 점 및 생각

 

---

책을 읽고 변화된 점