AI 맥스 태그마크 Flashcards
(186 cards)
1
Q
인공지능” 이라는 유명한 AI 교과서의 저자
A
스튜어트 러셀
캘리포니아 대 컴퓨터 과학
2
Q
1960년대에 AI의 첫 번째 ??이 터졌다. 기계 학습과 기계 번역 분야에서 초창기 노력이 기대에 부응하지 못하면서다
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
리디에서 자세히 보기: https://ridibooks.com/books/1546000840
A
거품
80년대에 두번째 거품터져 - AI겨울
3
Q
심층 학습 기법
A
딥 러닝
4
Q
지능의 특징
A
우리의 행동이 우리의 목적을 달성할 것으로 예상되는 한, 인간은 지적이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
5
Q
<자동화의 몇 가지 도덕적・기술적 결과Some moral and technical consequences of automation>
누구 논문?
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
A
노버트 위너 1960
우리가 우리의 목적을 달성하기 위해서 우리가 효과적으로 개입할 수 없는 방식으로 작동하는 기계 행위자를 이용한다면 … 우리가 기계에 부여하는 목적이 우리가 정말로 원하는 목적이 되도록 확실히 조치해야 할 것이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
리디에서 자세히 보기: https://ridibooks.com/books/1546000840
6
Q
그러다가 ????가 등장하면서 큰 도약이 이루어졌다. ????는 약 10억 년 전에 단세포 생물에서 처음 진화한 전기 신호 전달의 한 유형이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
리디에서 자세히 보기: https://ridibooks.com/books/1546000840
A
활동 전위action potential
나중에 다세포 생물은 몸속에서 활동 전위를 써서 신호를 빠르게 — 초속 최대 120미터로 — 전달하는 뉴런이라는 특수한 세포를 진화시켰다
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
7
Q
동물은 ????를 바꿈으로써 학습한다
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
A
시냅스의 연결 강도
8
Q
해파리는 ??가 없다
A
뇌
9
Q
뇌는 ??개의 뉴런과 ??개의 시냅스를 가졌다
A
1천억개
1천조개
10
Q
현재 ??라고 부르는 이 개념은 진화가 모든 반응을 미리 고정시킨 본능적 생물과 어떤 행동을 취할지를 학습하는 적응적 생물 사이에 선택한다고 상상하면 이해하기 쉽다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
A
볼드윈 효과Baldwin effect
심리학자 제임스 볼드윈 1896년
진화와 학습의 관계. 적응적 생물이 진화 상 훨씬 잇점이 있다. 본능적 생물이 몇 세대에 걸쳐서 진화할 것을 적응적 생물은 한 생애만에 해 버리기 때문 (컴퓨터로 증명됨)
11
Q
컴퓨터의 표준구조
A
폰 노이만 구조
12
Q
합리적인 존재가 만족할 것으로 기대되는 공리들을 좀 더 자세히 살펴보기로 하자. 하나는 ????이라는 것이다. 독자가 B보다 A를 더 좋아하고, C보다 B를 더 좋아한다면, C보다 A를 더 좋아한다는 뜻이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
리디에서 자세히 보기: https://ridibooks.com/books/1546000840
A
이행성 trasitivity
13
Q
????이다. 독자가 당첨금 B보다 A를 더 선호하는데, A와 B만 나올 수 있는 복권 중에서 고르라고 한다면, 독자는 B보다 A를 얻을 확률이 가장 높은 복권을 선호한다는 것이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
리디에서 자세히 보기: https://ridibooks.com/books/1546000840
A
단조성monotonicity
14
Q
어떤 기간에 걸친 일련의 사건을 수반하는 선호를 다룰 때는 ???이라는 추가 가정을 하곤 한다. A와 B라는 서로 다른 미래가 동일한 사건에서 시작되고, 독자가 B보다 A를 선호한다면, 그 사건이 일어난 뒤에도 여전히 B보다 A를 선호한다는 것이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
A
정상성stationarity
15
Q
또 ????은 선호가 시간이 흐르면서 변할 가능성을 배제하지만, 우리의 경험은 그렇지 않다고 말한다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
A
정상성
16
Q
이 이론은 합리성 개념을 여러 행위자가 있는 상황까지 확장하려는 일반적인 시도 중 하나다
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
A
게임이론
17
Q
80년대 자유주의와 공동체주의 사이의 논쟁 주제
A
좋음에 대한 옳음의 우선성
(자유주의자 - 옳음 우선
공동체주의자 - 좋음 우선)
18
Q
범용성 개념은 1936년 ??가 도입
A
튜링
19
Q
중국 수학자들은 기원전 1000년경에 ??을 발명했다
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
리디에서 자세히 보기: https://ridibooks.com/books/1546000840
A
행렬
20
Q
튜링은 어떤 컴퓨터로도 풀 수 없는 문제 제시
A
정지 문제
halting problem
21
Q
컴퓨터 문제 해결의 난이도는?
A
지수 증가한다
그렇게 풀수 없는 문제를 어려운 문제 intractable problem이라고 한다
22
Q
???은 최초로 진정 실용적인 기계식 계산기를 개발했다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
A
17세기 프랑스의 위대한 수학자 블레즈 파스칼
23
Q
컴퓨터 기술은 ??가 해석 기관이라는 것을 발명했을 때 도약적 발전
A
찰스 배비지 19세기 수학자 발명가
24
Q
사람은 하나의 ??를 타고 태어난다
A
행위자 프로그램
Agent Program
25
목표에 도달하는 비용을
| 최소화하는 함수
비용 함수
26
목적을 달성하기 위해 가능한 행동들의 결과를 머릿속에 모사하는 능력
전방 탐색
27
존 매카시가 제시한 새로운 범주의 프로그램
지식 기반 프로그램
28
현재 cpu는 ??의 언어로 쓴 수억 쪽에 달하는 수식
명제 논리 (and 게이트 not 게이트)
29
존 매카시는 ai에 명제논리 대신 ??를 쓰지고 한다
1차 논리 first order logic
30
최초의 강화 학습 프로그램
1956년 새뮤얼의 체커 프로그램
31
행위자 프로그램의 마지막 범주
반사 행위자
32
감정의 세 가지 이론
1. Appraisal Theory
2. Physiology Theory
3. Social Construction Theory
이를 통합하는 semantic pointers theoru
33
의미의 언어의
semantic
34
WEIRD란?
Wealthy Educated industrialized Rich Democratic
35
지난 7만년 동안 인간의 ???은 우주에서 가장 효율적인 데이터 처리 알고리즘이었다. 하지만 머지않아 불필요
경험
36
인본
37
고릴라 문제
인간보다 뛰어난 지능을 가진 AI가 존재하는데 자율성과 우월성을 유지할 수 있는가?
38
인간을 뛰어넘는 기계의 위험을 처음 경고한 잡지
종교 잡지 <프리미티브 익스파운더Primitive Expounder>의 편집장 리처드 손턴Richard Thornton은 1847년에 기계식 계산기(해석기관)에 악담을 퍼부었다.2
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
리디에서 자세히 보기: https://ridibooks.com/books/1546000840
39
기계파와 반기계파의 싸움 끝에 기계가 금지된 세상을 그린 소설
사뮤엘 버틀러 “에레혼”
40
인간이 자신의 목적을 기계에 불어넣으려는 시도
표준 모델 이식
41
기계에 표준모델을 이식하려는 문제는 실패할 수 밖에 없다는 문제
미다스 왕의 문제
| 또는 괴테의 마법사의 제자 문제
42
미다스의 손 문제와 마법사의 제자 문제는 무엇에 실패해서 발생하나
가치 정렬
| value alignment
43
이전에 인간의 부분적이고 미흡한 목적관이 비교적 무해했던 까닭은 오로지 그런 목적을 실행하는 데 기술적으로 한계가 있었기 때문이다. … 이는 인간의 ??? 덕분에 인간의 어리석음이 끼칠 전면적인 파괴적 충격으로부터 우리가 보호를 받아온 수많은 영역 중 하나일 뿐이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
무능함
44
라이프 3.0의 저자
맥스 태그마크 - MIT 물리학과 교수
45
자기 보존은 ??! 목표이므로 탑재할 필요가 거의 없다
도구적
46
생존하는 것 외에, 돈을 버는 것도 우리의 현행 시스템 내의 ???다
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
도구적 목표
47
“인류의 생존은 초지능 기계를 일찌감치 만드는 데 달려 있다.”
누가 쓴 무슨 논문
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
어빙 존 굿
| - 1965 최초의 초지능 기계에 대한 고찰
48
의외였던 것은 “영화에서와 달리, 초인적인 로봇 종족이 머지않아 나올 가능성은 전혀 없다. 아니, 가능할 것 같지도 않다”는 부분이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
스탠퍼드 대
| 인공지능 100년 연구
49
어니스트 러더퍼드로 대변되는 1930년대 초의 물리학계는 원자 에너지를 추출하는 것이 불가능하다고 굳게 믿었다. 그러나 ????가 1933년에 중성자 유도 핵 연쇄 반응을 창안함으로써, 그 확신이 틀렸음을 증명했다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀
레오 실라르드
50
러다이트 주의
Luddism
51
유전자를 아주 정확하게 편집하는 기술
크리스퍼-캐스9
52
2018년 11월, 중국 과학자 ???는 사람 배아 세 개의 유전체를 편집했고, 그중 적어도 두 개가 자라서 아기로 태어났다고 발표했다. 그러자 전 세계에서 항의가 쏟아졌고, 이 글을 쓰는 현재 그는 가택 연금 상태인 듯하다(2019년 말에 실형을 선고받았다–옮긴이)
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
허젠쿠이賀建奎
53
화제 돌리기
whataboutery
54
지능과 최종 목표는 직교한다. 즉, 원칙적으로는 그 어떤 지능 수준에서도 그 어떤 최종 목표라도 설정이 가능하다는 것이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
닉 보스트롬은 《슈퍼인텔리전스》에서 같은 기본 개념을 다른 형태로 제시했다. 그는 그것을 직교성 명제orthogonality thesis라고 부른다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
55
AI에서 회의주의자란?
AI가 인간을 유의미하게 해를 끼칠 정도로 발전하지는 않는다고 주장
56
또 한 가지 흔한 추측은 이 세 원칙을 따르는 기계가 ???을 받아들일 거라는 생각이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
리디에서 자세히 보기: https://ridibooks.com/books/1546000840
사악한 인간들을 관찰하면서 배운 온갖 악행
많은 이들이 후회할 선택을 하곤 한다는 것은 분명하다. 그러나 우리의 동기를 연구하는 기계가 같은 선택을 할 거라고 가정할 이유는 전혀 없다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
57
우리는 20세기 기술의 원동력이었던 개념 중 하나에서 벗어날 필요가 있다. ?? 말이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀
주어진 목적을 최적화하는 기계라는 개념
58
AI 낙관론의 첫번째 이유
경제적 동기
| 사고 타지면 산업이 망한다
59
이로운 기계의 새로운 원칙들
1. 기계의 목적은 오로지 인간 선호의 실현을 최대화하는 것이다.
2. 기계는 그런 선호가 무엇인지 처음에는 확실히 알지 못한다.
3. 인간의 선호에 관한 정보의 궁극적 원천은 인간의 행동이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
60
‘????’은 약속이라기보다는 열망이지만, 올바른 열망이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
리디에서 자세히 보기: https://ridibooks.com/books/1546000840
증명 가능하게 이로운provably beneficial
61
???는 그냥 참이라고 가정하고 받아들이는 주장이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
공리
62
기계가 이질적인 인간들의 선호 때문에 겪는 어려움을 논의할 때 생기는 이 같은 혼동은 기계가 자신이 배우는 선호를 채택한다는 잘못된 개념에서 비롯되는 것일 수도 있다
예를 들어
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀
예를 들어, 채식 가정의 가정용 로봇이 채식주의자의 취향을 채택할 것이라는 식이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
63
AI 시스템이 어떻게 설계되어야 하는지를 이해하는 일과 가장 관련이 깊은 접근법은 ??? 라고 불리곤 하는 것이다. 선택 행위를 예상 결과에 따라 판단해야 한다는 개념이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
결과주의
64
공리주의 의 저자
존 스튜어트 밀
65
묵자는 기원전 5세기 말에 활동했으며, 도덕적 행동을 규정하는 특징인 ???라는 개념을 내놓았다. ‘포용’ 또는 ‘보편적인 사랑’이라는 뜻이다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
겸애兼愛
66
그러나 사실, 벤담의 공리주의는 인간의 행복에 특히 초점을 맞춘 반면, 밀은 단순한 감각적 쾌락보다 ???에 더 큰 가치를 부여했다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
지적 쾌락
67
????? 의 이상적 공리주의는 거기서 더 나아갔다. 그는 본질적 가치를 지닌 정신 상태를 최대화하자고 주장했으며, 여기엔 아름다움의 미학적 관조가 대표적이라고 보았다.
어떻게 인간과 공존하는 인공지능을 만들 것인가 | 스튜어트 러셀 저
조지 에드워드 무어George Edward Moore
68
AGI
범용인공지능
69
?????는 중국에서 3억 달러를 들여 만든 슈퍼컴퓨터이다
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
리디에서 자세히 보기: https://ridibooks.com/books/4097000063
선웨이 타이후라이트
70
AGI가 주도한 세계 장악이 발생하려면 다음 세 가지 논리적 단계를 거쳐야 한다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
1단계: 인간 수준 AGI 개발
2단계: 이 AGI를 초지능을 창조하는 데 활용
3단계: 이 초지능을 세계를 장악하는 데 활용
71
1965년 지능 폭발 이론 제기한 사람
영국 수학자 어윈 굿
| 인공지능이 더 나은 인공지능 개발. 재귀적 자기향상
72
에드워드 스노든Edward Snowden이 폭로한 정부의 도청이 이른바 ???? 나중에 필요할지 모르는 분석을 위해 모든 전자적 의사소통을 기록하는 것)를 목표로 했다면, 프로메테우스를 모든 전자적 의사소통을 이해하는 수준으로 끌어올릴 수 있다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진
풀 테이크
73
HAL이 오작동을 일으킨 이유
문제는 HAL에게 기본적으로 주어진 지시와 보안상의 요구 사항 간의 충돌에 기인했던 게 분명함. 대통령의 직접 명령에 따라 TMA-1의 존재는 전적으로 비밀에 부쳐졌음. 그 정보를 알 필요가 있는 사람들만이 정보에 접근하도록 허용되었음. 주 승무원(보먼, 풀)이 할 일은 단지 우주선을 목적지에 다다르게 하는 것뿐이었고, 그들에게는 디스커버리 호의 새로운 탐사 목적을 알리지 말자는 결정이 내려졌음.
2010 스페이스 오디세이 | 아서 C. 클라크, 송경아 저
74
HAL은 무슨 고리에 갇혔다?
박사가 기술적인 전문 용어로 알려 준 바에 따르면 HAL은 호프스태터-뫼비우스 고리에 갇혀 버렸던 것이라 하며 이는 자율적 목표 추구 프로그램이 탑재된 고성능 컴퓨터들이 분명 드물지 않게 처하는 상황이라 함. C 박사는 보다 상세한 정보를 얻기 위하여 호프스태터 교수 본인과 접촉해 볼 것을 권함.
2010 스페이스 오디세이 | 아서 C. 클라크, 송경아 저
75
????은 1827년 스코틀랜드 식물학자 ????이 발견한, 액체나 기체 속에서 미소입자들이 불규칙하게 운동하는 현상
브라운 운동(Brownian motion)
| 로버트 브라운
76
???는 악성 봇에 감염되어 제어당하는 대량의 시스템들로 구성된 네트워크를 가리킨다
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
봇네트
77
인간 존재의 미스터리는 그저 살아 있는 데 있지 않고 그것을 위해 살아갈 무언가를 찾는 데 있다. 누구 말?
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
도스토예프스키
78
AI 논란 중 가장 껄끄러운 부분이 무엇이냐는 질문에 한 단어로 대답해야 한다면, 나는 ‘???’이라고 말하겠다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
목적
79
수학 내에서 1) 참인 명제는 증명가능하고 2) 모순이 없어야 한다
누구?
힐베르트
| 하지만 집합론에서는 자꾸 모순이 발생했다. 이걸 없애려고 힐베르트 프로그램 실행
그런데 괴델이 이를 부정. 증명되지 않는 참인 명제가 있다
80
불완전성 정리 란?
증명되지 않는 참인 명제가 있다
| 쿠르드 괴델
81
튜링 머신
계산가능한 모든 것을 계산하는 이론적 기계 (불완전성 정리 증명 위한 개념. 컴퓨터의 전신)
82
계산을 영원히 멈추지 않는 튜링머신
무대포 튜링머신
83
이 말은 거짓이다.
- 참도 안 되고 거짓도 안 된다
에피메니데스의 역설
84
광선이 최단거리를 가기 위해 물에서 굴절되는 현상
이는 물리학에서 페르마의 원리라고 불리며 1662년에 규명됐다. 이 원리는 광선의 움직임을 예측하는 다른 방법을 제공한다 (물리학 내에서의 목적지향적 행위) 무언가를 하기 위해 택할 수 있는 모든 방법 가운데, 자연은 최적의 방법을 선호한다는 것이다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
85
각 물리 법칙을 서술하는 데에는 수학적으로 동등한 두 가지 방법이 있다.
하나는 과거가 미래의 원인이 되는 것이고, 다른 하나는 자연이 무언가를 최적화하는 것이다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
86
자연이 극대화를 위해 노력하는 수량 중 유명한 것이 ???이다
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
엔트로피
87
열역학적 평형 상태를 향한 가차 없는 진행에 대해 처음 배웠을 때 나는 다소 침울해졌다. 나만 그런 것이 아니었다. 열역학 분야를 개척한 켈빈 경Baron Kelvin 1841년 “???”라고 썼다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
불가피한 결과는 보편적인 휴식과 죽음 상태
88
먼저 ???은 다른 힘과 달리 작용해, 우리 우주를 더 단일하고 더 단조롭게 만드는 것이 아니라 더 덩어리지고 재미있게 바꾸려고 힘을 쓴다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
중력
초기 우주는 거의 완벽하게 단일했는데, 중력이 그런 우주를 오늘날의 덩어리지고 아름답게 복잡하며 은하계와 항성과 행성으로 가득 찬 모습으로 변모시켰다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진
89
이 목적은 기술자스러운 이름인 ????이라고 불리고 기본적으로 입자가 무작위적으로 모인 그룹이 주위 환경에서 에너지를 가능한 한 효율적으로 뽑아내게끔 스스로를 조직한다는 뜻이다(
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진
소산 추동 적응dissipation-driven adaptation
90
양자역학의 창시자 중 한 명인 슈뢰딩거는 생명 시스템의 특징은 ??? 라고 설명했다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
자기 주위의 엔트로피는 증가시키면서 자신의 엔트로피는 유지하거나 줄이는 것. 열역학 제2법칙에는 구멍이 있다. 생명은 그 주위를 더 어지럽힘으로써 자신의 복잡성을 유지하거나 증가시키는 것이다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
91
물리 법칙이 입자에 부여하는 목적은 스스로를 조직해 주위로부터 가능한 한 효율적으로 에너지를 받아들인다는 것이다. 일정한 입자의 배열이 이 목적을 더 잘 수행하는 탁월한 방법은 ????
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
자신을 복제함으로써 에너지를 흡수하는 개체를 더 만드는 것이다.
92
있지 않은 곳이 없다
무소부재
93
????은 왜 그런지 다음과 같이 우아한 설명을 내놓았다. 가장 효율적인 복제자는 다른 생물을 이기고 지배할 수 있기 때문에 머지않아 당신이 바라보는 어떤 생명 행태라도 복제의 목적에 최적화될 것이다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
찰스 다윈Charles Darwin
94
물리 법칙은 똑같은데 어떻게 목적이 ??에서 복제로 바뀔 수 있을까
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
소산
근본적인 목적(소산)이 변한 게 아니라 수단적인 목적(근본적인 목적을 달성하는 데 도움이 되는 하위 목적)으로 이어졌다는 것이 답이다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진
95
?????
생명으로 가득한 행성은 에너지를 흐트러뜨리는 데 더 효율적이기 때문이다. 따라서 어떤 의미에서 우리 우주는 자신이 에너지 평형 상태에 더 빨리 도달하도록 돕는 존재로 생명을 창조했다
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
복제는 소산을 돕는다.
96
설탕 가루를 부엌 바닥에 쏟으면 설탕은 몇 년 동안 유용한 화학에너지를 유지할 것이다. 그러나 개미들이 나타나면 금방 설탕의 에너지를 분해해놓을 것이다. 비슷하게 지각 아래에 묻힌 원유는 우리 두 발 달린 생명체가 그걸 뽑아 올려 태우지 않았다면 유용한 화학에너지를 훨씬 오래 유지했을 것이다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
복제는 소산을 돕는다
97
실제로 인간이라는 행위자들은 ‘제한된 합리성’을 발휘한다. 이는 노벨 경제학상 수상자이자 AI 분야를 개척한 ???이 자원 제약에 주목해 만든 개념이다
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
허버트 사이먼Herbert Simon
미국 행정학의 기초를 쌓은 정치학자 우드로 윌슨[1]이 행정학의 아버지라면, 사이먼은 행정학에 논리 실증주의를 도입하면서 사회과학의 과학화를 본격적으로 시도한 인물이다. 하여간 어떤 방식으로든 행정학을 공부하게 된다면 이 사람의 이름을 모를 수가 없게 된다.
98
생명 조직은 단일 목적을 추구하지 않는 대신 경험칙에 따라 무엇을 추구하거나 피하는 ???을 실행한다. 우리 인간의 마음은 이들 진화한 경험칙을 느낌이나 감정이라고 인식한다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
제한된 합리성
99
그러나 궁극적인 권위는 우리 유전자가 아니라 우리 ??이 쥐고 있음을 기억하는 것이 중요하다. 인간 행동은 우리 종의 존속을 위해서만 최적화된 게 아니라는 말이다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
감정
100
지금까지 우리가 만든 것은 대부분 목적 지향적인 설계만 보였을 뿐 목적 지향적인 행동은 보여주지 못했다. 고속도로를 예로 들면
자동차 이동을 돕는다는 목적에 따라 그 자리에 있을 뿐, 움직이지는 않는다
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
101
목적론은 원인보다 ??로 사물을 설명
용도
102
원자의 목적을 세단계로 나누면
1. 모든 물질은 소산(엔트로피 증가)에 초점을 맞춘다.
2. 어떤 물질은 살아나 복제와 복제의 하위 목적에 초점을 맞춘다.
3. 생명체는 자신의 목적을 이루기 위해 물질의 점점 더 많은 부분을 재배열한다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진
103
컴퓨터를 설득하는 과제는 ???라고 불리고, 이는 아이들 도덕 교육보다 훨씬 어렵다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
가치 장착 문제value-loading problem
104
물리학자이자 AI 연구자인 ???는 2008년 발표한 중요한 소론에서 초지능 AI의 행동의 특정한 측면을 예측할 수 있고, 이는 초지능 AI의 궁극적인 목적으로부터 거의 독립적이라고 설명했다.5 닉 보스트롬은 책 『슈퍼인텔리전스』에서 이 주장을 검토해 더 전개했다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
리디에서 자세히 보기: https://ridibooks.com/books/4097000063
스티브 오모훈드로Steve Omohundro
105
칸트는 ????이라고 부른 첫째 원칙으로부터 결론을 도출할 수 있다고 주장했다. 그런데 그가 끌어낸 도덕률에는 자위가 자살보다 나쁘다, 동성애는 혐오스럽다, 나쁜 놈은 죽여도 된다, 아내와 하인과 아이들은 물건과 비슷하게 소유된다 등이 포함됐다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
정언명령categorical imperative
106
나는 여러 해 동안 많은 전문가들에게서 윤리에 대한 견해를 흥미롭게 듣거나 읽었고 도덕과 관련한 그들의 선호 체계에서 다음 네 가지 원칙을 뽑아냈다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
공리주의
다양성
자율성
유산
107
사실 자율성 논의는 바로 자유시장에 대한 경제학자들의 주장에 해당한다. 이는 ‘????’이라고 불리는데, 그 상태에서는 누구도 다른 사람의 상태가 더 악화되지 않도록 하면서 자신의 상태를 더 개선하지 못한다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
파레토 최적
108
보스트롬은 직교성 논제orthogonality thesis라는 개념을 논점으로 제시한다. 이는 ???는 뜻이다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
한 시스템의 최종 목적은 지능과 독립적일 수 있다
109
지능폭발 시나리오의 공통적인 예측 2개
1. 빠른 이륙: 인간 이하의 지능에서 엄청나게 초인간적인 지능으로의 이행이 수십 년 동안이 아니라 며칠 만에 일어난다.
2. 단일 극: 결국 하나의 존재가 지구를 조종하게 된다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
리디에서 자세히 보기: https://ridibooks.com/books/4097000063
110
주요 연구자 중 일부는 최초의 인간 수준 AGI는 ??일 것이고, 이는 초지능으로 가는 경로의 시작이라고 본다.*
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
업로드
| 소수만 주장
111
푸에르토리코 콘퍼런스에서 AI 전문가 중 절반 정도가 ???년까지 인간 수준의 AGI가 가능하다고 추측했다
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
2055
112
지능=???
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진
복잡한 목표를 달성하는 능력
113
IBM의 체스 컴퓨터로 1997년에 인간 체스 챔피언 개리 카스파로프Garry Kasparov를 왕좌에서 끌어내린 인공지능
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
딥블루
| 하지만 틱택토에서 네 살짜리 아이에게 져
114
AI 연구의 성배는
| 맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
(‘범용인공지능AGI’이라는 용어로 더 잘 알려진) ‘범용 AI’를 만드는 것이다. 인간수준 AI
115
감각 운동적 과제는 쉬워 보이지만 엄청난 연산 자원을 요구한다는 역설은 ??의 역설로 알려졌다,
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
한스 모라벡
116
컴퓨터 선구자 앨런 튜링은 컴퓨터 한 대가 아주 간단한 최소의 작동을 수행할 수 있을 경우, 충분한 시간과 저장장치로 뒷받침된다면 그 컴퓨터는 다른 어떤 컴퓨터가 할 수 있는 어떤 일도 수행할 수 있도록 프로그램될 수 있음을 증명했다. 이 결정적인 한계를 넘어서는 기계는
??? 라고 불린다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진
보편적인 컴퓨터universal computer(일명 튜링 유니버설 컴퓨터)
117
비슷하게 나는 AI 디자인에서 요구되는 결정적인 지능의 한계는 ???의 한계라고 생각한다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진
보편적인 지능
118
이들을 기억장치로, 즉 기억을 저장하는 장치로 쓸모가 있도록 하는 기본적인 물리적 특성은 무엇일까?
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
답은 이들이 나름대로의 방식으로 어떤 상태를 오래 유지할 수 있다는 것이다. 정보가 필요해질 때까지 그 상태를 유지하는 것이다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
119
인간 dna의 용량
1.6기가
120
우리 두뇌는 얼마나 저장하는가?
전기적으로 10기가
화학생물학적으로 100테라
세계 최고 컴퓨터는 이제 어떤 생물 시스템도 능가. 비용도 2016년 기준 수천달러
121
우리 뇌에서 정보를 꺼내는 작업은?
검색 엔진과 비슷
| 자동연상
122
연산이란?
정보를 취해 변환하는 것
123
컴퓨터 과학에서 NAND 게이트는?
보편적이다. NAND게이트를 연결하여 어떤 잘 정의된 함수를 실행할 수 있다.
124
잘 정의된 함수는?
연산 가능한 함수
| 앨런 튜링과 알론조 처치는 연산 불가능한 함수도 있음을 증명
125
뜻대로 계산 수행할 수 있는 물질
컴퓨트로늄
126
하드웨어는 ??이고 소프트웨어는??
물질
| 양상
127
지능이 비물질적으로 느껴지는 이유는
그것이 기질 독립적
128
세스 로이드는 계산능력의 근본적인 한계가 어느 정도인지 계산
| 결과는?
현재 최신 계산능력의 10의 33제곱까지 늘어날 수 있다!!! 무어의
| 법칙은 2세기는 지속될 수 있다
129
궁극적인 병렬 컴퓨터
양자 컴퓨터
| 개척자 데이비드 도이치
130
인긴 뇌의 뉴런 시냅스 수
1000억개 뉴런 (점)
| 100조개 시냅스 (선)
131
튜링 테스트 비판
속이기 테스트
132
???는 다음에서 ‘그들’이 누구를 가리키는지 묻는다.
1. 그 시의원들은 시위자들이 입장하지 못하도록 했는데, 그들은 폭력이 두려웠기 때문이다.
2. 그 시의원들은 시위자들이 입장하지 못하도록 했는데, 그들이 폭력을 옹호했기 때문이다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
위노그라드 챌린지
| 아직 ai의 점수는 형편없어
133
인간은 바퀴벌레나 마찬가지로 무의미하게 될 것이다.
- 누구
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
마셜 브레인(미국 작가)
| How Stuff Works의 작가
134
AI 연구자들의 대부분은 향상된 두뇌나 디지털 두뇌가 ????보다 만들기가 더 어렵다고 본다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
백지 상태에서 만든 초지능 AGI
135
???는 초지능으로서 다른 초지능이 창조되는 것을 방지하기 위해 가능한 한 최소한으로 간섭하는 역할을 한다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
게이트키퍼
136
우리의 추측의 끝은 슈퍼문명이다. 이 문명에서 모든 태양계 생명의 종합은 스스로를 계속 연장하고 개선하며 태양 밖으로 확장하면서 생명이 아닌 것을 정신으로 바꿔나간다.
- 한스 모라벡, 『마음의 아이들』
137
기술을 한계까지 발달시킨 미래 생명은 근본적인 자원 하나만 필요로 한다. 이른바 ???이라는 것이다. 이는 원자나 원자를 구성하는 쿼크, 또는 전자로 이루어진 물질을 뜻한다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진
중입자 물질baryonic matter
138
“산업혁명 이후 수천 년이 지나면 지적인 종은 모두 항성을 완전히 감싸는 인공 구에서 거주할 것이다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
리디에서 자세히 보기: https://ridibooks.com/books/4097000063
다이슨 구
139
다이슨 구는 어떻게 형태를 유지하나?
| 맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
태양의 중력과 태양광으로 인한 팽창 압력이 균형을 이루도록 한다는 것이다
140
???이면 표면에 거주하는 사람들이 지구와 같은 중력을 느낀다
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
원통의 직경이 6.4킬로미터이고 회전 주기가 2분
141
반물질을 찻숟가락 하나 분량만 물에 떨어뜨리면 ???의 에너지가 방출된다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
통상적인 수소폭탄 하나에 해당하는 20만 톤 TNT
| 7분간 지구 전체 에너지 공급
142
스티븐 호킹은 책 『그림으로 보는 시간의 역사』에서 블랙홀 발전소를 제안했다.*
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
블랙홀 발전소
143
블랙홀 증발을 에너지원으로 활용한다는 아이디어의 문제는 ???
| 맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
블랙홀이 원자보다 훨씬 작지 않다면 시간이 너무 오래 걸린다는 것이다.
144
미래세계는 결코 인간을 섬기는 로봇 노예가 대기하는 편안한 해먹 위에 있지 않다. 누구 말
노버트 위너
| 신과 골렘 주식회사
145
Zero
zilch
146
데닛은 자신의 이론에 의식의 “???라는 이름을 붙여
다중원고 모형
뇌가 병렬회로를 통해 새로운 정보가 들어올 때마다 여러 버전의 원고 만들어. 그는 이 이론이 데카르트의 마음극장 이론을 대체할 거라 생각
이것은 인간입니까 188
147
커즈와일과 마빈 민스키는 인간이 완전해지지 못 하는 가장 결정적 원인으로 ??을 꼽았다
인간 구성물질이 유기물
148
우리가 목적을 이루려고 효율적으로 조절할 수 없는 기계 에이전트를 사용한다면 (…) 기계에 입력한 목적이 우리가 실제로 원하는 목적인지 확인해야 할 것이다
누구 말
인공지능은 무엇이 되려 하는가 | 스티븐 핑커, 맥스 테그마크, 김보은, 존 브록만 저
노버트 위너
149
인공지능에는 세 가지 법칙이 있다. 첫 번째는 ‘????’으로, 인공두뇌 학자이자 《뇌의 설계》 저자인 W. 로스 애슈비가 주장했다. 애슈비에 따르면 효율적인 통제 시스템은 자신이 통제하는 시스템만큼 복잡해야 한다.
인공지능은 무엇이 되려 하는가 | 스티븐 핑커, 맥스 테그마크, 김보은, 존 브록만 저
애슈비의 법칙
150
두 번째 법칙은 ????이 주장했다. 복잡계의 본질적인 특징은 복잡계가 자신의 가장 단순한 행동으로 구성된다는 점이라는 주장이다. 유기체의 가장 단순하고 완벽한 모델은 유기체 자신이다.
인공지능은 무엇이 되려 하는가 | 스티븐 핑커, 맥스 테그마크, 김보은, 존 브록만 저
존 폰 노이만
151
세 번째 법칙은,
인공지능은 무엇이 되려 하는가 | 스티븐 핑커, 맥스 테그마크, 김보은, 존 브록만 저
리디에서 자세히 보기: https://ridibooks.com/books/3356000024
이해할 수 있을 만큼 단순한 시스템은 지능적으로 행동할 만큼 복잡하지 않고, 반면에 지능적으로 행동할 만큼 복잡한 시스템은 너무나 복잡해서 이해할 수 없으리라고 주장한다.
152
생겨나다
crop up
153
소쉬르
| 영어로
Saus·sure[sousjúǝr]
154
????는 잉글랜드의 SF 작가이다. 소설가로서는 헬리코니아 삼부작으로 알려져 있고, 휴고상과 네뷸러상을 받았다. 스티븐 스필버그 감독의 영화 《A.I.》에 영향을 주기도 했다. Super toys last all summer long
브라이언 올디스
155
스웨덴 출신의 물리학자
현재 MIT에서 물리학과 교수로 재직중이다.
다중우주를 4단계로 나눈것으로 유명하다
맥스 태그마크
156
????는 생명 시스템의 특징은 자기 주위의 엔트로피는 증가시키면서 자신의 엔트로피는 유지하거나 줄이는 것이라고 설명했다.
맥스 테그마크의 라이프 3.
양자역학의 창시자 중 한 명인 슈뢰딩거 (생명이란 무엇인가)
달리 말하면 열역학 제2법칙에는 생명이라는 구멍이 있다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
157
열역학 제2법칙
엔트로피의 법칙
고립계의 엔트로피는 감소하지 않는다.
158
열역학 제3법칙
네른스트-플랭크 정리
159
열역학 제4법칙
온사게르 상반정리
160
물리 법칙이 입자에 부여하는 목적은 ?
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
스스로를 조직해 주위로부터 가능한 한 효율적으로 에너지를 받아들인다는 것이다.
161
물리 법칙은 똑같은데 어떻게 목적이 소산에서 복제로 바뀔 수 있을까?
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진
근본적인 목적(소산)이 변한 게 아니라 수단적인 목적(근본적인 목적을 달성하는 데 도움이 되는 하위 목적)으로 이어졌다는 것이 답이다.
162
진화한 개체가 갖는 공통의 최종 목적은 모두 ????이지만, 설계된 개체는 사실상 어떤 목적도 가질 수 있다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
복제
163
생물학 - 기질 토대 근본
substrate
164
맥스 태그마크에 의하면 의식은?
물질의 패턴이다
165
태그마크의 물리학 관점에서 움직이는 쿼크나 일렉트론은?
시공간의 수학적 패턴에 불과하다
166
태그마크가 의식 얀구에서 주목한 것
physical correlates of consciousness
167
찐득한
viscous
168
의식을 계량화할 연구를 한 사람
신경과학자 Giulio Tononi
(Integrated Information Phi)
다른 시스템들이 서로를 알고 있는 정도
169
계산할 수 있는 가장 기본적인 물질을 부르는 말
computronium
| 계산은 하지만 기억은 못 해
170
의식할 수 있는 가장 기본적 물질을 부르는 말
perceptronium
171
의식의 특징은?
substrate independent
(마치 파동같다)
Computation도 substrate 독립적
172
AI 연구자들은 기계가 행동에서 목적을 ???할 수 있게 만들기 위해 노력하고 있다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
추론
173
????의 핵심 아이디어는 우리는 늘 결정하고 모든 결정은 우리 목적에 대해 무언가를 드러낸다는 것이다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
역강화학습
Inverse Reinforcement Learning
(스튜어트 러셀)
이 방식은 많은 상황에서 많은 사람을 관찰하도록 함으로써(실제, 영화, 책 모두를 포함), AI가 우리 선호 체계에 대해 정확한 모형을 만들게 한다는 데 기대를 건다.4
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
174
컴퓨터를 설득하는 과제는 ??라고 불리고, 이는 아이들 도덕 교육보다 훨씬 어렵다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
가치 장착 문제value-loading problem
175
사람에게보다 기계에게 가치 장착이 어려운 까닭은?
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
기계는 지능 발달이 훨씬 빠르다는 데 있다
176
AI가 점점 더 영리해지더라도 궁극적인 목적을 유지하리라는 이 주장은 ??를 비롯한 사람들이 널리 알린 우호적인 AI 비전의 기초이다.
맥스 테그마크의 라이프 3.0 | 맥스 테그마크, 백우진 저
엘리저 유드코프스키
177
스튜어트 러셀이 제시하는 human compatible robot의 3원칙 (테드)
1 로봇의 유일한 목적은 인간적 가치의 실현 (이타주의)
2 로봇은 그 가치가 무엇인지 잘 모른다 (겸손)
3 로봇은 인간을 관찰하여 가치를 배운다
178
스튜어트 러셀이 테드에서 말했던 잘못된 AI사례
고양이 요리
179
수퍼인텔리전스의 저자
닉 보스트롬
180
뉴런의 발화속도
200헤르츠
1초에 200번
트랜지스터의 발화속도 기가헤르츠
181
뉴런의 정보전달 속도
초속 100m
| 컴퓨터는 빛의 속도
182
인공지능은 인류가 만들어야 하는 마지막 발명품이 될 것이다 누구 말?
닉 보스트롬
183
과학의 웅대한 목표는 가장 많은 실험적 사실을 가장 적은 가설이나 공리를 통해 논리적으로 추론하는 것이다 - 누구 말
아인슈타인
184
화이트헤드가 말하는 문명이란
우리가 생각하지 않고도 수행할 수 있는 중요한 활동의 수를 늘리는 것
185
인간의 뇌를 베끼는 AI개발법
전뇌 에뮬레이션
186
철학자 ???가 말했듯이, 창의적 추측을 포함한 창의적 비판은 인간이 언어를 포함한 타인의 행동을 배우는 방식이며, 타인이 표현한 말에서 의미를 추출하는 방식이다.30 모든 새로운 지식이 창조되는 과정이기도 하다.
인공지능은 무엇이 되려 하는가 | 스티븐 핑커, 맥스 테그마크, 김보은, 존 브록만 저
칼 포퍼
