생성형 인공지능 시대를 살아가려면,
궁금한게 없는 사람은 이걸 사용하지 못한다.
굉장히 중요한 역량은,
"얼마나 질문을 잘 하느냐"
"내가 뭘 모르는지를 어떻게 알고 있느냐"
내가 궁금한 게 많으려면 지식이 풍부해야 한다.
"교양이 있고 주변 지식이 풍부하면 질문할 게 굉장히 많아집니다.
내가 뭘 모르는지를 아는 거죠.
그 답을 보고 추가 질문을 할 수 있는 공간이 굉장히 넓어져요."
Microsoft 의 논문
<Textbook is all you need> => 교과서만 있으면 돼
학습 데이터의 품질이 굉장히 중요하다.
"애들에게 AI 시대에 대응할 수 있는 가장 훌륭한 조언을 하거나 도와준다면
저는 책 읽는 습관을 갖게 하는 거라고 생각해요."
슈퍼컨설턴트(파트너)라고 생각하고 끊임없이 그 다음 질문(토론)을 이어나가야 한다.
- 8~9회 토론을 이어나감
- 절대로 첫번째 프롬프트로 끝내지 마라
AI 는 Amplifier (증폭기)
=> 하지만, 누구나에게 공평하게 증폭시켜주지 않는다.
| 능력치 (A) | 능력치 (B) | 증폭 | 능력차 |
| 7 | 10 | x1 | 3 (어케 비벼볼 만 함) |
| 70 | 100 | x10 | 30 (A가 4배 열심히 해도 발생하는 격차) |
| 49 | 100 | x7,x10 | 51 (A가 B처럼 10배 능력을 발휘하지 못할 경우) |
생성형 AI 기술들
ChatGPT (Chat Generative Pre-trained Transformer) : 대화형 거대 언어모델
- OpenAI
- 5조개의 문서 학습
- A100 GPU
- Emergent Ability (갑자기 느닷없이 발생한 능력) => 창발성
. 10^22 학습량에서 발견된 능력
. 규모의 법칙을 발견해서 어마어마한 규모의 학습을 시킨 사례
. 컴퓨팅파워, 거대매개변수
- 버전
. GPT-4: 변호사 시험 상위 10% 통과
. GPT-4o (omni): Voice-To-Voice 멀티모달 => 음성처리
. OpenAI o1 (orion 1): 추론을 잘하기 시작함 => 의사시험을 최상위 1% 통과
Lamma
- 메타(구 페이스북)
- ChatGPT 의 50배 규모 학습
그 밖에,
- Claude 3.5
- Gemini pro (Google)
- HyperCLOVA X (Naver)
- Perflexity
. 생성형 인공지능과 출처를 같이 확인할 수 있음
. 전기 10배 사용 => 지속가능하지 않은 모델
AGI (Artificial General Intelligence): 인공일반지능
- 모든 영역에서 인간의 지능을 뛰어넘는 인공지능
- 5~10년 이내 (노벨화학상, 데이비드 살사비스), 2xxx일 이내 (OpenAI, 샘 올트먼)
- 책: AI강의 2025 (박태웅)
- 출처:
댓글