Ai발전속도가 엄청 급진적이네요
구글이 바둑점령한지 얼마나 되었다고 ㅎㄷ...
스타크레프트 플레이까지 재미있게 보긴했는데
그다음엔 벌써... 각종 시험은 다 통과하고...
1인 1pc시대처럼
이제는 1인 1 Ai로봇 시대가오면
대리변호 , 의학적진찰 , 가사도우미 , 육아 다해주겠네요
분명 구독서비스겠죠? 분야별? ㅋㅋ
전체 서비스는 월 29만9천900원 할수도 ㅋㅋ
ㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡ
MetaAI에서 제가 최근에 지속적으로 이야기 하던 방향인,
“that almost all knowledge in large language models is learned during pretraining, and only limited instruction tuning data is necessary to teach models to produce high quality output”,
즉 Pretrain에서 이미 (거의) 모든 지식을 배웠고, 어떻게 말해야 할지만 알려주면 된다- 라는걸 실증적으로 보여준 페이퍼가 나왔네요.
여기선 이제 5만개도 아닌 겨우 1000개로 파튜.
출처
https://arxiv.org/abs/2305.11206
LIMA: Less Is More for Alignment
Large language models are trained in two stages: (1) unsupervised pretraining from raw text, to learn general-purpose representations, and (2) large scale instruction tuning and reinforcement learning, to better align to end tasks and user preferences. We
arxiv.org
'그밖에 여러가지 이야기' 카테고리의 다른 글
| 인공지능 관련된 이야기는 읽어도 읽어도 재미있네요 (13) | 2023.05.23 |
|---|---|
| 윤석열은 이게 무슨뜻인지는... 알고 참여선언을 한걸까? (9) | 2023.05.23 |
| 히포크라테스 선서는 자본주의 세상에선 쓸대없는 이야기가 된것같긴 함 (14) | 2023.05.22 |
| 일본에서 일하는 한국의사 (9) | 2023.05.22 |
| 러시아가 반역죄로 과학자를 체포한 배경은? (17) | 2023.05.22 |
