LLM이란 무엇인가 (LLM은 이해하지 않고 사고하지 않는다)
LLM이란 무엇인가? 그리고 어떻게 만들어졌는가1. LLM이란?LLM (Large Language Model)은 대규모 언어 데이터를 학습하여,주어진 문맥에서 다음 단어(토큰)를 예측하는 모델이다.본질은 "언어 패턴 예측기"이지, 인간처럼 생각(thinking)하거나 이해(understanding)하는 존재가 아니다.2. 어떻게 만들어졌나?이용자 관점에서 알아야 할 큰 그림만 설명한다.대량의 텍스트 수집인터넷, 책, 논문, 뉴스, 코드 저장소 등 방대한 양의 텍스트 데이터를 모은다.예: 위키백과, 온라인 커뮤니티, 오픈소스 코드토큰화 (Tokenization)문장을 단어/문자 단위로 잘게 쪼갠다.예: "strawberry" → ["straw", "berry"] 또는 ["stra", "w", "berry"..
2025. 9. 9.