Merge pull request #61 from edumgt/copilot/enhance-docs-with-tensorflow

docs: supplement TensorFlow/TensorBoard/Keras/KoNLPy/마르코프체인/LSTM 텍스트 생성 내용 보완

Author: edumgt

docs/03.md

@@ -240,3 +240,92 @@ RNN, LSTM, Transformer는 각각 **기억하는 범위와 방식**이 다릅니
 `model="nn"` 으로 실행하면 응답에 `nn_viz` 가 함께 들어와 뉴런 연결 그림을 그릴 수 있습니다.
 
 즉, 현재 웹앱이 RNN/LSTM/Transformer를 직접 학습하진 않아도, **시계열에서는 순서를 지키는 처리**를 가장 먼저 실천하고 있습니다.
+
+---
+
+## LSTM 텍스트 생성: 시계열 모델을 언어에 적용하기
+
+LSTM은 주가 시계열뿐 아니라 **텍스트(문자·단어 시퀀스)** 에도 그대로 적용할 수 있습니다.  
+문자 하나하나를 시점(time step)으로 보면, LSTM이 앞 문자들의 패턴을 기억하며 다음 문자를 예측합니다.
+
+### 문자 단위 LSTM 언어 모델
+
+```python
+from tensorflow import keras
+import numpy as np
+
+# 텍스트를 40글자씩 잘라 입력, 41번째 글자가 정답
+SEQ_LEN = 40
+step    = 3
+
+# 문자 → 정수 인덱스 변환
+chars   = sorted(set(text))
+char2id = {c: i for i, c in enumerate(chars)}
+
+sequences, next_chars = [], []
+for i in range(0, len(text) - SEQ_LEN, step):
+    sequences.append(text[i:i + SEQ_LEN])
+    next_chars.append(text[i + SEQ_LEN])
+
+# one-hot 인코딩
+X = np.zeros((len(sequences), SEQ_LEN, len(chars)), dtype=np.float32)
+y = np.zeros((len(sequences), len(chars)), dtype=np.float32)
+for i, seq in enumerate(sequences):
+    for t, c in enumerate(seq):
+        X[i, t, char2id[c]] = 1
+    y[i, char2id[next_chars[i]]] = 1
+
+# LSTM 모델 정의
+model = keras.Sequential([
+    keras.layers.LSTM(128, input_shape=(SEQ_LEN, len(chars))),
+    keras.layers.Dense(len(chars), activation='softmax')
+])
+model.compile(optimizer='adam', loss='categorical_crossentropy')
+model.fit(X, y, batch_size=128, epochs=20)
+```
+
+### Temperature 샘플링: 창의성 조절
+
+학습된 모델로 문장을 생성할 때 **temperature**를 조절하면 생성 스타일이 달라집니다.
+
+```python
+def sample(preds, temperature=1.0):
+    """확률 분포에서 다음 문자를 샘플링"""
+    preds = np.asarray(preds).astype('float64')
+    preds = np.log(preds) / temperature   # temperature로 분포 조절
+    exp_preds = np.exp(preds)
+    preds = exp_preds / np.sum(exp_preds)
+    return np.random.choice(len(preds), p=preds)
+```
+
+| temperature 값 | 생성 특성 | 쉬운 비유 |
+|---|---|---|
+| 0.2 (낮음) | 가장 확률 높은 문자를 자주 선택 → 반복적·안전한 문장 | 모범 답안만 쓰는 학생 |
+| 1.0 (기본) | 학습된 확률 분포 그대로 샘플링 | 보통 작성 |
+| 1.5 (높음) | 낮은 확률 문자도 자주 선택 → 창의적·불규칙한 문장 | 자유롭게 창작하는 작가 |
+
+### 주가 예측에 연결하면
+
+LSTM 텍스트 생성의 원리를 주가 시계열에 그대로 연결할 수 있습니다.
+
+| 텍스트 생성 | 주가 예측 |
+|---|---|
+| 앞 40개 문자 → 다음 문자 예측 | 앞 20일 가격·거래량 → 다음 날 등락 예측 |
+| 문자 어휘 사전 (one-hot) | 종가·거래량·RSI 등 특성 벡터 |
+| temperature로 다양성 조절 | 임계값(threshold)으로 신호 민감도 조절 |
+| 에폭별 생성 문장 품질 변화 관찰 | 에폭별 검증 손실 변화로 학습 수렴 확인 |
+
+### LSTM 텍스트 생성 흐름
+
+```mermaid
+flowchart TD
+    A["소설 텍스트\n(BEXX0003.txt)"] --> B["문자 단위 슬라이딩 윈도우\n40글자 → 41번째 글자"]
+    B --> C["One-Hot 인코딩\n문자 → 벡터"]
+    C --> D["LSTM 학습\n순서 기억 + 다음 문자 확률 출력"]
+    D --> E["Temperature 샘플링\n다음 문자 선택"]
+    E --> F["문자를 이어붙여\n새 문장 생성"]
+    F --> G["에폭마다 temperature 0.2/0.5/1.0/1.2로\n생성 문장 비교 관찰"]
+```
+
+> **핵심 포인트**: LSTM은 주가처럼 숫자 시퀀스뿐 아니라 텍스트 시퀀스에도 적용됩니다.  
+> "앞 시점들을 기억해 다음 값을 예측한다"는 원리는 동일하며, 입력·출력 형태만 달라집니다.

docs/07.md

@@ -258,3 +258,143 @@ outputs = model(**inputs)
 ```
 
 > BERT는 `transformers` 라이브러리와 PyTorch가 필요합니다. 가벼운 실습은 `chapter113`의 TF-IDF 기반 코드를 먼저 사용해 보세요.
+
+---
+
+## KoNLPy: 한국어 형태소 분석 라이브러리
+
+**KoNLPy**(Korean NLP in Python)는 한국어 자연어 처리를 위한 파이썬 라이브러리입니다.  
+한국어는 조사·어미가 단어에 붙어 변형되는 교착어라서, 영어처럼 공백으로 단순하게 나눌 수 없습니다.  
+KoNLPy는 이런 한국어 특성을 다루는 **형태소 분석기**를 한 곳에 모아 제공합니다.
+
+### 대표 형태소 분석기
+
+| 분석기 | 특징 | 활용 상황 |
+|---|---|---|
+| **Okt** (Open Korean Text) | 속도가 빠르고 SNS·비정형 텍스트에 강함 | 뉴스 댓글, 주식 커뮤니티 텍스트 분석 |
+| **Kkma** (꼬꼬마) | 정밀도가 높고 학술적 텍스트 분석에 강함 | 논문, 공문서, 정밀 분류 |
+| **Mecab** | 속도가 가장 빠르고 대용량 처리에 유리 | 대규모 코퍼스 전처리 |
+
+### Okt 기본 사용 예시
+
+```python
+from konlpy.tag import Okt
+
+okt = Okt()
+
+sentence = "삼성전자 주가가 오늘 크게 올랐습니다."
+
+# 형태소 분리
+morphs = okt.morphs(sentence)
+# → ['삼성전자', '주가', '가', '오늘', '크게', '올랐습니다', '.']
+
+# 품사 태깅 (형태소 + 품사)
+pos = okt.pos(sentence)
+# → [('삼성전자', 'Noun'), ('주가', 'Noun'), ('가', 'Josa'),
+#    ('오늘', 'Noun'), ('크게', 'Adverb'), ('올랐습니다', 'Verb'), ('.', 'Punctuation')]
+
+# 명사만 추출
+nouns = okt.nouns(sentence)
+# → ['삼성전자', '주가', '오늘']
+```
+
+### 주식 뉴스 분석에 활용하면
+
+```python
+from konlpy.tag import Okt
+from collections import Counter
+
+okt = Okt()
+news = "반도체 수출이 증가하며 삼성전자와 SK하이닉스 주가가 동반 상승했습니다."
+
+# 명사만 추출해 키워드 분석
+nouns = okt.nouns(news)
+keyword_count = Counter(nouns)
+# → Counter({'삼성전자': 1, '반도체': 1, '수출': 1, '주가': 1, ...})
+```
+
+> **핵심 포인트**: KoNLPy는 한국어 텍스트를 의미 단위(형태소)로 쪼개는 도구입니다.  
+> 뉴스, 공시, 커뮤니티 글에서 **핵심 키워드를 추출**하거나 **BoW(단어 가방) 벡터**를 만들 때 첫 번째 전처리 단계로 사용됩니다.
+
+### KoNLPy 처리 흐름
+
+```mermaid
+flowchart TD
+    A["한국어 텍스트 입력\n'삼성전자 주가가 올랐습니다'"] --> B["형태소 분석\nOkt.pos()"]
+    B --> C["형태소 + 품사 목록\n[('삼성전자','Noun'), ('주가','Noun'), ...]"]
+    C --> D["명사/동사 필터링\n불필요한 조사·어미 제거"]
+    D --> E["정제된 키워드 목록\n['삼성전자', '주가', '상승']"]
+    E --> F["단어 빈도 계산 또는\nWord2Vec / TF-IDF 입력"]
+```
+
+---
+
+## 마르코프체인(Markov Chain): 통계 기반 텍스트 생성
+
+**마르코프체인**은 신경망 없이 **현재 상태만 보고 다음 상태를 확률적으로 예측**하는 통계 모델입니다.  
+텍스트 생성에서는 "앞 단어(들)가 주어졌을 때, 다음 단어가 무엇일 확률이 높은가?"를 학습한 뒤 문장을 만들어냅니다.
+
+### 직관적인 이해
+
+| 방식 | 기억 범위 | 예시 |
+|---|---|---|
+| 1-gram (Unigram) | 이전 상태 0개 | 단어를 완전 무작위 선택 |
+| 2-gram (Bigram) | 이전 단어 1개 | "삼성" 다음엔 "전자"가 자주 옴 |
+| 3-gram (Trigram) | 이전 단어 2개 | "삼성전자 주가" 다음엔 "상승"이 자주 옴 |
+
+```python
+import random
+from collections import defaultdict
+from konlpy.tag import Okt
+
+okt = Okt()
+
+def build_markov_chain(text, n=3):
+    """n-gram 마르코프체인 딕셔너리 구축"""
+    tokens = okt.pos(text)            # 형태소 + 품사 분리
+    chain = defaultdict(list)
+    for i in range(len(tokens) - n):
+        key = tuple(tokens[i:i+n])    # n개 토큰을 키로 사용
+        chain[key].append(tokens[i+n])  # 다음 토큰을 값으로 저장
+    return chain
+
+def generate_text(chain, n=3, length=20):
+    """마르코프체인으로 문장 생성"""
+    start = random.choice(list(chain.keys()))
+    result = list(start)
+    for _ in range(length):
+        key = tuple(result[-n:])
+        if key not in chain:
+            break
+        next_token = random.choice(chain[key])
+        result.append(next_token)
+    return "".join([word for word, _ in result])
+```
+
+### 마르코프체인 vs LSTM 비교
+
+| 비교 항목 | 마르코프체인 | LSTM |
+|---|---|---|
+| 학습 방식 | 통계(빈도 카운팅) | 신경망(역전파 학습) |
+| 문맥 범위 | 고정 n개 이전 토큰만 | 긴 시퀀스 전체를 기억 |
+| 계산 비용 | 매우 낮음 | 높음(GPU 권장) |
+| 생성 품질 | 어색한 문장 빈도가 높음 | 더 자연스러운 문장 생성 |
+| 해석 가능성 | 높음(빈도 테이블로 확인 가능) | 낮음(블랙박스) |
+| 활용 | 빠른 프로토타입, 교육 목적 | 실제 언어모델, 챗봇 등 |
+
+### 주식 투자에 연결하면
+
+마르코프체인의 "이전 상태 → 다음 상태 확률" 구조는 주가 흐름에도 적용할 수 있습니다.
+
+```
+상승 → 상승 : 55%
+상승 → 하락 : 45%
+하락 → 상승 : 42%
+하락 → 하락 : 58%
+```
+
+이렇게 만들어 두면 "오늘 상승했을 때 내일 또 상승할 확률"을 간단하게 추정할 수 있습니다.  
+(단, 실제 주가는 이보다 훨씬 복잡한 요인이 작용하므로 단독 활용은 주의가 필요합니다.)
+
+> **핵심 포인트**: 마르코프체인은 신경망 이전 방식의 텍스트·시퀀스 생성 모델입니다.  
+> LSTM이나 Transformer보다 단순하지만 계산 비용이 낮고 원리가 명확해, NLP 입문 실습과 빠른 프로토타입에 자주 사용됩니다.