Large Language Models Hoạt Động Như Thế Nào? | MinAI Learning

Lý thuyết

2/13•35 phút

Đang tải...

Large Language Models Hoạt Động Như Thế Nào?

Hiểu cơ chế hoạt động của LLMs - từ Transformers, Tokenization đến cách AI 'hiểu' và 'sinh' văn bản

🎯 Mục tiêu bài học

TB5 min

Để sử dụng AI hiệu quả, bạn cần hiểu cách nó hoạt động. Bài học này sẽ giải thích một cách đơn giản nhưng đầy đủ về LLMs.

Sau bài này, bạn sẽ:

✅ Hiểu Transformer architecture ✅ Nắm được quy trình từ input → output ✅ Biết các giới hạn của LLMs ✅ Áp dụng hiểu biết vào prompt engineering

Task 0

🔍 LLM Là Gì?

TB5 min

Large Language Model (LLM) là mô hình AI được training trên lượng lớn text data để:

Hiểu ngôn ngữ tự nhiên
Sinh văn bản mới có ý nghĩa
Thực hiện nhiều tasks khác nhau

Các LLM phổ biến

Model	Công ty	Đặc điểm
GPT-4o	OpenAI	Đa năng, viết code tốt
Claude 3.5	Anthropic	Suy luận sâu, an toàn

Task 1

Tiếp: Cơ bản Prompt Engineering

📐 Transformer Architecture

TB5 min

2.1. Tổng quan

LLMs dựa trên Transformer - kiến trúc được Google giới thiệu năm 2017.

Ví dụ

1Input Text → Tokenization → Embeddings → Transformer Layers → Output

2.2. Tokenization

LLM không đọc text theo từng chữ, mà theo tokens:

python.py

1# Ví dụ tokenization
2"Xin chào Vietnam" → ["Xin", " chào", " Vietnam"]
3"Hello world" → ["Hello", " world"]
4
5# Subword tokenization
6"unhappiness" → ["un", "happiness"]

Token limits quan trọng:

GPT-4: ~128K tokens
Claude 3.5: ~200K tokens
Gemini 1.5: ~1M tokens

2.3. Embeddings

Mỗi token được chuyển thành vector số (embedding):

Ví dụ

1"cat" → [0.2, -0.5, 0.8, ..., 0.1]  (1536 dimensions với GPT)
2"dog" → [0.3, -0.4, 0.7, ..., 0.2]  (tương tự cat vì cùng nhóm)

Điểm mấu chốt: Các từ có ý nghĩa tương tự sẽ có vectors gần nhau.

2.4. Attention Mechanism

"Attention is All You Need" - câu nổi tiếng từ paper gốc.

Ví dụ

1Query: "The cat sat on the ___"
2 
3Attention scores:
4- "cat" → high attention (subject)
5- "sat" → medium attention (verb)
6- "The" → low attention (article)

LLM "chú ý" vào các từ quan trọng để dự đoán từ tiếp theo.

Checkpoint

Bạn có thể giải thích Tokenization, Embeddings và Attention Mechanism không?

Task 2

📐 Quy Trình Sinh Text

TB5 min

Từng Bước

Ví dụ

11. User: "Viết email xin nghỉ phép"
2   ↓
32. Tokenization: ["Viết", " email", " xin", " nghỉ", " phép"]
4   ↓
53. Embeddings: [vector1, vector2, ...]
6   ↓
74. Transformer Processing (96 layers trong GPT-4)
8   ↓
95. Probability Distribution cho từ tiếp theo:
10   - "Kính" (35%)
11   - "Xin" (28%)
12   - "Chào" (15%)
13   ...
14   ↓
156. Sample/Select: "Kính"
16   ↓
177. Repeat từ step 3 với context mới

Tham Số Temperature

Temperature kiểm soát "sự sáng tạo":

Temperature	Hành vi	Trường hợp sử dụng
0.0	Xác định, luôn chọn xác suất cao nhất	Code, Toán
0.7	Cân bằng, có chút biến đổi	Chat tổng quát
1.0+	Sáng tạo, đa dạng	Brainstorm, Viết sáng tạo

python.py

1# OpenAI API example
2response = client.chat.completions.create(
3    model="gpt-4",
4    messages=[{"role": "user", "content": "Write a poem"}],
5    temperature=0.9  # Creative mode
6)

Checkpoint

Bạn đã hiểu quy trình step-by-step khi LLM sinh text và vai trò của Temperature chưa?

Task 3

📝 Những Điều LLM Làm Được và Không Làm Được

TB5 min

✅ LLM làm tốt

Tổng hợp thông tin - Tóm tắt tài liệu
Viết và chỉnh sửa văn bản - Email, báo cáo, code
Dịch thuật - Dịch đa ngôn ngữ
Trả lời câu hỏi - Hỏi đáp với ngữ cảnh
Brainstorm - Phát triển ý tưởng
Tạo code - Viết và gỡ lỗi code

❌ LLM có giới hạn

Không có kiến thức thời gian thực - Có ngày giới hạn dữ liệu
Có thể "ảo giác" - Sinh thông tin sai
Không thực sự "hiểu" - Chỉ khớp mẫu
Toán phức tạp - Có thể sai phép tính
Không nhớ hội thoại - Không lưu trạng thái theo thiết kế

⚠️ Ảo Giác (Hallucination)

Hallucination = LLM tự tin nói điều sai sự thật.

Ví dụ

1User: "Ai viết cuốn 'The Shadow of the Wind'?"
2Bad LLM: "Gabriel García Márquez"  ❌ (Hallucination)
3Correct: "Carlos Ruiz Zafón"  ✅

Cách giảm ảo giác:

Yêu cầu trích dẫn nguồn
Cung cấp ngữ cảnh/tài liệu (RAG)
Yêu cầu nói "Tôi không biết" nếu không chắc chắn

Checkpoint

Bạn có thể kể ra những điều LLM làm tốt và những giới hạn của nó không?

Task 4

⚡ Ảnh Hưởng Đến Prompt Engineering

TB5 min

Nguyên tắc từ hiểu biết về LLMs:

1. Nhận thức giới hạn token

Ví dụ

1❌ Paste cả document 100 trang
2✅ Extract relevant sections, summarize first

2. Ngữ cảnh rõ ràng = Attention tốt hơn

Ví dụ

1❌ "Fix this code"
2✅ "Fix the null pointer exception in line 15 of this Python function"

3. Tận dụng nhận dạng mẫu

Ví dụ

1✅ Give examples (few-shot learning)
2✅ Use consistent formatting
3✅ Structure with headers and lists

4. Temperature cho từng loại tác vụ

Ví dụ

1Code review → temperature=0
2Creative writing → temperature=0.8

Checkpoint

Bạn đã hiểu cách áp dụng kiến thức về LLMs vào prompt engineering chưa?

Task 5

💻 Hands-on: Token Counting

TB5 min

Thực hành với tiktoken

python.py

1import tiktoken
2
3# Get encoder for GPT-4
4enc = tiktoken.encoding_for_model("gpt-4")
5
6# Count tokens
7text = "Xin chào, tôi là AI assistant"
8tokens = enc.encode(text)
9
10print(f"Text: {text}")
11print(f"Tokens: {tokens}")
12print(f"Token count: {len(tokens)}")
13
14# Decode back
15decoded = enc.decode(tokens)
16print(f"Decoded: {decoded}")

Output:

Ví dụ

1Text: Xin chào, tôi là AI assistant
2Tokens: [55, 1980, 11, 87234, ...]
3Token count: 12
4Decoded: Xin chào, tôi là AI assistant

Ước tính chi phí

python.py

1def estimate_cost(input_text, output_tokens=500, model="gpt-4"):
2    enc = tiktoken.encoding_for_model(model)
3    input_tokens = len(enc.encode(input_text))
4    
5    # GPT-4 pricing (example)
6    input_cost = input_tokens * 0.03 / 1000
7    output_cost = output_tokens * 0.06 / 1000
8    
9    return {
10        "input_tokens": input_tokens,
11        "estimated_output": output_tokens,
12        "total_cost": f"${input_cost + output_cost:.4f}"
13    }
14
15# Example
16result = estimate_cost("Write a detailed product description...")
17print(result)

Checkpoint

Bạn đã thực hành đếm tokens và ước tính chi phí API chưa?

Task 6

task-diagrams

🧠 Kiến trúc LLM trực quan

TB5 min

Quy trình xử lý của LLM (Transformer Architecture)

📝Input Text 'Hà Nội là...'

✂️Tokenizer → [Hà, _Nội, _là]

🔢Embedding → vectors

🎯Self-Attention focus từ quan trọng

⚙️Feed-Forward Neural Network

📊Probability Distribution

💬Output Token 'thủ đô'

So sánh các LLM phổ biến

🤖Large Language Models

🟢OpenAI

GPT-4o: 128K context Multimodal, $2.50/1M input

GPT-4o-mini: 128K Rẻ nhất, $0.15/1M

🔵Google

Gemini 2.0: 1M context Multimodal, miễn phí tier

🟠Anthropic

Claude 4: 200K context Code mạnh, $3/1M input

🔓Open Source

Llama 4: miễn phí Self-host, fine-tune được

📖 Bảng thuật ngữ

Thuật ngữ	Tiếng Việt	Giải thích
Token	Đơn vị xử lý	Mảnh text nhỏ nhất LLM xử lý (~4 chars tiếng Anh, ~1-2 chars tiếng Việt)
Attention	Cơ chế chú ý	Giúp model focus vào từ quan trọng trong context
Temperature	Nhiệt độ	0=deterministic, 1=creative, 2=random
Context Window	Cửa sổ ngữ cảnh	Số tokens tối đa model xử lý được (4K→1M)
Embedding	Biểu diễn vector	Chuyển text thành vector số để máy hiểu
Hallucination	Bịa đặt	Model tự tin trả lời sai — thông tin không có thật
Fine-tuning	Tinh chỉnh	Train thêm model trên dữ liệu riêng
Inference	Suy luận	Quá trình model sinh output từ input

Task task-diagrams

🎯 Mục tiêu bài học

Sau bài này, bạn sẽ:

🔍 LLM Là Gì?

Các LLM phổ biến

Checkpoint

📐 Transformer Architecture

2.1. Tổng quan

2.2. Tokenization

2.3. Embeddings

2.4. Attention Mechanism

Checkpoint

📐 Quy Trình Sinh Text

Từng Bước

Tham Số Temperature

Checkpoint

📝 Những Điều LLM Làm Được và Không Làm Được

✅ LLM làm tốt

❌ LLM có giới hạn

⚠️ Ảo Giác (Hallucination)

Checkpoint

⚡ Ảnh Hưởng Đến Prompt Engineering

Nguyên tắc từ hiểu biết về LLMs:

Checkpoint

💻 Hands-on: Token Counting

Thực hành với tiktoken

Ước tính chi phí

Checkpoint

🎯 Tổng kết

📝 Câu Hỏi Ôn Tập

Những điểm quan trọng

Câu hỏi tự kiểm tra

🧠 Kiến trúc LLM trực quan

Quy trình xử lý của LLM (Transformer Architecture)

So sánh các LLM phổ biến

📖 Bảng thuật ngữ

🎯 Tổng kết

🚀 Bài tiếp theo