Báo cáo: Kỹ thuật Prompting (Prompt Engineering)

01Mở đầu

Mindmap mở đầu bằng một thông điệp cốt lõi, đóng vai trò kim chỉ nam cho toàn bộ chủ đề:

"GARBAGE IN GARBAGE OUT"
AI không thể thay bạn suy nghĩ. Nó chỉ khuếch đại suy nghĩ của bạn, hoặc phơi bày sự thiếu suy nghĩ của bạn.

Thông điệp này đặt nền cho toàn bộ tư duy về prompting: chất lượng đầu ra của AI phụ thuộc trực tiếp vào chất lượng tư duy và cách diễn đạt của người dùng — đây chính là lý do prompt engineering trở thành một kỹ năng cần được rèn luyện một cách hệ thống, chứ không phải "mẹo vặt" ngẫu nhiên.

02Prompt Engineering là gì?

Định nghĩa

"The practice of systematically improving prompts for LLM applications — through testing, evaluation, analysis, and optimization of prompts."
(Prompt Engineering là việc cải thiện prompt một cách có hệ thống cho các ứng dụng LLM — thông qua việc thử nghiệm, đánh giá, phân tích và tối ưu hóa prompt.)

Một định nghĩa khác, ngắn gọn hơn: Prompt Engineering là cách chúng ta giao tiếp với 1 model AI.

Prompt Engineering thực sự KHÔNG chỉ là

Mindmap nhấn mạnh rất rõ ràng những hiểu lầm phổ biến — Prompt Engineering KHÔNG chỉ là: "viết prompt hay", "ra lệnh cho AI", "mẹo hack ChatGPT".

Mà thực chất là: quá trình thiết kế và kiểm soát hành vi của cả hệ thống AI, thông qua nhiều thành phần phối hợp:

• Prompt (Câu lệnh)
• Context (Ngữ cảnh)
• Memory (Bộ nhớ)
• Retrieval (Truy xuất dữ liệu)
• Reasoning (Suy luận)
• Tool Use (Sử dụng công cụ)
• Constraints (Ràng buộc)
• Evaluation (Đánh giá kết quả)

Mục tiêu cuối cùng là tạo ra một hệ thống AI: ổn định, chính xác, kiểm soát được, hoạt động tốt trong môi trường thực tế.

Mindmap kết luận rằng sức mạnh thật sự của một hệ thống AI hiện đại không chỉ nằm ở việc viết prompt hay, mà nằm ở: Context Engineering, Retrieval Architecture, System Prompt, Evaluation Pipeline, Workflow Orchestration.

Prompt Engineering là một quá trình lặp (khoa học thực nghiệm)

Mindmap minh họa vòng lặp cải thiện prompt bằng sơ đồ 3 bước, lặp đi lặp lại:

"là khoa học thực nghiệm được lặp đi lặp lại"

Nói cách khác, prompt engineering không phải viết một lần là xong, mà là chu trình: soạn prompt sơ bộ → kiểm thử với nhiều tình huống thực tế → tinh chỉnh lại, lặp lại nhiều vòng cho đến khi đạt kết quả ổn định.

039 kỹ năng cấu thành Prompt Engineering

Theo góc nhìn được mindmap trích dẫn "theo quan điểm của Claude Team" (đội ngũ Anthropic/Claude), một Prompt Engineer giỏi cần thành thạo 9 kỹ năng sau.

1. Programming in natural language (Lập trình bằng ngôn ngữ tự nhiên)

Không còn viết code bằng Python/C++, mà "lập trình" AI bằng: cách diễn đạt, cấu trúc câu, logic ngôn ngữ. Prompt lúc này đóng vai trò giống: source code, instruction set, behavior control.

2. Clear, unambiguous, precise writing (Viết rõ ràng, không mơ hồ, chính xác)

LLM cực kỳ nhạy với từ ngữ mơ hồ, thiếu ràng buộc, thiếu context.

• ❌ Mơ hồ: "Make it cinematic."
• ✅ Chính xác: "Use cinematic low-key lighting, shallow depth of field, 85mm lens compression, slow dolly-in movement."

Prompt Engineer giỏi thường: viết cực rõ, chia lớp thông tin, giảm ambiguity (độ mơ hồ).

3. Conceptual engineering (Kỹ thuật xây dựng khái niệm)

Phần rất nhiều người bỏ qua. Các từ như "cinematic", "premium", "anime style", "viral", "luxury" — AI không hiểu những từ này giống con người. Bạn phải: định nghĩa khái niệm, bóc tách đặc điểm, chuyển thành instruction cụ thể.

Ví dụ: "Luxury fashion photography" thực chất gồm: soft rim light, expensive fabric texture, neutral palette, elegant posture, controlled composition, editorial mood.

4. Creating evals with a scientific mindset (Xây dựng bộ đánh giá với tư duy khoa học)

Evals = Evaluations (Bộ tiêu chí đánh giá). Một Prompt Engineer chuyên nghiệp không hỏi "Tôi thấy output đẹp chưa?" mà hỏi những câu có tiêu chí đo lường được: consistency có ổn định không? fail rate bao nhiêu? Ý tưởng: cần bộ tiêu chí khách quan, đo lường lặp lại được, thay vì cảm tính.

5. Product thinking (Tư duy sản phẩm)

Câu hỏi cốt lõi: "What is the ideal model behavior for your product?" → "Hành vi lý tưởng của AI trong sản phẩm của bạn là gì?" Ví dụ: cần AI giáo dục cẩn trọng, kiên nhẫn, giải thích rõ, không nói dối/né tránh.

6. Testing (Kiểm thử)

Một prompt tốt phải được: stress test, edge-case test, multi-input test. Ví dụ câu hỏi kiểm thử: prompt có hoạt động với ảnh xấu không? có fail với tiếng lóng không? có hiểu input dài không?

7. Understanding the LLMs (Hiểu cách các mô hình ngôn ngữ lớn hoạt động)

Cần hiểu các khái niệm nền tảng: context window, token prediction, attention, hallucination, instruction hierarchy, reasoning limitations. Nếu không hiểu mô hình, người viết prompt dễ rơi vào: prompt kiểu mê tín (thử — sai ngẫu nhiên), sửa lỗi sai hướng, tối ưu ngẫu nhiên thay vì có cơ sở.

8. Aggregating and analyzing failure modes + thinking of ways to fix

Một Prompt Engineer giỏi không chỉ viết prompt, mà nắm được: output đang fail ở đâu, lỗi do đâu (pattern lỗi), rồi tìm nguyên nhân gốc và sửa đúng chỗ — thay vì đoán mò.

9. Making LLMs scale to a wide range of inputs

Prompt được dùng không chỉ một lần mà hàng nghìn lần, cho một hệ thống AI production-ready. Ví dụ: hệ thống cần hoạt động tốt với nhiều người dùng, nhiều ngôn ngữ, nhiều loại ảnh/tình huống khác nhau. Đây chính là khái niệm scalability trong prompt engineering.

04Cách LLM hoạt động (cơ chế nền tảng)

Để viết prompt hiệu quả, cần hiểu bản chất kỹ thuật của LLM:

Large Language Model (LLM) không "suy nghĩ" như con người. Nó hoạt động bằng cách dự đoán token (mảnh văn bản) tiếp theo có xác suất cao nhất.

Ví dụ minh họa: với prompt "Bầu trời màu...", AI sẽ tính xác suất cho từng token tiếp theo:

Sau đó AI chọn token có xác suất phù hợp nhất. Hiểu cơ chế "dự đoán token" này giải thích tại sao Role Prompting (gán vai trò, xem mục 08) không làm AI "thông minh hơn" mà chỉ thay đổi phân bố xác suất của token được sinh ra.

05Cấu trúc của một Prompt tốt

Mindmap trình bày một khung cấu trúc prompt gồm 10 thành phần — đây là cấu trúc prompt kinh điển được giới thiệu trong tài liệu hướng dẫn prompt engineering chính thức của Anthropic (Claude).

1. Task context — Bối cảnh nhiệm vụ
2. Tone context — Bối cảnh giọng điệu
3. Background data, documents, and images — Dữ liệu nền, tài liệu và hình ảnh
4. Detailed task description & rules — Mô tả nhiệm vụ chi tiết & quy tắc
5. Examples — Ví dụ (nên có cấu trúc rõ ràng, dùng XML/markdown; ưu tiên hình ảnh, giới hạn số lượng ví dụ để hiệu quả)
6. Conversation history — Lịch sử hội thoại
7. Immediate task description or request — Mô tả nhiệm vụ/yêu cầu tức thời
8. Thinking step by step / take a deep breath — Suy nghĩ từng bước / hít thở sâu
9. Output formatting — Định dạng đầu ra (nên rõ ràng, ví dụ dùng JSON để dễ sử dụng lại trong các bước tiếp theo)
10. Prefilled response (if any) — Phản hồi được điền sẵn, nếu có

Ví dụ minh họa (từ tài liệu Anthropic — "AdAstra Careers")

Mỗi đoạn trong ví dụ trên tương ứng với một thành phần trong khung 10 mục ở trên — đây là cách trực quan nhất để hiểu cách áp dụng cấu trúc prompt vào thực tế.

06Các cấp độ Prompt Engineering hiện đại

Mindmap phân chia Prompt Engineering hiện đại thành 6 cấp độ phát triển, từ cơ bản đến nâng cao.

CẤP 1 — Basic Prompting (Prompt cơ bản)

Ví dụ: "Dịch câu này sang tiếng Anh." Bao gồm: Zero-shot Prompting (Prompt không ví dụ), Few-shot Prompting (Prompt có ví dụ).

CẤP 2 — Instruction Engineering (Thiết kế hướng dẫn)

Tập trung: viết rõ ràng, giảm mơ hồ.

• ❌ "Làm cinematic hơn."
• ✅ "Use cinematic low-key lighting, shallow depth of field, slow dolly movement."

CẤP 3 — Reasoning Engineering (Kỹ thuật điều khiển suy luận)

Ví dụ kỹ thuật: Chain-of-Thought (suy luận từng bước), Plan-and-Solve (lập kế hoạch rồi giải), Least-to-Most (giải từ dễ đến khó). Mục tiêu: ép AI suy luận logic hơn.

CẤP 4 — Context Engineering (Kỹ thuật thiết kế ngữ cảnh)

Đây là phần QUAN TRỌNG NHẤT hiện nay.

Bao gồm các câu hỏi thiết kế: đưa dữ liệu gì? thứ tự dữ liệu ra sao? memory giữ gì? retrieval lấy gì? chunking (chia nhỏ dữ liệu) ra sao?

Câu nói tiêu biểu của thời kỳ hiện đại: "Context Engineering is the new Prompt Engineering."

CẤP 5 — System Prompt Engineering (Kỹ thuật Prompt hệ thống)

Đây là "luật nền" của AI — quy định: AI được phép làm gì? không được nói gì? format output thế nào? khi nào gọi tool? Mindmap nhấn mạnh: "ChatGPT mạnh không phải vì user prompt, mà vì system prompt cực mạnh."

CẤP 6 — Agent Engineering (Kỹ thuật AI Agent)

AI Agent (Tác nhân AI) là AI có thể: tự lập kế hoạch, gọi công cụ, dùng API, tự kiểm tra lỗi. Ví dụ: AI Research Agent, AI Coding Agent, AI Automation Agent.

07Các kỹ thuật Prompt phổ biến

Bảng tổng hợp các thuật ngữ/kỹ thuật prompting phổ biến nhất theo mindmap.

08Role Prompting — phân tích sâu

Mindmap dành riêng một phần để giải thích bản chất kỹ thuật của Role Prompting — kỹ thuật rất phổ biến nhưng thường bị hiểu sai.

Ví dụ prompt: "Bạn là đạo diễn điện ảnh."

Điều này KHÔNG làm AI: thông minh hơn, có kinh nghiệm thật, trở thành đạo diễn thật.

Nó chỉ: thay đổi Distribution of Tokens (phân bố xác suất token) — tức là các từ liên quan đến "điện ảnh" sẽ có xác suất xuất hiện cao hơn trong câu trả lời.

Ví dụ các từ có xác suất tăng lên: cinematic, lighting, composition, dolly shot, close-up…

→ Đây là lý do Role Prompting hoạt động hiệu quả: nó không "biến" AI thành chuyên gia, mà định hướng lại không gian xác suất ngôn ngữ của mô hình về phía vốn từ và văn phong của vai trò được gán.

09RAG (Retrieval-Augmented Generation)

RAG = Retrieval-Augmented Generation (Sinh nội dung có truy xuất dữ liệu)

Quy trình AI thực hiện khi dùng RAG: đi tìm dữ liệu → lấy dữ liệu → đưa vào context → rồi mới trả lời.

Điều này giúp: giảm hallucination (ảo giác AI), cập nhật dữ liệu mới, tăng độ chính xác.

RAG có liên hệ chặt với Context Engineering (mục 12): việc "retrieval tốt" là một trong những yếu tố quyết định chất lượng của một prompt/hệ thống AI trong thực tế, bên cạnh context đúng, output rõ, và constraints rõ ràng.

10Hallucination — vấn đề cốt lõi cần kiểm soát

Hallucination (Ảo giác AI) là khi AI: tự bịa, tự tưởng tượng, trả lời nghe rất tự tin nhưng sai. Đây là vấn đề lớn nhất của LLM hiện nay.

Ví dụ minh họa (ví dụ kinh điển từ tài liệu Anthropic)

"Bạn là một trợ lý AI hỗ trợ chuyên viên giám định bồi thường con người xem xét tài liệu báo cáo tai nạn ô tô được viết bằng tiếng Thụy Điển. Nhiệm vụ của bạn là rà soát một mẫu báo cáo tai nạn tiêu chuẩn, cùng với bản phác thảo hiện trường do con người vẽ, rồi xác định những thông tin nào bạn có thể kết luận một cách chắc chắn từ các tài liệu đó. Sau đó, bạn cần có khả năng nêu rõ liệu bạn có thể xác định hoàn toàn chắc chắn rằng một phương tiện rõ ràng có lỗi hay không, hoặc liệu chuyên viên giám định con người có cần tiếp tục liên hệ để thu thập thêm thông tin hay không."

Ví dụ này minh họa kỹ thuật quan trọng: thiết kế prompt để AI biết "thừa nhận không chắc chắn" thay vì bịa ra câu trả lời nghe có vẻ hợp lý — đây là một trong những chiến lược cốt lõi để giảm hallucination trong các ứng dụng AI thực tế (đặc biệt trong lĩnh vực có tính rủi ro cao như bảo hiểm, y tế, pháp lý).

11Extended Thinking so với Prompt Engineering

Mindmap so sánh trực tiếp giữa việc dùng tính năng Extended Thinking (chế độ suy luận mở rộng của Claude) với việc chỉ tối ưu prompt thông thường.

Khi nào nên dùng Extended Thinking?

• Đây là bước khởi đầu rất tốt để cho Claude có thêm thời gian suy nghĩ.
• Theo dõi các dấu vết suy luận (traces) để hiểu Claude đang suy nghĩ như thế nào → dùng thông tin đó để điều chỉnh system prompt.

Nhược điểm của Extended Thinking là gì?

• Trong quá trình suy nghĩ, mô hình thường phải "tự phát minh lại từ đầu" (reinvent the wheel), dẫn đến việc sử dụng nhiều token hơn.
• Vì quá trình thinking yêu cầu temperature = 1, đôi khi kết quả có thể kém tái lập hơn (less reproducible).

→ Bài học rút ra: Extended Thinking là công cụ hữu ích để khám phá cách mô hình suy luận và từ đó cải thiện prompt/system prompt, nhưng không nên xem là giải pháp thay thế hoàn toàn cho việc thiết kế prompt tốt — vì chi phí token cao hơn và độ ổn định thấp hơn.

12Context Engineering — "Prompt Engineering thế hệ mới"

Khái niệm và sự chuyển dịch

Trong khi "prompt engineering" tập trung vào việc viết các câu lệnh hiệu quả cho các tác vụ đơn lẻ, thì "context engineering" lại là quá trình lặp đi lặp lại để tinh chọn những thông tin nào sẽ được đưa vào cửa sổ ngữ cảnh (context window) có giới hạn.

Nhận định quan trọng từ mindmap:

"Bạn đang giao việc nhiều hơn cho AI, nhưng đa phần là đám lộn xộn mà bạn đã giao trước đó (technical debt). Vấn đề không chỉ nằm ở model — mà là ở cách quản lý context."

(Phần này của mindmap tham chiếu tới bài nói "Context Engineering in Complex Codebases — No Vibes Allowed" của Dex Horthy, Founder & CEO của HumanLayer, trình bày tại sự kiện AI Engineer Code Summit.)

Tại sao phải "ám ảnh" với Context?

Cần phải đưa token tốt hơn vào để nhận token tốt hơn thả ra.

Lợi ích của việc tối ưu context tốt: tiết kiệm token, tăng tốc độ xử lý, giảm sai số.

Tối ưu cửa sổ ngữ cảnh dựa trên 4 tiêu chí: Correctness (tính đúng đắn) – Completeness (tính đầy đủ) – Size (kích thước) – Trajectory (quỹ đạo/diễn tiến).

Context Problems Ranked

1. Incorrect information (Thông tin sai)
2. Missing information (Thiếu thông tin)
3. Too much Noise (Quá nhiều nhiễu)

Vùng thông minh và vùng "ngu"

Thực tế: càng dùng nhiều context window, kết quả càng tệ hơn — tồn tại "the dumb zone" (vùng kém hiệu quả) và "the smart zone" (vùng hiệu quả).

Mindmap minh họa bằng biểu đồ: khi context sử dụng vượt một ngưỡng nhất định (ví dụ tại mốc ~60% cửa sổ ngữ cảnh, tương ứng hàng chục nghìn đến ~100k token), chất lượng phản hồi của AI có xu hướng giảm dần — do đó nguyên tắc thực hành là duy trì context nhỏ, gọn, để giữ mọi thứ nằm trong "smart zone" (mindmap gợi ý mốc tham khảo khoảng 40% tổng token) thay vì để tràn sang "dump zone".

Kiến trúc Sub Agents / Parent Agents

Để quản lý context hiệu quả trong hệ thống AI Agent phức tạp:

• Frequent Intentional Compaction (chủ động rút gọn ngữ cảnh thường xuyên) — xây dựng lòng tin và kiểm soát context.
• Sub Agents: kiểm soát context (thực hiện các tác vụ con, giữ context riêng gọn nhẹ).
• Parent Agents: xử lý token sạch + có cấu trúc (tổng hợp kết quả từ các sub-agent thành context sạch cho tầng trên).

13Harness Engineering

Mindmap giới thiệu khái niệm Harness Engineering thông qua một sơ đồ Venn, định vị nó là một tập con (subset) của Context Engineering (CTXE):

"Harness engineering as a subset of CTXE"

Các thành phần nằm trong "Harness" của một AI Agent (ví dụ: một Coding Agent) bao gồm và giao thoa với nhau:

• Prompt Engineering
• RAG
• Memory
• State / History
• Structured Outputs
• Building a Coding Agent (áp dụng cụ thể vào việc xây dựng agent lập trình)

→ Ý nghĩa: "Harness" (bộ khung vận hành của agent) là lớp kỹ thuật bao trùm, trong đó Prompt Engineering chỉ là một mảnh ghép, cùng với các mảnh ghép khác như RAG, Memory, Structured Output... tất cả đều nằm dưới "ô dù" lớn hơn là Context Engineering.

14Quy trình ứng dụng thực tế: Research → Plan → Implement

Quy trình làm việc thực tế được mindmap đề xuất để áp dụng các nguyên lý Context Engineering vào việc xây dựng AI Agent (đặc biệt là Coding Agent), gồm 3 giai đoạn.

Giai đoạn 1 — Research (Nghiên cứu)

Agent nhận System Instructions + CLAUDE.md + Claude Built-in Tools + MCP Tools, cùng User message (ví dụ: yêu cầu research_codebase). Agent triển khai nhiều sub-agent Task() song song để khám phá codebase, sau đó tổng hợp kết quả thành file research.md, và đưa qua bước HUMAN REVIEW trước khi sang giai đoạn tiếp theo.

Giai đoạn 2 — Planning (Lập kế hoạch)

Dựa trên research.md, agent nhận yêu cầu (ví dụ: /create_plan), tiếp tục dùng sub-agent để lập kế hoạch chi tiết, xuất ra file plan.md, và cũng đi qua bước HUMAN REVIEW.

Giai đoạn 3 — Implementation (Triển khai)

Dựa trên plan.md đã được duyệt, agent thực hiện các thao tác cụ thể: Read(), Edit(), Write(), MultiEdit()… để hiện thực hóa kế hoạch thành code/kết quả thực tế.

Nguyên tắc xuyên suốt cả 3 giai đoạn:

"Duy trì context nhỏ để giữ mọi thứ ở trong smart zone (xấp xỉ 40% tổng token) — tránh 'the dump zone'."

Việc chia nhỏ thành 3 giai đoạn với các file trung gian (research.md, plan.md) và các điểm kiểm duyệt của con người (Human Review) chính là ứng dụng thực tế của toàn bộ lý thuyết Context Engineering đã trình bày ở mục 12: giữ context sạch, có cấu trúc, tách nhỏ nhiệm vụ qua sub-agent, và luôn giữ con người trong vòng lặp kiểm soát chất lượng.

15Kết luận

Từ toàn bộ mindmap, có thể rút ra một số kết luận chính về sự phát triển của lĩnh vực Prompting.

1. Prompt Engineering đã đi xa hơn việc "viết câu lệnh hay" — nó là một kỹ năng tổng hợp, đòi hỏi hiểu biết về ngôn ngữ, tâm lý người dùng, tư duy sản phẩm, kiểm thử, và đặc biệt là hiểu cơ chế hoạt động của LLM (dự đoán token).
2. Prompt Engineering là quá trình lặp mang tính khoa học thực nghiệm (Engineer → Test → Refine), không phải một hành động viết một lần.
3. Có một khung cấu trúc chuẩn hóa (10 thành phần) giúp viết prompt hệ thống, đầy đủ và nhất quán.
4. Ngành đang dịch chuyển trọng tâm từ Prompt Engineering sang Context Engineering — tức là không chỉ quan tâm "viết gì" mà còn quan tâm "đưa thông tin gì, theo thứ tự nào, vào cửa sổ ngữ cảnh có giới hạn".
5. Ở cấp độ cao nhất (Agent Engineering / Harness Engineering), Prompt Engineering chỉ còn là một thành phần trong một hệ thống lớn hơn nhiều, bao gồm cả RAG, Memory, Structured Output, và quy trình vận hành nhiều agent (sub-agent/parent-agent) với sự giám sát của con người.
6. Vấn đề Hallucination vẫn là thách thức lớn nhất, và kỹ thuật để giảm thiểu nó (cho phép AI "thừa nhận không biết") là một phần quan trọng của prompt/context engineering hiện đại.

16Tài liệu tham khảo

Các nguồn được trích dẫn/tham chiếu trực tiếp trong mindmap gốc.

• Bruce Ta – F5AI, tài liệu roadmap học AI (chia sẻ miễn phí cho cộng đồng):
  • Road map học AI từ chưa biết tới thành thạo: notion.so — Hội y v AI to nh
  • Hướng dẫn sử dụng Roadmap (Google Drive): drive.google.com
  • Group Facebook: facebook.com/groups/hocaitudau.f5ai
• Anthropic — tài liệu hướng dẫn chính thức về Prompt Engineering cho Claude (nguồn của: khung cấu trúc prompt 10 thành phần, ví dụ "AdAstra Careers – Joe", ví dụ về Hallucination "báo cáo tai nạn ô tô tiếng Thụy Điển", nội dung về Extended Thinking).
• Dex Horthy (HumanLayer) — bài nói "Context Engineering in Complex Codebases — No Vibes Allowed", trình bày tại AI Engineer Code Summit — nguồn cho phần Context Engineering, Three Phases (Research/Plan/Implement), và khái niệm smart zone/dumb zone.