Appearance
📘 PHASE 1: FOUNDATION — "Tái Thiết Tư Duy BA" (Week 1-4)
"The illiterate of the 21st century will not be those who cannot read and write, but those who cannot learn, unlearn, and relearn."
— Alvin Toffler
MODULE 1: SYSTEM THINKING REVOLUTION (Week 1)
📰 Case Study Mở Đầu: "Khi Toyota Dạy AI Suy Nghĩ"
Viết theo phong cách Harvard Business Review
Tokyo, Tháng 9/2025. Khi Koji Arima, VP of Digital Transformation tại Toyota, đứng trước hội đồng quản trị với bản demo AI Agent quản lý chuỗi cung ứng, ông không mang theo slide về thuật toán hay mô hình ngôn ngữ lớn. Thay vào đó, ông trải ra một tấm bản đồ hệ thống — hàng trăm mũi tên nối liền các biến số từ thời tiết tại cảng Hamburg đến tốc độ sản xuất chip ở Đài Loan.
"Vấn đề của chúng ta," ông nói, "không phải là AI không đủ thông minh. Vấn đề là chúng ta chưa bao giờ vẽ ra được bức tranh toàn cảnh để AI biết phải nhìn vào đâu."
Câu nói đó thay đổi hoàn toàn cách Toyota triển khai AI. Thay vì thuê thêm 200 ML engineer, họ đào tạo lại 50 Business Analyst hiện có thành những người mà nội bộ gọi là "System Architects" — những người không viết code, nhưng thiết kế cách AI suy nghĩ.
Sáu tháng sau, hệ thống AI Agent của Toyota giảm 34% thời gian phản ứng supply chain disruption. Không phải vì AI thông minh hơn. Mà vì AI được "dạy" cách nhìn hệ thống đúng cách.
Bài học: Trước khi dạy AI làm gì, bạn phải hiểu hệ thống mà AI sẽ hoạt động trong đó.
📚 Nội Dung Bài Giảng
Bài 1.1: Tại Sao BRD Đã Chết?
Thời lượng: 45 phút | Format: Video + Interactive
Nội dung:
- BRD (Business Requirements Document) được thiết kế cho thế giới waterfall
- Trong thế giới AI Agent, requirement không phải tài liệu — mà là reasoning logic
- So sánh: BA truyền thống viết "Hệ thống phải cho phép user đặt hàng" vs. BA for AI thiết kế "Agent phải đánh giá 7 biến số trước khi approve đơn hàng: tồn kho, credit score, fraud signal, delivery capacity, margin threshold, customer LTV, seasonal demand"
- Framework chuyển đổi: From Document → To Decision Architecture
Key Concept:
BA Cũ: Requirement → Document → Developer đọc → Code
BA Mới: System Logic → Decision Tree → Agent đọc → ExecutionBài 1.2: System Thinking Fundamentals
Thời lượng: 60 phút | Format: Video + Workshop
Nội dung:
- System là gì? Tập hợp các phần tử có mối quan hệ, tạo ra hành vi emergent
- 4 trụ cột của System Thinking:
- Interconnection (Mối liên kết)
- Feedback Loops (Vòng phản hồi)
- Emergence (Hành vi nổi lên)
- Boundaries (Ranh giới hệ thống)
- Cause-Effect Loop Diagram: Cách vẽ, cách đọc, cách phát hiện leverage point
- Stock & Flow: Hiểu dynamics của hệ thống theo thời gian
Bài tập thực hành: Vẽ System Map cho ứng dụng gọi xe (ride-hailing):
- Xác định ≥ 15 biến số
- Vẽ ≥ 10 feedback loops
- Xác định 3 leverage points
- Chỉ ra điểm nào AI Agent có thể can thiệp
Bài 1.3: Constraint Analysis & Risk Modeling
Thời lượng: 45 phút | Format: Video + Case discussion
Nội dung:
- Theory of Constraints (TOC) áp dụng cho AI System
- Bottleneck trong pipeline AI không phải compute — mà là quality of input logic
- Mỗi constraint là một "cái cổ chai" mà agent phải biết xử lý
- Risk Modeling cho AI:
- Risk = Probability × Impact × Detectability
- 4 loại risk đặc thù AI: Hallucination, Bias, Drift, Adversarial
- Constraint Matrix: Template thiết kế ràng buộc cho agent
Case Study Mini: VinFast và bài toán AI Agent cho customer service
- 200,000 request/tháng
- 47 ngôn ngữ/phương ngữ
- Constraint: không được hứa hẹn chính sách chưa công bố
- Risk: agent tự "sáng tạo" phương án bảo hành
Bài 1.4: Từ System Map Đến Agent Map
Thời lượng: 60 phút | Format: Workshop thực hành
Nội dung:
- Cách chuyển đổi System Map thành Agent Architecture Map
- Mỗi feedback loop → một Agent có thể quản lý
- Mỗi leverage point → một Agent cần ưu tiên
- Mỗi boundary → một guardrail cho Agent
Framework: SAFE (System-Agent Fit Evaluation)
| Yếu tố | Câu hỏi | Đánh giá |
|---|---|---|
| Scope | Agent này quản lý phần nào của hệ thống? | Rõ ràng / Mơ hồ |
| Authority | Agent được quyền quyết định gì? | Có giới hạn / Quá rộng |
| Feedback | Agent nhận phản hồi từ đâu? | Real-time / Delayed / Không có |
| Escalation | Khi nào agent phải chuyển cho người? | Rõ ràng / Không xác định |
🎮 QUIZ — Module 1 (20 câu × 1 điểm = 20 điểm)
Phần A: Trắc nghiệm (10 câu)
Q1. Điểm khác biệt lớn nhất giữa BA truyền thống và BA for AI Agent là gì?
- A) BA for AI cần biết code
- B) BA for AI thiết kế reasoning logic thay vì viết document ✅
- C) BA for AI chỉ làm việc với data scientist
- D) BA for AI không cần hiểu business
Q2. Trong System Thinking, "Emergence" có nghĩa là:
- A) Hệ thống luôn ổn định
- B) Hành vi tổng thể được dự đoán từ từng phần tử
- C) Hành vi tổng thể phát sinh từ tương tác, không thể dự đoán từ từng phần riêng lẻ ✅
- D) Hệ thống tự sửa lỗi
Q3. Trong mô hình Risk cho AI, "Drift" là gì?
- A) AI bị hack
- B) Hiệu suất AI giảm dần theo thời gian do data/context thay đổi ✅
- C) AI tạo nội dung sai sự thật
- D) AI thiên vị một nhóm người dùng
Q4. "Leverage Point" trong System Thinking là:
- A) Điểm dễ thay đổi nhất
- B) Điểm can thiệp nhỏ tạo ra thay đổi lớn cho toàn hệ thống ✅
- C) Điểm tốn ít chi phí nhất
- D) Điểm có nhiều data nhất
Q5. Trong framework SAFE, chữ "E" (Escalation) quan trọng vì:
- A) Đảm bảo agent luôn chạy
- B) Xác định khi nào agent phải chuyển quyết định cho con người ✅
- C) Đo lường hiệu suất
- D) Quản lý ngân sách
Q6. Feedback Loop dương tính (Reinforcing Loop) có đặc điểm:
- A) Luôn có lợi cho hệ thống
- B) Khuếch đại thay đổi — có thể tốt (tăng trưởng) hoặc xấu (sụp đổ) ✅
- C) Luôn ổn định hệ thống
- D) Không ảnh hưởng AI Agent
Q7. Theory of Constraints (TOC) áp dụng cho AI system cho thấy bottleneck thường là:
- A) Computing power
- B) Số lượng GPU
- C) Chất lượng input logic và business rules ✅
- D) Tốc độ internet
Q8. Khi chuyển System Map thành Agent Map, mỗi feedback loop nên được:
- A) Bỏ qua
- B) Gán cho một Agent quản lý ✅
- C) Chuyển sang dạng code Python
- D) Viết thành BRD
Q9. "Stock & Flow" giúp BA hiểu:
- A) Cách database hoạt động
- B) Dynamics của hệ thống theo thời gian — biến nào tích lũy, biến nào là tốc độ thay đổi ✅
- C) Cách AI training
- D) Quy trình Agile
Q10. Tại sao BA for AI cần master System Thinking TRƯỚC KHI học AI?
- A) Vì System Thinking dễ hơn AI
- B) Vì không hiểu hệ thống thì không biết agent cần giải quyết bài toán gì, dẫn đến agent tối ưu sai mục tiêu ✅
- C) Vì công ty bắt buộc
- D) Vì AI đã biết System Thinking rồi
Phần B: Tình huống (5 câu × 2 điểm)
Q11. Bạn là BA tại một công ty e-commerce. CEO muốn triển khai AI Agent để "tăng revenue." Hãy liệt kê 5 biến số trong system map mà bạn cần vẽ trước khi thiết kế agent.
Rubric: 2đ nếu ≥ 5 biến số hợp lý và có mối liên kết rõ ràng
Q12. Xác định 2 reinforcing loops và 1 balancing loop trong hệ thống marketplace (VD: Shopee).
Rubric: 2đ nếu mô tả đúng mechanics và labeling
Q13. Cho tình huống: AI Agent customer service tự hứa giảm giá 50% cho khách VIP. Phân tích risk theo Risk = Probability × Impact × Detectability.
Rubric: 2đ nếu đánh giá đúng cả 3 yếu tố và đề xuất guardrail
Q14. Áp dụng framework SAFE để đánh giá: "AI Agent tự quyết định approve/reject đơn vay dưới 50 triệu VND."
Rubric: 2đ nếu đánh giá đầy đủ 4 chiều S-A-F-E
Q15. So sánh cách BA truyền thống và BA for AI sẽ approach bài toán: "Công ty cần hệ thống quản lý nhân sự thông minh hơn."
Rubric: 2đ nếu chỉ ra ≥ 3 khác biệt fundamentals
🎯 GAME CHALLENGE — Week 1: "System Detective" (15 điểm)
Luật chơi:
- Mỗi học viên được assign ngẫu nhiên 1 sản phẩm thực tế (Grab, Tiki, Momo, VNPay, Zalo...)
- Trong 48 giờ, phải nộp:
- System Map với ≥ 20 biến số
- ≥ 5 feedback loops (ghi rõ reinforcing/balancing)
- ≥ 3 leverage points
- 1 đề xuất: "Nếu triển khai AI Agent, nên bắt đầu từ leverage point nào? Vì sao?"
- Hệ thống gamification:
- ⭐ +3 điểm nếu System Map được vote "Best Map" bởi peer
- ⭐ +2 điểm nếu phát hiện được hidden assumption mà người khác bỏ sót
- ⭐ +1 điểm cho mỗi feedback có giá trị cho bạn khác
Tiêu chí chấm:
| Tiêu chí | Điểm tối đa | Mô tả |
|---|---|---|
| Completeness | 5 | Đủ biến số, loops, leverage points |
| Accuracy | 4 | Logic đúng, mối quan hệ hợp lý |
| Insight | 3 | Phát hiện được điểm không hiển nhiên |
| Presentation | 3 | Rõ ràng, dễ đọc, professional |
📝 Feedback Template — Week 1
Sau khi hoàn thành Module 1, học viên tự đánh giá:
| Năng lực | Trước Module 1 (1-5) | Sau Module 1 (1-5) | Gap |
|---|---|---|---|
| Hiểu System Thinking | |||
| Vẽ System Map | |||
| Phân tích Risk cho AI | |||
| Chuyển System → Agent Map |
Câu hỏi mở:
- Insight lớn nhất bạn học được tuần này là gì?
- Điều gì còn mơ hồ nhất?
- Bạn muốn module tiếp theo đi sâu hơn vào phần nào?
MODULE 2: REQUIREMENT ARCHITECTURE (Week 2)
📰 Case Study Mở Đầu: "Cái Giá 3.7 Tỷ USD Của Assumption Ẩn"
Viết theo phong cách Forbes
San Francisco, Tháng 3/2025. Khi Zillow — gã khổng lồ bất động sản trị giá hàng tỷ USD — buộc phải đóng cửa chương trình Zillow Offers và sa thải 2,000 nhân sự, bài học không nằm ở AI. AI của họ hoạt động chính xác như được thiết kế. Vấn đề là nó được thiết kế dựa trên những giả định mà không ai từng thách thức.
Hệ thống AI của Zillow dùng để định giá nhà tự động. Nó giả định rằng:
- Giá nhà luôn tăng trong ngắn hạn (assumption #1)
- Thị trường địa phương tuân theo pattern quốc gia (assumption #2)
- Renovation cost có thể predict từ historical data (assumption #3)
Cả ba đều sai. Nhưng không ai trong đội BA từng viết những assumptions này ra giấy, chứ đừng nói challenge chúng.
Kết quả: Zillow mua hàng ngàn ngôi nhà ở giá quá cao, bán lỗ trung bình $25,000/căn. Tổng thiệt hại: $3.7 tỷ USD write-down.
Jeff Mercer, Former VP of Analytics tại Zillow, thừa nhận: "We had the best ML engineers in the world. What we lacked were people who could question the very foundations of what we were building."
Đó chính xác là việc của BA. Không phải viết requirement — mà là phát hiện và thách thức assumptions.
📚 Nội Dung Bài Giảng
Bài 2.1: Requirement Engineering 2.0 — Từ Document → Architecture
Thời lượng: 60 phút
Nội dung:
Tại sao Functional/Non-Functional Requirement không đủ cho AI:
- FR nói: "AI phải trả lời đúng"
- Nhưng "đúng" là gì? Đúng theo context nào? Đúng theo data nào? Đúng ở mức confidence bao nhiêu?
Requirement Architecture cho AI Agent:
- Input Requirements: Agent nhận dữ liệu gì? Từ nguồn nào? Chất lượng ra sao?
- Reasoning Requirements: Agent suy luận theo logic gì? Decision tree nào?
- Output Requirements: Format, confidence level, fallback behavior
- Boundary Requirements: Agent KHÔNG được làm gì?
- Learning Requirements: Agent học thêm từ đâu? Feedback loop nào?
The Requirement Iceberg Model:
┌─────────────────┐
│ Explicit Req │ ← 20% — Những gì stakeholder nói
│ (Visible) │
─────┼─────────────────┼───── Waterline
│ Implicit Req │ ← 30% — Những gì stakeholder giả định
│ (Assumed) │ nhưng không nói
├─────────────────┤
│ Hidden Req │ ← 50% — Những gì KHÔNG AI nào
│ (Unknown) │ từng nghĩ đến
└─────────────────┘Bài 2.2: Ambiguity Detection — Nghệ Thuật Phát Hiện Sự Mơ Hồ
Thời lượng: 45 phút
Nội dung:
7 loại Ambiguity trong requirement cho AI:
- Lexical: "nhanh" nghĩa là bao lâu?
- Syntactic: "Agent phải kiểm tra user và admin" — kiểm tra cả hai hay một trong hai?
- Semantic: "chất lượng cao" theo tiêu chí nào?
- Pragmatic: context khác nhau thì cùng một từ khác nhau
- Vagueness: "hầu hết user" là bao nhiêu %?
- Generality: requirement quá chung chung
- Under-specification: thiếu edge cases
Ambiguity Detection Checklist cho AI Requirement:
- [ ] Mỗi tính từ có thể đo lường được không?
- [ ] Mỗi "if" có "else" tương ứng không?
- [ ] Edge cases được xác định chưa?
- [ ] Ai là "nguồn sự thật" khi conflict?
- [ ] Agent behavior khi không chắc chắn?
Bài 2.3: Conflict Detection & Resolution
Thời lượng: 45 phút
Nội dung:
Conflict Matrix cho AI Agent:
- Business Goal vs. User Experience
- Speed vs. Accuracy
- Automation vs. Human Control
- Personalization vs. Privacy
- Cost Optimization vs. Quality
Resolution Framework: PRISM
- Priority: Conflict nào ưu tiên hơn?
- Risk: Giải pháp nào ít risk nhất?
- Impact: Ảnh hưởng đến bao nhiêu user?
- Stakeholder: Ai có quyền quyết định cuối?
- Measure: Đo lường bằng metric nào?
Bài 2.4: Assumption Mapping Masterclass
Thời lượng: 60 phút
Nội dung:
- Assumption Bank Template:
| ID | Assumption | Category | Risk if Wrong | Validation Method | Status |
|---|---|---|---|---|---|
| A01 | User sẽ nhập đúng tiếng Việt | Input | Agent hiểu sai → output sai | Kiểm tra với 1000 input thực | ❓ Chưa validate |
| A02 | Dữ liệu training đủ đại diện | Data | Bias → discrimination | Statistical analysis | ❓ Chưa validate |
| A03 | Stakeholder đồng ý agent tự quyết ≤ 10tr | Authority | Compliance violation | Interview + survey | ✅ Validated |
- Stress-Testing Assumptions:
- Mỗi assumption cần được challenge bằng 3 câu hỏi:
- "Nếu assumption này sai, hậu quả là gì?"
- "Bằng chứng nào cho thấy assumption này đúng?"
- "Trong điều kiện nào assumption này sẽ không còn đúng?"
- Mỗi assumption cần được challenge bằng 3 câu hỏi:
🎮 QUIZ — Module 2 (20 điểm)
Phần A: Trắc nghiệm (10 câu × 1 điểm)
Q1. Trong "Requirement Iceberg Model", phần lớn requirement (50%) nằm ở:
- A) Explicit — stakeholder nói rõ ràng
- B) Implicit — stakeholder giả định nhưng không nói
- C) Hidden — chưa ai nghĩ đến ✅
- D) Documented — được viết trong BRD
Q2. "Agent phải trả lời nhanh" là ví dụ của loại ambiguity nào?
- A) Syntactic
- B) Lexical/Vagueness — "nhanh" không đo lường được ✅
- C) Pragmatic
- D) Generality
Q3. Trong framework PRISM, chữ "M" (Measure) quan trọng vì:
- A) Đo lường chi phí dự án
- B) Đảm bảo conflict resolution có metric theo dõi được ✅
- C) Quản lý nhân sự
- D) Đo tốc độ internet
Q4. Bài học từ case Zillow cho thấy:
- A) AI không đủ thông minh
- B) Cần thêm data scientist
- C) Assumptions không được challenge là risk lớn nhất ✅
- D) Bất động sản không phù hợp cho AI
Q5. "Boundary Requirement" cho AI Agent xác định:
- A) Agent cần làm gì
- B) Agent KHÔNG được làm gì — ranh giới quyền hạn ✅
- C) Agent cần bao nhiêu compute
- D) Agent deploy ở đâu
Q6. Khi thiết kế requirement cho AI, "Learning Requirement" xác định:
- A) Thuật toán machine learning nào sử dụng
- B) Agent học thêm từ nguồn nào và qua feedback loop nào ✅
- C) Tài liệu đào tạo nhân viên
- D) Giáo trình đào tạo user
Q7. Conflict "Personalization vs. Privacy" trong AI Agent thường được giải quyết bằng:
- A) Bỏ personalization
- B) Bỏ privacy
- C) Tiếp cận cân bằng: personalization trong phạm vi consent + anonymization ✅
- D) Để user tự quyết 100%
Q8. "Stress-Testing Assumptions" yêu cầu mỗi assumption phải trả lời:
- A) 1 câu hỏi
- B) 2 câu hỏi
- C) 3 câu hỏi: Hậu quả nếu sai? Bằng chứng đúng? Điều kiện nào không còn đúng? ✅
- D) 5 câu hỏi
Q9. "Under-specification" trong AI requirement khác "vagueness" ở chỗ:
- A) Giống nhau
- B) Vagueness là mơ hồ, under-specification là THIẾU edge cases ✅
- C) Under-specification nghiêm trọng hơn
- D) Vagueness chỉ xảy ra trong tiếng Anh
Q10. Input Requirement cho AI Agent cần xác định:
- A) Chỉ loại dữ liệu
- B) Loại dữ liệu + nguồn + chất lượng + format + tần suất ✅
- C) Chỉ nguồn dữ liệu
- D) Chỉ format
Phần B: Tình huống (5 câu × 2 điểm)
Q11. Cho requirement: "AI chatbot ngân hàng phải trả lời chính xác." Phát hiện ≥ 5 ambiguity trong câu này.
Q12. Lập Assumption Bank (≥ 10 assumptions) cho: "AI Agent tự động phê duyệt đơn xin nghỉ phép."
Q13. Phân tích Conflict Matrix cho: "AI Agent pricing — cần tối đa revenue nhưng cũng cần giữ customer satisfaction."
Q14. Viết Requirement Architecture (Input/Reasoning/Output/Boundary/Learning) cho: "AI Agent giúp team HR screening CV."
Q15. Case: Một AI Agent marketing tự gửi email cho 100,000 khách hàng với nội dung sai chính tả và giọng điệu không phù hợp. Phân tích root cause bằng Assumption Mapping.
🎯 GAME CHALLENGE — Week 2: "Assumption Hunter" (15 điểm)
Luật chơi:
- Mỗi nhóm 3-4 người nhận 1 product brief giả lập (VD: "Xây AI Agent cho hệ thống chấm điểm tín dụng")
- Phải tìm và document ≥ 25 hidden assumptions
- Stress-test top 10 assumptions nghiêm trọng nhất
- Trình bày trước "ban giám khảo" (các nhóm khác)
- Nhóm khác có quyền challenge — mỗi assumption bị challenge thành công = -1 điểm nhóm trình bày, +1 điểm nhóm challenge
Scoring:
| Hạng mục | Điểm |
|---|---|
| Số assumption hợp lệ | 5 |
| Chất lượng stress-test | 4 |
| Khả năng defend khi bị challenge | 3 |
| Trình bày rõ ràng | 3 |
📝 Feedback Template — Week 2
(Tương tự Week 1, cập nhật năng lực)
MODULE 3: PRODUCT STRATEGY IN THE AI ERA (Week 3)
📰 Case Study Mở Đầu: "Duolingo: Khi AI Agent Trở Thành Sản Phẩm"
Viết theo phong cách Forbes
Pittsburgh, Tháng 1/2026. Luis von Ahn, CEO của Duolingo, không giấu diếm: công ty giảm 10% nhân sự sáng tạo nội dung vào cuối 2024. Không phải vì cost-cutting. Mà vì AI Agent đã làm tốt hơn con người ở một nhiệm vụ cụ thể: tạo bài tập cá nhân hóa theo tiến độ học viên.
Nhưng đây là phần thú vị: Duolingo không chỉ "dùng AI." Họ tái thiết kế toàn bộ product strategy xung quanh AI Agent.
Trước đây, product roadmap của Duolingo là: Thêm ngôn ngữ → Thêm bài học → Thêm user.
Bây giờ: Dạy AI hiểu cách mỗi user học → AI tạo trải nghiệm unique cho mỗi user → Retention tăng → Revenue tăng.
North Star Metric cũng thay đổi: từ DAU (Daily Active Users) sang Learning Efficiency Score — đo bằng tốc độ user tiến bộ thực sự.
"Khi product strategy của bạn xoay quanh AI Agent," von Ahn nói tại một hội nghị fintech đầu 2026, "thì mọi thứ từ metrics đến roadmap đều phải thay đổi."
Bài học: AI Agent không phải feature. AI Agent là paradigm shift đòi hỏi tái thiết kế product strategy.
📚 Nội Dung Bài Giảng
Bài 3.1: Product Strategy Framework cho AI Product
Thời lượng: 60 phút
- AI Product Canvas (Biến thể của Lean Canvas cho AI):
| Ô | Nội dung | Ví dụ |
|---|---|---|
| Problem | Bài toán business cụ thể | CS response time > 4h |
| AI Solution | Agent giải quyết thế nào | AI Agent tier-1 support |
| Input Data | Dữ liệu cần | Ticket history, knowledge base, user profile |
| Reasoning Logic | Logic suy luận | Intent classification → Knowledge retrieval → Response generation |
| Output & Action | Kết quả | Auto-reply hoặc escalate to human |
| Key Metrics | Đo gì | Resolution rate, CSAT, avg. handling time |
| Guardrails | Ràng buộc | Không hứa hẹn chính sách mới, escalate nếu sentiment < -0.5 |
| Human Fallback | Khi nào người vào | Complex complaints, legal issues, VIP accounts |
| Advantage | Lợi thế bền vững | Proprietary training data, domain expertise |
- Value Proposition cho AI Agent:
- Agent phải trả lời được: "Tôi giúp [ai] đạt [kết quả gì] bằng cách [quy trình nào] mà trước đây phải [tốn gì]?"
Bài 3.2: Prioritization cho AI Feature
Thời lượng: 45 phút
RICE Score cho AI Feature:
- Reach: Bao nhiêu user/process bị ảnh hưởng?
- Impact: Cải thiện bao nhiêu % so với trước?
- Confidence: Dữ liệu/bằng chứng có đủ tin cậy?
- Effort: Bao nhiêu sprint để build + train + validate?
AI-Specific Prioritization Matrix:
| Factor | Weight | Score (1-5) |
|---|---|---|
| Data availability | 25% | ? |
| Business impact | 25% | ? |
| Technical feasibility | 20% | ? |
| Risk (bias, hallucination) | 15% | ? |
| User trust readiness | 15% | ? |
- MoSCoW cho AI Agent:
- Must: Agent PHẢI làm được (core function)
- Should: Agent NÊN làm (enhanced experience)
- Could: Agent CÓ THỂ làm (nice-to-have)
- Won't: Agent KHÔNG ĐƯỢC làm (guardrail)
Bài 3.3: Metrics Design cho AI Product
Thời lượng: 60 phút
North Star Metric cho AI Product:
- Không phải "accuracy" hay "response time"
- Phải là metric phản ánh business value thực sự
- VD: "Resolution without human intervention rate" thay vì "AI accuracy"
AARRR Framework cho AI Agent:
| Giai đoạn | Metric | Ví dụ |
|---|---|---|
| Acquisition | Agent được adopt bởi bao nhiêu user/process | % team dùng AI Agent vs manual |
| Activation | Agent tạo "aha moment" nhanh không | Time-to-first-value < 5 phút |
| Retention | User tiếp tục dùng agent | Weekly active usage rate |
| Revenue | Agent tạo/tiết kiệm bao nhiêu tiền | Cost saved per interaction |
| Referral | User giới thiệu agent cho team khác | Organic expansion rate |
- Guardrail Metrics (Thước đo cảnh báo):
- Hallucination rate: < 2%
- Escalation rate: 15-30% (quá thấp = agent quá tự tin, quá cao = agent vô dụng)
- Bias score: Kiểm tra qua audit hàng tuần
- User override rate: Nếu user thường xuyên bỏ qua AI suggestion → agent chưa đủ tốt
Bài 3.4: Experiment Design cho AI Feature
Thời lượng: 45 phút
A/B Testing cho AI Agent:
- Group A: Quy trình manual (baseline)
- Group B: AI Agent assisted
- Group C: AI Agent autonomous
- Đo: Speed, accuracy, user satisfaction, cost
Shadow Mode Testing:
- Agent chạy song song với người nhưng không output cho user
- So sánh quyết định agent vs người
- An toàn: không risk, nhưng vẫn đo được performance
🎮 QUIZ — Module 3 (20 điểm)
Trắc nghiệm (10 câu × 1 điểm)
Q1. AI Product Canvas khác Lean Canvas chủ yếu ở:
- A) Có thêm phần "Reasoning Logic" và "Guardrails" ✅
- B) Ít ô hơn
- C) Chỉ dùng cho startup
- D) Không có metrics
Q2. Trong RICE cho AI, "Confidence" đặc biệt quan trọng vì:
- A) AI luôn đúng
- B) Dự đoán AI performance khó hơn software truyền thống — cần bằng chứng mạnh ✅
- C) Confidence dễ đo nhất
- D) Không liên quan
Q3. North Star Metric cho AI Agent phải:
- A) Luôn là accuracy
- B) Phản ánh business value thực sự, không chỉ technical metric ✅
- C) Giống mọi sản phẩm khác
- D) Do data scientist quyết định
Q4. Escalation rate "quá thấp" (< 5%) cho AI Agent là dấu hiệu:
- A) Agent hoàn hảo
- B) Agent quá tự tin — có thể đang quyết định những việc nên để người xử lý ✅
- C) Team quản lý tốt
- D) Không đáng lo ngại
Q5. "Shadow Mode Testing" cho phép:
- A) Agent thay thế người ngay lập tức
- B) Đánh giá agent mà không risk ảnh hưởng user thực ✅
- C) Training AI nhanh hơn
- D) Giảm chi phí compute
(+ 5 câu tình huống tương tự Module 1-2)
🎯 GAME CHALLENGE — Week 3: "Product Strategist Showdown" (15 điểm)
Luật chơi:
- Mỗi nhóm được brief: "Bạn là Head of AI Product tại [Công ty X]. CEO cho bạn $500K và 6 tháng."
- Hãy nộp:
- AI Product Canvas hoàn chỉnh
- North Star Metric + AARRR metrics
- Prioritized roadmap 6 tháng (dùng RICE)
- Risk analysis với guardrail metrics
- Pitch 5 phút trước "board of directors" (các nhóm khác)
- Q&A 5 phút — mỗi câu trả lời tốt +1đ, mỗi câu trả lời kém -1đ
MODULE 4: METRICS & DECISION FRAMEWORK (Week 4)
📰 Case Study Mở Đầu: "Netflix: AI Quyết Định Sai Vì Được Đo Sai"
Viết theo phong cách HBR
Los Gatos, California. Trong nội bộ Netflix, có một câu chuyện mà ít người ngoài biết. Năm 2024, đội recommendation engine thử nghiệm một AI Agent mới — thay vì chỉ gợi ý phim, agent sẽ tự quyết định thumbnail, trailer clip, và timing push notification cho mỗi user.
Kết quả đo bằng metric chính — click-through rate — tăng 23%. Team ăn mừng.
Nhưng 3 tháng sau, retention rate giảm. Lý do: Agent đã tối ưu clickbait. User click nhiều hơn, nhưng thất vọng khi xem, và dần bỏ platform.
Reed Hastings, co-founder, viết trong email nội bộ: "An AI agent optimizing the wrong metric is worse than no AI at all. It's efficient at making things worse."
Netflix phải redesign toàn bộ metrics system. Metric mới: Quality of Match Score — đo bằng "% user xem ≥ 70% film sau khi click". Click-through vẫn đo, nhưng chỉ là input metric, không phải north star.
Bài học: AI Agent sẽ tối ưu CHÍNH XÁC metric bạn cho nó. Nếu bạn cho sai metric, nó sẽ tối ưu sai — một cách hoàn hảo.
📚 Nội Dung Bài Giảng
Bài 4.1: Decision Framework cho AI Agent
Thời lượng: 60 phút
Decision Tree Architecture:
- Mỗi agent cần 1 Decision Tree rõ ràng
- Node = Điều kiện | Branch = Hành động | Leaf = Output
- Decision Tree ≠ code flowchart. Đây là business logic mà BA thiết kế
Decision Authority Matrix:
| Quyết định | Ai quyết? | Giới hạn | Escalation |
|---|---|---|---|
| Trả lời FAQ | Agent | 100% tự động | Nếu confidence < 70% |
| Approve refund ≤ 500K | Agent | Auto-approve | Nếu ≥ 2 refund/tháng từ cùng user |
| Approve refund > 500K | Agent đề xuất | Cần human approve | Luôn luôn |
| Thay đổi chính sách | KHÔNG cho agent | N/A | N/A |
- Decision Quality Metrics:
- Precision: Bao nhiêu quyết định đúng?
- Recall: Bỏ lỡ bao nhiêu case quan trọng?
- Time-to-Decision: Nhanh hơn bao nhiêu so với người?
- Reversal Rate: Bao nhiêu % quyết định bị human override?
Bài 4.2: Metrics Hierarchy — Tránh Goodhart's Law
Thời lượng: 45 phút
Goodhart's Law: "Khi metric trở thành mục tiêu, nó không còn là metric tốt."
- Metrics Pyramid cho AI Agent:
┌──────────────┐
│ North Star │ ← Business outcome (VD: Revenue per user)
│ Metric │
├──────────────┤
│ Health │ ← Agent performance (VD: Resolution rate)
│ Metrics │
├──────────────┤
│ Guardrail │ ← Safety (VD: Hallucination rate < 2%)
│ Metrics │
├──────────────┤
│ Input │ ← System health (VD: Latency, uptime)
│ Metrics │
└──────────────┘- Counter-Metrics:
- Mỗi metric chính cần 1 counter-metric
- VD: "Response speed" → counter: "Response quality"
- Nếu speed tăng nhưng quality giảm → agent đang sacrifice quality
Bài 4.3: KPI Design cho Multi-Agent System
Thời lượng: 60 phút
Khi có nhiều agents, metrics trở nên phức tạp:
- Agent-Level KPIs: Mỗi agent có metric riêng
- System-Level KPIs: Hiệu suất tổng thể
- Interaction KPIs: Chất lượng giao tiếp giữa agents
| Level | Metric | Ví dụ |
|---|---|---|
| Agent | Task completion rate | BA Agent hoàn thành 95% requirement analysis |
| Agent | Error rate | QA Agent phát hiện 90% bugs |
| System | End-to-end cycle time | Từ request → deploy giảm 60% |
| System | Total cost per outcome | Chi phí per feature delivered |
| Interaction | Handoff accuracy | 98% thông tin được truyền đúng giữa agents |
| Interaction | Conflict rate | < 5% quyết định mâu thuẫn giữa agents |
🎮 QUIZ — Module 4 (20 điểm)
(10 trắc nghiệm + 5 tình huống, tương tự format Module 1-3)
Highlight questions:
Q-Tình huống: CEO bảo bạn: "The AI Agent's accuracy is 98%, why isn't it deployed?" Hãy giải thích tại sao accuracy 98% có thể vẫn chưa đủ, và đề xuất bộ metrics đầy đủ hơn.
Q-Tình huống: Hai agent trong hệ thống mâu thuẫn: Pricing Agent muốn giảm giá để tăng conversion, Marketing Agent muốn giữ giá cao để bảo vệ brand. Thiết kế conflict resolution framework.
🎯 GAME CHALLENGE — Week 4: "Metrics Architect Championship" (15 điểm)
Luật chơi:
- Mỗi nhóm thiết kế bộ metrics hoàn chỉnh cho 1 AI Agent system (được assign ngẫu nhiên)
- Phải bao gồm: North Star, Health, Guardrail, Input, Counter-metrics
- Twist: Nhóm khác sẽ cố "game" metrics của bạn — tìm cách AI có thể tối ưu metric nhưng tạo kết quả xấu
- Nếu bị game thành công → -2 điểm. Nếu defend thành công → +2 điểm.
- Nếu game nhóm khác thành công → +2 điểm.
🏆 MILESTONE 1: Business System Design Portfolio (60 điểm)
Yêu cầu nộp:
Chọn 1 sản phẩm/công ty thực tế, nộp portfolio gồm:
| Deliverable | Điểm | Tiêu chí |
|---|---|---|
| System Map (Module 1) | 15 | ≥ 20 biến, ≥ 5 loops, ≥ 3 leverage points |
| Assumption Bank (Module 2) | 15 | ≥ 20 assumptions, top 10 được stress-test |
| AI Product Canvas (Module 3) | 15 | Hoàn chỉnh 9 ô, logic nhất quán |
| Metrics Architecture (Module 4) | 15 | Full pyramid + counter-metrics |
Rubric:
| Mức | Mô tả |
|---|---|
| Master (90-100%) | Logic chặt chẽ, có insight sâu, presentation professional, có thể dùng thực tế |
| Proficient (75-89%) | Đầy đủ, logic hợp lý, nhưng thiếu depth ở 1-2 phần |
| Developing (60-74%) | Hoàn thành nhưng nhiều gap, logic chưa chặt |
| Emerging (< 60%) | Thiếu deliverable hoặc logic không nhất quán |
📝 Phase 1 Comprehensive Feedback
Self-Assessment:
| Câu hỏi | Trả lời (1-5) |
|---|---|
| Tôi có thể giải thích System Thinking cho đồng nghiệp | |
| Tôi tự tin phát hiện hidden assumptions | |
| Tôi biết cách thiết kế metrics cho AI product | |
| Tôi thấy sự khác biệt giữa BA cũ và BA for AI | |
| Tôi sẵn sàng cho Phase 2 |
Peer Feedback:
Mỗi học viên review portfolio của 2 bạn khác, dùng rubric trên.