↔ Vuốt ngang hoặc nhấn phím mũi tên ← → để lật từ mới(85/466)
Trang chủ/Từ điển/Context Window (Cửa sổ ngữ cảnh)

Context Window (Cửa sổ ngữ cảnh)

Cấp 1 (Sống còn)🤖 Thế giới AI

📌 ĐỊNH NGHĨA 1 CÂU

Giới hạn dung lượng bộ nhớ ngắn hạn của AI trong một phiên trò chuyện, tính bằng số lượng Token.

🎭

Ví von trực quan

Giống như chiếc bảng trí nhớ tạm thời của một người: Bảng chỉ viết được tối đa 100 dòng chữ, khi viết thêm dòng 101 thì các dòng đầu tiên ở trên đỉnh bảng sẽ tự động bị xóa đi.

Giải thích đầy đủ

💡 Tại sao nó quan trọng?

Anh em coder à, hiểu về Context Window sẽ giúp anh em quản lý cuộc trò chuyện với AI cực kỳ thông minh:

  • Tránh hiện tượng AI bị "mất trí nhớ": Biết khi nào cuộc chat quá dài để mở khung chat mới.
  • Đưa được toàn bộ dự án vào AI: Tận dụng cửa sổ ngữ cảnh lớn để AI nắm toàn bộ kiến trúc mã nguồn.
  • Tối ưu chi phí API: Càng nạp nhiều context thì mỗi tin nhắn gửi đi càng tốn tiền hơn.
  • Giữ cho AI luôn minh mẫn: Dữ liệu đầu vào gọn gàng giúp AI đưa ra đáp án chính xác hơn.
  • ⚙️ Cách hoạt động chi tiết

    Cơ chế quản lý bộ nhớ của Cửa sổ ngữ cảnh diễn ra như sau:

    1. Tính tổng Token: Mỗi khi bạn nhắn tin mới, AI phải quét lại toàn bộ lịch sử câu hỏi + câu trả lời phía trước.

    2. Giới hạn dung lượng: Mô hình có mức trần cố định (Claude Sonnet 200k token, Gemini Pro 2M token).

    3. Cắt gọt tự động (Truncation): Khi vượt quá giới hạn, phần dữ liệu cũ nhất ở đầu cuộc trò chuyện sẽ bị bỏ qua.

    4. Suy giảm độ tập trung (Attention Decay): Dữ liệu nằm ở giữa đoạn hội thoại quá dài dễ bị AI bỏ sót (hiện tượng Lost in the Middle).

    🎯 Ví dụ thực chiến

  • Đọc toàn bộ file tài liệu API: Nạp file OpenAPI spec dài 50 trang vào Gemini Pro để nhờ viết hàm SDK kết nối.
  • Refactor mã nguồn dự án: Đưa 10 file React component vào Claude Sonnet để đổi style từ CSS sang Tailwind.
  • ⚠️ Những lưu ý & lỗi thường gặp

  • Tiếp tục chat trong một khung chat quá dài: Làm AI bị ngáo và phản hồi cực kỳ chậm chạp.
  • Dán toàn bộ folder node_modules: Làm lãng phí hàng trăm ngàn token vô ích.
  • Không tóm tắt lại yêu cầu khi đổi Session: Khi sang khung chat mới, nên nhắc lại quy tắc cốt lõi cho AI.