Trường phái RNN và Transfomer trong học tập, thi cử
Nếu coi quá trình học tập của một sinh viên là việc xử lý một chuỗi thông tin (sách vở, bài giảng, bài thi, quán ăn…), chúng ta có thể thấy sự khác biệt rõ rệt trong "tư duy" giữa một sinh viên kiểu RNN (Recurrent Neural Network) và một sinh viên kiểu Transformer.
Dưới đây là bảng so sánh chi tiết phong cách học tập, thi cử, chọn quán ăn . . . của hai "thực thể" này:
1. Sinh viên RNN: "Người học vẹt có tâm"
Sinh viên này học theo kiểu cuốn chiếu, đọc đến đâu hiểu đến đó và cố gắng ghi nhớ dựa trên những gì vừa đọc trước đó.
- Cách tiếp cận: Đọc từng trang sách từ đầu đến cuối. Để hiểu trang 10, sinh viên này phải nhớ lại kiến thức từ trang 9, trang 8... cứ thế nối tiếp nhau.
- Điểm yếu (Trí nhớ ngắn hạn): Nếu cuốn sách quá dày, khi đọc đến chương cuối, sinh viên này thường quên mất chi tiết ở chương đầu (hiện tượng Vanishing Gradient). Họ chỉ nhớ được "máng máng" nội dung tổng quát nhưng mất đi các chi tiết quan trọng ở xa.
- Tốc độ: Chậm. Không thể đọc chương 5 nếu chưa đọc xong chương 4. Mọi thứ phải diễn ra tuần tự.
2. Sinh viên Transformer: "Thiên tài nắm bắt trọng tâm"
Đây là kiểu sinh viên hiện đại, sử dụng cơ chế Attention (Sự chú ý) để học tập. Họ không đọc tuần tự mà nhìn vào toàn bộ bức tranh cùng một lúc.
- Cách tiếp cận: Mở toang cả cuốn sách ra. Khi gặp một từ khó ở trang 100, sinh viên này có khả năng "liếc mắt" ngay lập tức về định nghĩa của nó ở trang 5 để kết nối thông tin.
- Điểm mạnh (Self-Attention): Sinh viên này biết cái gì quan trọng để tập trung vào. Họ hiểu được mối liên hệ giữa các từ ngữ, khái niệm dù chúng nằm cách xa nhau hàng trăm trang giấy.
- Tốc độ: Cực nhanh. Họ có thể thuê 10 người bạn mỗi người đọc một chương rồi tổng hợp lại cùng lúc (Xử lý song song), thay vì phải đợi nhau.
3. Sinh viên RNN thi: "Chiến thuật cày cuốc"
Sinh viên này ôn thi theo kiểu "cuốn chiếu". Họ bắt đầu từ trang 1 của cuốn giáo trình và đọc lần lượt cho đến trang cuối cùng.
- Quá trình ôn tập: Học chương 1 xong mới sang chương 2. Kiến thức chương 2 được xây dựng dựa trên những gì còn sót lại trong đầu từ chương 1.
- Đêm trước ngày thi: * Họ hiểu rất sâu những chương cuối (vì vừa mới học xong).
- Tuy nhiên, những định nghĩa ở chương đầu bắt đầu trở nên mờ nhạt (Vanishing Gradient). Họ rơi vào tình trạng: "Mình nhớ là đã đọc cái này rồi, nhưng không nhớ chi tiết nó là gì."
- Áp lực thời gian: Nếu sát giờ thi mà chưa đọc hết sách, họ sẽ hoảng loạn vì không thể nhảy cóc. Họ cảm thấy việc bỏ sót chương 3 sẽ làm họ không hiểu được chương 4.
4. Sinh viên Transformer thi: "Chiến thuật bản đồ tư duy"
Sinh viên này không học tuần tự. Họ tiếp cận bộ đề và giáo trình như một mạng lưới thông tin.
- Quá trình ôn tập (Self-Attention): Thay vì đọc từ đầu đến cuối, họ mở mục lục và các từ khóa quan trọng. Khi học về "Công thức A" ở chương 5, họ ngay lập tức kết nối nó với "Định luật B" ở chương 1.
- Cơ chế trọng tâm: Họ biết phân bổ "nguồn lực" não bộ. Phần nào chiếm 70% số điểm trong đề thi, họ sẽ dành 70% sự chú ý (Attention Score) vào đó, thay vì dàn trải thời gian đều cho mọi chương.
- Đêm trước ngày thi:
- Họ nắm được cấu trúc tổng thể của môn học.
- Nhờ khả năng xử lý song song, họ có thể vừa nghe podcast bài giảng, vừa lướt sơ đồ tư duy, vừa giải đề cùng lúc mà không bị lẫn lộn.
- Khả năng "truy xuất": Khi vào phòng thi, gặp một câu hỏi khó, họ dễ dàng liên kết các kiến thức nằm rải rác để giải quyết vấn đề.
5. Sinh viên RNN chọn quán: "Kẻ đi tìm sự quen thuộc"
Sinh viên này chọn quán theo kiểu xâu chuỗi thời gian và kinh nghiệm kế thừa.
- Cách chọn: Họ đi dọc một con phố. Thấy quán thứ nhất đông khách -> lưu vào bộ nhớ. Đến quán thứ hai thấy mùi thơm -> cộng dồn vào cảm xúc. Họ thường chọn dựa trên quán mà họ đã ăn ngày hôm qua hoặc những quán nằm sát nhau trên một cung đường.
- Cơ chế "Dòng thời gian": Quyết định của họ phụ thuộc rất nhiều vào trạng thái ngay trước đó.
o Ví dụ: "Hôm qua mình ăn phở rồi (trạng thái t-1), nên hôm nay mình sẽ ăn cơm tấm (trạng thái t)."
- Điểm yếu: Nếu con phố quá dài (dữ liệu lớn), họ sẽ quên mất quán ngon nhất nằm ở đầu phố mà chỉ nhớ những quán ở cuối phố nơi họ vừa đi ngang qua.
- KL: Trung thành, ổn định, nhưng đôi khi hơi bảo thủ và tốn thời gian đi bộ khảo sát từng quán.
6. Sinh viên Transformer chọn quán: "Thợ săn review"
Sinh viên này chọn quán bằng cách nhìn toàn cục và sử dụng cơ chế chú ý (Attention).
- Cách chọn: Không cần đi bộ. Họ mở Google Maps hoặc ShopeeFood lên để nhìn thấy toàn bộ hàng trăm quán ăn trong khu vực cùng một lúc (Xử lý song song).
- Cơ chế "Self-Attention": Họ không xem lần lượt. Họ sẽ quét qua tất cả các quán và chỉ "chú ý" (Attention) vào các từ khóa quan trọng: "Giá rẻ", "Gần đây", hoặc "Nhiều review 5 sao".
o Họ có thể kết nối thông tin rất xa: "Quán này ở quận 7 (vị trí) nhưng lại có món Huế (đặc trưng) cực giống quán mình từng ăn ở Đà Nẵng (bối cảnh)."
- Điểm mạnh: Tìm được quán "đỉnh" nhất trong hàng nghìn lựa chọn chỉ trong vài giây. Họ không bị phụ thuộc vào việc phải đi qua quán A mới thấy quán B.
- KL: Hiện đại, tối ưu, luôn tìm được những sự kết hợp thú vị (như quán cà phê kết hợp đồ ăn Thái).
Còn chúng ta, chúng ta đang thuộc nhóm nào? Và có ý định thay đổi không?
Theo Life is Good.
