Tuần này trên Dev.to có một bài khá đáng chú ý: một model nhỏ, không thông minh lắm, tăng độ chính xác khi đọc giấy tờ nhà đất từ 10% lên 99.6%. Tổng chi phí chỉ khoảng $1.15. Điều đáng nói nhất là khi không chắc, model đó trả lời kiểu "hãy kiểm tra dòng này" chứ không bịa ra một câu trả lời nghe có vẻ hợp lý. Trên HN cũng có bài về một CNN 10 năm tuổi chẩn đoán ung thư da tốt hơn các frontier LLM. Hai câu chuyện cùng nói một điều: thiết kế hệ thống quan trọng hơn độ to của model .

Mình đã làm vài dự án trích xuất dữ liệu từ hợp đồng, hoá đơn và CMND/CCCD scan cho khách hàng. Lỗi tốn kém nhất mình gặp không phải là model trả lời sai. Đó là model trả lời sai một cách tự tin , và không ai phát hiện cho đến khi dữ liệu đã vào production. Bài này chia sẻ pattern mình đang dùng: bắt model phải trích dẫn số dòng, sau đó dùng code thường để verify, và cái gì không verify được thì chuyển cho người xem.

1.…