Điểm nổi bật
- Định vị sản phẩm: STORM là hệ thống LLM-powered knowledge curation có thể nghiên cứu một chủ đề rồi tạo báo cáo dài kèm trích dẫn.
- Kiến trúc hai bước: tách riêng pre-writing và writing, giúp quá trình thu thập nguồn và quá trình viết bài không dồn hết vào một prompt duy nhất.
- Hướng phát triển mới: repo đã tích hợp Co-STORM, mở rộng từ chế độ viết bài một chiều sang discourse cộng tác giữa người và AI.
- Tính mô-đun: hỗ trợ nhiều lớp LLM và retriever qua LiteLLM, từ OpenAI-compatible models đến Bing, Brave, DuckDuckGo, SearXNG và vector retrieval.
Biểu đồ
Tóm tắt
STORM đáng chú ý vì nó chạm vào một nhu cầu rất thực trong làn sóng AI doanh nghiệp: không phải cứ có mô hình tốt là tự nhiên có được báo cáo tốt. Khoảng cách giữa “trả lời một câu hỏi” và “sản xuất một tài liệu dài có cấu trúc, có nguồn, có góc nhìn” vẫn rất lớn. STORM được thiết kế đúng để lấp khoảng trống đó.
Điểm đáng giá của dự án là nó không coi việc viết báo cáo như một bước text generation đơn thuần. Repo tách hẳn khâu nghiên cứu, khâu dựng outline, khâu viết bài và khâu polishing. Với Co-STORM, đội Stanford OVAL còn đẩy hệ thống đi xa hơn: chuyển từ engine tạo bài sang engine đồng hành cùng con người trong quá trình khai phá tri thức.
Chi tiết
Trong làn sóng công cụ AI hiện nay, khá nhiều dự án hứa hẹn “biến dữ liệu thành insight” nhưng thực tế chỉ là giao diện chat gắn vào search hoặc vector store. STORM khác ở chỗ nó được xây như một pipeline knowledge curation hoàn chỉnh. Theo README của repo, hệ thống được chia thành hai pha lớn. Ở pha pre-writing, nó dùng tìm kiếm Internet, mô phỏng hội thoại và perspective-guided question asking để đi tìm góc nhìn, câu hỏi và nguồn tham chiếu. Sau khi đã có bộ tư liệu đủ rộng, hệ thống mới sang pha writing để dựng outline và tạo bài viết hoàn chỉnh có trích dẫn. Cách chia lớp này nghe đơn giản nhưng rất quan trọng, vì nó phản ánh việc viết báo cáo nghiêm túc không thể chỉ là “một prompt thật dài”.
Điểm mạnh tiếp theo là STORM tập trung đúng vào công đoạn mà nhiều doanh nghiệp đang thiếu nhất: giúp tạo ra một sản phẩm trung gian có thể kiểm tra. Báo cáo dài có cấu trúc, outline, citation và lịch sử thu thập thông tin đều là artefact mà con người có thể duyệt lại. Điều này quan trọng hơn nhiều so với một cửa sổ chat trả lời nhanh nhưng khó audit. Với đội strategy, research, policy hoặc knowledge management, đây là điểm khác biệt mang tính vận hành chứ không chỉ là tính năng.
Co-STORM còn mở thêm một nhánh rất đáng theo dõi. Thay vì để AI âm thầm làm việc xong rồi trả kết quả cuối, Co-STORM cho phép người dùng tham gia vào discourse, quan sát các lượt trao đổi giữa chuyên gia AI giả lập, moderator và nguồn tri thức, rồi can thiệp để lái hướng nghiên cứu. Nói cách khác, dự án không xem human-in-the-loop là một nút “approve/reject” cuối cùng, mà là thành phần sống bên trong tiến trình tạo tri thức. Đây là một cách tiếp cận phù hợp hơn với các tổ chức cần tạo báo cáo chiến lược, nơi góc nhìn và framing quan trọng không kém độ đầy đủ của dữ liệu.
Tính mô-đun của repo cũng làm nó hữu dụng hơn các demo học thuật thông thường. README cho thấy STORM hỗ trợ nhiều retriever như Bing, Brave, DuckDuckGo, SearXNG hay vector-based retrieval, đồng thời đi qua LiteLLM để không khóa chặt vào một nhà cung cấp mô hình. Điều này giúp người dùng có thể thay mô hình rẻ cho khâu hỏi đáp, dùng mô hình mạnh hơn cho khâu viết, hoặc nối repo vào stack AI có sẵn của doanh nghiệp. Với bối cảnh ngân sách inference ngày càng bị soi chặt, đây là một lựa chọn thực tế.
Rủi ro của STORM nằm ở chỗ nó đòi hỏi orchestration tốt và chất lượng đầu ra vẫn phụ thuộc mạnh vào tầng retrieval. Nếu nguồn tìm kiếm nghèo hoặc bị lệch, bài viết có thể giữ được hình thức đẹp nhưng thiếu chiều sâu thật. Tuy vậy, STORM vẫn là repo đáng lên bản tin vì nó đại diện cho một xu hướng ngày càng rõ: hạ tầng AI không chỉ là model serving, mà là các workflow tạo tri thức dài hạn, có kiểm tra, có cấu trúc và có thể cộng tác giữa người với máy.