Giải phẫu của một công cụ tìm kiếm Web siêu văn bản quy mô lớn
Sergey Brin , Lawrence Page
Khoa Khoa học Máy tính, Đại học Stanford, Stanford, CA 94305, USA
Tóm tắt
Trong bài báo này, chúng tôi trình bày Google, một nguyên mẫu của một công cụ tìm kiếm quy mô lớn sử dụng nhiều cấu trúc hiện có trong siêu văn bản. Google được thiết kế để thu thập dữ liệu và lập chỉ mục Web một cách hiệu quả, đồng thời tạo ra các kết quả tìm kiếm thỏa mãn hơn nhiều so với các hệ thống hiện có. Nguyên mẫu với cơ sở dữ liệu văn bản đầy đủ và siêu liên kết gồm ít nhất 24 triệu trang có sẵn tại http://google.stanford.edu/
Việc xây dựng một công cụ tìm kiếm là một nhiệm vụ đầy thách thức. Các công cụ tìm kiếm lập chỉ mục từ hàng chục đến hàng trăm triệu trang Web liên quan đến một số lượng tương đương các thuật ngữ riêng biệt. Chúng trả lời hàng chục triệu truy vấn mỗi ngày. Mặc dù các công cụ tìm kiếm quy mô lớn trên Web có tầm quan trọng, rất ít nghiên cứu học thuật đã được thực hiện về chúng. Hơn nữa, do sự tiến bộ nhanh chóng của công nghệ và sự phát triển của Web, việc tạo ra một công cụ tìm kiếm Web ngày nay rất khác so với ba năm trước. Bài báo này cung cấp mô tả chuyên sâu về công cụ tìm kiếm Web quy mô lớn của chúng tôi — mô tả công khai chi tiết đầu tiên như vậy mà chúng tôi biết cho đến nay.
Ngoài các vấn đề về việc mở rộng các kỹ thuật tìm kiếm truyền thống lên dữ liệu có quy mô lớn như vậy, còn có những thách thức kỹ thuật mới liên quan đến việc sử dụng thông tin bổ sung hiện diện trong siêu văn bản để tạo ra các kết quả tìm kiếm tốt hơn. Bài báo này giải quyết câu hỏi về cách xây dựng một hệ thống quy mô lớn thực tế có thể khai thác thông tin bổ sung hiện diện trong siêu văn bản.