✨Kho dữ liệu

Kho dữ liệu

Kho dữ liệu (tiếng Anh: data warehouse) là kho lưu trữ dữ liệu lưu trữ bằng thiết bị điện tử của một tổ chức. Các kho dữ liệu được thiết kế để hỗ trợ việc phân tích dữ liệu và lập báo cáo.

Định nghĩa cổ điển này về kho dữ liệu tập trung vào việc lưu trữ dữ liệu. Tuy nhiên, các phương tiện cho việc lấy và phân tích, trích rút, biến đổi, nạp dữ liệu, và quản lý dữ liệu từ điển cũng được coi là các thành phần cốt yếu của một hệ thống kho dữ liệu. Nhiều người sử dụng thuật ngữ "kho dữ liệu" với ngữ cảnh rộng hơn. Một định nghĩa mở rộng cho kho dữ liệu bao gồm cả các công cụ thông minh, các công cụ để trích, biến đổi và nạp dữ liệu vào kho, và các công cụ để quản lý và lấy siêu dữ liệu (meta data).

Giới thiệu

Trong quá trình hoạt động kinh doanh, các dữ liệu của doanh nghiệp phát sinh ngày càng nhiều. Người ta muốn tận dụng nguồn dữ liệu này để sử dụng cho những mục đích hỗ trợ cho công việc kinh doanh ví dụ như cho mục đích thống kê hay phân tích. Quá trình tập hợp và thao tác trên các dữ liệu này có những đặc điểm sau:

  • Dữ liệu tích hợp (Atomicity):Dữ liệu tập hợp từ nhiều nguồn khác nhau. Điều này sẽ dẫn đến việc quá trình tập hợp phải thực hiện việc làm sạch, sắp xếp, rút gọn dữ liệu.
  • Theo chủ đề (Consistency): Không phải tất cả các dữ liệu đều được tập hợp, người ta chỉ lấy những dữ liệu có ích.
  • Biến thời gian (Isolation): Các dữ liệu truy suất không bị ảnh hưởng bởi các dữ liệu khác hoặc tác động lên nhau.
  • Dữ liệu cố định (Durable): Khi một Transaction hoàn chỉnh, dữ liệu không thể tạo thêm hay sửa đổi.

Khái niệm

Kho dữ liệu là một tập các dữ liệu có những đặc điểm sau: tập trung vào một chủ đề, tổng hợp từ nhiều nguồn dữ liệu khác nhau, từ nhiều thời gian, và không sửa đổi. Được dùng trong việc hỗ trợ ra quyết định trong công tác quản lý. Kho dữ liệu DWH

Ngôn ngữ cho kho dữ liệu

Ngôn ngữ xử lý phân tích trực tuyến (OLAP - On-Line Analytical Processing), rất phù hợp với kho dữ liệu, ngôn ngữ này tương tự với ngôn ngữ truy vấn SQL và tập trung vào các câu lệnh sau:

  • Thu nhỏ (roll-up): ví dụ: nhóm dữ liệu theo năm thay vì theo quý.
  • Mở rộng (drill-down): ví dụ: mở rộng dữ liệu, nhìn theo tháng thay vì theo quý.
  • Cắt lát (slice): nhìn theo từng lớp một. Ví dụ: từ danh mục bán hàng của Q1, Q2, Q3, Q4 chỉ xem của Q1.
  • Rút ngắn (dice): bỏ bớt một phần của dữ liệu (tương ứng thêm điều kiện vào câu lệnh WHERE trong SQL).

Cấu trúc của một hệ thống kho dữ liệu

Bao gồm ba tầng:

  • Tầng đáy: Là nơi cung cấp dịch vụ lấy dữ liệu từ nhiều nguồn khác sau đó chuẩn hóa, làm sạch và lưu trữ dữ liệu đã tập trung
  • Tầng giữa: cung cấp các dịch vụ để thực hiện các thao tác với kho dữ liệu gọi là dịch vụ OLAP (OLAP server). Có thể cài đặt bằng Relational OLAP, Multidimensional OLAP hay kết hợp cả hai mô hình trên Hybrid OLAP
  • Tầng trên cùng: nơi chứa các câu truy vấn, báo cáo, phân tích Mô hình data warehouse 3 lớp

Mối quan hệ giữa kho dữ liệu và khai phá dữ liệu

Cả hai đều có thể đứng độc lập với nhau, tuy nhiên khi kết hợp được kho dữ liệu với khai phá dữ liệu thì lợi ích rất lớn lý do như:

  • Dữ liệu của kho dữ liệu rất phù hợp cho việc khai phá dữ liệu do đã được tập hợp và làm sạch.
  • Cơ sở hạ tầng của kho dữ liệu hỗ trợ rất tốt cho các việc như xuất, nhập cũng như các thao tác cơ bản trên dữ liệu
  • OLAP về cung cấp các tập lệnh rất hữu hiệu trong phân tích

Các lĩnh vực ứng dụng

Có thể đưa vào ba mảng ứng dụng chính:

  • Xử lý thông tin như tạo ra các báo cáo và trả lời các câu hỏi định trước.
  • Phân tích và tổng hợp dữ liệu, kết quả được thể hiện bằng các báo cáo và bảng biểu.
  • Dùng trong các mục đích kế hoạch như khai khoáng dữ liệu.

Các lĩnh vực hiện tại có ứng dụng kho dữ liệu bao gồm:

  • Thương mại điện tử
  • Quản lý quan hệ khách hàng (CRM - Customer Relationship Management)
  • Chăm sóc sức khỏe
  • Viễn thông
👁️ 1 | 🔗 | 💖 | ✨ | 🌍 | ⌚
**Kho dữ liệu** (tiếng Anh: _data warehouse_) là kho lưu trữ dữ liệu lưu trữ bằng thiết bị điện tử của một tổ chức. Các kho dữ liệu được thiết kế để hỗ trợ việc
thumb|Một ví dụ về lấy dữ liệu đầu ra từ truy vấn cơ sở dữ liệu SQL. **Cơ sở dữ liệu** () là một tập hợp các dữ liệu có tổ chức liên quan đến
thumb|Sự tăng trưởng và số hóa các khả năng lưu trữ thông tin trên toàn cầu **Dữ liệu lớn** (Tiếng Anh: **Big data**) là một thuật ngữ cho việc xử lý một tập hợp dữ
**Tích hợp dữ liệu** liên quan đến việc kết hợp dữ liệu cư trú trong các nguồn khác nhau và cung cấp cho người dùng một cái nhìn thống nhất về chúng. Quá trình này
**Siêu dữ liệu** (**_metadata_**) là dạng dữ liệu mô tả thông tin chi tiết về dữ liệu. Trong cơ sở dữ liệu, metadata là các sửa đổi dạng biểu diễn khác nhau của các đối
**Hệ thống quản lý cơ sở dữ liệu hoạt động** (còn gọi là OLTP Trên cơ sở dữ liệu Transaction Processing Line), được sử dụng để quản lý Dữ liệu động trong thời gian thực.
**Truy cập dữ liệu** là một thuật ngữ chung đề cập đến một quy trình có cả ý nghĩa cụ thể về CNTT và các ý nghĩa khác liên quan đến quyền truy cập theo
**Máy truy tìm dữ liệu trực tuyến** hay **máy tìm kiếm** hay **cỗ máy tìm kiếm** (tiếng Anh: _search engine_), hay còn được gọi với nghĩa rộng hơn là **công cụ tìm kiếm** (_search tool_),
**Rò rỉ dữ liệu** hay **vi phạm dữ liệu**, **lộ dữ liệu** là "việc tiết lộ, công khai hoặc làm mất thông tin cá nhân một cách trái phép". Kẻ tấn công có nhiều động
**Trao đổi dữ liệu điện tử** (Electronic Data Interchange - EDI) là sự truyền thông tin từ máy tính gửi đến máy tính nhận bằng phương tiện điện tử, trong đó có sử dụng một
Trong công nghệ thông tin, **Nén dữ liệu** (tiếng Anh: _Data compression_) là việc chuyển định dạng thông tin sử dụng ít bit hơn cách thể hiện ở dữ liệu gốc. Tùy theo dữ liệu
**Giảm chiều dữ liệu** (tiếng Anh: **dimensionality reduction**, hay **dimension reduction**), là sự biến đổi dữ liệu từ không gian chiều-cao thành không gian chiều-thấp để biểu diễn ở dạng chiều-thấp đồng thời giữ lại
**Bảo vệ dữ liệu cá nhân** khởi đầu dùng để chỉ việc bảo vệ dữ liệu có liên quan đến cá nhân trước sự lạm dụng. Trong vùng nói tiếng Anh người ta gọi đó
**Siêu dữ liệu không gian địa lý** () là các dữ liệu nhằm mô tả dữ liệu GIS. Thông thường trước khi sử dụng một loại dữ liệu GIS nào đó để thực hiện một
nhỏ|Một ví dụ về cây phân loại CART **Khai phá dữ liệu** (_data mining_) Là quá trình tính toán để tìm ra các mẫu trong các bộ dữ liệu lớn liên quan đến các phương
Thiên tài toán học Tateshina Saki đã tạo ra một chương trình tổng hợp dữ liệu DNA của người dân để hỗ trợ cảnh sát trong việc kiểm soát, ngăn chặn và truy bắt tội
Thiên tài toán học Tateshina Saki đã tạo ra một chương trình tổng hợp dữ liệu DNA của người dân để hỗ trợ cảnh sát trong việc kiểm soát, ngăn chặn và truy bắt tội
phải|192|[[Cây nhị phân, một kiểu đơn giản của cấu trúc dữ liệu liên kết rẽ nhánh.]] thumb|right|Bảng băm Trong khoa học máy tính, **cấu trúc dữ liệu** là một cách lưu dữ liệu trong máy
## Khái niệm dữ liệu thứ cấp Dữ liệu thứ cấp là dữ liệu đã có sẵn, không phải do mình thu thập, đã công bố nên dễ thu thập, ít tốn thời gian, tiền
**Xử lý dữ liệu điện tử** có thể đề cập đến việc sử dụng các phương pháp tự động để xử lý dữ liệu thương mại. Thông thường, điều này sử dụng các hoạt động
**Giấy phép Cơ sở dữ liệu Mở** (, viết tắt **ODbL**) là một thỏa thuận cấp phép nội dung mở có mục đích cho phép người dùng cuối tự do chia sẻ, thay đổi, và
**Danh sách cơ sở dữ liệu học thuật và công cụ tìm kiếm** chứa danh sách đại diện các cơ sở dữ liệu và công cụ tìm kiếm chính hữu ích trong môi trường học
Một **phòng dữ liệu ảo** () là một kho lưu trữ dữ liệu trực tuyến được sử dụng để bảo quản và phân phối các tài liệu. Nó thường là là một extranet, nơi mà
**Cục Chuyển đổi số và Thông tin dữ liệu tài nguyên môi trường** là cơ quan trực thuộc Bộ Tài nguyên và Môi trường, có chức năng tham mưu, giúp Bộ trưởng thống nhất quản
nhỏ|Vùng vị trí của khoa học dữ liệu trong các ngành nghiên cứu **Khoa học dữ liệu** là một lĩnh vực liên ngành về các quá trình và các hệ thống rút trích tri thức
Trong tâm lý công nghiệp và tâm lý tổ chức, **dữ liệu sinh học** là dữ liệu tiểu sử. Dữ liệu sinh học là "... các loại câu hỏi thực tế về kinh nghiệm sống
Phân tích dữ liệu kinh doanh không còn là lựa chọn phụ trợ mà đã trở thành yếu tố cốt lõi trong vận hành và ra quyết định của doanh nghiệp hiện đại. Khi thông
Trong thời đại công nghệ số, dữ liệu đã trở thành một trong những tài sản quý giá nhất của doanh nghiệp. Việc quản lý và khai thác hiệu quả dữ liệu không chỉ giúp
Big Data (dữ liệu lớn) là thuật ngữ dùng để chỉ khối lượng dữ liệu khổng lồ, được tạo ra với tốc độ cao và ở nhiều định dạng khác nhau như số liệu thị
Trong thời đại công nghệ số phát triển nhanh chóng, việc số hóa dữ liệu sản phẩm không còn là lựa chọn mà đã trở thành yếu tố bắt buộc để doanh nghiệp duy trì
Dữ liệu là tài sản quý giá, và giờ đây, ngay cả các Doanh nghiệp Vừa và Nhỏ (SMEs) cũng có thể khai thác để đưa ra quyết định thông minh hơn.- Hiểu rõ khách
Mọi tổ chức cung cấp dịch vụ dữ liệu hiện nay đều chấp nhận thực tế rằng việc có thể quản lý dữ liệu tốt cùng với việc cho phép khách hàng quản lý dữ
PHỤC HỒI VÀ PHÂN TÍCH DỮ LIỆU ĐIỆN TỬ Tác giả PGS,TS. Trần Văn Hòa - TS. Nguyễn Ngọc Cương Nhà xuất bản Thông tin và Truyền thông Khổ sách 19 x 24 Bìa sách
Đại diện Vconnex nhận định IoT phát triển sẽ giúp tăng cường và làm chủ về dữ liệu và AI, nhưng thị trường mới ở bước "chạy đà", chưa bùng nổ tại Việt Nam. Tại
**Tài liệu Panama** hay **Hồ sơ Panama** () là một bộ 11,5 triệu tài liệu mật được tạo ra bởi nhà cung cấp dịch vụ của công ty Panama Mossack Fonseca cung cấp thông tin
Biến dữ liệu thành trí tuệ không chỉ là chuyện tương lai – đó là hiện tại. Big Data cung cấp lượng “nhiên liệu” khổng lồ, trong khi Machine Learning (ML) chính là “động cơ”
Mọi tổ chức cung cấp dịch vụ dữ liệu hiện nay đều chấp nhận thực tế rằng việc có thể quản lý dữ liệu tốt cùng với việc cho phép khách hàng quản lý dữ
Mọi tổ chức cung cấp dịch vụ dữ liệu hiện nay đều chấp nhận thực tế rằng việc có thể quản lý dữ liệu tốt cùng với việc cho phép khách hàng quản lý dữ
Bạn có bao giờ cảm thấy choáng ngợp trước núi tài liệu, ghi chú hay báo cáo? Bạn mất hàng giờ để tìm kiếm một thông tin cụ thể trong hàng trăm trang PDF? Nếu
Nghệ Thuật Kể Chuyện Bằng Dữ Liệu ------------ Tôi muốn đưa vào cuốn sách này một sự kết hợp vô cùng thú vị xen lẫn tương phản của Dữ Liệu và Câu Chuyện, một góc
Tôi muốn đưa vào cuốn sách này một sự kết hợp vô cùng thú vị xen lẫn tương phản của Dữ Liệu và Câu Chuyện, một góc nhìn rất khô cứng, đầy tính lý luận
Cuốn sách Phục hồi và phân tích dữ liệu điện tử được biên soạn trên cơ sở kết quả nghiên cứu, tổng hợp hoạt động thu thập, phục hồi và phân tích dữ liệu điện
**Hệ thống quản lý kho** (tiếng Anh: **warehouse management system - WMS**) là một phần mềm ứng dụng được thiết kế để hỗ trợ việc quản lý kho hàng của doanh nghiệp nhằm thực hiện
thumb|Bảng điều khiển kinh doanh **Dashboard** (Bảng điều khiển) là một loại giao diện đồ họa thường cung cấp cái nhìn tổng quan về các chỉ số hiệu suất chính (KPIs) liên quan đến một
Trong thời đại công nghệ 4.0, Big Data và Blockchain là hai "người khổng lồ" đang thay đổi cách con người xử lý và sử dụng dữ liệu. Big Data phân tích khối lượng dữ
Cấu trúc dữ liệu và Thuật toán Data Structure and Algorithms là môn học bắt buộc không những với mỗi sinh viên ngành Công nghệ Thông tin mà còn là môn học bắt buộc và
Người tiêu dùng tạo ra kho dữ liệu bằng cách chạm vào chiếc điện thoại của mình còn các doanh nghiệp có thể khai thác những kho dữ liệu này để làm chủ sức mạnh
Trong .NET Framework của Microsoft, **Hệ thống kiểu dữ liệu dùng chung** (tiếng Anh: Common Type System - CTS) là một tiêu chuẩn xác định cách các định nghĩa kiểu dữ liệu và các giá
Sự thay đổi nhiệt độ và độ ẩm Bạn có nhận thấy rằng nhiệt độ và độ ẩm liên tục thay đổi không? Cơ thể chúng ta rất khó cảm nhận được những thay đổi
Sự thay đổi nhiệt độ và độ ẩm Bạn có nhận thấy rằng nhiệt độ và độ ẩm liên tục thay đổi không? Cơ thể chúng ta rất khó cảm nhận được những thay đổi