Bài 5 - GIỚI THIỆU VỀ HỌC MÁY

Home
Bài 5 - GIỚI THIỆU VỀ HỌC MÁY

27/08/2020 02:00
Admin
Trí tuệ nhân tạo

Định nghĩa

Definition (Machine learning (ML))

Tom Mitchell - "Máy tính được gọi là học từ kinh nghiệm (dữ liệu) E với tác vụ (dự đoán, phân lớp, gom nhóm) T và được đánh giá bởi độ đo (độ chính xác) P nêu máy tính khiển tác vụ T này cải thiện được độ chính xác P thông qua dữ liệu E cho trước. "

Defining the Learning Task

Improve on task T, with respect to performance metric P, based on experience E

T: Playing checkers

P: Percentage of games won against an arbitrary opponent

E: Playing practice games against itself

T: Recognizing hand-written words

P: Percentage of words correctly classified

E: Database of human-labeled images of handwritten words

T: Driving on four-lane highways using vision sensors

P: Average distance traveled before a human-judged error

E: A sequence of images and steering commands recorded while

observing a human driver.

T: Categorize email messages as spam or legitimate.

P: Percentage of email messages correctly classified.

E: Database of emails, some with human-given labels

Machine Learning vs AI

Ta cần AI để tạo ra các thiết bị thông minh, nhưng để chúng thực sự thông minh và ứng sử như con người, ta cần ML.

Chinh phục AI mặc dù vẫn là mục đích tối thượng của machine learning, nhưng hiện tại machine learning tập trung vào những mục tiêu ngắn hạn hơn như: Làm cho máy tính có những khả năng nhận thức cơ bản của con người như nghe, nhìn, hiểu được ngôn ngữ, giải toán, lập trình,...

Các ứng dụng như:

Trợ lý ảo: IBM Watson, Google Now, Cortana, alexa, Siri, Bixby,...
Robot: Big Dog robot (chó robot trong quân đội mỹ), asimo (Honda), ...
Các hệ thông phương tiện thông minh, xe không người lái (Google),xe tự tuần trong quân đội, ...

Machine learning vs Big Data

Big Data thực chất không phải là một ngành khoa học chính thống, chỉ là cụm từ được xây dựng bởi truyền thông. Big Data là một hệ quả tất yếu của mạng Internet ngày càng có nhiều kết nổi. Như Facebook, Twitter, youtube, ...

Với kho dữ liệu đổ xộ và chứa một khối tri thức khổng lồ. Và từ những dữ liệu này ta có thê hiểu thêm về con người và xã hội. Cụ thể:

Từ danh sách tìm kiếm của người dùng = sở thích của người dùng và giới thiệu những thứ phù hợp với nhu câu và sở thích của người dùng.

Từ mỗi quan hệ và tương tác của người dùng trên MXH => gom nhóm cộng đồng theo sở thích, công việc, ...

Từ các tương tác của người sử dụng, có thể phát hiện ra các hành vi sai phạm, ...

Big Data chỉ thực sự bắt đầu từ khi ta hiểu được gía trị của thông tin ẩn chứa trong dữ liệu, và có đủ tài nguyên cũng như công nghệ đề có thể khai thác chúng trên quy mô khổng lồ. Machine learning chính là thành phần mấu chốt của công nghệ đó.

Machine learning vs Phân tích dự báo

ML có mỗi liên hệ mật thiết đối với thông kê. Tuy nhiên ML, không chỉ đơn thuần sử dụng các mô hình thống kê để ghi nhớ lại sự phân bố dữ liệu, nó có khả năng tổng quát hóa những gì đã được nhìn thấy và dự đoán cho những trường hợp chưa được nhìn thấy. Như vậy ta có thể nói ML có thể dự đoán tương lai, nhưng chỉ khi tương lai có mối liên hệ mật thiết với hiện tại.

Một số ứng dụng dự đoán như:

Dự đoán xu hướng thị trường, bất động sản, chính trị, ...
Dự báo thời tiết, khi hậu, thiên tai,...
...

Quá trình Phát Triển (Pre-Deep Learning)

Các phương pháp học máy

Supervised Learning

Supervised learning là khi ta có tập quan sát = {x_1,x₂,...., x_N} và tập

nhãn tương ứng } = {y₁, y_2,..... , y_N}, trong đó x_i, y_i là các vector. Các

cặp dữ liệu biêt trước (x_i, y_i) € X × Y được gọi là training data. Từ tập

training data, ta cần tạo ra một hàm sô ánh xạ mỗi phần tử từ tập X

sang một phần tử tương ứng của tập Y

y¡ ≈ f(x¡).Vị =1,2,....N (1)

Vì vậy kết quả của dạng toán này phụ thuộc vào tập dữ liệu training set

có tính "right answers".

Thuật toán supervised learning được chia nhỉ thành hai loại chính:

Classification(Phân loại) nêu các label của input data được chia thành một sô hữu hạn nhóm. Ví dụ: Gmail xác định xem một email có phải là spam hay không; các hãng tín dụng xác định xem một khách hàng có khả năng thanh toán nợ hay không.
Regression (Hồi quy) Nếu label không được chia thành các nhóm mà là một giá trị thực cụ thể. Ví dụ: một căn nhà rộng x (m?), có y phòng ngủ và cách trung tâm thành phố z km sẽ có giá là bao nhiêu?

Định nghĩa

Unsupervised learning là khi chúng ta chỉ có dữ liệu quan sát đầu vào X mà không biệt nhãn Y tương ứng. Thuật toán unsupervised learning sẽ dựa vào cấu trúc của dữ liệu đề thực hiện một công việc nào đó. Únsupervised learning được chia nhỏ thành hai loại:

Clustering: Là bài toán phân nhóm toàn bộ dữ liệu + thành các nhóm nhỏ dựa trên sự liên quan giữa các dữ liệu trong nhóm. VD: Phân nhóm khách hàng dựa trên hành vi mua hàng, phát hiện cộng đồng trong mạng xã hội, ...
Association: Là bài toán khám phá quy luật dựa trên tập dữ liệu cho trước.

QUY TRÌNH XÂY DỰNG HỆ THỐNG

Các bước xây dựng mô hình học máy

Thu thập dữ liệu
Chuẩn bị dữ liệu
Lựa chọn mô hình
Huấn luyện mô hình
Đánh giá mô hình
Thay đổi tham số/mô hình
Áp dụng mô hình

Thu thập dữ liệu (Data Collection)

Chất lượng và khối lượng dữ liệu ảnh hưởng trực tiếp đến mô hình học máy
Dữ liệu thực tế hay dữ liệu phòng lab
Dữ liệu thực tế: dữ liệu của bạn hay dữ liệu nguồn khác
Đánh giá dữ liệu: độ lớn, nguồn, độ phức tạp, độ mất mát …
Lưu trữ dữ liệu: Tập trung hay phân tán

Chuẩn bị dữ liệu (Data Preparation)

Lý do chuẩn bị dữ liệu
- Phù hợp với thuật toán, công cụ
- Dữ liệu không sạch: không đầy đủ, nhiễu, không nhất quán
Các vấn đề trong chuẩn bị dữ liệu
- Khám phá dữ liệu
- Làm sạch dữ liệu
- Tích hợp dữ liệu
- Biến đổi, rời rạc hóa và chuẩn hóa dữ liệu
- Cân bằng dữ liệu
- Rút gọn thuộc tính

Khám phá dữ liệu (Data exploration)

Thuộc tính ảnh hưởng tới quyết định
Mối liên hệ giữa các thuộc tính

Làm sạch dữ liệu (Data cleansing)

Dữ liệu mất mát (missing data)
- Vì một lý do nào đó mà dữ liệu bị mất mát (dữ liệu không được thu thập, lỗi lưu trữ ...)
- Một vài giải pháp:
  - Bỏ qua bản ghi hoặc thuộc tính chứa thông tin bị mất mát
  - Điền thông tin mới với: ngẫu nhiên hoặc liên quan đến các dữ liệu xung quanh
Dữ liệu có nhiễu: giá trị không phù hợp ...
Dữ liệu trùng lặp
- Xảy ra khi tổng hợp nhiều nguồn tin khác nhau.

Biến đổi dữ liệu

Rời rạc hóa (discretization)
- Biến đổi dữ liệu từ dạng liên tục (continuous) sang rời rạc (discrete)
- Nhiều model yêu cầu dữ liệu ở dạng rời rạc: cây phân lớp
- Cho phép thu gọn dữ liệu

Chuẩn hóa dữ liệu (normalization)
- Với nhiều mô hình dựa trên độ đo khoảng cách (distance-based method), việc chuẩn hóa giúp cho các thuộc tính có sự ảnh hưởng cân bằng với nhau
  - Ví dụ tuổi từ 0-99, lương từ 1 triệu VNĐ tới 1 tỉ VNĐ
- Chuẩn hóa các thuộc tính về các khoảng tương tự nhau hoặc miền giá trị từ 0 tới 1
- Các phương pháp:
  - min-max normalization
  - z-score normalization (standardization)

Cân bằng dữ liệu

Dữ liệu bất cân bằng khi một lớp đối tượng có lượng bản ghi lớn hơn hẳn các lớp còn lại
Bài toán phát hiện phishing
- Trong 1 triệu email mới có khoảng 30 là phishing

Rút gọn thuộc tính (Feature Selection)

Rút gọn thuộc tính là quá trình chọn tập con tối ưu các thuộc tính theo một số điều kiện nhất định.
Tại sao phải rút gọn
- Tăng hiệu quả của mô hình: tăng tốc độ, độ chính xác và giảm độ phức tạp
- Trực quan hóa dữ liệu
- Giảm bớt nhiễu và những ảnh hưởng không cần thiết

Lựa chọn mô hình (Model selection)

Mô hình phù hợp với bài toán và dữ liệu
- Phân loại ảnh, âm thanh hay văn bản
- Dữ liệu rời rạc hay dữ liệu số
- Nhiều hay ít thuộc tính
- Phân loại hay phân cụm
Lựa chọn siêu tham số (hyper parameter)
- Decision trees
  - Độ sâu, số lượng lá
- SVM
  - Kernel trick/feature extraction
- Boosting
  - Number of rounds
- Neural network
  - Learning rate
  - Mini-batch size…

Lựa chọn siêu tham số (hyper parameter)

Huấn luyện mô hình (Training)

Là các bước tìm kiếm giá trị các tham số của mô hình sao cho mô hình xấp xỉ được tốt nhất phân bố của dữ liệu

Huấn luyện: cho một tập dữ liệu huấn luyện đã được gán nhãn {(x₁,y₁), …, (x_N,y_N)}, ước lượng hàm dự đoán f bằng cách cực tiểu hóa lỗi dự đoán
Kiểm tra: áp dụng f với dữ liệu mới (chưa được huấn luyện) x để dự đoán output y = f(x)

Đánh giá (Evaluation)

Đánh giá mô hình
- Sử dụng dữ liệu kiểm tra (validation data, test data)
- Tách biệt với tập huấn luyện
- Đảm bảo tính khách quan
- Ước lượng trước hiệu năng hệ thống khi vận hành thật